(資料圖片僅供參考)

OpenAI正在試圖讓先進的人工智能（AI）工具幫忙做內(nèi)容審核。評論稱，它可能幫助企業(yè)提高效率，讓至今尚未給眾多企業(yè)創(chuàng)造大量收入的AI工具增添一個有用的功能。

OpenAI稱，一直在基于其最新AI模型GPT-4開發(fā)自己的內(nèi)容審核系統(tǒng)。GPT-4能協(xié)助企業(yè)進行內(nèi)容審核，可以用于制定有關何種內(nèi)容適合的政策，也可以執(zhí)行相關政策，為帖子添加標簽、或者做出評判。

OpenAI之前就在測試這種技術，也已邀請一些客戶做這種技術的試驗。OpenAI發(fā)現(xiàn)，其自有內(nèi)容審核系統(tǒng)比經(jīng)過適度培訓的人類審核員表現(xiàn)得更好，但效率沒有最熟練的審核員高。

OpenAI稱，其工具有望幫助企業(yè)，在一天左右就完成原本需要六個月才能做完的工作。

OpenAI的安全系統(tǒng)負責人Lilian Weng稱，不需要雇用幾萬名審核員，人類可以充當顧問，確保AI系統(tǒng)正常運行，并且對不能清晰界定的案例做出判斷。

OpenAI的產(chǎn)品政策經(jīng)理Andrea Vallone稱，OpenAI發(fā)現(xiàn)，GPT-4能高效地做審核內(nèi)容的工作。起草內(nèi)容審核政策和標記內(nèi)容通常耗時很久，而OpenAI的工具將幫助縮小需求和解決方案之間的差距。

目前Meta等大公司已經(jīng)在用AI幫助員工做審核。但OpenAI同時強調(diào)，審核的過程不應該完全自動化。

Vallone表示，理想的情況下，員工可以運用AI將他們解放出來，更側(cè)重在對可能有內(nèi)容違規(guī)的極端案例如何做評判，以及怎樣完善內(nèi)容的政策。OpenAI將繼續(xù)進行人工審核，驗證一些AI模型的判斷。Vallone 說：“我認為，人類始終參與其中是很重要的。”

有評論認為，在生成式AI問世以前，內(nèi)容審核就已經(jīng)是一大挑戰(zhàn)。這種新技術的面世又帶來了虛假信息等問題內(nèi)容更容易出現(xiàn)的威脅，加劇了內(nèi)容審核面臨的挑戰(zhàn)。然而，由于AI的擴展能力，一些技術專家認為，AI是唯一可能解決虛假信息料將增多的手段。

風險提示及免責條款 市場有風險，投資需謹慎。本文不構成個人投資建議，也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結(jié)論是否符合其特定狀況。據(jù)此投資，責任自負。

關鍵詞：