(資料圖片)
OpenAI正在試圖讓先進(jìn)的人工智能（AI）工具幫忙做內(nèi)容審核。評(píng)論稱，它可能幫助企業(yè)提高效率，讓至今尚未給眾多企業(yè)創(chuàng)造大量收入的AI工具增添一個(gè)有用的功能。
OpenAI稱，一直在基于其最新AI模型GPT-4開發(fā)自己的內(nèi)容審核系統(tǒng)。GPT-4能協(xié)助企業(yè)進(jìn)行內(nèi)容審核，可以用于制定有關(guān)何種內(nèi)容適合的政策，也可以執(zhí)行相關(guān)政策，為帖子添加標(biāo)簽、或者做出評(píng)判。
OpenAI之前就在測(cè)試這種技術(shù)，也已邀請(qǐng)一些客戶做這種技術(shù)的試驗(yàn)。OpenAI發(fā)現(xiàn)，其自有內(nèi)容審核系統(tǒng)比經(jīng)過(guò)適度培訓(xùn)的人類審核員表現(xiàn)得更好，但效率沒(méi)有最熟練的審核員高。
OpenAI稱，其工具有望幫助企業(yè)，在一天左右就完成原本需要六個(gè)月才能做完的工作。
OpenAI的安全系統(tǒng)負(fù)責(zé)人Lilian Weng稱，不需要雇用幾萬(wàn)名審核員，人類可以充當(dāng)顧問(wèn)，確保AI系統(tǒng)正常運(yùn)行，并且對(duì)不能清晰界定的案例做出判斷。
OpenAI的產(chǎn)品政策經(jīng)理Andrea Vallone稱，OpenAI發(fā)現(xiàn)，GPT-4能高效地做審核內(nèi)容的工作。起草內(nèi)容審核政策和標(biāo)記內(nèi)容通常耗時(shí)很久，而OpenAI的工具將幫助縮小需求和解決方案之間的差距。
目前Meta等大公司已經(jīng)在用AI幫助員工做審核。但OpenAI同時(shí)強(qiáng)調(diào)，審核的過(guò)程不應(yīng)該完全自動(dòng)化。
Vallone表示，理想的情況下，員工可以運(yùn)用AI將他們解放出來(lái)，更側(cè)重在對(duì)可能有內(nèi)容違規(guī)的極端案例如何做評(píng)判，以及怎樣完善內(nèi)容的政策。OpenAI將繼續(xù)進(jìn)行人工審核，驗(yàn)證一些AI模型的判斷。Vallone 說(shuō)：“我認(rèn)為，人類始終參與其中是很重要的?！?/p>
有評(píng)論認(rèn)為，在生成式AI問(wèn)世以前，內(nèi)容審核就已經(jīng)是一大挑戰(zhàn)。這種新技術(shù)的面世又帶來(lái)了虛假信息等問(wèn)題內(nèi)容更容易出現(xiàn)的威脅，加劇了內(nèi)容審核面臨的挑戰(zhàn)。然而，由于AI的擴(kuò)展能力，一些技術(shù)專家認(rèn)為，AI是唯一可能解決虛假信息料將增多的手段。
（文章來(lái)源：華爾街見聞）
