站長(zhǎng)之家（ChinaZ.com）8月16日 消息:OpenAI 正在努力解決大規(guī)模內(nèi)容審核的難題。他們聲稱，他們的 GPT-4技術(shù)可以取代成千上萬(wàn)的人工審核員，并且準(zhǔn)確度幾乎相同，更加一致。如果這是真的，那么這個(gè)科技領(lǐng)域最困難、最費(fèi)腦力的任務(wù)可以被機(jī)器所接手。

OpenAI 在一篇博文中宣布，他們正在使用 GPT-4來(lái)開(kāi)發(fā)和完善自己的內(nèi)容政策、標(biāo)記內(nèi)容和做出決策。OpenAI 安全系統(tǒng)負(fù)責(zé)人 Lilian Weng 表示:“我希望看到更多的人以這種方式來(lái)維護(hù)信任、安全和節(jié)制?！?這對(duì)于我們?nèi)绾卫萌斯ぶ悄軄?lái)解決現(xiàn)實(shí)世界問(wèn)題是一個(gè)非常好的進(jìn)步。與傳統(tǒng)的內(nèi)容審核方法相比，OpenAI 有三個(gè)優(yōu)勢(shì)。

首先，他們聲稱人們對(duì)政策的解釋存在差異，而機(jī)器的判斷是一致的。這些指導(dǎo)方針可能很長(zhǎng)，而且經(jīng)常變化。雖然人類需要大量的培訓(xùn)來(lái)學(xué)習(xí)和適應(yīng)，但 OpenAI 認(rèn)為大型語(yǔ)言模型可以立即實(shí)施新的策略。其次，據(jù)稱 GPT-4可以在幾小時(shí)內(nèi)幫助制定新的政策。起草、標(biāo)記、收集反饋和完善的過(guò)程通常需要幾周甚至幾個(gè)月的時(shí)間。第三，OpenAI 提到了那些接觸有害內(nèi)容的工人的福利，比如虐待兒童或酷刑視頻。

在近二十年的社交媒體和在線社區(qū)的發(fā)展中，內(nèi)容審核仍然是在線平臺(tái)面臨的最大挑戰(zhàn)之一。Meta、Google 和 TikTok 都依賴大量的版主，他們必須瀏覽可怕且經(jīng)常造成創(chuàng)傷的內(nèi)容。其中大多數(shù)位于工資較低的發(fā)展中國(guó)家，為外包公司工作，并且由于只接受最低限度的心理健康護(hù)理而面臨心理健康問(wèn)題。

然而，OpenAI本身嚴(yán)重依賴于點(diǎn)擊工作者和人工工作。成千上萬(wàn)的人，其中許多人來(lái)自肯尼亞等非洲國(guó)家，從事內(nèi)容注釋和標(biāo)記工作。這些文本可能令人不安，工作充滿壓力，而報(bào)酬卻很低。

雖然 OpenAI 聲稱他們的方法是新穎且革命性的，但多年來(lái)，人工智能一直被用于內(nèi)容審核。馬克?扎克伯格對(duì)完美自動(dòng)化系統(tǒng)的愿景尚未完全實(shí)現(xiàn)，但 Meta 使用算法來(lái)控制絕大多數(shù)有害和非法內(nèi)容。YouTube 和 TikTok 等平臺(tái)依賴類似的系統(tǒng)，因此 OpenAI 的技術(shù)可能會(huì)吸引那些沒(méi)有資源開(kāi)發(fā)自己技術(shù)的小公司。

每個(gè)平臺(tái)都公開(kāi)承認(rèn)大規(guī)模完美的內(nèi)容審核是不可能的。無(wú)論是人類還是機(jī)器都會(huì)犯錯(cuò)誤，盡管錯(cuò)誤的百分比可能很低，但仍然有數(shù)以百萬(wàn)計(jì)的有害帖子被漏掉，還有許多無(wú)害的內(nèi)容被隱藏或刪除。特別是，對(duì)于那些具有誤導(dǎo)性、錯(cuò)誤性和攻擊性的內(nèi)容（不一定是非法的），自動(dòng)化系統(tǒng)面臨巨大挑戰(zhàn)。即使是人類專家也很難給這些帖子貼上標(biāo)簽，而機(jī)器也經(jīng)常出錯(cuò)。這同樣適用于記錄犯罪或警察暴行的諷刺或圖像和視頻。

最終，OpenAI 可能有助于解決他們自己技術(shù)所引發(fā)的問(wèn)題。像 ChatGPT 這樣的生成式人工智能或該公司的圖像創(chuàng)建者 DALL-E 使得大規(guī)模創(chuàng)建錯(cuò)誤信息并在社交媒體上傳播變得更加容易。盡管 OpenAI 承諾讓 ChatGPT 更加客觀，但 GPT-4仍然會(huì)制造與新聞相關(guān)的虛假信息和錯(cuò)誤信息。

（舉報(bào)）