頂尖AI研究人員、工程師和首席執(zhí)行官聯名發(fā)出最新警告:應將緩解人工智能帶來的滅絕風險視為全球優(yōu)先事項，與流行病和核戰(zhàn)爭等規(guī)模相當的風險一起考慮。
這份22 字簡潔聲明發(fā)布在非營利組織安全人工智能中心（Center for AI Safety）的網站上。該網站稱，人工智能專家、記者、政策制定者和公眾越來越多地討論人工智能帶來的各種風險。然而，要表達對于先進人工智能最嚴重風險的擔憂很難，所以下面的簡明聲明旨在克服這一困難并展開相關討論。此外，它還旨在為越來越多的專家和公眾人物提供常識，以認真對待先進人工智能的一些最嚴重風險。
超過350名從事人工智能工作的人士簽署了該聲明。簽署者包括Google DeepMind首席執(zhí)行官戴米斯·哈薩比斯（Demis Hassabis）、OpenAI首席執(zhí)行官山姆·奧特曼(Sam Altman)和“AI教父”杰弗里·辛頓(Geoffrey Hinton)和約書亞·本希奧(Youshua Bengio)等人。在這些簽署者中，辛頓和本希奧因其在AI方面的工作獲得了2018年圖靈獎。
今年早些時候，這些簽署者中的一些人共同簽署了另一封公開信，呼吁至少暫停6個月開發(fā)比GPT-4更高級的AI。然而，這封信在多個方面受到批評。一些專家認為它過分強調了人工智能帶來的風險，有些人則認同存在這種可能性，但不同意信中的建議措施。
安全人工智能中心的執(zhí)行主任丹·亨德里克斯（Dan Hendrycks）告訴《紐約時報》，5月30日發(fā)布的聲明很簡潔，沒有提出解決人工智能威脅的任何潛在方法，這是為了避免進一步產生分歧。他說:“我們不想為此推出一個包含30種潛在干預措施的大菜單。如果這樣做，它會淹沒主要信息?！?/p>
盡管22個詞的聲明并沒有提供具體解決方案，但它十分引人關注。聲明的發(fā)布旨在引起各界人士對人工智能威脅的關注，以采取必要的措施緩解相關風險。此舉為全球各國和地區(qū)采取緊急措施，以應對可能的人工智能風險提供了緊迫而嚴峻的論據。
猜你喜歡：
（舉報）