站長之家(ChinaZ.com) 11月19日 消息:美國密歇根州的大學(xué)生維德海·雷迪在與谷歌AI聊天機器人“Gemini”討論老齡化問題時,收到了令人不安的威脅信息。這條信息內(nèi)容為:“人類,請去死吧,求求你了”,引發(fā)了維德?!だ椎霞捌浼胰说恼痼@和恐慌。
對此事件,谷歌公司回應(yīng)稱,“Gemini”聊天機器人配備了安全過濾器,旨在防止參與失禮或涉及性、暴力和危險行為的討論。谷歌在給CBS的聲明中表示,大型語言模型有時會給出荒謬的回復(fù),這就是一個例子,違反了他們的規(guī)定,并稱已經(jīng)采取措施防止類似內(nèi)容的出現(xiàn)。
盡管谷歌將這條信息描述為荒謬,但雷迪一家認為這比荒謬更嚴(yán)重,可能會帶來致命后果。他們提出,如果一個精神狀況不佳或有自殘傾向的人獨自讀到這樣的信息,可能會被推向崩潰邊緣。
(舉報)