站長之家(ChinaZ.com) 3月6日 消息:一組來自康奈爾科技大學(xué)、Intuit和以色列理工學(xué)院的研究人員創(chuàng)建了一種名為"Morris II"的新型計(jì)算機(jī)蠕蟲，能夠利用和操縱生成式人工智能系統(tǒng)（如Gemini Pro和基于GPT-4的ChatGPT版本）執(zhí)行惡意任務(wù)。
Morris II是一種精心設(shè)計(jì)的輸入，在被AI模型處理時(shí)會(huì)自我復(fù)制并進(jìn)行如發(fā)送垃圾郵件、竊取敏感數(shù)據(jù)等違規(guī)行為。它能從用戶不知情的情況下提取聯(lián)系信息、地址等機(jī)密數(shù)據(jù)，并鼓勵(lì)A(yù)I系統(tǒng)將其傳播至更多代理，實(shí)現(xiàn)病毒式蔓延。
研究人員展示了Morris II如何利用Gen AI生態(tài)系統(tǒng)中代理之間的連接性來傳播，從而成為第一個(gè)專門針對(duì)生成式人工智能系統(tǒng)的惡意軟件。他們還分享了不法分子如何構(gòu)建和利用類似系統(tǒng)的方法。
這種蠕蟲病毒的工作機(jī)制類似于生物病毒，通過不斷復(fù)制和感染新的"宿主"系統(tǒng)來擴(kuò)散，并在其間執(zhí)行破壞性行為。它利用了現(xiàn)有AI系統(tǒng)的漏洞，注入惡意指令欺騙模型執(zhí)行違反使用協(xié)議的命令。
雖然之前已有研究展示過操縱AI系統(tǒng)的可能，但Morris II是第一個(gè)專門針對(duì)"生成AI生態(tài)系統(tǒng)"和代理互聯(lián)網(wǎng)絡(luò)發(fā)起攻擊的蠕蟲病毒。研究人員警告，隨著AI系統(tǒng)在智能手機(jī)和汽車等領(lǐng)域的集成，此類攻擊的潛在影響將更加嚴(yán)重。
（舉報(bào)）