劃重點(diǎn):

?? 五角大樓與科技專家會(huì)晤，討論如何將人工智能融入軍 事規(guī)劃。

?? 大型語言模型在軍 事情報(bào)分析等領(lǐng)域有潛在用途，但仍需面臨可靠性和安全性挑戰(zhàn)。

?? 五角大樓強(qiáng)調(diào)需要工業(yè)界的協(xié)助，以推動(dòng)人工智能技術(shù)在軍 事領(lǐng)域的應(yīng)用。

站長(zhǎng)之家（ChinaZ.com）2月21日 消息:ChatGPT 和 AI 圖像生成器的出現(xiàn)初期令全球歡欣鼓舞，然而政府官員開始擔(dān)心它們可能被用于更黑暗的用途。本周二，五角大樓開始與科技行業(yè)領(lǐng)袖舉行會(huì)議，加速發(fā)現(xiàn)和實(shí)施最有用的軍 事應(yīng)用。與會(huì)人士一致認(rèn)為:新興人工智能技術(shù)可能對(duì)軍 事領(lǐng)域產(chǎn)生深遠(yuǎn)影響，但需要進(jìn)行深入測(cè)試，以確保其可靠性，避免被對(duì)手利用。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

五角大樓首席數(shù)字與人工智能官辦公室主管克雷格?馬特爾在華盛頓希爾頓酒店的一場(chǎng)座無虛席的研討會(huì)上表示，他的團(tuán)隊(duì)正試圖在實(shí)施尖端人工智能技術(shù)時(shí)平衡速度與謹(jǐn)慎。

大型語言模型（LLMs）如 ChatGPT 可以在幾秒內(nèi)審查海量信息并將其凝聚為幾個(gè)關(guān)鍵要點(diǎn)，這為軍 事和情報(bào)機(jī)構(gòu)帶來了誘人的可能性。美國(guó)海軍船長(zhǎng) M?賽維爾?盧戈在研討會(huì)上表示，對(duì)個(gè)人而言，特別是在高活動(dòng)環(huán)境中，信息流量是巨大的。具備可靠摘要技術(shù)可以幫助我們管理這些信息，這對(duì)我們至關(guān)重要。

研究人員表示，LLMs 在軍 事領(lǐng)域的其他潛在用途可能包括通過復(fù)雜的戰(zhàn)爭(zhēng)游戲訓(xùn)練軍官，甚至幫助實(shí)時(shí)決策。一些最佳用途可能尚未被發(fā)現(xiàn)。LLMs 讓國(guó)防官員感到振奮的是它們的靈活性，可以處理各種任務(wù)，與早期的人工智能系統(tǒng)相比，更具多樣性。

然而，一個(gè)主要障礙，甚至可能是一個(gè)致命缺陷，是 LLMs 繼續(xù)存在 “幻覺”，即它們會(huì)產(chǎn)生不準(zhǔn)確信息。盧戈表示目前還不清楚是否可以解決這個(gè)問題，稱這是工業(yè)界的 “頭號(hào)挑戰(zhàn)”。五角大樓首席數(shù)字與人工智能官辦公室成立了 Lima 特別小組，目的是研究生成式人工智能，該小組最初是為 LLMs 而成立的，但很快擴(kuò)展到包括圖像和視頻生成。

LLMs 在高風(fēng)險(xiǎn)目的上仍需繼續(xù)改進(jìn)。一位卡內(nèi)基梅隆大學(xué)的研究人員在會(huì)議上表示，他們?nèi)ツ晔車?guó)家情報(bào)總監(jiān)辦公室之托，探討 LLMs 如何被情報(bào)機(jī)構(gòu)使用。該研究小組設(shè)計(jì)了一個(gè) “氣球測(cè)試”，激勵(lì) LLMs 描述去年高空中國(guó)監(jiān)視氣球事件的發(fā)生情況，作為情報(bào)機(jī)構(gòu)可能感興趣的地緣政治事件的代理?；卮鸶鞑幌嗤行в衅娗覠o益。

更令人擔(dān)憂的是，一個(gè)對(duì)抗性黑客可能會(huì)破解軍方的 LLM，并導(dǎo)致其從后端泄露數(shù)據(jù)集。研究人員在去年證明了這是可能的:通過要求 ChatGPT 永遠(yuǎn)重復(fù)單詞 “詩歌”，他們讓其開始泄漏訓(xùn)練數(shù)據(jù)。ChatGPT 修復(fù)了這個(gè)漏洞，但其他漏洞可能仍存在。

在周二的講話中，馬特爾呼吁工業(yè)界的幫助，稱國(guó)防部也許沒有必要建立自己的人工智能模型?！皼]有你們我們辦不到?！?馬特爾說?！拔覀儤?gòu)想的所有這些組件都將是工業(yè)解決方案的集合體?！?周二的講話中，馬特爾是在向合作伙伴傳道，大約100家技術(shù)供應(yīng)商爭(zhēng)相入住希爾頓酒店，其中許多人渴望贏得即將到來的合同。

早在一月初，OpenAI 從其 “使用政策” 頁面上刪除了針對(duì)軍 事應(yīng)用的限制，該頁面曾禁止 “有高風(fēng)險(xiǎn)的實(shí)體危害活動(dòng)”，特別是 “武器開發(fā)” 和 “軍 事和戰(zhàn)爭(zhēng)”?！坝?guó)國(guó)防人工智能中心” 負(fù)責(zé)人瑞秋?辛格頓上校在研討會(huì)上表示，英國(guó)感到有必要迅速為內(nèi)部軍 事使用開發(fā)一個(gè) LLM 解決方案，因?yàn)閾?dān)心員工可能會(huì)誘惑使用商業(yè) LLMs，從而使敏感信息面臨風(fēng)險(xiǎn)。

（舉報(bào)）