站長(zhǎng)之家(ChinaZ.com) 4月23日 消息:人工智能公司 Anthropic 的首席信息安全官杰森?克林頓（Jason Clinton）就企業(yè)運(yùn)營(yíng)方式的重大轉(zhuǎn)變發(fā)出了警告：到明年，完全自主的 “AI員工” 可能就會(huì)開(kāi)始替代各大企業(yè)的人類(lèi)員工。這些 AI 將不再是簡(jiǎn)單的工具或助手，而是擁有自己的賬戶(hù)、記憶、且在公司組織中承擔(dān)專(zhuān)門(mén)職責(zé)的虛擬員工。

克林頓表示，相較于如今功能單一的 AI 系統(tǒng)，這些即將出現(xiàn)的 AI 主體將會(huì)有質(zhì)的飛躍。雖然，目前的AI工具已經(jīng)能夠處理特定的安全檢查、以及一些簡(jiǎn)單的人物，但下一代 AI 將能在公司的各個(gè)系統(tǒng)中獨(dú)立運(yùn)行 —— 無(wú)需人類(lèi)監(jiān)督，就能做出復(fù)雜決策，并完成多步驟的工作流程。

“我們說(shuō)的是虛擬員工，而不只是（普通的）AI 智能體”， 克林頓解釋道。這種區(qū)別意味著未來(lái)的這些 AI 主體將更像是人類(lèi)同事，而非我們?nèi)缃袼褂玫?AI 工具。

這一警告給那些已經(jīng)在為基礎(chǔ)網(wǎng)絡(luò)安全問(wèn)題而困擾的企業(yè)帶來(lái)了更加嚴(yán)重的安全隱患。那些在管理人類(lèi)員工賬戶(hù)和密碼方面存在困難的公司，很快將面臨更大的挑戰(zhàn) —— 即如何確保擁有網(wǎng)絡(luò)訪問(wèn)權(quán)限的人工智能身份的安全。

安全專(zhuān)家們已開(kāi)始提出一些棘手的問(wèn)題：公司應(yīng)該如何管理人工智能的密碼？“AI員工” 應(yīng)該訪問(wèn)哪些系統(tǒng)？當(dāng)“AI員工” 犯錯(cuò)或出現(xiàn)意外行為時(shí)，該由誰(shuí)來(lái)承擔(dān)責(zé)任？諸如此類(lèi)。

不過(guò)，最令人擔(dān)憂(yōu)的或許是，AI 系統(tǒng)存在被入侵的可能性，并且可能會(huì)獲取對(duì)公司關(guān)鍵基礎(chǔ)設(shè)施（如代碼測(cè)試和部署平臺(tái)）的訪問(wèn)權(quán)限。根據(jù)克林頓的警告，這些風(fēng)險(xiǎn)在很大程度上仍未得到解決。

值得一提的是，Anthropic 公司的規(guī)模急劇擴(kuò)大，從 2021 年的僅 7 名員工發(fā)展到 2025 年的 1000 多名員工。該公司承認(rèn)自己在應(yīng)對(duì)這些挑戰(zhàn)方面負(fù)有責(zé)任 —— 他們表示，針對(duì)潛在的攻擊，正在對(duì)其人工智能模型 Claude 進(jìn)行全面測(cè)試，并積極監(jiān)測(cè)因?yàn)E用可能引發(fā)的安全問(wèn)題。

據(jù)估計(jì)，Anthropic 今年的收入將達(dá)到 22 億美元，這意味著，即使AI領(lǐng)域存在持續(xù)的擔(dān)憂(yōu)，但仍實(shí)現(xiàn)了爆發(fā)式增長(zhǎng)。

大型 AI 公司的現(xiàn)任和前任員工也表達(dá)了對(duì)倫理問(wèn)題的擔(dān)憂(yōu)，他們呼吁提高人工智能能力和風(fēng)險(xiǎn)方面的透明度。并警告稱(chēng)，如果沒(méi)有適當(dāng)?shù)谋O(jiān)督，先進(jìn)的 AI 系統(tǒng)可能會(huì)加劇不平等，并傳播錯(cuò)誤信息。

（舉報(bào)）