文章概要:

1. 澳大利亞新法規(guī)要求科技巨頭如Google、Microsoft和DuckDuckGo從搜索結(jié)果中清除虐待兒童材料，并防止生成深度偽造圖像。

2. 電子安全專員Julie Inman Grant表示，科技公司需減少產(chǎn)品帶來的危害，包括檢測深度偽造圖像，以提高在線安全。

3. 新法規(guī)要求搜索引擎定期審查和改進(jìn)AI工具，以確保不返回“1A類”材料，包括兒童性虐待、恐怖主義和極端暴力材料。

站長之家（ChinaZ.com）9月8日 消息:根據(jù)最新的報道，澳大利亞正在引入一項新的法規(guī)，要求科技巨頭如Google、Microsoft的Bing和DuckDuckGo等搜索引擎公司采取措施，清除搜索結(jié)果中的虐待兒童材料，并防止生成深度偽造圖像。這一法規(guī)旨在應(yīng)對人工智能工具可能生成虐待兒童圖像和恐怖主義宣傳的問題。

澳大利亞電子安全專員Julie Inman Grant表示，科技公司需要在減少其產(chǎn)品可能帶來的危害方面發(fā)揮主導(dǎo)作用。她指出，目前已經(jīng)出現(xiàn)了合成虐待兒童材料，并稱恐怖組織正在使用生成式人工智能來制作宣傳材料，這已經(jīng)成為現(xiàn)實，不再是幻想。因此，有必要采取行動。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

根據(jù)新的法規(guī)，搜索引擎公司將被要求定期審查和改進(jìn)其人工智能工具，以確保不返回“1A類”材料，包括兒童性虐待、恐怖主義和極端暴力材料。此外，這些公司還必須研究技術(shù)，幫助用戶檢測和識別可從其服務(wù)訪問的深度偽造圖像。這一法規(guī)被認(rèn)為是世界上第一批類似框架之一。

Julie Inman Grant形容人工智能的迅猛發(fā)展為一場“軍備競賽”，并表示這一技術(shù)的演變“讓大多數(shù)政策制定者、監(jiān)管機(jī)構(gòu)和國家措手不及”。她認(rèn)為，對于生成式人工智能，監(jiān)管工具的使用需要有不同的思考方式，并強(qiáng)調(diào)監(jiān)管審查必須從設(shè)計和部署階段開始，而不是問題出現(xiàn)后才采取應(yīng)對措施。

在這一背景下，新法規(guī)要求科技公司從一開始就將進(jìn)一步監(jiān)管這些工具的規(guī)定納入其中，而不是在問題出現(xiàn)后進(jìn)行應(yīng)對，這種情況類似于汽車制造商被要求安裝安全帶。Julie Inman Grant表示，這種做法對科技行業(yè)是有商業(yè)意義的，現(xiàn)在科技行業(yè)需要類似于“安全帶時刻”的規(guī)定。

電子安全專員還表示，監(jiān)管機(jī)構(gòu)已經(jīng)意識到一些不良分子正在利用新的人工智能工具進(jìn)行非法活動，包括生成虐待兒童材料。新規(guī)則將迫使科技公司不僅要減少其平臺上的危害，還要致力于構(gòu)建工具，促進(jìn)更高的在線安全，例如檢測深度偽造圖像。

澳大利亞總檢察長Mark Dreyfus在議會上宣布，澳大利亞聯(lián)邦警察正在使用人工智能來檢測虐待兒童材料，而不再依賴手動審查照片。這一倡議的新工具呼吁成年人提交自己兒童時期的照片，以幫助訓(xùn)練人工智能模型，從而更好地應(yīng)對虐待兒童材料問題。

（舉報）