劃重點(diǎn):

- 美國(guó)政府計(jì)劃出臺(tái)新規(guī)定，要求對(duì)在醫(yī)療保健、執(zhí)法和住房領(lǐng)域使用的算法進(jìn)行評(píng)估，以防止?jié)撛诘钠缫暬蚱渌麑?duì)人權(quán)產(chǎn)生不良影響。

- 新規(guī)定可能會(huì)迫使美國(guó)政府在AI方面采取改變，例如FBI使用的面部識(shí)別技術(shù)，該技術(shù)因未采取國(guó)會(huì)要求的措施以保護(hù)公民自由而受到批評(píng)。

- 新規(guī)定將要求政府機(jī)構(gòu)在2024年8月之前評(píng)估現(xiàn)有算法，并停止使用不符合規(guī)定的算法。

站長(zhǎng)之家(ChinaZ.com) 11月2日 消息:白宮管理和預(yù)算辦公室今天發(fā)布了一份草案規(guī)定，要求聯(lián)邦機(jī)構(gòu)評(píng)估和持續(xù)監(jiān)測(cè)在醫(yī)療保健、執(zhí)法和住房等領(lǐng)域使用的算法，以防止?jié)撛诘钠缫暬蚱渌麑?duì)人權(quán)產(chǎn)生不良影響。一旦生效，這些規(guī)定可能會(huì)迫使美國(guó)政府在AI方面采取改變，例如FBI使用的面部識(shí)別技術(shù)，該技術(shù)因未采取國(guó)會(huì)要求的措施以保護(hù)公民自由而受到批評(píng)。新規(guī)定將要求政府機(jī)構(gòu)在2024年8月之前評(píng)估現(xiàn)有算法，并停止使用任何不符合規(guī)定的算法。

草案指令稱:“如果益處不真正超過(guò)風(fēng)險(xiǎn)，機(jī)構(gòu)就不應(yīng)使用AI?！钡莅?jìng)渫泴?duì)涉及國(guó)家安全的模型進(jìn)行了例外，并允許機(jī)構(gòu)有效地對(duì)自己發(fā)布豁免，如果停止使用AI模型“會(huì)對(duì)重要機(jī)構(gòu)運(yùn)作造成不可接受的阻礙”。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

這份草案規(guī)定是在拜登總統(tǒng)簽署行政令兩天后由白宮管理和預(yù)算辦公室發(fā)布的，該行政令相當(dāng)于一個(gè)全面的計(jì)劃，旨在同時(shí)增加政府對(duì)AI的使用，并試圖防止技術(shù)帶來(lái)的傷害。保護(hù)人們免受AI的傷害是一個(gè)重要主題，該行政令的規(guī)定包括對(duì)大型AI模型和計(jì)算集群開發(fā)者的報(bào)告要求。

擬議中的白宮管理和預(yù)算辦公室規(guī)定將要求將從私營(yíng)公司購(gòu)買的算法納入聯(lián)邦合同的測(cè)試和獨(dú)立評(píng)估要求之中，該辦公室在其協(xié)調(diào)總統(tǒng)優(yōu)先事項(xiàng)的部門的角色中可以這樣做。它們還將要求政府機(jī)構(gòu)評(píng)估和監(jiān)控現(xiàn)有算法以及未來(lái)可能獲取的算法對(duì)隱私、民主、市場(chǎng)集中和獲得政府服務(wù)的負(fù)面影響。

草案?jìng)渫浺笥膳c系統(tǒng)開發(fā)無(wú)直接關(guān)系的人員進(jìn)行算法的測(cè)試和評(píng)估，并鼓勵(lì)對(duì)生成AI模型進(jìn)行外部的“紅隊(duì)”測(cè)試。它還指示聯(lián)邦機(jī)構(gòu)的領(lǐng)導(dǎo)人探索他們?nèi)绾卧诓粠?lái)不必要風(fēng)險(xiǎn)的情況下使用生成AI，例如OpenAI的ChatGPT。

拜登的AI行政命令要求白宮管理和預(yù)算辦公室在接下來(lái)的五個(gè)月內(nèi)向聯(lián)邦機(jī)構(gòu)提供指導(dǎo)。該辦公室將邀請(qǐng)公眾對(duì)草案政策提供意見直至12月5日。

OMB管理副主任Jason Miller說(shuō):“該框架為聯(lián)邦機(jī)構(gòu)提供了一套具有約束力的要求，以便為人工智能的使用制定保障措施，以便我們能夠利用這些好處，使公眾能夠信任聯(lián)邦政府提供的服務(wù)。備忘錄草案強(qiáng)調(diào)了人工智能的某些用途，在這些用途中，該技術(shù)可能會(huì)損害權(quán)利或安全，包括醫(yī)療保健、住房和執(zhí)法——過(guò)去算法導(dǎo)致歧視或拒絕服務(wù)的所有情況。

據(jù)OMB稱，聯(lián)邦機(jī)構(gòu)目前使用700多種算法，盡管聯(lián)邦機(jī)構(gòu)提供的清單并不完整。米勒說(shuō)，備忘錄草案要求聯(lián)邦機(jī)構(gòu)更多地分享他們使用的算法。

（舉報(bào)）