劃重點(diǎn):

- 微軟啟動(dòng)了一項(xiàng)新的AI漏洞懸賞計(jì)劃，獎(jiǎng)勵(lì)安全研究人員發(fā)現(xiàn)Bing AI產(chǎn)品中的漏洞，獎(jiǎng)金范圍從2，000美元到15，000美元。

- 參與計(jì)劃的產(chǎn)品包括Bing AI套件、Bing Chat for Business、Bing Image Creator，以及Bing與Microsoft Start app和Skype Mobile app的AI集成。

- 微軟尋找“提示注入”攻擊、影響OpenAI的GPT-4的漏洞、虛假或冒犯性聊天消息，以及疑似代碼和系統(tǒng)提示泄漏等漏洞。

站長(zhǎng)之家（ChinaZ.com）10月16日 消息:微軟最近宣布推出了一項(xiàng)名為"Bing AI漏洞懸賞計(jì)劃"的新舉措，旨在鼓勵(lì)安全研究人員發(fā)現(xiàn)Bing AI產(chǎn)品中的漏洞。這一計(jì)劃提供了豐厚的獎(jiǎng)金，獎(jiǎng)勵(lì)范圍從2，000美元到15，000美元，以吸引全球范圍內(nèi)的研究人員參與。

參與該計(jì)劃的產(chǎn)品包括Bing AI套件、Bing Chat for Business、Bing Image Creator，以及Bing與Microsoft Start app和Skype Mobile app的AI集成。微軟明確表示，他們希望找到各種漏洞，包括“提示注入”攻擊，這也會(huì)影響到OpenAI的GPT-4，以及虛假或冒犯性的聊天消息，還有疑似代碼和系統(tǒng)提示泄漏等問(wèn)題。

微軟提供了一個(gè)名為MSRC Researcher Portal的平臺(tái)，供研究人員報(bào)告這些漏洞，同時(shí)也歡迎針對(duì)計(jì)劃的問(wèn)題發(fā)送郵件至bounty（at）microsoft.com進(jìn)行咨詢。獎(jiǎng)金的數(shù)額將根據(jù)漏洞的嚴(yán)重程度和質(zhì)量來(lái)確定。更多信息可以在微軟AI漏洞懸賞計(jì)劃的官方網(wǎng)站上找到。

這一計(jì)劃的推出背后，是Bing Chat自今年2月推出以來(lái)遭遇一系列問(wèn)題的背景。盡管在發(fā)布之前微軟已經(jīng)意識(shí)到了這些缺陷，但他們?nèi)匀粵Q定推出Bing Chat。一項(xiàng)由AlgorithmWatch進(jìn)行的研究顯示，Bing Chat在與選舉相關(guān)的信息方面提供了不準(zhǔn)確的數(shù)據(jù)。盡管存在這種不可靠性，微軟仍然將Bing Chat作為信息來(lái)源提供。此外，微軟還將Bing Chat用于未標(biāo)記的產(chǎn)品廣告。

然而，盡管起步并不順利，Bing Chat從2023年5月開(kāi)始已經(jīng)普及。微軟正在類似于OpenAI的ChatGPT的方式擴(kuò)展Bing Chat，增加了新功能，如圖像回復(fù)、聊天歷史以及插件，以將其從產(chǎn)品發(fā)展為平臺(tái)。微軟還將Bing Chat集成到其Edge瀏覽器和其他瀏覽器中，并提供了企業(yè)版。類似于ChatGPT的插件概念，例如OpenTable或Wolfram Alpha，旨在幫助處理更復(fù)雜的任務(wù)，如餐廳預(yù)訂和數(shù)學(xué)問(wèn)題。

具體來(lái)說(shuō)，微軟希望Bing Chat能挑戰(zhàn)谷歌在搜索領(lǐng)域的主導(dǎo)地位，并有望創(chuàng)造一個(gè)新的內(nèi)容生態(tài)系統(tǒng)。但微軟首席技術(shù)官Kevin Scott最近告訴The Verge的Nilay Patel，他們目前取得的市場(chǎng)份額增長(zhǎng)只是“小幅增長(zhǎng)”，盡管他們是以一種前所未見(jiàn)的方式做到的。

Bing AI漏洞懸賞計(jì)劃網(wǎng)址:https://www.microsoft.com/en-us/msrc/bounty-ai

（舉報(bào)）