站長之家(ChinaZ.com) 10月19日消息: 微軟宣布全面推出 Azure AI Content Safety 內(nèi)容安全，這是一項(xiàng)新服務(wù)，可幫助用戶跨應(yīng)用程序和服務(wù)檢測和過濾有害的 AI 和用戶生成的內(nèi)容。

該服務(wù)包括文本和圖像檢測功能，可以識(shí)別微軟所稱的「冒犯、風(fēng)險(xiǎn)或不受歡迎」的內(nèi)容，包括褻瀆、成人內(nèi)容、血腥暴力和某些類型的言論。

「通過關(guān)注內(nèi)容安全，我們可以創(chuàng)建一個(gè)更安全的數(shù)字環(huán)境，促進(jìn) AI 的負(fù)責(zé)任使用，并保護(hù)個(gè)人和整個(gè)社會(huì)的福祉，」Azure Anomaly Detector 產(chǎn)品經(jīng)理 Louise Han 在一篇博文中宣布了該服務(wù)的推出。

Azure AI Content Safety 具備處理各種內(nèi)容類別、語言和威脅的能力，可以對文本和視覺內(nèi)容進(jìn)行審查和調(diào)節(jié)。它還提供了使用 AI 算法掃描、分析和調(diào)節(jié)視覺內(nèi)容的圖像功能，確保了微軟所稱的 360 度全面的安全措施。

該服務(wù)還可以在多種語言中進(jìn)行內(nèi)容審查，并使用嚴(yán)重性指標(biāo)來評估特定內(nèi)容的嚴(yán)重程度，該指標(biāo)的范圍從 0 到 7。

0-1 級(jí)的內(nèi)容被認(rèn)為是安全且適合所有受眾的，而表達(dá)偏見、帶有評判性或有意見的內(nèi)容被評為 2-3 級(jí)，即低級(jí)別。

中等嚴(yán)重性的內(nèi)容被評為 4-5 級(jí)，其中包含冒犯、侮辱、嘲笑、恐嚇語言或針對身份群體的明確攻擊，而高嚴(yán)重性的內(nèi)容被評為 6-7 級(jí)，其中包含有害行為的宣傳、支持或美化對身份群體的極端有害活動(dòng)。

Azure AI Content Safety 還使用多類別過濾器來識(shí)別和分類多個(gè)關(guān)鍵領(lǐng)域的有害內(nèi)容，包括仇恨、暴力、自殘和性內(nèi)容。

「[在網(wǎng)絡(luò)安全方面]，不僅需要考慮人類生成的內(nèi)容，尤其是隨著 AI 生成的內(nèi)容變得普遍，確保 AI 生成的輸出材料的準(zhǔn)確性、可靠性和無害或不適當(dāng)?shù)牟牧现陵P(guān)重要。內(nèi)容安全不僅保護(hù)用戶免受錯(cuò)誤信息和潛在危害，還維護(hù)了倫理標(biāo)準(zhǔn)，并建立了對 AI 技術(shù)的信任，」Han 寫道。

Azure AI Content Safety 的定價(jià)基于按需付費(fèi)。有興趣的用戶可以在 Azure AI Content Safety 定價(jià)頁面（https://azure.microsoft.com/en-us/pricing/details/cognitive-services/content-safety/）上查看定價(jià)選項(xiàng)。

（舉報(bào)）