自ChatGPT發(fā)布以來(lái)，生成式人工智能研究與應(yīng)用熱度居高不下。和以往的人工智能技術(shù)相比，生成式人工智能（AIGC）體現(xiàn)出強(qiáng)人機(jī)交互、強(qiáng)語(yǔ)料依賴等典型特征，在技術(shù)發(fā)展與風(fēng)險(xiǎn)控制兩方面存在諸多挑戰(zhàn)。

10 月 18 日，為進(jìn)一步促進(jìn)AIGC服務(wù)健康發(fā)展和規(guī)范應(yīng)用，推動(dòng)高校院所與產(chǎn)業(yè)界協(xié)同創(chuàng)新，由北京市科學(xué)技術(shù)協(xié)會(huì)指導(dǎo)，北京軟件和信息服務(wù)業(yè)協(xié)會(huì)主辦，北京人工智能產(chǎn)業(yè)聯(lián)盟人工智能安全專委會(huì)協(xié)辦的“生成式人工智能應(yīng)用與安全”專場(chǎng)活動(dòng)在北京舉辦，來(lái)自信通院、中國(guó)政法大學(xué)、騰訊等各界專家學(xué)者受邀參會(huì)。在圓桌交流會(huì)上，騰訊安全內(nèi)容安全總經(jīng)理王翔圍繞AIGC相關(guān)政策、技術(shù)趨勢(shì)、安全風(fēng)險(xiǎn)與治理等問(wèn)題作重點(diǎn)分享。

王翔介紹到，隨著《生成式人工智能服務(wù)管理暫行辦法》正式施行，我國(guó)首 次填補(bǔ)在生成式人工智能研發(fā)與服務(wù)方面的政策空白，這也是全球首部針對(duì)生成式人工智能進(jìn)行監(jiān)管的法律文件?！啊掇k法》對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管，規(guī)定推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開(kāi)放，將促進(jìn)行業(yè)的發(fā)展和應(yīng)用更加健康規(guī)范，進(jìn)一步激發(fā)市場(chǎng)活力和社會(huì)創(chuàng)造力。”

生成式人工智能的發(fā)展，標(biāo)志著人工智能正在從專用智能發(fā)展到通用智能，進(jìn)入了嶄新的發(fā)展階段。相關(guān)數(shù)據(jù)顯示，我國(guó)人工智能產(chǎn)業(yè)蓬勃發(fā)展，核心產(chǎn)業(yè)規(guī)模達(dá)到 5000 億元，創(chuàng)新成果不斷涌現(xiàn)，AIGC行業(yè)將迎來(lái)更大的發(fā)展機(jī)遇。其中，AIGC廠商共有 300 多家，主要分為應(yīng)用層、模型層、數(shù)據(jù)層、算力層。王翔提到，目前應(yīng)用層廠商占極大比重，主要集中在營(yíng)銷、客服、辦公、交互設(shè)計(jì)、數(shù)字人、寫(xiě)作助手等六大場(chǎng)景，因此能夠快速貼合終端用戶的公司仍有機(jī)會(huì)突破；而模型層、數(shù)據(jù)層、算力層的技術(shù)要求則相對(duì)較高，因此這些賽道的企業(yè)需重點(diǎn)圍繞效果、成本、服務(wù)質(zhì)量不斷精進(jìn)，以實(shí)現(xiàn)更大的突破。

生成式人工智能的快速發(fā)展也存在內(nèi)容安全、數(shù)據(jù)安全、AI應(yīng)用安全等諸多潛在風(fēng)險(xiǎn)。從風(fēng)險(xiǎn)來(lái)源來(lái)看，基本涵蓋模型訓(xùn)練階段、生成階段到應(yīng)用上線之后的全鏈路；從風(fēng)險(xiǎn)類型來(lái)看，數(shù)據(jù)質(zhì)量和可信度問(wèn)題、對(duì)抗樣本攻擊、信息安全問(wèn)題、技術(shù)濫用和道德風(fēng)險(xiǎn)、用戶隱私和身份安全等問(wèn)題同樣飽受詬病。此外，由于AIGC的生成能力主要來(lái)自數(shù)據(jù)和模型，而數(shù)據(jù)來(lái)源本身可能就會(huì)產(chǎn)生侵犯他人著作權(quán)、肖像權(quán)、名譽(yù)權(quán)、個(gè)人信息等多項(xiàng)權(quán)利的風(fēng)險(xiǎn)，因此全球范圍內(nèi)關(guān)于如何保護(hù)人類主體的智力活動(dòng)呼聲將會(huì)越來(lái)越高。

王翔提到，AIGC賽道的企業(yè)需嚴(yán)格把控從模型訓(xùn)練到上線運(yùn)營(yíng)的全鏈路內(nèi)容安全治理，保障數(shù)據(jù)源的真實(shí)、無(wú)害和可用性，同時(shí)搭建安全團(tuán)隊(duì)，通過(guò)機(jī)器審核+人工審核對(duì)生成內(nèi)容進(jìn)行全方位審核，以滿足監(jiān)管需求和避免侵權(quán)問(wèn)題。同時(shí)，企業(yè)也可以尋求外部三方廠商的接入和助力。

針對(duì)這些問(wèn)題，騰訊安全具備AIGC全鏈路的內(nèi)容安全解決方案，提供包含審校服務(wù)、安全專家服務(wù)、機(jī)器審核服務(wù)、版權(quán)保護(hù)服務(wù)四大能力板塊，覆蓋AIGC類應(yīng)用從模型訓(xùn)練到內(nèi)容生成再到事后運(yùn)營(yíng)全過(guò)程的內(nèi)容安全建設(shè)，可以助力企業(yè)更有效地應(yīng)對(duì)挑戰(zhàn)。

該方案可以通過(guò)三個(gè)層面的風(fēng)控措施來(lái)幫助企業(yè)解決AIGC內(nèi)容風(fēng)控難題。首先是在輸入端部署相應(yīng)的風(fēng)控策略，來(lái)判斷輸入指令是否違規(guī)，從源頭上避免違規(guī)內(nèi)容的產(chǎn)出。然后再加以屏蔽的措施，例如當(dāng)輸入的違規(guī)詞條觸發(fā)部署的風(fēng)控策略后，該詞條會(huì)反饋給客戶，并提示問(wèn)法有問(wèn)題，或者是不合規(guī)等等，以避免不合規(guī)的消息吐出。在輸出端也會(huì)進(jìn)行相應(yīng)風(fēng)控，可以通過(guò)標(biāo)記黑樣本并保存至樣本庫(kù)，在輸出端匹配關(guān)聯(lián)特征并攔截，避免模型生成不合規(guī)內(nèi)容。

目前，騰訊安全在AIGC內(nèi)容安全領(lǐng)域有多個(gè)場(chǎng)景實(shí)踐落地，為文生文、文生圖、醫(yī)療級(jí)視頻內(nèi)容、長(zhǎng)小說(shuō)文本等類型企業(yè)提供內(nèi)容安全服務(wù)。從 2019 年 9 月起， 騰訊安全就對(duì)B站平臺(tái)上UP主上傳的原創(chuàng)視頻進(jìn)行版權(quán)監(jiān)測(cè)服務(wù)，累計(jì)監(jiān)測(cè)作品 500 余萬(wàn)部，累計(jì)發(fā)現(xiàn)侵權(quán)鏈接近 3000 萬(wàn)條，發(fā)起維權(quán)近百萬(wàn)次，維權(quán)成功率達(dá)98%。此外，依托豐富的版權(quán)素材庫(kù)，騰訊安全通過(guò)“生成圖片”與“圖片庫(kù)”的版權(quán)比對(duì)，成功幫助某文生圖AIGC創(chuàng)作APP消除侵權(quán)風(fēng)險(xiǎn)。

王翔提到，“雖然全世界都在積極擁抱AIGC，但其內(nèi)容安全風(fēng)險(xiǎn)也將給社會(huì)、經(jīng)濟(jì)、文化等多個(gè)層面帶來(lái)影響，如何促進(jìn)生成式人工智能有序健康發(fā)展值得政府、企業(yè)等社會(huì)各界共同關(guān)注。未來(lái)，騰訊會(huì)秉持科技向善理念，打造安全可信的AIGC技術(shù)和應(yīng)用，助力AIGC時(shí)代實(shí)現(xiàn)高質(zhì)量、健康可持續(xù)的發(fā)展?！?/p>

（推廣）