站長之家(ChinaZ.com) 5月6日 消息:據 404 Media報道，互聯(lián)網受歡迎的深度偽造色情內容在線網站 Mr. Deepfakes 于本周末長期關閉。

Mr. Deepfakes 網站一度吸引了大量“不良”用戶。研究人員指出，這些用戶愿意支付高達 1500 美元的價格，讓創(chuàng)作者使用先進的 AI 技術，在未經名人或其他目標人物同意的情況下，使用她們的臉制作色情視頻。研究人員發(fā)現(xiàn)，在高峰時期，Mr. Deepfakes 有 4.3 萬條視頻的瀏覽量超過了 15 億次。這些視頻由近 4000 名創(chuàng)作者制作，這些所謂的“創(chuàng)作者”從這種不道德且如今已屬違法行為的交易中獲得了暴利。

不過，從本周起，這些視頻再也無法觀看了，且曾用來供用戶提出制作新視頻要求的論壇也已關閉。根據該平臺發(fā)布的一則通知，當 “一家關鍵服務提供商”“長期” 終止服務時，網站就被關停了。

Mr. Deepfakes 證實稱：“數(shù)據丟失讓平臺無法繼續(xù)運營?！?同時他們警告，在其關閉后，不要相信任何之后出現(xiàn)的冒牌平臺?！拔覀儾粫匦律暇€。任何聲稱是我們的網站都是假的。這個域名最終會過期，我們不對其未來的使用負責。這條信息將在一周左右后刪除?！?/p>

目前尚不清楚究竟是哪家服務提供商切斷了 “Mr. Deepfakes” 網站的服務。但，研究人員指出，深度偽造創(chuàng)作者要持續(xù)制作這類內容，“最關鍵的要素” 之一是通過谷歌 Colab 筆記本提供的 “免費層級的云 GPU 訪問權限”。

不過，谷歌方面暫時尚未對于媒體提出的“最近是否取消了該訪問權限”這一問題作出回應。

Mr. Deepfakes 網站的倒閉正值美國國會通過《刪除法案》之后 —— 該法案規(guī)定，創(chuàng)建和傳播未經同意的私密影像（NCII）屬于違法行為，其中包括由 AI 生成的合成私密影像。任何收到有關 NCII 通知的平臺必須在 48 小時內將其刪除，否則將面臨美國聯(lián)邦貿易委員會的執(zhí)法行動。執(zhí)法行動要到明年春天才會開始實施，但該服務提供商可能是因為這項法律的通過而封禁了 “Mr. Deepfakes” 網站。據《連線》雜志報道，去年，在英國宣布有意通過類似法律后，“Mr. Deepfakes” 網站就搶先開始屏蔽來自英國的訪問者。

不過，“Mr. Deepfakes” 網站的關閉并不能解決深度偽造問題。2022 年，隨著 AI 技術使合成的 NCII 愈發(fā)逼真，深度偽造內容的數(shù)量急劇增加，這促使美國聯(lián)邦調查局在 2023 年發(fā)出警告，提醒公眾這類虛假內容正愈發(fā)頻繁地被用于性敲詐行為，但社會用來阻止其傳播的即時解決方案卻收效甚微。

據研究人員稱，“Mr. Deepfakes”（一個真實存在的人，身份匿名，但據報道是多倫多一名 36 歲的醫(yī)院工作人員）開發(fā)的程序推動了深度偽造內容的激增。研究人員發(fā)現(xiàn)，他開發(fā)的 DeepFaceLab 軟件迅速成為 “領先的深度偽造軟件，據估計，95% 的深度偽造視頻都是由這款軟件制作的，且該軟件在 GitHub 上已被復制了 8000 多次”。對于普通用戶來說，他的平臺上有可供購買的視頻，如果視頻制作得很逼真，價格通常會超過 50 美元；而更有積極性的用戶則會通過論壇提出要求，或者提升自己的深度偽造技術，成為創(chuàng)作者。

“Mr. Deepfakes” 的非法交易最早始于 Reddit，但在 2018 年被封禁后，就轉移到了他自己的平臺上。在那里，數(shù)千名深度偽造創(chuàng)作者分享技術知識，研究人員去年指出，“Mr. Deepfakes” 網站的論壇最終成為了 “制作深度偽造色情內容的僅有可行的技術支持來源”。

由于之前已經遷移過一次，這個群體應該還是會通過新的平臺來繼續(xù)制作非法內容，且“Mr. Deepfakes” 似乎想避開公眾的關注，因此可能會以一個新的名字重新出現(xiàn)。據悉，早在 2023 年，研究人員估計該平臺有超過 25 萬名成員，他們中的許多人可能會迅速尋找替代平臺，甚至嘗試搭建一個替代平臺。

“Mr. Deepfakes” 的恐怖統(tǒng)治可能還未結束，這一可能性進一步增加，因為 DeepFaceLab 在 GitHub 上的存儲庫（已于 11 月存檔，無法再進行編輯）仍然可供任何人復制和使用。

404 Media 報道稱，許多 “Mr. Deepfakes” 網站的成員已經在 Telegram 上取得了聯(lián)系，據報道，在 Telegram 上也經常有合成 NCII 的交易。加州大學伯克利分校的教授、數(shù)字偽造圖像領域的先進專家漢尼?法里德表示：“雖然這次關停是一個好的開始，但類似這樣的平臺還有很多，所以我們不能就此止步。”

（舉報）