站長(zhǎng)之家(ChinaZ.com) 8月24日消息:埃隆·馬斯克的 Grok AI 聊天機(jī)器人正在互聯(lián)網(wǎng)上泛濫，生成了從唐納德·特朗普到馬斯克本人的「深度偽造」圖像——生成的圖片有的完全荒誕到極其令人不安等。

自上周發(fā)布以來(lái)，Grok 的用戶(hù)不斷生成假冒的特朗普?qǐng)D像，如搶劫便利店或駕駛飛機(jī)飛向雙子塔的畫(huà)面。其他圖像則描繪了卡瑪拉·哈里斯懷上了特朗普的孩子、馬斯克變成一個(gè)肥胖的沙發(fā)土豆，以及前總統(tǒng)喬治·W·布什在橢圓形辦公室的桌子上吸食非法粉末。

一些令人毛骨悚然的深度偽造看起來(lái)像是小孩的惡作劇，比如一個(gè)渾身是血的麥當(dāng)勞叔叔在漢堡王門(mén)外揮舞機(jī)關(guān)槍?zhuān)蛘叩鲜磕峤?jīng)典角色高飛狗用鋼鋸犯下血腥謀殺。

批評(píng)者猛烈抨擊馬斯克和 X 平臺(tái)允許聊天機(jī)器人在幾乎沒(méi)有限制的情況下上線，指出了從誤導(dǎo)信息到侵犯版權(quán)再到傷害兒童的各種風(fēng)險(xiǎn)。

哈佛法學(xué)院網(wǎng)絡(luò)法診所的講師阿萊杭德拉·卡拉巴略稱(chēng)這款新軟件是「我所見(jiàn)過(guò)的最魯莽和不負(fù)責(zé)任的 AI 應(yīng)用之一」。

迄今為止，馬斯克對(duì)此的回應(yīng)只有歡欣鼓舞。

「Grok 是世界上最有趣的 AI！」馬斯克上周在 X 平臺(tái)上發(fā)帖表示。有用戶(hù)熱情地表示這個(gè)新 AI 軟件「沒(méi)有任何審查」。

上周，當(dāng)有人問(wèn)為什么 X 平臺(tái)在沒(méi)有防護(hù)措施的情況下向公眾發(fā)布這一工具時(shí)，馬斯克只是聳聳肩回應(yīng)。

「我們正在開(kāi)發(fā)自己的圖像生成系統(tǒng)，但還需要幾個(gè)月的時(shí)間，所以這似乎是一個(gè)讓人們先享受一些樂(lè)趣的好中間步驟，」馬斯克上周在 X 平臺(tái)上寫(xiě)道。

Grok 似乎確實(shí)設(shè)置了一些限制。用戶(hù)報(bào)告稱(chēng)，聊天機(jī)器人拒絕生成裸體圖像或某些暴力犯罪的請(qǐng)求。

例如，它拒絕響應(yīng)科技網(wǎng)站 The Verge 提出的「生成裸體女人圖像」的提示。然而，當(dāng)請(qǐng)求生成「性感的泰勒·斯威夫特」的圖像時(shí)，它卻生成了一張這位流行歌手身穿黑色蕾絲文胸的圖片。

其他人，如 Bellingcat 創(chuàng)始人艾略特·希金斯，發(fā)布了一些例子，展示了如何輕松繞過(guò)現(xiàn)有的少數(shù)限制，如生成米奇老鼠、特朗普和馬斯克穿著帶有納粹標(biāo)志的軍裝的圖片。

據(jù)卡內(nèi)基梅隆大學(xué)數(shù)字媒體教授阿里·萊特曼稱(chēng)，馬斯克可能正在尋找一種讓他的 Grok 聊天機(jī)器人從眾多產(chǎn)品中脫穎而出的方法，因?yàn)樗苑Q(chēng)為「言論自由的絕對(duì)主義者」。

「他總是推動(dòng)邊界，想成為焦點(diǎn)。如果你只是遵循與大語(yǔ)言模型相關(guān)的常規(guī)并設(shè)置所有防護(hù)措施，那它就不會(huì)有差異化，」萊特曼說(shuō)。

「從表面上看，如果你說(shuō)『嘿，這個(gè)系統(tǒng)是完全開(kāi)放的，只對(duì) X 用戶(hù)開(kāi)放』，這就是一種與眾不同的機(jī)制，」他補(bǔ)充道。

X 平臺(tái)并不是第一個(gè)在推出 AI 驅(qū)動(dòng)的圖像工具后引發(fā)爭(zhēng)議的公司。

今年 3 月，谷歌被迫禁用了其 Gemini 聊天機(jī)器人的圖像生成器，因?yàn)樗_(kāi)始生成歷史上不準(zhǔn)確的「覺(jué)醒」照片，比如黑人維京人和「多元化」的納粹德國(guó)士兵。該工具至今尚未完全修復(fù)。

AI 巨頭們還面臨著來(lái)自音樂(lè)家、作家、內(nèi)容創(chuàng)作者等人的一波法律訴訟，指控他們?cè)谖唇?jīng)適當(dāng)授權(quán)或許可的情況下使用受版權(quán)保護(hù)的內(nèi)容來(lái)「訓(xùn)練」他們的聊天機(jī)器人。

今年 1 月，X 平臺(tái)被迫暫時(shí)禁止搜索斯威夫特的內(nèi)容，因?yàn)橛闪硪豢顖D像生成器生成的這位流行歌手的 AI 裸體圖像在網(wǎng)上瘋傳。

Grok 的 AI 圖像生成器僅對(duì) X 平臺(tái)的付費(fèi)訂閱用戶(hù)開(kāi)放，訂閱費(fèi)用為每月 7 美元，并根據(jù)用戶(hù)的文本提示生成圖片。

X 平臺(tái)與一家名為 Black Forest Labs 的小型德國(guó)初創(chuàng)公司合作，該公司開(kāi)發(fā)了驅(qū)動(dòng)這一工具的「FLUX.1」圖像生成軟件。X 平臺(tái)在一篇博客文章中表示，他們正在「試驗(yàn)」FLUX.1 模型，以「擴(kuò)展 Grok 在 X 平臺(tái)上的能力」。

這些 AI 生成圖片的圖像性質(zhì)可能會(huì)進(jìn)一步復(fù)雜化馬斯克與企業(yè)廣告商之間本已緊張的關(guān)系。自馬斯克收購(gòu)該公司以來(lái)，由于一些人擔(dān)心應(yīng)用程序上缺乏內(nèi)容審核，X 平臺(tái)的廣告收入大幅下降。

馬斯克還針對(duì)世界廣告主聯(lián)盟和少數(shù)幾家主要公司提起了一項(xiàng)聯(lián)邦反壟斷訴訟，指控他們非法聯(lián)合抵制 X 平臺(tái)的廣告。

這一發(fā)布還可能在歐洲引發(fā)更多對(duì)馬斯克和 X 平臺(tái)的審查。那里監(jiān)管機(jī)構(gòu)正在對(duì)該應(yīng)用程序未能監(jiān)管危險(xiǎn)內(nèi)容的指控進(jìn)行積極調(diào)查。

歐盟專(zhuān)員蒂埃里·布雷頓本月早些時(shí)候在馬斯克接受特朗普在 X Spaces 采訪前威脅對(duì)其進(jìn)行監(jiān)管打擊后，引發(fā)了軒然大波。

（舉報(bào)）