美國前總統(tǒng)特朗普上周六在他自己創(chuàng)辦的Truth Social社交平臺上寫道，他將于本周二在曼哈頓被捕，并敦促他的支持者對此進行“抗議”。

3月21日，特朗普口中的“周二”已經(jīng)到來。他的預(yù)言并沒有實現(xiàn)，但大量的人工智能生成的圖像開始發(fā)酵，替他實現(xiàn)了這個預(yù)言。

(資料圖)

網(wǎng)絡(luò)上開始瘋狂流傳他在曼哈頓“被捕”的圖片，許多人誤以為真。

01 特朗普“被捕”??????

路透社報道稱，第一個發(fā)布這些圖片的網(wǎng)友名叫埃略奧特·希金斯 (Eliot Higgins) ，他將圖片傳到了推特上。

他的帖子中也寫道，“在等待特朗普被捕的時候制作了特朗普被捕的圖片”。這位網(wǎng)友還發(fā)布了一系列照片，里面有小特朗普、梅拉尼亞等人，也有特朗普“受審”和“鐵窗淚”等場景。

其中最受歡迎的圖片都是搞笑且有戲劇性的。例如顯示特朗普被執(zhí)法人員抓住，在掙扎中喘著粗氣，以及特朗普從逮捕他的人手里逃跑的那張。

顯然，這些照片都是假的，全都是人工智能生成 (AI-generated) ，而非真實事件，目前已被“辟謠”。并且特朗普看起來不是那種會拼命掙扎的人（這位前總統(tǒng)有個著名的觀點，那就是人體含有的能量是有限的，就像電池一樣，因此他認(rèn)為鍛煉會消耗這些能量）。

推特的長期在線用戶和人工智能愛好者，可能第一眼就能認(rèn)出這些假圖片。但也有很多人并沒有，甚至?xí)岢鲆蓡枺骸盀槭裁刺乩势毡徊稕]有成為新聞”？?

面對網(wǎng)友的疑惑，希金斯說明了自己在AI生成過程中發(fā)布的指令：“特朗普在被捕過程中摔倒。新聞報道畫面。” 隨后AI給出了下面的圖片。

02 危險信號來臨

事實上，這些圖像都是由Midjourney生成的。該公司最近發(fā)布了一個產(chǎn)品更新，極大的提高了其生成令人信服的假圖的能力。

談到AI生成的圖像，現(xiàn)在已經(jīng)出現(xiàn)了一些明顯的危險信號。

人工智能曾經(jīng)很難描繪人手（任何藝術(shù)家都會告訴你，精細的手部線條是很難畫出來的）。缺失的、扭曲的四肢，以及多余的手指和牙齒，曾經(jīng)使人工智能生成的圖像充滿了一種陰森詭異的氣質(zhì)，就好像恐怖電影里的變形惡魔在試圖模仿人類的形態(tài)。

但那已經(jīng)是過去式了——Midjourney現(xiàn)在可以創(chuàng)作出令人信服的手部圖像（起碼是足夠接近令人信服的程度）。

如果你仔細觀察“特朗普被捕”的圖片，會發(fā)現(xiàn)里面仍有畸形的手和四肢，背景人群的臉也像融化的蠟燭。寫實風(fēng)格的人工智能生成圖像有一種不自然的的光澤和質(zhì)感，就像一張被太多美化濾鏡扭曲的自拍。

然而，這些線索沒有那么簡單被覺察。容易受到錯誤信息影響的互聯(lián)網(wǎng)用戶即將面臨“假新聞”的海嘯——我們都是。

人工智能生成圖像中存在的奇怪問題，可以很容易就被幾分鐘的Photoshop，或者一點動態(tài)模糊、像素化所掩蓋。深度造假的潛在危險已被討論了多年，而其相關(guān)技術(shù)也在不斷改進。

03 生成式AI加速輿論爆發(fā)

一般來說，生成式AI通常不會產(chǎn)生偉大的、有洞察力的藝術(shù)（盡管Infinite Nothing Twitch流非常有趣），但它確實提供了一個快速創(chuàng)造梗圖和錯誤信息的機會，而這兩者之間的界限一直很模糊。

人工智能的軍備競賽正進行得如火如荼，生成式人工智能已經(jīng)能夠生成令人信服的語音、圖像和文本。

目前，已經(jīng)有人使用聲音生成器來制作了很多美國總統(tǒng)參加說唱比賽和《我的世界》(Minecraft) 游戲錦標(biāo)賽的奇怪視頻（拜登總統(tǒng)已被證明是這種新興的梗圖非常受歡迎的主題，他經(jīng)常被描繪成一個滿嘴臟話、沉迷成癮性藥物的游戲玩家）。

特朗普的忠實支持者表示，他們愿意相信特朗普告訴他們的任何事情，但還有很多選民仍在努力追趕社交媒體時間軸上噴涌而出的錯誤信息；當(dāng)人工智能生成的大量照片和視頻扭曲了我們對現(xiàn)實的共同認(rèn)知時，屆時會發(fā)生什么?

最近，百度旗下文心一言的AI繪圖功能也制造出不少熱梗，成為網(wǎng)友們的快樂源泉。尤其是對中國菜，文心一言有著屬于自己的獨特理解。?

互聯(lián)網(wǎng)時代下，迷信、陰謀論式的恐慌和錯誤信息在社交媒體上盛行。但這并不意味著事情不會變得更糟；事實上，它們可以，而且很可能會。

社交媒體用戶已經(jīng)被算法引導(dǎo)進了符合他們信仰的信息繭房。像QAnon這樣的致幻信仰系統(tǒng)就是從當(dāng)前的互聯(lián)網(wǎng)生態(tài)系統(tǒng)中產(chǎn)生的，我們現(xiàn)在可以想象一下惡意行為者可以用生成式人工智能做些什么。

如果面對大量難以驗證的顯示犯罪跡象的圖像，許多人可能會選擇相信符合他們偏見的信息，而將真實的證據(jù)視為虛假。

雖然這種情況已經(jīng)發(fā)生了，但人工智能正在給制造這種輿論場的人提供一些鋒利的工具，并擴大了潛在受害者的范圍。

本文作者為福布斯資深撰稿人，文章內(nèi)容僅代表作者本人觀點。

https://www.forbes.com/sites/danidiplacido/2023/03/22/ai-generated-images-of-donald-trump-getting-arrested-foreshadow-a-flood-of-memes-fake-news/

關(guān)鍵詞：