AI造假，有多嚇人

▼點下方播放按鈕收聽十點主播安東尼朗讀音頻

先做一個測試，你能分辨出這兩張老照片哪張是AI生成的嗎？

答案是兩張都是AI生成的虛假照片。

當(dāng)你仔細(xì)分析哪張照片的噪點、光線更真實，端詳哪個人物的表情更自然時，便落入AI為你設(shè)計的圈套。

AI算準(zhǔn)了你會注意的細(xì)節(jié)，于是你看得越認(rèn)真，就越會認(rèn)為照片是真的。

更令人不安的是，這種“以假亂真”不再只是技術(shù)展示，而是正在變成日常。

有人用AI生成一段視頻發(fā)給家人，一個乞丐走進(jìn)家里要飯，家人信以為真，直接報警。

西藏日喀發(fā)生6.8級地震時，一個被壓在廢墟下的孩子牽動了無數(shù)人的心，可實際上卻是被盜用的AI素材。

這邊，不良商家用AI生成虛假模特圖，貨不對板；那邊，不法消費(fèi)者利用AI生成爛水果，騙取僅退款。

有圖有真相的時代已經(jīng)過去，如今就連視頻也無法輕易相信，當(dāng)眼見不再為實，我們還能相信什么？

網(wǎng)友@瓦洛佳大貓貓刷到一個世界杯比賽的視頻，場上的足球運(yùn)動員受傷倒地，鏡頭一切，觀眾席上的美女滿臉心疼。

網(wǎng)友敏銳察覺可能是AI制作，于是去補(bǔ)看世界杯比賽，找到視頻中的球員費(fèi)爾明·洛佩斯受傷的比賽場次，并沒有看到這位落淚的美女觀眾。

幾番搜尋，終于找到原圖，有人將觀眾席中一位女士的臉用AI進(jìn)行替換。

這條造假視頻配上煽情的文案“王子的戰(zhàn)斗，公主的眼淚”，得到近20萬的點贊和上千條評論，少有人質(zhì)疑真假，大家都在心疼和感嘆這位AI觀眾的眼淚。

AI橫行的時代，搶奪注意力和流量的虛假娛樂信息輕而易舉就能拿捏人的情緒，甚至篡改人的記憶。

今年傳出一個消息，只有12個人的韓國男團(tuán)EXO，其實還有被雪藏的第13個成員名叫KING。

AI生成

很快，消息引爆網(wǎng)絡(luò)，網(wǎng)上還陸續(xù)流出KING的出道紀(jì)錄片、退圈新聞，甚至有人站出來說自己2012年真的買過13人的海報。

一些網(wǎng)友感到恍惚，開始相信真的有這么一個人。

就這樣，一個根本不存在的人，火遍全網(wǎng)。

網(wǎng)友戲稱，這是“全民手搓的曼德拉效應(yīng)”。

而事件的開始，不過是一條評論。

一個名叫龍龍的云南裝修工發(fā)布了一段自拍視頻，人們發(fā)現(xiàn)頭發(fā)側(cè)向一邊，穿著黑色背心的他長相酷似黃子韜。

某網(wǎng)友調(diào)侃道：“這不是EXO那個被雪藏的成員嗎？”

這條評論點燃了不少玩梗網(wǎng)友的熱情，他們開始自發(fā)制作屬于龍龍的新劇本。

藝名：KING；

年齡：36歲；

出生地：云南。

2008年被韓國制作人李秀滿挖掘，原本是EXO的隊長，他創(chuàng)作了組合中幾首爆火歌曲，還曾教過鹿晗跳舞……

但卻因為不接受公司的剝削而被無情雪藏，遣返回國，身患抑郁、發(fā)胖，為了謀生在云南工地干零活。

為了讓更多人相信，有人用AI生成了黃子韜和KING的連麥視頻。

AI生成

有關(guān)KING的相關(guān)視頻中，幾乎都是一套黑色衣服，于是有人不相信，調(diào)侃說：“你家KING就一套衣服是吧。”

立馬會有人出來反駁：“很多都被刪完了，這些都是沒有被買通刪除的珍貴影像資料。”

有人剪輯視頻論證KING是個虛擬人物，評論區(qū)依舊有人拿著AI假圖辯駁。

甚至有人說，是資本出面推波助瀾，讓人們認(rèn)為KING是一個不存在的人。

多荒唐，當(dāng)AI制造的虛假信息聲量足夠大時，自然有人不約而同地幫忙制造完美的解釋。

直到今天，在社交平臺檢索“曾經(jīng)的王”“KING”等關(guān)鍵詞，評論區(qū)依舊有人堅信這個人的存在。

這些虛假信息尚可以當(dāng)做娛樂大眾的戲碼，但AI制造的假象正在向更多領(lǐng)域蔓延。

一個自媒體賬號在文章中提到一部名為《特朗普愛上在白宮當(dāng)保潔的我》的短劇，稱這部短句在海外掀起狂潮，三個月內(nèi)付費(fèi)達(dá)到1.5億美元。

很快信息被許多媒體復(fù)制轉(zhuǎn)發(fā)，甚至有相關(guān)劇照和視頻片段流出，但有人在外網(wǎng)搜索發(fā)現(xiàn)，這部短劇壓根不存在。

只是，已經(jīng)有不少人真以為中國的短劇精準(zhǔn)收割美國受眾，就此打開了海外短劇市場。

而這種假新聞，不過是AI造假中程度相對較輕的一個。

最近，一段所謂的“內(nèi)部飯局視頻”在網(wǎng)絡(luò)上傳播，視頻中有人遞給東鵬特飲創(chuàng)始人林木勤一瓶自家飲料，林木勤卻擺擺手說：

“我平時不喝這個，我喝別的。”

“創(chuàng)始人不愿意喝自家產(chǎn)品，還要賣給消費(fèi)者？”

一時之間，林木勤陷入輿論漩渦，公司市值一周內(nèi)合計蒸發(fā)超過70億。

當(dāng)事人和東鵬特飲公司緊急公關(guān)，先后辟謠并報警，警方很快鎖定嫌疑人，是39歲自媒體人羅某，視頻均由他合成，如今已被刑拘。

一段AI炮制的虛假視頻，能夠撼動股市，繼而導(dǎo)致70億的損失，實在令人嘖嘖稱奇。

除此之外，戰(zhàn)爭新聞更是AI造假的重災(zāi)區(qū)。

美伊沖突期間，美軍戰(zhàn)機(jī)被伊朗擊落后，美方搜救機(jī)組人員，隨后，美國總統(tǒng)特朗普在社交平臺發(fā)帖稱兩位飛行員都已獲救。

僅幾個小時后，網(wǎng)上流傳出一張美國大兵手捧星條旗的照片，并配文“這是昨天獲救的英勇上校的照片”。

圖片獲得了超過500萬的瀏覽量，甚至被得州州長、總檢察長以及紐約眾議院議員轉(zhuǎn)發(fā)。

但有人在多個在線檢測工具中確認(rèn)，這張照片為AI制造，且獲救飛行員當(dāng)時并沒有公開身份。

另一邊，還有許多人上傳了“伊朗導(dǎo)彈擊中目標(biāo)”“伊朗炸毀美國航母”的照片視頻，也幾乎都是AI生成的虛假畫面。

AI生成

更諷刺的是，真實的戰(zhàn)爭影像卻被AI判斷為虛假新聞。

伊朗的一所學(xué)校遭遇空襲后，人們?yōu)橛鲭y學(xué)生挖的墳?zāi)古帕谐尚校┡囊暯怯涗浟诉@場戰(zhàn)爭的殘酷，場面令人心碎。

可是，谷歌旗下的AI服務(wù)Gemini和X公司的AI助手Gork都判定這張照片并非來自伊朗。

直到多方研究人員將墳?zāi)拐掌c衛(wèi)星圖像、視頻片段交叉對比，才最終確認(rèn)照片為真，破除了AI制造的謠言。

可以大膽猜想，當(dāng)AI制造的虛假新聞泛濫成災(zāi)，那一百年后的今天，有人檢索某一段歷史時，是否會將虛假新聞?wù)`認(rèn)成真實的歷史。

而那些真實發(fā)生過的暴行，是否又會被別有用心的人混淆為AI制造。

到那時，真實與虛假的界限，終將消失不見。

你相信嗎？這個時代，如果有人想借助AI欺騙全世界，那他真的會成功。

來自挪威的攝影師，喬納斯·本迪克森，在2021出版了一本假的新聞攝影集《韋萊斯之書》。

在他坦白真相之前的6個月中，包括出版編輯、策展人、專業(yè)攝影大賽評委在內(nèi)的讀者，沒有一個人發(fā)現(xiàn)攝影集是假的。

2019年，喬納斯聽說北馬其頓有個叫韋萊斯的小城，那里有大量專業(yè)生產(chǎn)假新聞的人，他決定去看看順便拍一些紀(jì)實作品，但途中，一個大膽的想法出現(xiàn)在他腦中：他決定造假。

隨手拍攝韋萊斯當(dāng)?shù)氐墓ⅰ⒐珗@、辦公室等空鏡場景，通過將虛假的人物合成到空鏡中，一張張生動的照片就完成了。

圖中人物為虛擬建模

除此之外，他還用AI生成了所謂的現(xiàn)場訪談對話、攝影集文字說明，以及韋萊斯古經(jīng)文。

那是第一次，他沒有和任何人訪談交流，便完成了一本新聞攝影集。

攝影集出版后，讀者表達(dá)出前所未有的熱情，有人評價：“幸好這個時代，還有人在做韋萊斯故事這樣的嚴(yán)肅新聞。”

媒體紛紛發(fā)來約稿，希望轉(zhuǎn)載這本影集。

無人識破的結(jié)果，讓喬納斯感到困惑，他不死心，又申請參加在業(yè)內(nèi)享有盛名的佩皮尼昂國際新聞攝影節(jié)，還將高清版照片發(fā)給了主辦方。

結(jié)果何其諷刺，不僅沒人發(fā)現(xiàn)攝影集造假，主辦方還邀請他參與展出。

這場謊言持續(xù)了6個月，以喬納斯主動坦白告終。

實際上，喬納斯在攝影集中留下許多破綻，大白天，一個有人居住的小城，竟然會有熊隨意出沒；

扉頁上留下的韋萊斯古經(jīng)文只需要上網(wǎng)一搜就會發(fā)現(xiàn)，全都不存在。

左側(cè)為偽造古經(jīng)文 圖源@那個NG

喬納斯這場盛大的“行為藝術(shù)”讓人們發(fā)現(xiàn)兩件事：

一是，這個時代，造假的成本如此之低，整本攝影集用到的AI不過是網(wǎng)上隨便一搜的免費(fèi)版本。

二是，這個時代，我們對假信息的耐受力如此之低，哪怕是無需考證，只要稍微檢索一下就能戳破的謊言，卻能欺騙所有人。

可以說，在這個信息爆炸的時代，我們的判斷力正在被瘋狂稀釋。

一條接著一條奪人眼球的另類新聞，一段接著一段煽動情緒的短視頻，我們來不及思索真假，就匆匆點贊、評論、轉(zhuǎn)發(fā)。

而AI的出現(xiàn)，則讓虛假信息變得更加猖狂，它沒有立場，沒有善惡，但卻讓制造謊言的成本降到最低。

在這個真假難辨的時代，普通人唯一能做的就是多一點思考和冷靜。

畢竟，不急于表態(tài)，已是難得的清醒，愿意冷靜思考，更是稀缺的能力。

參考資料：

南方周末《一個并不存在的“EXO新成員”，如何成了頂流偶像？》

字母AI《世界杯“名場面”，居然是AI造假？》

澎湃新聞《假作真時真亦假：美以伊戰(zhàn)事陷入AI信息迷霧》

那個NG《這本“假新聞合集”獲國際大獎，當(dāng)下我們有多容易輕信？》

作者 | 阿謹(jǐn)，本文首發(fā)于十點讀書會（ID：sdclass）。

主播 | 安東尼，朝鮮冷面下藏著一顆韓國燒烤的心。

圖片 | 視覺中國，網(wǎng)絡(luò)（如有侵權(quán)請聯(lián)系刪除）

2秒加星標(biāo)，再也不擔(dān)心找不到十點君↓↓