深度偽造在巴以沖突中扮演了重要的角色,，包括篡改了約旦王后拉尼婭（左中）和時(shí)尚模特貝拉·哈迪德（右上）的視頻,，以及俄烏沖突（左下）和電子游戲《武裝突襲3》（右下）的戰(zhàn)斗鏡頭。圖片插圖來源：FORTUNE ; 圖片來源：SCREENSHOTS CLOCKWISE FROM TOP LEFT: @GLOOOUD/X, VERIFY/YOUTUBE, @AG_JOURNALIST/X, @GLOOOUD/X, THE QUINT/YOUTUBE

2023年10月7日破曉時(shí)分,，以色列的特拉維夫市響起了空襲警報(bào),，邁克爾·馬蒂亞斯（Michael Matias）和他的女朋友從床上跳起來，跑到公寓大樓的防空洞,。在防空洞里,，他們手機(jī)上的信息顯示了觸發(fā)警報(bào)的恐怖場景：哈馬斯的武裝分子正在向以色列發(fā)起大規(guī)模軍事行動(dòng)，并且扣押了數(shù)百名人質(zhì),，距離他們安全聚集的地方不到一個(gè)小時(shí)的車程,。

在令人驚愕的余波中，馬蒂亞斯突然意識(shí)到這對(duì)他的科技新創(chuàng)企業(yè)的影響,。2022年年底,，他創(chuàng)辦了人工智能公司Clarity，專注于檢測(cè)競選活動(dòng)中的深度偽造信息,；他認(rèn)為,，這種虛假信息對(duì)國家構(gòu)成了緊迫威脅。但由于在10月7日大約有1,200名以色列人喪生,，而且該國正處于戰(zhàn)爭狀態(tài),，因此這一任務(wù)需要暫時(shí)擱置。那天早上,，他與Clarity的團(tuán)隊(duì)緊急召開會(huì)議,，以啟動(dòng)一項(xiàng)行動(dòng)計(jì)劃,。“我們對(duì)彼此說：‘在此次事件里,，我們的技術(shù)將大有用武之地,。’”Clarity的首席執(zhí)行官馬蒂亞斯說道,。

這次襲擊是以色列建國75年來最致命的一次,，在之后的混亂中，以色列對(duì)加沙地區(qū)進(jìn)行了封鎖,，切斷了區(qū)域內(nèi)的一切水,、電、物資供應(yīng),，并向沿海飛地（居住著200萬名巴勒斯坦人）的哈馬斯目標(biāo)投擲了數(shù)千枚炸彈,。隨著以色列的行動(dòng)升級(jí)，出現(xiàn)了全面的人道主義災(zāi)難,，在一個(gè)月內(nèi)有超過10,000名巴勒斯坦人喪生,，其中包括平民，恐怖的畫面充斥著電視和手機(jī)屏幕,，引發(fā)了全世界的憤怒和抗議活動(dòng),。這不僅是一場彈藥戰(zhàn)爭，而且是一場信息戰(zhàn)爭——真假信息混雜,。在對(duì)交戰(zhàn)雙方義憤填膺的同時(shí),，一些人質(zhì)疑這些令人毛骨悚然的可怕場景是否真實(shí)，或是這些圖像是否是在人工智能的助力下生成的所謂深度偽造圖像,。

事實(shí)上,，隨著技術(shù)的進(jìn)步，人工智能生成的虛假信息越來越難以辨別,。馬蒂亞斯表示,，這讓Clarity這樣的新創(chuàng)企業(yè)陷入了“一場貓和老鼠的博弈”。

問題是,，最后是貓贏,，還是老鼠贏？一些人擔(dān)心,，生成技術(shù)的便利性會(huì)讓惡意用戶比那些遠(yuǎn)不是那么靈活的科技公司和試圖控制他們的政府智高一籌,。常駐英國劍橋、為英國政府以及包括Adobe和Facebook的母公司Meta在內(nèi)的企業(yè)提供咨詢服務(wù)的人工智能技術(shù)顧問亨利·艾德爾（Henry Ajder）說：“該技術(shù)的發(fā)展速度快得令人難以置信,。20年或10年后會(huì)是什么樣子？這些工具將變得越來越容易獲得,。當(dāng)確實(shí)發(fā)現(xiàn)大量的深度偽造內(nèi)容時(shí),，我們可能會(huì)全然不知所措,。”

俗話說,，軍事宣傳和戰(zhàn)爭本身一樣古老,。但自從OpenAI在2022年推出第一版人工智能聊天機(jī)器人ChatGPT以來，生成式人工智能爆炸性的流行增強(qiáng)了普通用戶創(chuàng)造自己敘事的能力,。當(dāng)涉及到教皇方濟(jì)各（Pope Francis）身穿白色大號(hào)羽絨服或者金·卡戴珊（Kim Kardashian）擔(dān)任公交車司機(jī)時(shí),，其影響相對(duì)微不足道。但在戰(zhàn)爭里,，深度偽造技術(shù)可以用來制造混亂,，可能會(huì)產(chǎn)生生死攸關(guān)的后果。

2022年2月,，俄烏沖突爆發(fā),，引發(fā)了歐洲幾代人以來最大規(guī)模的陸地沖突。幾天之內(nèi),，烏克蘭總統(tǒng)弗拉基米爾·澤連斯基（Volodymyr Zelensky）在Facebook上露面,，命令士兵投降。幾天后,，俄羅斯總統(tǒng)弗拉基米爾·普京（Vladimir Putin）在推特（Twitter）上也命令軍隊(duì)放下武器,。抽搐的動(dòng)作和模糊的鏡頭很快就暴露了這兩段視頻是虛假的。但這預(yù)示著,，一旦人工智能工具得到改進(jìn),，有朝一日可能會(huì)發(fā)生的事情。

現(xiàn)在,，這一天已經(jīng)到來,，無論是在政府辦公室還是在家里，都能夠輕松地獲得生成式人工智能工具,。這項(xiàng)技術(shù)帶來了大量經(jīng)過篡改的內(nèi)容,，而這些內(nèi)容以前需要熟練的技術(shù)人員才可以制作出來。大西洋理事會(huì)（Atlantic Council）的數(shù)字取證研究實(shí)驗(yàn)室（Digital Forensic Research Lab）的研究人員萊拉·馬什庫爾（Layla Mashkoor）稱,，在以色列戰(zhàn)爭中,，這些內(nèi)容來自四面八方。該實(shí)驗(yàn)室隸屬于一家密切追蹤沖突中的社交媒體網(wǎng)站的美國智庫,。她指出,，雙方人士都在傳播深度偽造內(nèi)容，她舉例道,，一個(gè)親以色列的Instagram賬戶里有一張人工智能處理過的照片,，顯示成群的以色列人在陽臺(tái)上為士兵歡呼。對(duì)許多人而言,，手機(jī)屏幕上閃過的如海嘯般襲來的信息讓一切都顯得不可靠,。馬什庫爾說：“即便是真實(shí)的圖像,，也會(huì)有反駁的聲音，所以人們很難弄清楚真相,?！?/p>

當(dāng)馬蒂亞斯為他的人工智能新創(chuàng)企業(yè)取名Clarity時(shí)，這正是他想要解決的問題,。戰(zhàn)爭爆發(fā)后,，團(tuán)隊(duì)立即行動(dòng)起來。據(jù)馬蒂亞斯介紹,，隨著數(shù)以百計(jì)的視頻和照片在互聯(lián)網(wǎng)上流傳,，其中一些是哈馬斯在襲擊期間拍攝的，還有一些是加沙居民在遭到摧毀的社區(qū)拍攝的,，國際媒體機(jī)構(gòu)開始給Clarity發(fā)送電子郵件,，尋求幫助，以剔除深度偽造的視頻和照片,。馬蒂亞斯拒絕讓《財(cái)富》雜志透露他的客戶信息,。

這場戰(zhàn)爭在網(wǎng)上催生了大量的假新聞：時(shí)裝模特貝拉·哈迪德（Bella Hadid）為她的親巴勒斯坦言論道歉的視頻實(shí)際上是合成音頻。約旦王后拉尼婭（Rania）說她的國家“與以色列站在一起”,，這是在她露面接受美國有線電視新聞網(wǎng)（CNN）采訪的視頻基礎(chǔ)上,，利用人工智能生成的音頻。一段據(jù)稱是哈馬斯的戰(zhàn)士摧毀以色列坦克的視頻,，實(shí)際上來自俄烏沖突,。另一段顯示哈馬斯擊落兩架以色列的直升機(jī)的視頻呢？那是從電子游戲《武裝突襲3》（Arma 3）中截取的,。

總部位于美國加利福尼亞州帕洛阿爾托和以色列特拉維夫的Clarity還在戰(zhàn)爭里與以色列的情報(bào)機(jī)構(gòu)合作,，以檢測(cè)戰(zhàn)爭錄像的真假。幾乎所有的Clarity團(tuán)隊(duì)的成員,，包括馬蒂亞斯在內(nèi),，都在義務(wù)服兵役期間，在以色列國防軍（Israeli Defense Forces）的精銳技術(shù)部隊(duì)中花了數(shù)年時(shí)間磨練技能,。馬蒂亞斯本人曾經(jīng)在被稱為“8200部隊(duì)”的情報(bào)機(jī)構(gòu)服役（人才選拔極其嚴(yán)格）,，該機(jī)構(gòu)的成員在服兵役后創(chuàng)辦了無數(shù)的全球新創(chuàng)企業(yè)。

憑借這樣的背景,，馬蒂亞斯利用經(jīng)驗(yàn)豐富的創(chuàng)始人網(wǎng)絡(luò)為公司提供建議和資金,。Clarity的一位天使投資人烏迪·莫卡迪（Udi Mokady）說：“Clarity正在一個(gè)新的領(lǐng)域進(jìn)行創(chuàng)新?！蹦ǖ弦彩恰?200部隊(duì)”的退伍軍人,，他創(chuàng)立了身份安全公司CyberArk。莫卡迪現(xiàn)在是CyberArk的執(zhí)行主席，他預(yù)測(cè)深度偽造檢測(cè)市場將急劇上升,。莫卡迪稱：“隨著ChatGPT的出現(xiàn),，人們對(duì)它的興趣一夜之間急劇上升：在家里就能夠創(chuàng)建深度偽造內(nèi)容,?！?/p>

Clarity并沒有對(duì)內(nèi)容進(jìn)行純粹的真假認(rèn)證，而是使用人工智能來追蹤視頻中的一系列數(shù)據(jù)點(diǎn),，例如一個(gè)人的面部抽搐或語調(diào)的抑揚(yáng)頓挫,，然后利用神經(jīng)網(wǎng)絡(luò)將它們置于儀表板上顯示的從綠色到紅色的確定性范圍內(nèi)?！斑@是人工智能與人工智能的較量,。”馬蒂亞斯說道,。有些視頻,，比如伊朗支持的（黎巴嫩）真主黨（Hezbollah）組織領(lǐng)導(dǎo)人譴責(zé)10月7日襲擊事件的視頻，顯然是深度偽造的內(nèi)容（“遺憾的是”馬蒂亞斯打趣道）,。但其他視頻就不那么一目了然了,，需要人工進(jìn)行判斷，而不是由人工智能訓(xùn)練出來的機(jī)器進(jìn)行判斷,。

在打擊深度偽造內(nèi)容方面,，Clarity并非孤軍奮戰(zhàn)。過去幾年里,，還有幾家類似的新創(chuàng)企業(yè)相繼成立,，包括美國紐約的Reality Defender和愛沙尼亞的Sentinel?？萍季揞^也在關(guān)注假新聞問題：從2024年1月開始,，Meta將要求政治競選活動(dòng)在Facebook的廣告中標(biāo)注任何人工智能生成的內(nèi)容，而谷歌現(xiàn)在也包含了有關(guān)圖像來源的數(shù)據(jù),。

各國政府也在努力打擊深度偽造,。2023年10月，美國總統(tǒng)喬·拜登（Joe Biden）發(fā)布了一項(xiàng)關(guān)于“安全,、可靠和值得信賴”的人工智能的行政命令,，授權(quán)美國商務(wù)部（Commerce Department）尋找方法來驗(yàn)證內(nèi)容的真實(shí)性，并在人工智能生成的媒體內(nèi)容上添加水印,。但該行政命令并沒有威脅要對(duì)違規(guī)者實(shí)施制裁,。

同樣是在2023年10月，在包括中國在內(nèi)的28個(gè)國家參加的,、在英國舉辦的首屆全球人工智能安全峰會(huì)（AI Safety Summit）上,，官員們同意采取類似的措施。在由27個(gè)國家組成的歐盟（European Union）,，一項(xiàng)旨在執(zhí)行安全標(biāo)準(zhǔn)并為新創(chuàng)企業(yè)提供資金的《人工智能法案》（AI Act）正在逐步通過錯(cuò)綜復(fù)雜的程序,，歐盟的高層官員希望對(duì)未能打擊虛假信息的社交媒體平臺(tái)處以巨額罰款,。

“越來越多的國家達(dá)成的共識(shí)是：人工智能會(huì)帶來災(zāi)難性的風(fēng)險(xiǎn)?！庇斯ぶ悄茴檰柊聽柋硎?，“他們希望避免我們?cè)谶^去18個(gè)月里看到的‘狂野西部’（Wild West）局面持續(xù)下去，從某種程度上說,，風(fēng)險(xiǎn)會(huì)進(jìn)一步加劇,。”

但其中的風(fēng)險(xiǎn)無法和以色列對(duì)加沙地區(qū)發(fā)動(dòng)的激烈戰(zhàn)爭相提并論,，美國的軍艦駐扎在靠近海岸的地方,，伊朗和黎巴嫩也為可能發(fā)生的戰(zhàn)爭做好了準(zhǔn)備。在長達(dá)數(shù)周的戰(zhàn)爭里,，Clarity團(tuán)隊(duì)一直在努力解決這一問題,，同時(shí)分析了讓他們筋疲力盡的數(shù)百個(gè)視頻和照片。

經(jīng)常觀看令人毛骨悚然的視頻對(duì)Clarity的小團(tuán)隊(duì)的影響是顯而易見的,，馬蒂亞斯稱,，在戰(zhàn)爭結(jié)束后，他們肯定需要進(jìn)行創(chuàng)傷后治療,。他說：“我們知道,，我們正在進(jìn)入一場高度個(gè)性化的戰(zhàn)爭?！彼a(bǔ)充道,，這項(xiàng)工作讓他的團(tuán)隊(duì)感到“沉重的情感負(fù)擔(dān)，以及令人難以置信的重要性意識(shí),?！?/p>

*****

偵探力量

隨著深度偽造內(nèi)容的激增，企業(yè)巨頭和新創(chuàng)企業(yè)都在競相對(duì)其進(jìn)行監(jiān)測(cè),。以下是一些參與其中的公司：

?

DeepMedia

該公司由斯坦福大學(xué)（Stanford University）和耶魯大學(xué)（Yale University）的人工智能專業(yè)的畢業(yè)生于2017年創(chuàng)立,。該公司總部位于美國加利福尼亞州奧克蘭，與美國國防部（U.S. Department of Defense）,、聯(lián)合國（United Nations）和科技公司合作,，利用神經(jīng)網(wǎng)絡(luò)處理技術(shù)發(fā)現(xiàn)虛假內(nèi)容。

?

Reality Defender

這是一家總部位于美國紐約州紐約市曼哈頓的公司,，由高盛集團(tuán)（Goldman Sachs Group）的前高管本·科爾曼（Ben Colman）于2021年創(chuàng)立,，他表示，在深度偽造內(nèi)容病毒式傳播之前阻止它至關(guān)重要,。該公司在2023年10月的一輪融資中籌集了1,500萬美元,，旨在推出能夠?qū)崟r(shí)識(shí)別合成語音的新工具。

?

英特爾（Intel）

該公司在2022年推出了一款名為FakeCatcher的深度偽造內(nèi)容檢測(cè)器，據(jù)稱可以實(shí)時(shí)分析視頻,，并在幾毫秒內(nèi)提供準(zhǔn)確率高達(dá)96%的檢測(cè)結(jié)果,。其中一種罕見的工具是分析像素中的血流，從而判斷圖像是否描繪的是真人,。

譯者：Zhy