美國之音(VOA)俄羅斯語和烏克蘭語組最近調查的線上影片顯示,人工智能(AI)很可能被用來製作針對烏克蘭難民的挑釁式深度偽造影片。
在其中的一個例子中,一段影片似乎是關於一名十幾歲的烏克蘭難民女孩在美國私立學校學習經歷的電視新聞報道。
但隨後影片切換到擁擠的學校走廊和一包可卡因的畫面,而畫外音聽起來像是這名女孩稱,美國公立學校很危險,並引發了對非裔美國人的冒犯性的刻板印象。
“我知道(私立學校)費用相當昂貴,”她說。 “但如果讓我的家人為我的安全買單,那就不公平。讓美國人來買單。”
這些說法完全是捏造的。只有第一部-少女的鏡頭-是真的。
這段冒犯性的畫外音很可能是使用人工智能逼真地複製了她的聲音,從而產生了所謂的深度偽造。
這似乎是俄羅斯網絡資訊行動“俄羅斯娃娃”(Matryoshka)的一部份,目前針對的是烏克蘭難民。
美國之音發現,該行動推出了兩個深度偽造視頻,旨在讓烏克蘭難民看起來貪婪和忘恩負義,同時還傳播深度偽造視頻,似乎顯示權威的西方記者聲稱烏克蘭-而不是俄羅斯-是傳播謊言的國家。
根據研究俄羅斯資訊行動的X帳號Antibot4Navalny稱,這些影片反映了俄羅斯網路造假運動的最新策略,該帳號已被西方主要新聞傳媒廣泛引用。
俄羅斯有意針對難民-包括一名青少年-表明克里姆林宮正不遺餘力地試圖破壞西方對烏克蘭的支持,而克里姆林宮則經常否認涉足造假。
針對受害者
第二個針對烏克蘭難民的影片以新聞報導中的真實鏡頭開始,其中一名烏克蘭婦女對丹麥向難民提供的衣物捐贈和支持表示感謝。
然後影片切換到通用的畫面和可能的深度偽造,因為該女子的聲音開始抱怨烏克蘭難民被迫住在小公寓裡並穿著二手衣服。
美國之音不會分享這兩個視頻,保護深度偽造中描繪的難民的身份,但這兩段視頻都使用了從知名國際媒體竊取的鏡頭。
Antibot4Navalny告訴美國之音,這種手法--在複製他們聲音的同時改變具體人物的陳述--對“俄羅斯娃娃”來說是新招術。
“在過去幾星期里,幾乎所有剪輯都是按照這個方案製作的,” 這個研究小組寫道。
但專家表示,偽造真實媒體報導並針對難民的潛在策略,毫不新鮮。
大西洋理事會(Atlantic Council)數位取證研究實驗室的常駐研究員羅曼·奧薩丘克(Roman Osadchuk)舉例說,在俄羅斯於2022年4月對烏克蘭克拉馬托爾斯克火車站發動致命飛彈襲擊後,克里姆林宮製作了一份虛假的英國廣播公司(BBC)的新聞報道,指責烏克蘭人發動了這次襲擊。
他指出,在同一時期,俄羅斯還在摩爾多瓦散佈假訊息,旨在讓當地民眾反對烏克蘭難民。
“不幸的是,難民是俄羅斯虛假宣傳活動非常喜歡針對的目標,他們不僅攻擊東道國社區......也是攻擊烏克蘭,” 奧薩丘克告訴美國之音。
他補充說,當此類虛假宣傳行動針對烏克蘭受眾時,其目標往往是挑撥離間,分化離開烏克蘭的人和留在國內的人。
然而,假冒記者的深度偽造似乎旨在以不同的方式影響公眾輿論。例如,一段據稱包含貝靈貓(Bellingcat)創始人艾略特·希金斯(Eliot Higgins)音訊的影片聲稱,烏克蘭入侵俄羅斯庫爾斯克地區只是虛張聲勢。
“全世界都在關注烏克蘭的死亡痙攣,” 希金斯似乎在說。 “沒有甚麼可討論的了。”
在另一段影片中,英國廣播公司核查團隊(BBC Verify)的資深記者沙延·薩達里扎德(Shayan Sardarizadeh)似乎在說,“烏克蘭製造假新聞,以便事實核查機構指責俄羅斯”,他隨後將此描述為“全球騙局”的一部份。”
事實上,這兩個影片似乎都是深度偽造的,其製作方式與針對難民的影片相同。
希金斯告訴美國之音,模仿他自己聲音的整個音頻似乎都是深度偽造的。他暗示,該影片的目的是吸引事實查核人員,並讓他們意外地增加其點擊率。
“我認為這更多的是為了提高他們的統計數據,以便(造假者)可以繼續從俄羅斯政府撈錢來繼續這樣做,” 他透過電子郵件告訴美國之音。
截至本文發表,薩達里扎德沒有回應置評請求。
虛假視頻,真實危害
過去幾年,人工智慧的快速擴張引起了大衆對深偽影片和人工智能圖像問題的日益關注,尤其是當這些技術被用於製作非自願的、露骨的色情圖像時。
研究人員估計,網絡上超過90%的深度偽造影片都含有露骨色情內容。這些影片既被用來攻擊普通女性,也被用來攻擊未成年女孩和名人。
深偽也被用來針對政界人士和公職候選人。然而,目前尚不清楚它們是否真的影響了輿論或選舉結果。
微軟(Microsoft)威脅分析中心(Threat Analysis Center)的研究人員發現,世界領導人的「完全人工合成」影片往往不令人信服,而且很容易被揭穿。但他們也得出結論,深度偽造音訊通常更有效。
“俄羅斯娃娃”(主要使用深度偽造音訊)發布的四個影片表明,深偽的危險不僅限於露骨的圖像或對政界人士的模仿。如果你的圖像可以在網路上找到,你就沒有太多辦法可以完全保護自己。
如今,“公開分享任何訊息,包括你的聲音、外表或照片”,總是存在風險,奧薩丘克說。
對個人的傷害可能很嚴重。
專門從事技術政策和民權事務的律師貝爾·托雷克(Belle Torek)表示,未經同意使用肖像的人經常感到被侵犯、羞辱、無助和恐懼。
“他們傾向於報告他們感覺自己的信任被侵犯。知道他們的形像被操縱來傳播謊言或仇恨會加劇現有的創傷,”她說。 “在這種情況下,我認為這些影響對這些(難民)社區來說將會放大,而他們已經在忍受流離失所和暴力了。”
深偽多麼有效?
雖然不難理解深度偽造的潛在危害,但評估其更廣泛的影響範圍和影響更具挑戰性。
X上的一篇以難民的虛假影片為特色的貼文獲得了超過5.5萬次觀看。據戰略對話研究所(Institute for Strategic Dialogue)高級分析師奧爾加·託卡里克(Olga Tokariuk)稱,這表明傳播範圍很廣。
“這還不算躥紅的內容,但也不再是不起眼的內容了,”她說。
另一方面,Antibot4Navalny認為,俄羅斯的假訊息參與者主要使用其他受控帳戶來放大X帖子,很少有真正的人看到它們。
但即使有大量真人確實觀看了深偽視頻,也不一定意味著這些視頻實現了克里姆林宮的目標。
“要100%地證明這些假訊息活動對政治的影響,總是很困難的,”託卡里克說。
論壇