週三(2月8日)發表的一份研究報告顯示， 一種新型的深度造假宣傳視頻正在網絡上流傳，視頻中的“新聞主播”看起來非常真實，但它們其實是人工智能生成的。這些視頻被認為與中國政府有關聯。
Your browser doesn’t support HTML5
研究報告 ： 中國利用深度造假“虛擬主播”進行宣傳.mp3
總部位於美國的研究公司Graphika(格拉菲卡)在其報告中稱，這些虛擬主播是為一個名為“狼新聞”(Wolf News)的虛構新聞媒體而設置的，它們由人工智能軟件創建，並且出現在社交媒體上流傳的視屏中，似乎在為中國共產黨的利益宣傳。
Graphika情報副總裁杰克·斯塔布斯(Jack Stubbs)告訴法新社(AFP)：“這是我們第一次看到與國家相關聯的行動使用人工智能生成的虛構人物視頻片段來製作具有欺騙性的政治內容。”
在該報告分析的一段視頻中，一位自稱亞歷克斯(Alex)的虛擬男主播批評美國對困擾該國的槍支暴力無所作為。 在另一段視頻中，一位女主播強調了中美“大國合作”的重要性。
人工智能的進步引發了全球對這項技術可能被濫用或用於傳播虛假信息的擔憂，人工智能可以憑空創造深度造假的圖像，或者顯示人們在視頻中開口講述他們從未說過的話。
去年，臉書(Facebook)母公司Meta表示，它刪除了烏克蘭總統弗拉基米爾·澤連斯基(Volodymyr Zelenskyy)敦促公民放下武器向俄羅斯投降的深度合成造假視頻。
中國沒有立即對Graphika的報告發表評論，幾週前，北京剛剛出台了《互聯網信息服務深度合成管理規定》。
中國上個月實施了新規定，要求提供深度合成服務的企業獲取客戶的真實身份。 他們還要求對深度合成內容進行適當標記，以避免“避免公眾混淆或者誤認”。
中國政府警告說，深度合成技術被被“不法人員”用來“危害國家安全和社會穩定”。
Graphika的報告稱，幾乎可以肯定地說，這兩位“狼新聞”的主播是使用倫敦人工智能初創公司Synthesia提供的技術創建的。
Synthesia網站沒有立即回應法新社的置評請求，它推銷的軟件可以“根據真實演員的視頻片段”創建深度合成的虛擬形象。
Graphika表示，它在追蹤被稱為“垃圾偽裝”(“spamouflage”)的親中國虛假信息活動時，在推特(Twitter)、臉書和YouTube等平台上發現了這些深度造假視頻。
斯塔布斯說：“‘垃圾偽裝’是一個親中國的影響力行動，主要傳播低質量的政治垃圾視頻。”
他說：“儘管使用了一些複雜的技術，但這些最新的視頻大同小異。這顯示了在影響力操作中使用深度造假的局限性——它們只是日益先進的工具箱中的一個工具而已。”
（本文依據了法新社的報導。）