台灣總統大選選情逐漸升溫，網絡社媒開始流傳有關政治人物的變造圖文資料，其中不乏企圖影響台灣對中國認知的內容。
觀察人士說，中國對台認知戰現階段所使用的造假訊息仍嫌粗糙，易被識破，但未來若大量運用生成式人工智能來製造擬真的圖文內容，升級對台網攻，恐嚴重衝擊台灣選情，甚或引發民眾的資訊和政治冷感。
台灣一向是中國認知作戰的主戰場，網絡社媒頻傳「說好中國故事」的造假信息，而近期隨著台灣總統選情增溫，有關政治人物的變造圖文也頻頻現跡。
台灣網絡頻傳造假圖文和影像
例如，台灣事實查核中心10月6日破解一則名為「看看中國是怎麼花錢救火的，而我們把錢又花在哪裡了」的網傳影片，據該中心的調查，這則影片用中國陝西省7月份的無人機消防演練充當實際救災現場，來誤導中國救災技術比台灣先進的不實信息。
又例如，該中心10月2日也破解一則題為「綠營政治人物中文水準低下......蔡英文用白色挽聯祝賀表姐高升」的變造影像，該中心調查發現，台灣總統蔡英文2015年手端湯圓碗的舊照被修圖為手持挽聯，且6年來數度在網上熱傳，混淆視聽。
觀察人士說，中國善用圖文變造、人名、時間和地點張冠李戴的造假伎倆，來影響台灣人心和選情，但這類技術目前仍嫌粗糙，並不難破解。
位於台北的國防安全研究院國家安全所所長沈明室分析，中共的認知作戰多透過內容農場量產，內容可信度並不佳，不過，隨著生成式人工智能（GAI）的技術日益成熟，他警告，未來中國若利用此造假利器大量生成擬真圖文，並將對台網攻升級至3.0版，其以假亂真、混淆視聽的殺傷力恐驚人。
沈明室告訴美國之音：「內容農場剛開始發生的時候，其實是很粗糙，它可能發布在Line或者是微信這些網路社群的媒體裡面。因為它非常粗糙，所以很容易就發現。但是如果說它應用了生成式AI技術，它就可以在內容農場那一端，經過不斷的修正、不斷地喂食(機器深度學習)之後，讓內容農場產生出看起來更真實的訊息，這樣的話，它可能造成的影響非常大。」
GAI採機器深度學習模型，生成與原始資料雷同的新數據，可用於創造性的工作，如圖文、視頻和音樂的生成等，其中，最常見的應用範例，如ChatGPT可產製文字作品、Midjourney可產製圖片。
也就是說，若透過機器學習中國國家主席習近平喜怒哀樂的各式表情或坐臥仰躺的各種姿勢，計算機恐可自動生成習近平翩翩起舞的擬真影片，也因此，GAI科技被視為認知作戰產製假訊息的最佳利器，尤其目前尚未發展出可辨識GAI擬真內容的技術，無法仿照過去，透過「機器人」賬號所發布的類似敘事、圖片或影片，來自動過濾出擬真圖文或影像，並加以破解。
GAI資訊操弄最新利器
位於台北的台灣民主實驗室前副執行長曾柏瑜表示，早期「機器人帳號」 散布的假訊息，雖影響範圍廣，但影響力低，因為很容易被一眼識破。
她說，中國過去創建假賬號時，多使用西方免版權照片資料庫，再變造成亞洲人臉孔，作為假賬號的頭像。但透過GAI技術生成的圖像無法以肉眼判斷為真人照片，將徒增查核假賬號的難度，尤其大量生成真偽難辨的訊息，擴散快，影響力也深。
以社群平台Getter今年3月流傳的一則美國微軟創辦人比爾.蓋茲(Bill Gates) 受訪影片為例，在這則台灣社群也廣為轉傳的影片中，蓋茲遭澳媒主持人質疑竊取他人電腦技術及COVID-19疫苗造成大量副作用、死亡時，僅尷尬以對，但經當事人澄清後，已確認是捏造影片。
據AI影像技術專家、位於台南的成大統計系教授許志仲分析，該影片捏造兩人聲音，並以深偽（deepfake）技術變造他們臉部的嘴形區域，若運用GAI技術，全影片擬真的造假效果將更高。不過，他說，GAI技術目前較少用來搭配深偽技術，較常搭配人臉偵測、人臉貼換、物件擦除、修補技術來進行換臉或內容的變照，但都會耗費產制者較多時間，成本較高。
許志仲告訴美國之音:「大家也意識到，這些(技術)結合在一起，會做出一些不好的事。不同的變造方法都有不同的對應技術去偵測，深偽的偵測器不能拿來偵測現在的GAI。」
在此前提下，他說，或可從人眼、背景文字或物品等連續性細節來辨別GAI圖片，不過，高明的產制者也會刻意增加雜訊或壓縮檔案等，來降低被破解的機率。
曾柏瑜也說，深偽影片技術成本高、效益低，還在測試階段，目前尚未有大量影響力深或流傳廣的造假影片，但利用GAI造假文字、擬真假賬號已越來越多。
GAI偵測技術尚待開發
位於台北的台灣資訊環境研究中心共同主持人游知澔也形容，GAI猶如產制內容的「小幫手」，技術早已存在，大型機構或國家也早投入資金產制內容，但麻煩的是，GAI技術漸普及，進入門檻和操作成本大幅降低，無法驗證或追查、「不受金錢或合約操控的志願行為者」增多，這將是認知作戰研究者的痛點，也恐引發網民的反感和不信任。
游知澔告訴美國之音:「各式各樣的人都更容易使用(GAI技術)，那這個資訊環境對一般民眾來說，可能是更混沌不清或是更令人厭煩，這可能會造成的後果就是大家更不想在網路上，參與公共事務的討論。」
他還說，目前大規模偵測GAI內容的可靠技術尚待開發，雖然不排除市面上已有實驗性科技。
曾柏瑜也說，技術工具或許存在，但能否100%判斷真偽則是令人存疑的，因為關鍵在「抓不抓得到」，很多大學教授都感嘆，現在很難辨識學生作業到底是自己寫的還是AI寫的。
曾柏瑜告訴美國之音:「八成以上的人都認為，假訊息影響嚴重，可是要判斷什麼是真的、什麼是假的已經很困難了，(未來若)還要判斷講這些話的人是真的人、還是假的人，這個難度會越來越提升。(若)大家就放棄所有在網絡上看到的訊息，再也不相信任何人說的任何話，那他對政治的冷落度就會提升，會讓民主慢慢走向一個低討論度、低監督的狀態。」
她說，這或許是台灣今年的總統大選選情至今仍比往年冷的背後原因之一，不過，她警告，GAI確實能提高認知作戰的主動性。
中共認知戰新型態: 小平台、多語種
Meta(原臉書)8月底發布的第二季《對抗威脅報告》和微軟威脅分析中心（MTAC）9月初發布的《東亞數字威脅報告》也得出三點類似的結論:一、用生成式人工智能產制高品質的視覺內容可有效擴大社媒的影響力。二、信息操弄內容已擴展至新的小平台或論壇。三、內容已譯成至少7種語言，擴大認知作戰的觸及範圍。
微軟報告特別指出，台灣是中國認知戰的主要目標，中國除在臉書散播以AI生成台語影片「呼籲台灣政府向北京投降」對台進行認知作戰外，也持續對東亞國家進行網絡攻擊和認知作戰。報告引述近一年的數據稱，中國利用GAI創造高質量的視頻內容吸引到至少40語種的目標受眾，人數超過1.03億。
操縱輿論 GAI恐掀國安危機
美國智庫蘭德（RAND Corporation）9月發布《生成式人工智能和社群媒體操縱3.0的興起》報告時也警告，GAI的普及可能引發國家安全問題，尤其社媒可能已遭中共解放軍所濫用。習近平也已將人工智能作為中共操弄外國輿論的利器，盡管中國的GAI能力仍落後美國，但已大量在新聞采編和發布上應用人工智能，提高輿論引導能力。
台灣一向對中國的資訊操弄，保持高度的警覺。
台灣資訊環境研究中心的游知澔表示，台灣今年初出現的「五缺」民生爭議:缺蛋、缺水、缺藥、缺電、缺肉，就是中國議題設定的結果。另外，台灣總統蔡英文4月初在美國進行的轉機外交、美國對台軍購和美國政要訪台等議題，也都有中共介入、操弄和傳播假信息的痕跡。
GAI投入認知作戰 恐衝擊台灣選情?
隨著2024年台灣總統選舉的逼近，游知澔警告，來自境外的信息操弄恐影響選舉結果、台灣的民主自決過程、甚至民眾網上參與公共議題討論的熱衷度。因此，提升個人的資訊識讀能力及資訊揭露的透明度，才能讓公眾對信息操弄具有免疫力。
不過，一位不願透露全名的林姓台北選民告訴美國之音，長期關注政治的選民會自行過濾資訊，就算無法辨識AI產制的內容，政治立場也很難受到影響，假訊息只能動搖到中間選民。
國安專家沈明室也說，台灣面對中共統戰、認知戰或假訊息，經驗豐富，民眾多能處變不驚。但他呼籲，政府部門強化整合，建立虛假訊息的因應程序，如保存原始資訊、聯系警政，並與調查單位和國安局聯合溯源，若源頭來自中國政府，台灣就該啟動反制，包含打擊源頭、阻斷假信息的傳播，並由政府發言人、民間事實查核中心或媒體盡速澄清事實。
論壇