美國總統大選雖然在11月才舉行，但是參選者的競選活動已經進行得如火如荼，今年大選中一個引人注目的話題，就是有關AI在競選活動中的作用。
最近一個經過AI操作、模仿副總統賀錦麗的影音檔經科技億萬富豪馬斯克分享在社媒X平台，而且沒明確指出該影片的初衷在諷刺，就引發憂慮，唯恐AI的力量會影響到距離11月5日大選僅三個月的選情；該影片把賀錦麗沒講過的話，塞到賀錦麗模樣的人物嘴裡。
美聯社28日報導道，可能獲得民主黨提名的賀錦麗公布了競選廣告，這個AI深偽影片使用相同的影像，但用一個模仿賀錦麗的聲音，來偷換旁白。影片中說，「我，賀錦麗，是各位的民主黨總統候選人，原因在拜登總統終於在辯論中曝露自己的老邁」。偽造影片中宣稱賀錦麗是「多元僱員」，既是女人又是有色人種，而且說她連「治國初步」都不知道。影片保留了「賀錦麗選總統」的字眼，還添加一些賀錦麗過去真講過的話。
美聯社指出，該影片廣獲分享，足證栩栩如生、AI生成的圖片、影片或錄音檔目前被使用在嘲笑、誤導政治，而美國正逼近總統選舉。另外揭露的是：高品質的AI工具比以往更容易取得，但聯邦迄今仍欠缺有意義的立法，以管制AI工具的使用，任憑使用AI於政治的規矩，大致交由各州及社媒平台自行其是。
這個影片另挑起的問題在：怎樣叫合宜運用AI，其界線被一些內容弄得模糊，該如何處理最好，尤其事涉諷刺這個範疇的時候。
最早貼出這個影片的是自稱「列根先生」(Mr Reagan)的YouTube內容創作者，他在YouTube及X平台都表示，這個經過改造的影片旨在諷刺。但馬斯克的貼文，據X平台表示，瀏覽量已超過1億2300萬次，只下標題「這真不可思議」，再配上發笑的表情圖。
知曉X平台的用戶或許知道該點擊創製這個視頻的最初用戶的貼文，但馬斯克的貼文並未指示他們那麼做。
賀錦麗發言人艾倫堡(Mia Ehrenberg)表示，相信民眾要的是賀錦麗提供、真正的自由、機會及安全，而不是馬斯克與特朗普經偽造、操弄的謊言。
加州民主黨眾議員巴巴拉-李形容，這個由馬斯克分享在社媒的深偽影片很危險。加州州長加文·紐瑟姆也表示，此類視頻應該違法。
他在 X 上寫道，“在像這樣的‘廣告’中操縱聲音應該是非法的，” “我將在幾週內簽署一項法案，以確保它是非法的。”
AI專家亨利·阿傑德說：「我們看到了用於創建深度偽造和人工智能生成內容的工具的可訪問性發生了根本性轉變，而且可以生成的輸出的真實性也發生了巨大的飛躍，無論是政治家的語音音頻，還是影片內容，當然還有人工智能生成的圖像。因此，變化實際上是關於這些工具現在可以生成的可訪問性和輸出的質量，以及我們開始看到它們在政治領域中廣泛使用的事實。
AI在政治領域，特別是在大選當中如何廣泛應用呢？
競選活動的數據和數位營運高級顧問帕塞爾說，人工智能可以分析選民數據，創建大規模個人化的文字和電子郵件廣告，並派遣付費工作人員取回郵寄選票。
帕塞爾: “在未來幾年內，你將能夠在手機上運行這個競選活動，一個由人工智能驅動的新聞發布機，編寫你的競選郵件，籌款技術，一切都在你的手機上。全部為你量身定制。 ”
可能日後一機在手，就可以控制整個競選活動。
其實不僅僅是競選活動中使用AI備受關注，據“美國新聞學會和 AP-NORC 中心的一項新民意調查發現，42%的美國選民擔心新聞媒體將利用生成式人工智能在這次競選活動期間創作新聞報道。 而在報道 2024 年總統選舉時，大約一半的美國人極其或非常擔心新聞媒體會報道不準確的信息。”
AI 已經是大趨勢，如何管制 AI使用固然備受關注，同時一般民眾也應該提高警覺，懂得辨別是否由 AI 操作的影音視頻，也是同樣重要。