美國加州州長加文·紐森(Gavin Newsom)本星期簽署了三項立法，限制人工智能特別是深度偽造音頻和視頻記錄在競選活動中的作用，這可能會對美國未來的選舉產生廣泛影響。
其中一項立即生效的法律規定，在選舉前120天內和選舉後60天內分發“候選人的具有重大欺騙性的音頻或視頻媒體”是非法的。
另一項法律要求使用人工智能操縱內容的選舉相關廣告提供披露，提醒觀眾或聽眾注意這一事實。
第三項法律要求大型在線平台採取措施阻止發佈“與加州選舉相關的重大欺騙性內容”，並在收到通知後72小時內刪除任何此類材料。
紐瑟姆在一份聲明中說：“維護選舉的公正性對民主至關重要，我們必須確保人工智能不會被部署來通過虛假信息破壞公眾的信任--尤其是在當今令人擔憂的政治氣候中。”
“這些措施將有助於打擊在政治廣告和其他內容中對深度偽造的有害使用，這是加州積極促進透明和值得信賴的人工智能的幾個領域之一。”
雖然加利福尼亞州並不是唯一一個有法律規範在政治廣告中使用深偽的州，但該禁令在選舉後60天內的適用是獨一無二的，其他州可能會效仿。多年來，加州經常成為未來州法律的風向標。
科技公司的反對
社交媒體平台和言論自由倡導者預計將挑戰這些法律，聲稱它們侵犯了第一修正案對言論自由的保護。
這些措施的一個備受矚目的反對者是社交媒體平台X的億萬富翁所有者埃隆·馬斯克(Elon Musk)，他一直在積極利用他的平台來表達他對共和黨總統候選人唐納德·特朗普(Donald Trump)的支持。
7 月，馬斯克分享了一段視頻，該視頻使用深偽技術冒充副總統卡瑪拉·哈里斯(Kamala Harris)的聲音。在視頻中，克隆的聲音將哈里斯稱為“深層政府傀儡”和“終極多元化雇員”。
星期二，在紐森簽署新法律後，馬斯克再次發佈了這段視頻，他寫道：“加利福尼亞州州長剛剛將這個模仿視頻定為非法，違反了美國憲法。如果它傳播開來，那就太可惜了。”
考慮採取聯邦行動
到目前為止，大多數監管政治人工智能的立法工作都在州一級進行。然而，本星期，國會的一個兩黨立法者小組提出了一項措施，授權聯邦選舉委員會監督政治競選活動對人工智能的使用。
具體來說，它將允許該機構禁止競選活動使用深偽技術，使競爭對手看起來說或做了他們沒有做或說的事情。
美國司法部副部長麗莎·摩納哥(Lisa Monaco)本週在《政客》雜誌(Politico) 贊助的一次活動中表示，顯然需要制定管理人工智能在政治競選活動中使用的道路規則，她表示相信國會會採取行動。
她說，雖然人工智能帶來了許多好處，但它也“降低了各種惡意行為者的進入門檻”。“我相信，隨著時間的推移，法律會發生變化，”她補充說。
目前為止在競選中的作用很小
進入2024年總統競選，人們普遍擔心失控地使用深偽技術會讓選民淹沒在大量誤導性內容中。《政治事實》(PolitiFact)主編凱蒂·桑德斯(Katie Sanders)說，這並沒有真正發生。
“結果並不像許多人擔心的那樣，”她告訴美國之音。“我不知道這是否完全是好消息，因為政治廣告中仍然有很多錯誤信息被分享。它只是不是由人工智能生成的。它實際上依賴於誇大對手立場或斷章取義的相同技巧。”
桑德斯說，競選團隊可能不願意使用深偽技術，因為選民“不信任人工智能”。
“確實存在的深偽材料來自較小的賬戶、匿名賬戶，有時引起了足夠的轟動，以至於被政治平台上被認為是精英的人分享，” 她說。
