美國人工智能公司 OpenAI 星期五(2月21日)表示，已發現中國利用該公司的人工智能工具 ChatGPT 助長在海外的影響力活動，包括生成西班牙語反美假信息；中國也以 AI 建立監視工具，實時搜集西方國家社交媒體的反中帖子。
OpenAI 星期五發布的安全威脅報告稱，該公司發現有中國團隊研發了在社交媒體搜集反中帖子的工具。OpenAI 將該工具命名為 “同行審閱” (Peer Review)，因為有研發者利用 ChatGPT 為其程式碼除錯。
此外，還有用戶以 ChatGPT 生成營銷該工具的宣傳文章，宣稱可將搜集的反中帖文報告送交中國安全部門。
《紐約時報》報道，OpenAI 首席研究員本‧尼默 (Ben Nimmo) 表示，這是該公司首次發現這種 AI 監控工具。OpenAI 已封鎖相關用戶帳號，因其已違反 “禁止使用 AI 進行通訊監視或未經授權個人監控” 的公司政策。
尼默及其團隊相信，該監控工具是以 Meta 公司的開源大型語言模型Llama為基礎。
用 AI 生成帖子攻擊蔡霞、翻譯反美文章
OpenAI 也發現，有中國用戶利用 ChatGPT 生成外宣內容，包括用於攻擊中國異議人士蔡霞的英語帖文，以及西班牙文的反美新聞報道。多篇文章都登上了拉丁美洲的新聞網站，其中某些簡短評論也出現在 X 平台，
OpenAI 將這項 AI 外宣行動稱為 “資助煽動” (Sponsored Discontent)。尼默表示，這也是 OpenAI 第一次發現中國外宣活動將長篇文章翻譯為西班牙語後，發布在拉美媒體。
他說：“如果我們不去了解他們使用 AI 的情況，就無法將那些 ( X 平台) 推文與網路新聞文章聯繫起來。”
已移除多個中國、北韓惡意活動帳號
OpenAI 自去年開始定期發布威脅報告。在星期五發布的最新報告中，OpenAI 表示已移除多個來自中國與北韓的帳號，
該公司表示，這些帳號利用 ChatGPT 從事惡意活動，而獨裁政權可能通過這些活動對付美國或本國人民。
OpenAI 也表示是利用 AI 工具偵測到這些惡意活動。報告並未說明移除帳號的數量，也未說明相關惡意活動的發生時間。
報告稱，北韓的惡意活動者利用 AI 生成虛構求職者的履歷和個人檔案，通過欺詐手段向西方企業求職。
另一組 ChatGPT 帳號則與一樁柬埔寨的 “殺豬盤” 詐騙活動有關，它們利用 AI 翻譯及生成帖子和評論，發布在 X 平台和 Facebook 等社交媒體。
美國政府已對中國涉及使用 AI 壓迫人民、散播假信息、以及危害美國及其盟邦的國家安全表達關切。
OpenAI 研發的 ChatGPT 是目前全球用戶最多的 AI 聊天機器人，每星期活躍用戶已超過四億人。該公司目前正商談以 3,000 億美元的估值籌集最多 400 億美元資金，可能創下私營企業單輪融資的紀錄。
(本文參考了路透社的報道)
論壇