“想知道附近的天氣如何?交通怎麼樣?有甚麼當地的大事兒?加入NewsBreak社群,看看為什麼4500萬人都在使用這個應用程式!”這是目前美國下載量排名前三的免費新聞應用NewsBreak在蘋果應用程式裡對自己的介紹。
但是,隨著路透社6月5日發表的一篇有關NewsBreak使用人工智能(AI)傳播假新聞及其中國背景的報道,這個新聞應用程式再次進入了美國政界人士的視野。到目前為止,至少有三名美國議員要求對其加強審查。
美國國會議員們的警覺
2021年6月,美國總統拜登(Joe Biden)曾要求對來自中國等外國對手的應用程序構成的安全風險展開評估,當時表現突出的News Break和同樣來自中國的短視頻應用程序TikTok和社群媒體平台WeChat都曾引發關注。今年4月,拜登總統簽署法律,要求TikTok的母公司字節跳動(ByteDance)出售TikTok,否則面臨被禁用。
美國參議院情報委員會民主黨籍主席馬克·沃納(Mark Warner)在發給美國之音的一份聲明中說:“比起發布未經審查的人工生成的新聞,更可怕的是這家公司與敵對外國政府關係密切。”
他補充說:“這是另一個來自令人擔憂國家的技術構成嚴重威脅的案例。它也清楚地提醒我們,我們需要一個整體方法來應對這一威脅。我們根本無法在打地鼠遊戲中擊敗個體公司。”
美國眾議院中共問題特設委員會首席民主黨眾議員拉賈·克里希納莫提(Raja Krishnamoorthi)在發給美國之音的一份聲明中說:“美國人有權要求新聞發行商對其與中國共產黨的任何關聯的'完全透明',隨著不透明的演算法和人工智能在新聞聚合中的作用日益增強,此類披露比以往任何時候都更加重要。”
據路透社報導,美國共和黨眾議員愛麗絲·斯特凡尼克(Elise Stefanik)則表示:“我們不能允許外國對手獲取美國公民的數據,將其作為武器來對抗美國的利益。”她還說,由於NewsBreak背後有來自北京的IDG資本,這顯示,有必要對該應用程式“加強審查”。
與中國的聯繫
擁有110萬評論,4.8星好評的NewsBreak是中國資訊聚合平台“一點資訊”的共同創辦人鄭朝暉2015年在矽谷二次創業建立的Particle Media 公司推出的。與“一點資訊”一樣,也是一個聚合型資訊網站。其營運模式類似中國的“今日頭條”應用,匯集包括路透社(Reuters),美國福克斯新聞(Fox News),美聯社(AP)和美國有線電視新聞網(CNN)等媒體的資訊。同時,該應用程式也從各地區的當地媒體吸取訊息,並使用人工智能(AI)將其寫成報導。
NewsBreak總部位於加州山景城,在北京和上海也設有辦公室。目前該應用的兩個主要股東分別是總部位於舊金山的私募股權公司Francisco Partners以及北京的IDG資本(IDG Capital)。 IDG資本今年2月被納入五角大廈說據稱與中國軍方合作的幾十家中國公司公司的名單。
美國之音聯繫了NewsBreak應用程序,詢問該平台具體採取了的哪些方法來確保內容的真實可靠性以及與中國的關係,但到截止日期前沒有收到回應。
但是,兩年前,在美國政府對NewsBreak進行風險評估時,NewsBreak品牌行銷副總裁格雷格·維德曼(Greg Vederman)曾告訴美國之音,NewsBreak是美國創立,美國投資的公司。
他說:“News Break是一家美國企業,是在矽谷快速發展的新創公司…我們的董事會主席是前微軟高階主管哈利舒姆(Harry Shum)。雅虎共同創辦人、前執行長楊致遠是我們的首席顧問。在服務的伺服器上,我們遵守所有美國資料安全和隱私法。”
NewsBreak和中國新聞聚合應用“一點資訊”分享2015年在美國註冊的興趣引擎專利(Interest Engine),即根據用戶的興趣和地理位置來推送相關新聞。
不過,根據路透社採訪的七名前NewsBreak僱員的說法,應用演算法的大部分工程工作都是在中國辦公室完成的。但路透社的報導同時表示,在調查中沒有發現NewsBreak審查或製作有利於中國政府新聞的證據。
受中國政府影響的可能
不過,新美國安全中心(CNAS)技術與國家安全計畫前研究助理艾尼基‧里科寧(Ainikki Riikonen)先前對美國之音表示,北京若想插手,並非不可能。里科寧解釋說,考慮到投資者和資金注入,NewsBreak當然不能免於中國壓力。
“我絕對明白為甚麼中國政府可能有理由去想,有沒有辦法以這樣或那樣的方式影響演算法?是否有某些類型的當地新聞可能會導緻美國人和政府機構之間的不信任?這裡當然有風險,但我認為情況還有待觀察。”
美國國務院去年9月公佈的報告說,中國正在花費數十億美元在全球散佈假訊息。越來越多的研究表明,如果說中國過去的影響力運動一直在專注“講好中國故事”的話,但現在中國的戰術改變了,他們更傾向更直接地嘗試在美國製造不和。
2023年8月當毀滅性的山火迅猛橫掃毛伊島時,中國的資訊鬥士們號稱這場災難不是自然災害,而是美國進行秘密“氣象武器”實驗的結果。為了增強可信度,這些貼文還配有看來是用人工智能程式產生的圖片。
虚假訊息泛滥
NewsBreak將自己稱為“本地消息通”(the go-to source for all things local),承諾要“恢復當地新聞生態系統”。它根據演算法以及讀者的瀏覽歷史記錄來選擇為用戶推送的文章,是一個由AI驅動的基於讀者興趣的新聞引擎。
但最近一段時間,NewsBreak因為傳播假新聞的指稱而麻煩連連。 2023年12月27日,NewsBreak應用程式曾發表了一篇聲稱新澤西某小鎮發生槍擊的內容,而此後當地警察部門闢謠,稱這完全是用人工智能散佈的虛假新聞。
今年前三個月,一家科羅拉多州的食物銀行指控NewsBreak在發表的文章中分享了錯誤的分發食物的時間,導致該慈善機構工作受阻。另一家位於賓州的慈善機構也抱怨說,NewsBreak使用人工智能寫出的文章錯誤刊登了其為弱勢群體開展義診的訊息。
據路透社的報導,自2021年起,至少有40宗有關NewsBreak報道負面影響其服務社群的案例,包括用人工智能發佈含有虛假資訊的報導。
“生成式人工智能從其他資訊來源進行總結和創作的時候,經常會出現錯誤的訊息,我們將其稱之為人工幻覺(hallucination),”非政府組織自由之家科技與民主事務高級研究員凱恩·威斯泰因松(Kian Vesteinsson)告訴美國之音。
“我想現在已經非常清楚,像NewsBreak這樣的聚合新聞應用用人工智能向讀者推送不實訊息,普通人很難能夠識別這些人工幻覺。我想已經有足夠的證據顯示,這樣的新聞應用正在侵蝕人們獲得自己社區內可靠資訊的能力。”
對於有關假新聞的評論,NewsBreak網站回應說,他們正在“移除所有低品質的出版內容,以確保讀者獲得的資訊真實可靠。”
相較於假新聞和中國聯繫,自由之家的威斯泰因松更擔心目前對美國用戶個人資料的缺乏保護。
“實際上,一個應用程式是中國公司所有,還是由身在中國的工程師來管理並沒那麼重要,重要的其他人非常容易購買我們的資料。大部份美國人的私人資料並沒有受到法規保護,所以我們的個人資料在市場上被肆意售賣,”他說。
他認為,隨著AI的廣泛使用,像NewsBreak這樣的公司會越來越多。這類公司不受監管將進一步削弱大衆獲得可靠資訊的能力。 “這是政府需要設立監管措施,並且將大衆獲得可靠資訊的需要考慮在內。”他說。
威斯泰因松說,比起NewsBreak, 他更建議大衆去當地的媒體來獲得資訊。
“我會告訴一個NewsBreak用戶,去找你們當地的報紙,找到它的社群媒體帳號或是網站,去那裡看看你的社區在發生什麼,”他說,“我們得確保自己獲得的資訊是真實可靠的,往往你可以在當地的媒體找到答案。”