網信辦推出貫徹“習思想”的聊天機械人 中國人工智慧恐淪為笑柄?

中國領導人習近平(2024年5月16日)

中國網信辦日前推出一款號稱透過習近平思想理論檢驗的AI聊天機械人,稱其智慧問答功能保證產生內容的權威、準確。分析指出,這個模型目前雖然只是內部宣傳和學習工具,但一旦推廣可能成為AI時代中國輿論的框架標準;讓AI機械人以自然的語言重複陳詞濫調更是反映出中國目前言論環境的荒謬。

網信辦推出聊天機械人,讓“習思想”“永垂不朽”

由主管中國網絡審查的中國“網信辦”主辦的《中國網信雜誌》微信公眾號5月21日(星期二)宣布,網信辦組建的研究機構開發了一款“網信研究大模型應用” 。這款類似於生成式人工智慧(AI)聊天機械人ChatGPT的工具根植於“習近平新時代中國特色社會主義思想知識庫”,已經“上線並內部試用”。

這項消息立刻受到西方傳媒的關注。英國小報《太陽報》(The Sun)網路版的一篇報道說:“中國據報透過人工智慧(AI) 驅動的聊天機械人,讓習近平主席和他的價值觀永垂不朽。”

中國網信辦的官方解釋說,除了“習近平思想庫”外,該大模型語料庫的來源還包括“網信知識總庫”等其它6個的“網信專業知識庫”。網信辦說,使用者可以自主選擇不同類別的知識庫進行“智慧問答”,“語料庫的專業性、權威性保證了生成內容的專業性”。

在技術方面,此模型應用基於中國已經備案的商用預訓練語言模型,可以做到網信領域的智慧問答、文稿生成、概括總結、中英互譯等多種功能。

網信辦“習近平思想GPT”僅限內部使用,究竟如何運作、功能如何實現,目前尚不清楚。 “網信”的全名是“網路安全和資訊化”,“網信研究”這一艱澀的概念也並非普通用戶感興趣的話題。不過,網信辦這一負責中國網路審查、網路安全的主管部門,推出這款形似ChatGPT的應用程序,還是引發外界的眾多揣測。

令人不安的(發展)趨勢

有分析說,這款內部測試使用的聊天機器人以時髦新科技包裝最高領導人的指導思想,沒有實質意義,不應過分解讀。

長期觀察中國媒體環境的美國獨立學者金培力(Philip J. Cunningham)說,網訊辦發布根植於“習思想”的聊天機械人的消息“反映了一種令人不安的趨勢”。

金培力透過書面方式對美國之音說:“即使毫無意義,也要將習近平插入到每篇新聞報道、每一個新發展之中。”

至於如何應用這款程序,網信辦的文章舉例說:如果想快速列出關於人工智慧發展現狀的報告提綱、想知道“新質生產力”和傳統生產力的不同之處,網信研究大模型應用能夠迅速生成這些內容。

分析認為,這顯然是配合宣傳習近平今年提出的“新質生產力”概念,也是為了在AI時代,當局為了進一步統一官方論述,以至上而下的方式對種種社會和經濟問題的作出解釋。

長期研究中共意識形態領域的英國牛津大學當代中國研究講師讓·克里斯多弗·米特爾施泰特(Jean Christopher Mittelstaedt)對美國之音說:“我認為這部份是為了排擠社會上流傳的不一致的輿論或謠言。”

米特爾施泰特同時強調,這款計畫的有效性取決於它如何推廣。他說:“我看不到任何非黨員幹部會使用這個模型的理由。這讓我認為它更適合內部使用。”

網信辦模式與AI模型開源原則相悖

另一方面,網信辦強調這款AI程式的資料資料來源的“權威性”,只依托“習近平思想”等有限的7個“知識庫”,這與國際大語言模型的成功基礎--開源性--背道而馳,這讓它的成功可能大打折扣。

“人工智能要靠龐大的資料集才能蓬勃發展,而習近平思想的資料集十分窄小,大部分缺乏有用的資訊。”媒體觀察家金培力說。

他說,這對中國科技的影響將是讓“重新回鍋的宣傳削弱了科學探究的精神,取而代之的是一種(個人)迷信。”

中國網信辦說,其AI機器人“將支援用戶自訂新建知識庫,可透過載入使用者自己上傳的公開資料、個人文件進行分析推理,進一步拓展使用者的個人化使用範圍”,但沒有說明這一功能將如何實現。

督促黨員學“習”的有力手段

不過,牛津大學的米特爾施泰特認為,這款AI機器人的用武之地可能在於,它能讓零散的“習語錄”重新匯總起來,讓黨員幹部沒有理由不去學好“習近平思想”。

在此之前。中共中宣部已經在2019年推出集新聞、通訊和社交為一體的“學習強國”理論學習平台,米特爾施泰特說,網信辦這次推出的大語言模式有可能讓“學習強國”注入AI新動力。

“我可以想像這個模型可以融入‘學習強國’這樣的應用程序,後者已經提供了一個學習政策、學習習近平講話的平台。”米特爾施泰特說:“這將為黨員和幹部提供一種更容易的方式,讓他們查閱和“學習”政策和習近平的指示。”

他說,這將方便黨中央鞭策那些不“好好學習”的官員:“參與決策的黨員和幹部將沒有理由不清楚(上級)對他們的要求是什麼、沒有理由不清楚習近平對某個問題的指示是什麼。變得更容易,因為幹部沒有理由不知道。”

中國的人工智慧恐淪為笑柄?

分析指出,中國網信辦推出這樣一款AI聊天機器人,反映出了一種矛盾和諷刺:當局試圖讓AI機器人用更自然的人類語言去強化一個越來越不人性的言論環境。

中國網信辦等部門去年7月已經透過頒佈一部管理辦法,試圖對生成式人工智慧(generative AI)的資訊輿論導向進行管制。這部暫行辦法規定,具有輿論屬性或社會動員能力的生成式人工智慧服務商,必須進行安全評估,並對演算法備案等級。

牛津大學的米特爾施泰特說,網信辦推出的這款AI機器人如果面向大眾,有可能成為一般商用AI模式的運作基準。他說:“這一版本很可能會被視為制定可接受言論框架的權威表述。”

對中國新聞界有多年觀察經驗的金培力認為,中國官方媒體節目中的受訪者的說話方式越來越僵硬,諷刺的是,當局推出了一款透過習近平理論檢驗的大語言模型,讓AI機器人用更自然的人類語言“重複這些無稽之談”。

“習近平宣傳的氾濫已經破壞了中國脆弱的新聞生態系統,它很可能以同樣的方式讓中國人工智慧成為笑柄。” 他說。