美國一名前情報部門研究項目官員說，專制政權在未來可能更依賴人工智能，而不信任他們的人類下屬。
美國國家情報總監辦公室下屬的情報高級研究計劃署（IARPA）前主任傑森馬西尼（Jason Matheny）星期二（10月23日）在華盛頓說：“專制政權對人工智能有很強的興趣，因為人工智能讓專制政府的韌性倍增。我認為，俄羅斯和中國對人工智能較早地應用相當程度上就說明了這一點，當然也有人把這些應用視為缺乏理智的狂熱。”
馬西尼此前領導IARPA的量子計算、生物武器、核擴散問題和神經系統科學研究。他認為，人工智能加強了專制國家的監控能力。
他說：“如果你在行使自己的政治意誌時，對自己的人力資本十分不信任，可能是因為政治領導層或政黨領導層和你目標不同，那麼你就會對自主化很感興趣。如果你同時也認為，你的政治制度如果缺乏無所不在的高度監控就無法成功，那麼你也會對人工智能產生高度的興趣。”
中國和俄羅斯都從戰略著眼，希望在人工智能技術方面領先全球。
“中國製造2025”計劃投資3千億美元，用於發展包括人工智能在內的高新技術產業。俄羅斯總統普京也說，人工智能“不僅是俄羅斯的未來，而且是整個人類的未來…這個領域的領軍者將主宰世界”。
馬西尼說：“我對中國和俄羅斯對人工智能的狂熱感到擔心的是，這一技術可能被用於監控、可能被用於信息戰…所以像普京那樣的表述並不讓人驚奇，我們看到專制政權正在朝這個方向前進。
馬西尼還說，美國政府則對人工智能中自主化科技有更多的警惕。他說：“在美國，對自主化有更多不同的看法。比方說，美國國防部的指令要求我們在確定目標時要有'有意義的人類控制'，我想這在一定程度上說明我們相信人類控制在這個領域的重要性，即便是低等級的人類下屬，我們也要讓他們參與到這些決策中。這就是普京對自己的屬下所沒有的信任。”
人權組織說，中國政府在新疆地區使用人工智能、人臉識別等技術手段，大規模監控境內的維吾爾人，並將數十萬、甚至上百萬維吾爾人關進“再教育營”。
北京否認有關新疆再教育營的存在。新疆官員說，當局設立“職業技能教育培訓中心”，目的是為了阻止極端主義傳播和提供就業和語言培訓。
華盛頓智庫戰略與國際研究中心（CSIS）技術政策項目高級研究員薩姆薩克斯認為，在關注新疆問題的同時，不能否認人工智能給中國人的生活帶來的實際便利。
“新疆正在發生的事駭人聽聞。但我們也知道，這些科技也在中國的經濟中通過其他的方式被使用，給人們帶來了重要的益處。”薩克斯在這場研討會上說：“任何分析家、長期的中國觀察家都很清楚，矛盾就是中國問題中最本質的東西，不是非黑即白。”
薩克斯認為，對所有在中國市場的美國科技公司來說，道德判斷和市場利益都是必須直面的問題，但退出中國市場並不現實。
她以谷歌公司舉例說：“我們知道，圍繞谷歌要把一個審查版的搜索引擎帶入中國的消息有很多爭議。如果你去問中國用戶，你要不要一個審查版的谷歌？他們會告訴你，百度是如何非法、不誠實、不道德，讓中國用戶有一個受審查的谷歌的淨效益可能是更好的。這裡有一些重要的道德意義。我們需要坦率地對話，而不是非黑即白地去看待這些問題。”
中國互聯網巨頭百度上星期加入人工智能合作組織，成為這一以美國公司為主導的人工智能倫理研究組織的第一個中國大陸會員。該組織旨在為人工智能領域的研究提供倫理學指導，包括防止人工智能發展侵犯國際公約和人權。
