美國商務部長雷蒙多(Gina Raimondo) 星期二（5月14日）發佈美國有關人工智能安全戰略願景，並宣佈了與美國的盟友與夥伴的人工智能安全研究所之間進行國際合作的計劃。當天，全球領先的人工智能公司在首爾舉行的人工智能峰會上做出了安全開發人工智能的新承諾。
商務部發佈人工智能安全研究所的戰略願景
美國商務部在人工智能首爾峰會召開之際發佈的有關美國人工智能安全研究所（AISI）的戰略願景概述了該研究所計劃採取的步驟，以推進人工智能安全的科學並促進安全和負責任的人工智能創新。
“人工智能領域的最新進展為我們的社會帶來了令人興奮的、改變生活的潛力，但前提是我們必須努力減少人工智能在不負責任地開發和部署的情況下所存在的真實危險，”商務部長雷蒙多在一份聲明中說。
她表示，這正是美國人工智能安全研究所每一天的工作重心。該研究所的美國科學家與民間社會、學術界、產業界和公共部門進行充分接觸，以便了解和降低人工智能的風險，其根本目標是利用人工智能的好處。
雷蒙多今年2月宣佈了人工智能安全研究所管理團隊的關鍵成員。這個研究所設在商務部的美國國家標準與技術研究院（NIST）。該研究院一直在展開有關人工智能的工作。
雷蒙多說，人工智能安全研究所旨在解決該領域的關鍵性挑戰，包括前沿人工智能缺乏標準化的衡量指標、欠開發的測試和驗證方法以及在人工智能安全問題上國家層面和全球協調不足等。
她說，該研究所將專注於三個關鍵目標：
- 推進人工智能安全的科學；
- 闡明、演示和傳播人工智能安全的實踐；
- 支持涉及人工智能安全的機構、社區和協調。
為了實現這些目標，人工智能安全研究所計劃進行先進模型和系統的測試，以評估潛在和新興風險；制定有關評估和風險緩解等方面的指導原則以及開展和協調技術研究。
雷蒙多明確表示，這個戰略願景突出強調了與美國的盟友通過有關人工智能安全的全球科學網絡進行合作的重要性，即確保有關人工智能的道路規則由美國及其全球的夥伴來制定。
“安全促進創新，因此我們必須做對這件事，而且與我們在世界各地的合作夥伴一起這樣做，以確保人工智能的規則是由維護人權、安全和信任的社會來制定的，”她說。
這份戰略願景是美國商務部在人工智能問題上採取的最新舉措。今年早些時候，人工智能安全研究所宣佈成立一個財團，以幫助實現拜登政府去年十月底就人工智能技術發佈的行政命令中的目標。今年4月，商務部在人工智能安全研究所的領導團隊中增加了五名新成員。同月，雷蒙多與英國簽署了一份專注於人工智能的諒解備忘錄。
人工智能首爾峰會召開
在商務部宣佈這份戰略願景之際，谷歌、Meta和OpenAI等公司在人工智能首爾峰會上做出了自願的安全承諾，包括在無法控制最極端風險的情況下停止使用他們的尖端系統。
這次為期兩天的會議是去年11月在英國布萊切利公園舉行的人工智能安全峰會的後續會議。由於生成式人工智能的迅猛發展引發了有關人工智能對人們的日常生活乃至人類構成潛在風險的擔憂，各國政府和國際組織正在做出各種努力為這項技術制定圍欄。
雷蒙多出席了在英國舉行的人工智能安全峰會，但沒有參加在首爾的這次峰會。
啟動人工智能安全研究所的全球網絡
雷蒙多同時宣佈，商務部和人工智能安全研究所將通過與其他的人工智能安全研究所和那些政府支持的專注於人工智能安全並致力於國際合作的科學機構進行有意義的合作，來幫助啟動一個有關人工智能安全的全球性科學網絡。
美國的人工智能安全研究所此前與英國、日本、加拿大和新加坡的人工智能安全研究所以及歐洲人工智能辦公室及其附屬機構等建立了合作關係。
雷蒙多說，藉助於韓國與參加首爾人工智能峰會的其他美國合作夥伴在《首爾關於人工智能安全科學國際合作的意向聲明》中達成的基礎性理解，美國啟動的這個網絡將加強和擴大此前的合作關係，並催生有關人工智能安全的科學和治理的國際協調的新階段。
商務部說，為了進一步促進該網絡之間的合作，人工智能安全研究所計劃在今年晚些時候在舊金山地區召集國際人工智能安全研究所和其他利益相關方的會議。該研究所最近在灣區設立了辦事處，並將利用這個硅谷這個地理位置來招募更多人才。
英國技術大臣最近也表示，其人工智能安全研究所將在美國的舊金山灣區開設它在海外的第一個辦事處。
在加強與關鍵盟友在人工智能安全上的合作的同時，美中兩國官員5月14日在瑞士舉行了閉門會談，就人工智能的風險和安全問題進行了討論。
華盛頓 —