南韓總統尹錫悅於週二(5月21日)同英國首相辛偉誠（Rishi Sunak）以視訊連線形式聯合主持“人工智慧首爾峰會”(AI Seoul Summit)，這場會議發表了人工智能(AI)以“安全、創新、包容”三大原則的《首爾宣言》和《關於AI安全科學的國際合作首爾意向書》。這項宣言強調了加強國際合作以開發“以人為本、值得信賴和負責任”的人工智能的重要性，以使該技術能夠用來解決世界性難題，以增進民主、保護人權，彌合全球數位鴻溝。
該宣言和意向書由七國集團(G7)國家、新加坡、澳洲和南韓等10個國家與歐盟簽署。這10國和歐盟達成了一項新協議承諾各國共同努力建立一個國際網絡，以加速人工智能安全科學的進步。南韓總統辦公室表示，各國已同意優先考慮人工智能的安全、創新和包容性。
根據韓聯社報導，尹錫悅週二在青瓦台迎賓館以視訊連線形式主持峰會並致開幕詞時首先表示，作為國際社會負責任的一員，韓國將推動人工智能朝著安全、創新、包容的方向發展。本次會議將成為凝聚南韓的《數位權利憲章》、聯合國大會涉全球AI決議、G7的「廣島AI進程」等，推動全球AI規範和治理結構發展的契機。
尹錫悅表示：“我們必須確保人工智能的安全，以保護我們社會的福祉和民主。”他並指出了對深偽（deepfake）等風險的擔憂。
《首爾宣言》指出，人工智能安全、創新、包容是相互關聯的目標，國際社會有必要將其列為全球AI治理結構的首要議題。各方敦促透過以人為本的人工智能技術解決全球難題，以增進民主、法治、人權、自由等價值，並加大隱私保護力度，消除數位和AI鴻溝，從而提升人類福利水準。
促進人工智能模式安全的組織METR的創始人貝絲·巴恩斯(Beth Barnes)在回應該宣言時表示：“在'紅線'上達成國際共識至關重要，因為人工智能的發展將對公共安全造成不可接受的危險。” 微軟、元宇宙（Meta）、IBM、xAI等相關企業與會。
在各國監管機構努力跟上人工智能快速創新和新出現的風險之際，據路透社報導，16家人工智慧開發前沿的公司在周二的首爾會議上承諾安全地開發AI技術。做出安全開發人工智能技術承諾的企業還包括由阿里巴巴集團支持的北京開發商智譜AI(Zhipu.ai)、騰訊、美團、小米等中國公司，以及阿聯酋技術創新研究所(Technology Innovation Institute )在內。
這些公司承諾發表衡量風險的安全框架，避免無法充分緩解風險的模型，並確保治理和透明度。
這次“人工智能首爾高峰會”是去年11月在英國舉行的首屆人工智能安全高峰會的後續會議。本次會議首次達成首腦協議，議題也從安全擴至創新與包容，成為唯一共商AI治理結構的首腦級平台。下次會議將在法國舉行。
（本文參考了韓聯社和路透社的報導。）
論壇