南韓和英國將於本星期在首爾共同主辦第二屆全球人工智能安全高峰會（AI Safety Summit）。自去年11月首屆人工智能高峰會以來，AI的創新步伐驚人，各國政府正努力應對這日益增長的風險。
對於人工智能可能如何影響人類存在激烈分歧之下，英國首相辛偉誠（Rishi Sunak）和南韓總統尹錫悅將於星期二（5月21日）主持一場虛擬峰會，呼籲加強對人工智能的監管。
辛偉誠和尹錫悅在英國《i（資訊）報》和南韓《中央日報》發表的聯合署名文章「只有全球人工智能標準才能阻止逐底競爭（race to the bottom）」中表示，「儘管在塑造全球人工智能治理方面已做出積極努力，但仍存在顯著的差距」。
去年11月的會議被稱為“人工智能安全峰會”，但自那時起挑戰的範圍不斷擴大。根據峰會網站，週二開始的會議被稱為「人工智能首爾峰會」（AI Seoul Summit），並將討論3個優先事項：人工智能安全、創新和包容性。
5月17日發布的一份來自全球30多個國家專家支持的人工智能安全報告稱，「可能會出現大規模勞動力市場的影響、人工智能驅動的駭客或生物攻擊，以及社會可能失去對通用人工智慧的控制等風險”，儘管這些可能性仍存在爭議，這份報告稱：“但是......社會和政府的決定將決定人工智慧的未來。發展所帶來的風險不斷擴大的趨勢，不僅是人類的生存風險，還包括人工智慧不平等、數據稀缺、版權材料的使用以及人工智慧資料中心使用大量電力對環境造成的影響。
在去年11月在英國主辦的峰會上，特斯拉（Tesla）執行長馬斯克（Elon Musk）和OpenAI的執行長山姆·奧特曼（Sam Altman）與一些對他們最激烈的批評者進行了接觸，而中國則與美國和其他共20多個國家共同簽署了一份關於共同治理人工智能的《布萊切利宣言》（Bletchley Declaration），同意共同努力遏制人工智能快速發展所帶來的潛在「災難性」風險。
今年3月，聯合國大會通過了關於人工智能的首份決議，支持國際努力確保這項強大的新技術惠及所有國家，尊重人權，並確保其「安全、可靠和值得信賴」。
本月早些時候，美國和中國在日內瓦就人工智能舉行了首次高層會談，討論如何應對快速發展的技術風險，並制定共同的標準來管理。美國官員對中國「濫用人工智能」提出擔憂，而中國代表則譴責美國對人工智能的「限制和壓力」。
這次還不清楚誰將參與星期二的虛擬峰會，而星期三由英國和南韓部長主持的現場會議也尚未確定參與者。
根據活動網站的信息，星期三在韓國主辦的另一場人工智能論壇，預計與會者包括AI安全和研究公司Anthropic的共同創辦人傑克·克拉克（Jack Clark），以及來自OpenAI、Google DeepMind、微軟（Microsoft ）、元宇宙（Meta）和國際商業機器公司（IBM）等公司的高階主管。
（此文參考了路透社和美聯社的報導。）
論壇