美國呼籲科技公司在人工智能方面“有所作為”

  • 塞爾丁

2023年3月21日波士頓,“開放人工智能”(OpenAI )徽標在電腦屏幕前的手機上,電腦屏幕顯示的是ChatGPT 的輸出。(美聯社照片)

科學家和高級科技公司官員警告說,人工智能可能會導致人類的終結。對此,美國主要網絡安全機構負責人向他們發出了一個訊息:採取行動。

Your browser doesn’t support HTML5

美國呼籲科技公司在人工智能方面“有所作為”

“如果你真的認為這些能力會導致人類滅絕,那麼,讓我們團結起來做點什麼,”美國網絡安全和基礎設施安全局(Cybersecurity and Infrastructure Security Agency)局長簡·伊斯特利(Jen Easterly)週三(5月31日) 告訴聽眾們。

“當我們試圖建立一個監管框架時,請考慮自我監管,”她在華盛頓舉行的Axios News Shapers活動中說。“想想你能做些什麼來減緩這一進度。”

就在伊斯特利發表上述評論的前一天,350多名研究人員和技術高管就人工智能(AI)的危險發出了一句話的警告。

“減輕人工智能滅絕人類風險應該與流行病和核戰爭等其他社會規模的風險一起成為全球優先事項,”他們在人工智能安全中心(Center for AI Safety)網站上的一篇文章中說。

簽署該警告的人包括Chat GPT的母公司“開放人工智能”(OpenAI)的聯合創始人兼首席執行官、微軟的首席技術官、谷歌人工智能研究實驗室的首席執行官和有時被稱為“人工智能教父”的杰弗里·辛頓(Geoffrey Hinton)。

值得注意的是,辛頓在五月初辭去了他在谷歌的工作,專注於警告其他人人工智能的危險。

美國政府官員,如網絡安全和基礎設施安全局局長伊斯特利,也一直在警告人工智能帶來的危險。

“人工智能將成為我們這個時代最強大的能力,”伊斯特利在本月早些時候的一次演講中對范德比爾特大學(Vanderbilt University)的學生們說。

“我相信它也將成為我們這個時代最強大的武器,”她補充說。“雖然一個人會使用這項技術來計劃一場晚宴,但另一個人或許將使用這種能力來計劃網絡攻擊或恐怖襲擊。”

伊斯特利此前曾呼籲對人工智能技術和產品進行“智能監管”,並警告說,與其他技術一樣,科技公司過於專注於將人工智能產品快速推向市場,而沒有對安全性給予足夠的關注。

5月初時,她說美國網絡安全和基礎設施安全局已經與科技公司就人工智能的發展方向進行了討論。

今年4月,網絡安全和基礎設施安全局的上級機構--國土安全部發起了自己的倡議,以應對人工智能帶來的危險。

“我們必須解決人工智能將徹底改變威脅格局並增強我們擁有的工具庫的多種方式,以成功地應對這些威脅,”國土安全部部長亞歷杭德羅·馬約卡斯(Alejandro Mayorkas)當時表示。