白宮週五（7月21日）宣佈，拜登行政當局已與七家製造人工智能產品的公司達成自願協議，以製定旨在確保該技術安全開發的指導方針。
Your browser doesn’t support HTML5
人工智能公司與白宮就安全準則達成協議
“這些承諾是真實的，而且是具體的，”喬·拜登（Joe Biden）總統週五下午在對媒體的談話中說。“他們會幫忙......該行業履行其對美國人民的基本義務，即安全開發、可靠和值得信賴的技術，而該技術能造福社會並維護我們的價值觀和我們共同的價值觀。”
週五將企業領導人派往白宮的公司是亞馬遜（Amazon）、人擇（Anthropic）、谷歌（Google）、Inflection、Meta、微軟（Microsoft）和OpenAI。這些公司都在開發叫做大型語言模型（LLM）的系統，該系統使用大量的文本進行訓練，這些文本通常取自可公開訪問的互聯網，並使用預測分析來對話式地響應查詢。
創建流行的ChatGPT服務的OpenAI公司在一份聲明中表示，“這一過程由白宮協調，是在美國和世界各地推進有意義和有效的人工智能治理的重要一步。”
安全、安保、信任
白宮週五上午發布的該協議概述了三大重點領域：確保人工智能產品在廣泛可用之前讓公眾可以安全使用，構建安全且不能被濫用於意外目的的產品，以及建立公眾對開發該技術的公司的信任，以及它們的工作方式和收集的信息是透明的。
作為協議的一部分，各公司承諾在人工智能係統公開之前進行內部和外部安全測試，以確保它們可以讓公眾安全使用，並與公眾分享有關安全和安保的信息。
此外，該承諾要求公司保持強有力的安全保障措施，以防止無意或惡意發布不能面向公眾的技術和工具，並支持第三方檢測和揭露任何此類違規行為的努力。
再者，該協議規定了旨在建立公眾信任的一系列義務。其中包括保證人工智能生成的內容將如此標明；公司將提供有關其產品功能和局限性的明確信息；公司將優先考慮降低人工智能潛在危害的風險，包括偏見、歧視和侵犯隱私；最後，公司將把研究重點放在使用人工智能來“幫助解決社會面臨的最重大挑戰”上。
拜登政府表示，它正在製定一項行政命令，要求國會制定立法，以“幫助美國在負責任的創新方面處於領先地位”。
只是剛剛開始
美國之音(VOA)聯繫的專家都表示，週五宣佈的協議標誌著在有效監管新興人工智能技術的道路上邁出了積極的一步，但他們也警告說，在了解這些強大的模型可能造成的潛在危害和找到減緩危害的方法方面，還有更多的工作要做。
“沒有人知道如何監管人工智能——它非常複雜，而且在不斷變化，”喬治·華盛頓大學（George Washington University）教授、數字貿易和數據治理中心的創始人兼主任蘇珊·阿里爾·亞倫森（Susan Ariel Aaronson）說。
“白宮正在努力以有利於創新的方式進行監管，”阿倫森對美國之音說。“當你進行監管時，你總是希望平衡風險——保護個人或企業免受傷害——同時鼓勵創新，而這個行業對美國經濟增長至關重要。”
她補充說：“美國正在努力，所以我想讚揚白宮的這些努力。但我想說實話。目前做得夠嗎？不，還不夠。”
對話式計算
Unanimous AI公司的首席執行官兼首席科學家路易斯·羅森伯格（Louis Rosenberg）說，重要的是要做對這一點：因為像ChatGPT、谷歌的Bard和人擇的Claude這樣的模型，將越來越多地被內置到人們用來進行日常業務的系統中。
“我們正在進入一個對話式計算的時代，我們將與電腦交談，我們的電腦將會回話，”羅森伯格對美國之音說。“這就是我們將如何與搜索引擎接觸的方式。這就是我們將如何與應用程序接觸的方式。這就是我們將如何利用生產力工具的方式。”
羅森伯格在人工智能領域工作了30年，擁有數百項相關專利，他說，當談到“大型語言模型”與我們的日常生活如此緊密地融合在一起時，我們甚至不知道我們應該擔心的到底是什麼。
“許多風險尚未被完全了解，”他說。他還表示，傳統的計算機軟件是非常確定性的，這意味著程序的構建正是為了做程序員告訴他們做的事情。相比之下，大型語言模型的確切操作方式甚至對其創建者來說都是不透明的。
這些模型可能會表現出意想不到的偏見，可以鸚鵡學舌虛假或誤導性的信息，並且可以說出人們認為令人反感甚至危險的事情。此外，許多人將通過第三方服務（例如網站）與他們進行互動，該服務將大型語言模型集成到其產品中，但能夠以可能是惡意或操縱的方式定製其回應內容。
其中許多問題只有在大規模部署這些系統時才會變得明顯，但到此時它們已經被公眾使用了。
“這些問題尚未浮出水面，因此政策制定者還無法迎頭解決這些問題，”羅森伯格說。“我認為，積極的一面是，至少政策制定者已經預料到這些問題了。”
需要更多利益相關者
蘭德公司（RAND Corporation）政策分析師本傑明·布德羅（Benjamin Boudreaux）對美國之音說，目前尚不清楚週五的協議會對公司的行為產生多大的實際變化。
“公司在這裡同意的許多事情都是公司已經做的事情，所以目前尚不清楚這項協議是否真的改變了他們的大部分行為，” 布德羅說。“因此，我認為國會和白宮仍然需要採取更多的監管方法或採取更多行動。”
布德羅還表示，隨著行政當局不斷充實其政策內容，它將不得不擴大對話參與者的範圍。
“這次只是一組私營部門實體；沒有包括需要參與有關這些系統風險討論的全套的利益相關者，”他說。“被排除在外的利益相關者包括一些獨立評估者、公民社會組織、非營利組織等，它們實際上會進行一些風險分析和風險評估。”