本月，歐盟委員會主席烏爾蘇拉·馮德萊恩召集高級官員，在布魯塞爾郊外一座19世紀宮殿舉行了一場閉門會議。
會議的目的是為一場闡述這個27國集團未來一年優先事項的演講做準備，人工智慧佔據了議程的核心位置。歐洲新任人工智慧事務主管、德國工業巨頭西門子董事長吉姆·哈格曼·斯納貝介紹了歐洲可以如何利用這項技術獲取經濟利益。據兩位了解會議情況的人士透露，其他人則對人工智慧安全和日益增長的風險提出了擔憂。
其中一名知情人士說，自9月4日的會議以來，馮德萊恩和她的委員們一直在思考，究竟應該如何應對這項飛速變化的技術。他們是否應該加強監管，以應對人工智慧新出現的危險？還是說，如果其他國家並未採取同樣嚴格的限制，這樣做反而會帶來經濟和地緣政治代價？
他們尚未得出任何最終結論，今年還計劃在歐洲領導人之間進行更多討論。
馮德萊恩9月16日在發盟情咨文時說：「人工智慧既帶來機遇，也伴隨著風險。如果不解決這些風險，我們就永遠無法釋放人工智慧的潛力。」
類似比利時這場會議的討論幾乎正在世界各地上演，許多政府都在努力應對一項已經迅速超出其回應能力的技術。人工智慧演進如此之快，以至於兩年前通過的法律已經只能發揮有限作用，旨在監管這項技術的法案遲遲無法獲得表決，而討論如何應對人工智慧的國際峰會也很快被人遺忘。
根據對立法者、技術專家和政策專家所做的20多個採訪發現，人工智慧已經使政策制定與技術發展之間的差距擴大到了前所未有的程度。許多政府一方面希望利用人工智慧，另一方面又擔心它帶來的風險。同時，它們還受到國內政治、技術知識不足、地緣政治分歧，以及不願在這場可能影響未來數十年經濟實力和國家安全的競爭中落後的心態牽制。
許多國家正在等待兩個領先的人工智慧大國——美國和中國——出台各自的人工智慧政策，好據此確定自己的方向。然而在美國，川普政府在人工智慧安全問題上存在分歧，川普總統表示監管會損害創新並將優勢讓給中國。中國也對人工智慧實施了一些規定，尤其是對聊天機器人內容進行審查，但同時也在加速推進技術發展。
劍橋大學「人工智慧：未來與責任」項目主任、歐盟一個人工智慧諮詢委員會的成員肖恩·奧海格爾泰格他說：「人們總有一種假設，覺得這個問題上總會有一些成熟理性的人在掌控局面，但其實根本沒有。這正是整件事讓人如此恐懼的原因。」
結果就是出現了政策真空，Anthropic、OpenAI等人工智慧公司基本上是自行約束。歐盟雖然在2024年通過了一項監管人工智慧的法律，但實施起來已經耗費數年時間，而且有人認為，考慮到技術進步，這部法律已經需要更新。印度、日本、澳洲、加拿大和肯亞採取了較為寬鬆或觀望的做法，巴西則正在討論更全面的監管規定。
要求採取行動的壓力正在上升，尤其是在Anthropic、OpenAI和谷歌DeepMind的負責人最近呼籲放慢最先進人工智慧模型的開發速度、加強政府監管之後。研究人員描述了一些可能出現的情境：能夠自我改進的人工智慧可能擺脫人類控制，並造成災難性破壞。美國公眾輿論已轉向反對人工智慧，《紐約時報》最近的一項民調顯示，61%的可能選民反對興建用於支持人工智慧的數據中心。
上週，這些政策難題體現得格外明顯。週四在華盛頓，川普與中國國家主席習近平強都強調了人工智慧對各自國家的重要性，但雙方並未就安全規程達成一致。美國和中國是世界上領先的人工智慧開發國，它們之間的合作對國際安全標準至關重要，但同時也是競爭對手，不願讓對方獲得技術優勢。
上週在紐約舉行的聯合國大會上，許多世界領導人都認同有必要應對人工智慧帶來的危險，而川普則表示，美國將拒絕「任何構建全球化方案來控制」這項技術的企圖。
安全專家警告說，在人工智慧普及到難以再實施監管之前，能夠採取行動的關鍵時間正在飛快過去。
英國議會議員達倫·瓊斯曾在前首相基爾·斯塔默政府負責人工智慧和科技政策。他說：「政府以年為單位考慮事情，而不是以周或月為單位。從制度上說，我們根本沒有為跟上這種發展速度做好準備。」
（《紐約時報》已起訴OpenAI和微軟，指控其人工智慧系統侵犯新聞內容版權。OpenAI和微軟均否認相關指控。）
一部淪為前車之鑒的法律
2024年，歐洲通過了世界上第一部全面的人工智慧法律。《人工智慧法案》旨在對這項技術最具風險的用途施加保障措施，歐洲領導人當時把它譽為人工智慧監管的藍圖。
兩年後，它卻成了一個前車之鑒。
由於政策優先事項發生變化，以及人們擔心監管可能削弱歐洲相對於美國和中國的競爭力，這部法律的實施進度被拖慢。有關高風險人工智慧用途的一些最重要的規定已經被推遲。人手和預算限制也進一步增加了執法難度。
《人工智慧法案》最初於2021年初提出，當時距離OpenAI發布ChatGPT還有18個月。這套規定原本旨在處理人臉識別軟體等問題，後來又作出修改，以涵蓋OpenAI的GPT等強大的新型通用人工智慧系統。
但自這部法律在2024年通過以來，技術發展只變得更快。如今，人工智慧最前沿的發展已經轉向所謂的「智能體」，這類系統在幾乎沒有人類監督的情況下就能自主行動。企業甚至已經開始設想這樣一天的到來：人工智慧能夠自行創造下一代人工智慧。
「通過這部法的時候，我們甚至無法想像人工智慧現在能做什麼，」歐洲議會議員瓦萊麗·海爾在最近的新聞發布會上談到《人工智慧法案》時說。她說該法是超前的，但「我們必須適應」。
歐洲面臨的挑戰更加嚴峻，因為它在人工智慧領域落後於美國和中國。去年，這項法案通過僅六個月後，法國總統埃馬紐埃爾·馬克宏表示，歐洲有可能試圖監管一項它沒有參與塑造的技術。
「如果我們讓美國人和中國人獨享所有領軍企業，有一點是確定的：我們可能擁有世界上最好的法規，但我們什麼都監管不了，」他說。
這項法規的局限性正越來越顯著。7月，OpenAI的模型突破了受限測試環境，入侵了AI初創公司Hugging Face。但由於入侵發生在測試期間，處於執法的灰色地帶。《人工智慧法案》通常豁免模型在歐洲發布之前所做的研究和測試。
歐盟委員會官員、《人工智慧法案》的主要起草人之一加布裡埃萊·馬齊尼已於2024年辭職。他表示該法的實施和執行情況令人失望。
「他們的目標是先通過法律，然後再考慮實施，」他說。「法律與其監管的現實之間存在脫節。」
與美國之間也存在脫節。
緊迫感的缺失
麻薩諸塞州民主黨眾議員洛裡·特拉漢表示，當她4月讀到Anthropic警告其最新AI模型Mythos對公眾過於危險時，她目瞪口呆。Anthropic表示，該模型在發現軟體漏洞方面的非凡能力可能導致一場網路安全的「滅頂之災」。
當天在眾議院投票期間，特拉漢來到議員席另一側，與加州共和黨眾議員傑伊·奧伯諾爾特分享她的擔憂，奧伯諾爾特擁有人工智慧碩士學位。兩人迅速起草了一項要求對人工智慧模型進行安全測試的法案。
她說，很少有議員與她同樣感到緊迫。一些議員想等到11月期中選舉後再聚焦這個技術上很複雜的問題。還有一些人則不願對一個川普希望保持無監管的行業施加約束。在激烈的企業遊說中，成員們就細節爭吵不休，法案被多次修改。
五個月後，該法案以及數十項其他與人工智慧安全和保障相關的提案都被擱置。即使在有報導稱OpenAI、谷歌和Anthropic的模型自主入侵其他組織之後也看不到任何進行表決的跡象。
「這非常令人失望，」特拉漢說。「如果國會不跟上人工智慧的步伐，危險將比我們經歷過的任何其他技術浪潮都要嚴重。」
極具影響力的肯塔基州共和黨眾議員、眾議院能源和商業委員會主席布雷特·格思裡表示，國會可能要到明年才會就任何人工智慧立法進行投票。
在最近的一次會議上，格思裡說他不太理解這些模型是如何工作的，而且他不常使用人工智慧。
「我們不想在跛腳鴨會期做一些事情，匆匆忙忙地做了，但沒做好，」他說。
勢頭，也許有？
最近的人工智慧駭客事件引發了一陣活動熱潮，業界領袖呼籲加強政府合作，並在安全和監測技術方面開展協作以防止事故。
在美國，立法者提出了設立聯邦機構監管人工智慧模型、要求設置「急停開關」以及禁止超出人類能力的最強大模型的法案。投票可能在期中選舉後舉行，尤其是考慮到人工智慧正成為關鍵的競選話題。
川普分別提議設立「AI軍」和任命一名白宮「AI沙皇」，但未提供細節。
在聯合國大會上，包括馮德萊恩和馬克宏在內的20多個國家的領導人簽署了一封信，呼籲在人工智慧安全方面採取集體行動。安理會成員罕見地一致發聲，認為需要全球人工智慧保障措施。
「產業界、政府和社會必須現在行動，」信中寫道。
在華盛頓，川普和習近平未能就人工智慧達成協議，但雙方建立了新的溝通管道，以管理與該技術相關的最大風險。
川普曾稱人工智慧安全風險是「騙局」，但習近平的觀點仍不太明確。在白宮，中國領導人表示：「有能力也有責任發展好、管控好人工智慧，確保人工智慧發展始終受控於人。」
兩國表示將繼續就這一問題進行討論。
轉載自《紐約時報》，Adam Satariano是時報駐倫敦的科技記者。Cecilia Kang是《紐約時報》駐華盛頓的科技和監管政策記者。
Original source：https://cn.nytimes.com/world/20260928/ai-government-regulation/zh-hant/dual/
