川普政府正同時推進兩項應對“超級智能”(super intelligence，通常稱為人工智能或AI)風險的機制：由國家情報總監傑伊·克萊頓(Jay Clayton)領導一個新的“超級智能工作組”，評估美國政府如何接收和處理相關事故報告；財政部長斯科特·貝森特(Scott Bessent)則準備向北京提出正式通報
這兩項行動顯示，華盛頓正嘗試建立從國內事故識別到國際危機通報的雙層架構。不過，哪些事件必須通報、由哪個部門核實，以及美國願意與戰略競爭對手中國分享多少敏感訊息，都尚未確定。美國政府也沒有公開說明，克萊頓領導的工作小組是否會參與設計或管理對華通報管道。
克萊頓出任政府AI主管
《華爾街日報》10月3日引述克萊頓及一名白宮高級官員的話報道，川普已任命克萊頓兼任政府人工智慧主管，領導新設立的「超級智慧工作小組」(Super Intelligence Force)。
工作小組將在120天內提交報告，評估超級智慧帶來的風險與機遇，並就聯邦政府應在監管和應對這項技術方面發揮什麼作用提出建議。
據報道，工作小組將審查企業和其他機構向聯邦政府報告AI系統外洩、網路攻擊及其他事故的現有機制，並評估政府能否利用現有法律權限改善應變能力。
成員包括副總統JD·萬斯(JD Vance)、戰爭部長皮特·海格塞斯(Pete Hegseth)、財政部長斯科特·貝森特(Scott Bessent)以及聯邦貿易委員會主席安德魯·弗格森(Andrew Ferguson)等高級官員。
克萊頓告訴《華爾街日報》，工作小組既要確保美國繼續在先進人工智慧領域保持領先，也要保護美國公眾利益。他表示，在這場競爭中，「無法率先抵達的風險很高」。
川普政府將人工智慧正式稱為「超級智慧」。唐納德·川普(Donald Trump)總統主張美國必須在與中國的技術競爭中保持優勢，並警告過度監管可能阻礙美國企業發展。不過，成立這個高階工作小組也顯示，政府開始考慮如何建立比企業自願承諾更具體的事故報告和聯邦回應機制。
截至發稿時，白宮和國家情報總監辦公室的網站尚未公佈工作小組的完整行政命令、章程或120天期限的起算日期。
貝森特擬把峰會共識轉化為通報程序
同時，貝森特上星期六告訴Axios，他計劃向中國提出一套正式程序，讓美中在人工智慧發生嚴重事故時相互通報。他表示，相信北京會接受這項提議。
貝森特說，他先前與中國國務院副總理何立峰討論過失控AI智能體，以及非國家行為者利用人工智慧發動網路攻擊或製造生物安全威脅的風險。
白宮在9月川普與中國國家主席習近平舉行峰會後宣布，美中將建立“超級智慧對話”，並設立一個處理相關事故的雙邊溝通管道。下一輪對話計劃在11月前舉行。中國發布的峰會成果文件則沿用國際上普遍使用的「人工智慧對話」一詞。
不過，美方先前稱兩國已原則上同意設立溝通管道，而貝森特現在表示準備向中方提出具體的通報程序。這表明雙方可能已就建立管道達成政治共識，但啟動門檻、負責機構、核查方法和資訊保密規則等操作細節仍有待談判。
克萊頓工作小組的成立可能回應其中一個關鍵問題：美國政府在向中國通報事故之前，首先必須能夠及時獲知事故已經發生，並判斷其嚴重性、來源及跨境影響。
但目前沒有公開證據顯示，克萊頓領導的工作小組與貝森特提出的對華通報制度已經被正式納入同一行政架構。
企業是否必須通報事故？
布魯金斯學會斯特羅布·塔爾博特安全、戰略與技術中心高級研究員梅拉妮·西森(Melanie Sisson)近日接受美國之音(VOA)採訪時說，美中可以在不分享各自技術優勢的情況下，透過危機溝通降低災難性風險。
她認為，潛在事故大致可分為兩類：一類是AI實驗室研發過程中發生的意外或異常事件，另一類是有人利用人工智慧蓄意發動的攻擊。
不過，西森指出，川普政府與主要AI企業達成的自願安全承諾沒有規定企業必須向政府通報事故。
“就我所看到的情況而言，實際上根本沒有任何報告義務，”她說，“公共安全是政府的責任。政府要為企業界定哪些公共行為可以接受、哪些不能接受。”
川普總統9月29日與六家主要科技企業領導人簽署了一項自願協議，要求企業對先進AI系統實施內部控制、獨立審計和董事會監督。但該協議並沒有建立強制性的聯邦事故通報制度。
西森認為，如果政府無法及時從企業獲得訊息，就難以有效啟動對華溝通管道。她說，發生危機後，美中雙方很可能無法立即確認事件原因，因此溝通機制最重要的功能之一，是防止兩國過早相互歸咎並採取可能導致局勢升級的行動。
「我們不希望第一個反應就是匆忙下結論、開始指責對方並做出激烈反應，」她說。
如果事故涉及核設施或某些關鍵基礎設施，西森認為，溝通不應只停留在部門層級，而應升級為兩國領導人之間的直接聯繫。
事故發生與政府獲知之間可能存在時差
喬治城大學安全與新興技術中心(CSET)研究員薩姆·布雷斯尼克(Sam Bresnick)對美國之音說，最可能觸發通報機制的場景，是某個國家AI實驗室開發的自主智能體進入另一國網絡，對醫院、供水系統或其他關鍵基礎設施實施未經授權的操作。
但他表示，目前連參與談判的美中官員可能都沒有確定，究竟要等到實際損害發生後才啟動通報，還是在發現AI系統表現出危險行為、但尚未造成損害時就進行溝通。
布雷斯尼克說，即使企業願意報告，AI網路行動發生速度極快，實驗室本身也可能在數週或數月後才完全了解發生了什麼事。
“這些攻擊發生得非常快，”他說，“之後還必須進行歸因：確定是誰的智能體做了什麼、誰應承擔責任，以及我們能否真正弄清楚正在發生的事情。所有這些都需要時間。”
他表示，這意味著事故發生與政府啟動通報管道之間不可避免地會出現時間差。
這正是克萊頓工作小組可能需要處理的問題：什麼類型的企業、研究實驗室或政府機構負有報告責任；事故嚴重到什麼程度必須上報；以及情報部門、執法機構和民事監管機構之間如何共享資訊。
對華通報仍面臨信任障礙
即使美國建立了國內事故通報機制，對華通報管道能否有效運作仍取決於中方是否願意及時、對等地分享資訊。
布雷斯尼克說，中國過去較少在危機期間使用與美國建立的軍事溝通管道，其政府體係也並非為危機中的快速資訊共享而設計。
“我不會說建立這一渠道是一件壞事，”他說，“但我們需要對它的實際作用保持相當克制的預期。”
他認為，現階段最現實的合作不是分享模型技術或共同製定廣泛監管規則，而是交換雙方對AI風險的看法，確定哪些情況可能被視為具有破壞性或升級風險的事件。
美中也必須就基本術語形成一定共識。美國政府使用“超級智慧”，而中國公佈的峰會成果仍使用“人工智慧”一詞。
西森說，兩國需要對事故、風險、危害及控制機制形成共同定義，但過程可能相當漫長。她提到，布魯金斯學會與清華大學從2019年開始進行第二軌道對話，只制定一份有限的共同術語表就需要大量時間和耐心。
克萊頓工作小組將在未來120天內提出何種國內報告製度，以及貝森特能否在下一輪美中AI對話中把原則性的溝通管道轉化為可操作的通報程序，將成為觀察川普政府「超級智慧」安全政策是否開始從企業自律轉向有限聯邦介入的兩個重要指標。
轉載自VOA
