有關人類發明的AI會把人類帶向何方的質疑連日來此起彼伏，聯合國大會即將開幕之際，該組織秘書長古德雷斯周三也敲響警鐘：“我們不能對AI引發的問題裝作不知，所有政府的首要責任是保護他們的公民，包括免遭與人工智能相關的威脅”。他呼籲在人工智能領域開展“全球協調”。
古德雷斯指出：“雖然‘國家層面的行動至關重要，但全球協調同樣不可或缺’，因為‘人工智能不會止步於國界，它帶來的風險同樣如此’。”這位秘書長還表示：這一議題將成為下周在紐約舉行的聯合國大會高級別會議期間，各國領導人之間的“主要討論內容”。
在一系列事件發生以及眾多行業領袖發出令人擔憂的警告後，呼籲加強對人工智能發展的監管的呼聲日益高漲。OpenAI、安特羅匹克和谷歌DeepMind周二宣布，他們正在着手建立一個負責監督AI相關風險的機構。歐盟委員會主席馮德萊恩周三也宣布，她將召集該領域的主要參與者，支持他們為放緩高風險模型發展所做的努力。
而被視為人工智能之父之一、加拿大電腦科學家班吉歐（Yoshua Bengio）同日也表示，人類正在失去對人工智能技術的控制，世界需要類似核武管制般的“護欄”。
的確，人工智能引發的擔憂已不再僅限於其可能導致的失業、以及數據中心激增引發的環境問題，或是對孩子們學習產生的影響後果難測。現在，就連那些設計人工智能的人，也開始對其無比強大的能力感到憂慮。
9月12日，該領域領軍企業之一安特羅匹克的首席執行官阿莫迪呼籲放緩最強大模型的開發進程，他的提議甚至得到主要競爭對手的支持。幾天前，曾先後供職於OpenAI和安特羅匹克的研究員雅各布·考克森辭職，他指責這兩家公司為了爭奪性能最強的模型而“拿我們的生命開玩笑”。
專家們對人工智能脫離人類控制的可能性遠未達成共識。但人工智能能力的提升速度遠超人們對其所帶來風險的理解這一事實本身就足以引起警惕。但是，所有這些謹慎的呼籲很難轉化為實際行動，因為人工智能已不再是一項可以暫且擱置的、尚處於發展階段的技術，它已成為一場巨大產業競爭和地緣政治角逐的舞台。美國和中國都將人工智能視為一種權力工具，認為它能帶來軍事、經濟和戰略上的優勢。在這樣的對抗中，當競爭對手仍在加速前進時，放慢腳步無異於冒着輸掉決定性戰役的風險。美國總統特朗普也斷然拒絕了放緩發展的呼籲，認為保持美國對中國的領先優勢才是當務之急。
而且，金融邏輯又加注了一股慣性力量。基於對人工智能能力將持續提升的預期，數百億美元已被投入到模型、數據中心、芯片及其開發所需的基礎設施中。任何可能阻礙這種增長的監管措施，都可能動搖支撐其發展的估值基礎。
即使是那些呼籲更加審慎的高管，也身處一個彼此決策相互依存的體系之中。一家企業或許可以放緩自身模型的開發進度，卻無法阻止其美國或中國的競爭對手繼續推進。因此，爭論的焦點已不再是是否停止發展人工智能，而是如何在何種條件下繼續推進。
班吉歐認為，處於“危險”核心的是“自主人工智能”，即那些能夠“獨立完成任務並因此自主選擇完成方式”的智能體，且具備“突破網絡安全防線並侵入任何企業”的能力。
他認為，一些國家還可能決定利用人工智能“來支配其他國家”，無論是通過經濟、軍事手段，還是通過影響公眾輿論。而且從長遠來看，“人工智能甚至可能不再需要人類來在物理世界中完成實際事務”。在此背景下，“最極端的一種情況可能是人類的毀滅”，他承認 “這是一種極端情況“，不過，即使“只是銀行體系徹底崩潰，那也依然是非常非常嚴重的事件”。
如何才能放緩發展， 班吉歐表示“這是一個國際性問題，就像核武器是一個國際性問題一樣。因此，國際社會必須認識到，我們正在創造一種力量，這種力量需要被管理、被治理，”他強調道，“這需要通過‘機構、條約和民主制衡機制’來實現。”如果缺乏相關協議，每個大國都會有繼續發展的理由：擔心其他國家不會停手。
然而，托馬斯.弗里德曼在寫給紐約時報的專欄中認為，要想有效地管控人工智能，需要全球範圍的共同努力，只有通過美中兩個人工智能超級大國攜手合作才能解決。但是，美中是直接的地緣政治和地緣經濟對手，寄希望於他們在人工智能領域合作是否過於天真？但弗里德曼在文章中這樣寫道：人工智能“將改變一切事物的方方面面”，包括地緣政治。為了各自的生存、穩定和繁榮，北京和華盛頓將不得不徹底重新思考地緣政治競爭。他希望9月24日習近平與特朗普在白宮的會晤，成為首屆人工智能超級大國峰會從而載入史冊。
美中兩國有自己的盤算，特朗普痛斥對人工智能發展的安全擔憂是“騙局”，美國必須在人工智能領域始終領先於中國，至於中國，華爾街日報的一篇報道這樣分析，中國也擔心人工智能可能毀滅人類，但當務之急是先趕上美國。
面對美中兩國在人工智能領域的霸主地位，國際商會（ICC）秘書長約翰·丹頓周三呼籲湧現新的技術中心，以避免這場競爭演變為全球雙頭壟斷。
轉載自《法廣》
