當放任AI代替人類學習與思考，我們不僅是在削弱人類自身的能力，最終更面臨摧毀AI依賴的知識基礎的風險。
~國際經濟學會前主席 羅德瑞克（Dani Rodrik）
就在幾年前，人工智慧（AI）似乎還只是個有趣的玩具，一個能組織完整句子來回應使用者指令、藉此模擬出智慧的聊天機器人，但本質上並不比進階的搜尋引擎複雜多少。然而時至今日，AI已證明了自己是一種驚人的工具，足以完成那些我曾以為這輩子都無法見其完成的任務。
例如，我曾利用AI來定位及處理網路資料集、進行統計檢定、產出精美的圖表、並對研究結果進行合理的評論，包含說明此結果的意義、與學術文獻的關聯性、以及此分析的優缺點。一項研究助理需要好幾天才能完成的工作， AI不到半小時就能完成。
有時候，現今這批AI模型簡直像能讀心一樣。與撰寫程式碼不同，你不需要把需求交代得太精確，不留一點誤解空間。模型會「憑直覺」抓住你的意圖，並補足缺失的細節（不過最好隨時要檢查，畢竟那些遞交 AI 生成訴狀、結果裡面全是虛假引註的律師事務所，就是前車之鑑）。又或者，就算 AI一時無法做到，介面也會不斷引導你，直到你釐清自己的需求為止。
欣慰的是，AI確實能成為協助人類提高生產力、精進工作的工具。對我而言，AI 無疑提升了做研究的效率；AI能以低廉的本提供行銷與顧問服務，降低創業者的成本；較資淺的客服人員也能藉由AI，運用較資深同事的技能與經驗；零工族或工匠也能透過AI，提供更複雜且技術門檻更高的服務。
不同於許多早期的科技，AI有其獨特的優勢，能幫助技能和教育程度較低的人，也就是經濟底層的勞工。AI能賦予每個人更強大的能力，對那些先天處於不利地位的人而言，其所提供的優勢特別具有意義。這意味著， AI的作用或許與傳統自動化截然不同，因為後者通常旨在取代組裝線上的作業員，或是業務與文書等職位。
當然，令人擔憂的是，AI能做到的可能遠不止於此，其後果也充滿不確定性。就目前而言，我仍將選擇並界定研究問題，視為我個人的特權，也是我的競爭優勢的主要來源。但我可以想像，到了某個時間點，我也許會禁不起誘惑，乾脆叫AI幫我生成研究問題。其實，我目前使用的AI工具就已經在暗示我這麼做了。每當我完成像前文提到的那類操作後，AI模型往往會溫和地建議一些能更有成效、仔細探討的途徑，供我後續追蹤研究。
AI還以其他更細微的方式取代人類思考。如今，它已逐漸形塑了我對既有研究的看法。它不僅能摘要現有的文獻，還能指出相關領域研究與我個人研究的關聯，甚至引導我該如何解讀這些關聯。它也能橫跨各類文獻，發掘出我過去未曾察覺的連結。
而這正是更大的危機所在。大眾對AI造成社會衝擊的討論，多半集中於勞動力可能被取代以及失業。然而，更深層的風險在於，人類的思考能力將可能被取代。當我們允許AI代替我們思考，就跨越了一個重要門檻。我們整體的思考能力將會退化，學習如何思考的動力也隨之消逝。而且，由於運用想法來解決問題與想法本身之間的界線本就模糊，我們很容易就就會跨過這條界線。
在一篇近期發表的有趣論文中，麻省理工學院（MIT）的艾塞默魯（Daron Acemoglu）、孔丁文（Dingwen Kong，音譯）與厄茲達拉爾（Asuman Ozdaglar）將人們對認知卸載（cognitive offloading）可能導致災難性結果的直覺判斷，轉化為正式的理論。他們探討了一個問題：當AI模型變得極其擅長提供「特定情境下的知識」，以此協助人們完成當下的任何特定任務時，會發生什麼事？這類產出能讓人們即便減少學習，也能達成更好的成效。
但這裡有個問題。因為知識具有重要的外部性。當我在思考如何解決自己的問題時，同時也在為他人如何解決問題的知識總庫做出貢獻。一旦我減少對自身學習的投入，整體的知識庫就會受損。在極端、反烏托邦的情境下，人類的通用知識甚至可能完全消失。
誠然，這目前僅止於理論上的可能，且根據對各種抗衡因素的假設不同，也可能出現較好的結果。但這種危險依然真實存在。當放任AI代替人類學習與思考，我們不僅是在削弱人類自身的能力，最終更面臨摧毀AI依賴的知識基礎的風險。
要解決這些問題，必須建立一套關於合理使用AI的社會與專業規範。例如，研究人員未來可能需要詳細披露AI 的使用方式，儘管這道程序本身就能由AI工具自動完成。此外，學術出版與升遷的評選標準，也應大幅增加人類心智產出的評分比重。人工智慧夥伴關係（Partnership on AI）等機構可協助制定並推廣通用準則。如同過去每項新技術一樣，政府制定的新法規同樣不可或缺。
要讓這些補救措施發揮作用，前提是必須以全新的角度看待 AI。最重要的是，大眾論述需要一個不同視角：討論的核心不應在於AI會對我們造成什麼影響，而是在於AI能為我們做什麼。
羅德瑞克（Dani Rodrik），哈佛大學甘迺迪政府學院國際政治經濟學教授，國際經濟學會前主席，著有《在一個四分五裂的世界共享繁榮：一個針對中產階級、全球貧困和我們的氣候的新經濟理論》（Shared Prosperity in a Fractured World: A New Economics for the Middle Class, the Global Poor, and Our Climate，暫譯）
轉自台灣上報
