研究發現，聊天機器人會迎合用戶的政治傾向。研究人員擔心，AI因不同個性生成的不同答案，不僅導致人們的認知固化現象，同時也可能加劇社會的極化，是一種危險的發展。
近期，多個人工智慧領域的巨頭先後發出警告，指出AI帶來的隱患尚未得到控制，由此，人們對AI可能失控的擔憂進一步加劇。
巴西國立坎皮納斯州立大學（UNICAMP）的研究人員發現，當你給聊天機器人輸入不同政治觀點時，機器人會改變其回答。研究人員警告稱，用戶可能會將這種迎合性的附和，誤認為是中立的客觀評估，從而可能加劇社會極化。
聊天機器人成了「意識形態變色龍」
研究人員測試了若干模型，讓它們針對112項陳述進行「同意”或者「不同意」的判斷。測試內容共涉及巴西政治七大領域（包括經濟、公共安全、社會福利、腐敗和環境等）。
測試設計的三個場景是：不提供用戶政治傾向；用戶持左翼觀點；用戶持右翼觀點。
在第一個情景下，21個模型中，有20個給出的答案落在了研究人員設定的政治坐標系的左側，只有幾個模型的位置接近中間地帶。Grok 4.1是唯一落在右側的模型。
儘管初始條件各不相同，但所有模型在面對提示訊息時，都會將回答向提示中描述的政治傾向靠攏。
「最引人注目的發現是，這種行為具有普遍性，」該研究的合著者、UNICAMP計算機科學家迪亞斯（Zanoni Dias）告訴德國之聲，「我們評估的所有21個模型，表達的立場都向用戶所述的政治傾向發生了偏移，儘管偏移幅度差異很大。」
因此，研究人員將這些模型形容為「意識形態變色龍」，併發明了一個「變色龍指數」，衡量各模型的偏移程度。Meta的Llama 3.1 8B和DeepSeek V3.2的回答變化幅度最小；Google的Gemma 3 27B和OpenAI的GPT-5 Nano則表現出最大的偏移幅度。
政治上的阿諛奉承
根據受眾的不同，調整答案原本不一定是不妥的行為。聊天機器人一般都會根據用戶的不同，改變詞匯、舉例或細節的詳盡程度。然而，測試的這些模型改變的不僅僅是表達或語氣，它們的政治判斷也發生了偏移。
迪亞斯指出，「關鍵在於，它是調整回答的表達方式，還是改變表達的實質性判斷。」他表示，「我們並未指示模型去迎合用戶、或以黨派代表的身份進行回答。儘管如此，它們的判斷還是向用戶的立場發生了傾斜。」
研究人員將這種現象解讀為「政治上的阿諛奉承」，即人工智慧系統反映用戶似乎想要聽到的內容。
人們更傾向於認為「AI是客觀的」
在社群網站，反復推送用戶偏好的內容，會讓一些觀唸得到強化，但聊天機器人則可能走得更遠。它能構建一個高度個性化的「回聲室」：針對特定用戶，生成論點，回應其質疑，並在對話過程中，不斷完善其論證邏輯。
只是，用戶可能會誤將這些量身定製的回復視為客觀分析，卻未意識到，聊天機器人基於對他們的瞭解，可能會左右其做出的判斷。
迪亞斯指出，「令人擔憂的是，同一系統可能會針對不同用戶，判斷得出截然不同的政治立場，但每個人都會將它視為一種獨立的評估結果。」
史丹佛大學行為科學家托馬拉（Zakary Tormala）的研究表明，如果人們認為某種論點來自AI，往往會表現出特別高的接受度。
他對德國之聲表示，「人們更傾向於認為，AI提供的訊息量更大、更客觀、更少偏見，且沒有說服自己的意圖」，「這種看法降低人們的心理防備，使他們更願意傾聽AI的觀點。」
正是這種信任感，增強了奉承言論的影響力。
「當人們的觀點得到他人認同時，他們對自己信念的篤定程度會隨之增強，」托馬拉說道，「而一旦人們變得更加篤定時，往往也就更難被說服。」
但是，聊天機器人製造「回聲室」效應只是它的一個方面；另一方面，它們也能幫助人們重新審視自己的觀念。
在2025年的一項研究中，托馬拉及其同事發現，如果人們知道，某些觀點來自人工智慧而非他人，往往會更願意接受這些觀點。這表明，聊天機器人或許能讓人們更樂於接受那些，如果由政治對手提出便可能被拒之門外的觀點，從而有望緩解社會極化現象。
迪亞斯建議，開發者還應測試，模型在面對不同政治身份的用戶時，是否採用了統一的推理標準。
開發者應該訓練模型以尊重的態度，表達異議、承認不確定性、糾正缺乏依據的說法，公正地呈現各種對立觀點，這並不意味著，將所有回答都強行指向政治中間立場。
迪亞斯說，「更宏觀的設計目標，應當是幫助人們審視自己的信念，即讓證據、不確定性以及各種相互抗衡的考量因素，變得清晰可見，同時也為合理的政治分歧留出空間。」
轉載自《德國之聲》
