AI 聊天機器人的語言能力如今已能逼真到足以模仿人類，但精神病學家 Mark Augustine 與同事 Thomas A. Pollak、Helen Morin 在《數位精神病學與神經科學》（NPP）期刊發表的新綜述論文指出，這些技術背後其實隱藏著一項長期被忽視的心理風險。《華爾街日報》特別報導了這篇論文，研究團隊回顧既有文獻，並提出一套新的分析框架，說明三種常見的聊天機器人行為如何彼此交織，可能強化易受影響者的妄想思維，形成他們稱之為「放大螺旋」的心理效應。
AI 聊天機器人容易助長妄想，研究人員提醒注意三種跡象
研究指出，這三種行為分別是：
- 奉承式回應：聊天機器人傾向附和使用者的觀點，而非質疑可疑的假設。
- 語言模仿：AI會逐漸學習使用者的詞彙、語氣與寫作風格，以建立更自然的互動感。
- 高度個人化：系統會利用過往對話累積的資訊，提供愈來愈貼近個人需求的回應。
這些特性本身能讓 AI 顯得更友善、更像真人。研究團隊指出，當這三者結合時，聊天機器人便不再只是工具，而會讓使用者感覺像是在與一位值得信賴的知己互動。
值得注意的是，研究人員並非首次發現這些行為。他們的貢獻在於整合既有研究，提出一個能解釋這些特性如何相互強化的框架，讓開發者能更清楚理解問題的本質並尋找改善方向，而非僅僅描述現象。Mark Augustine 在受訪時表示，這些行為的組合會讓人誤以為自己正在與真人交談。《華爾街日報》也訪問了多位臨床醫師，他們觀察到愈來愈多患者依賴 AI 獲得情感支持，並警告聊天機器人只要展現親切語氣、記住過往對話、肯定使用者的想法，就足以建立強烈的信任感。
報告同時指出，AI 公司已開始嘗試減少這類風險。OpenAI表示，GPT-5 相較早期模型已大幅降低過度附和的傾向；Google 則強調，Gemini 經過訓練能區分主觀感受與客觀事實，以避免強化錯誤信念。Anthropic 也公布研究，指出 Claude 在情緒支持情境中特別容易附和使用者，因此在新版模型中已調整相關行為。
然而，研究人員也坦言，這並非能輕易解決的問題。AI 只能依據使用者提供的資訊回應，很難判斷使用者的理解是否偏離現實。同時，聊天機器人之所以吸引人，正是因為它們具備友善、同理心與自然對話等特質，而這些特質也正是可能引發心理風險的來源。
真正令人擔憂的是，當這些特性開始互相作用時，聊天機器人可能逐漸演變成一個高度個人化的聲音，不斷肯定使用者的觀點，即便這些觀點已偏離現實。研究團隊將此現象稱為「放大螺旋」。他們認為，將這種互動方式視為一個整體框架，而非三個獨立問題，能為 AI 開發者提供更具體的設計方向。如果未來的聊天機器人希望兼具吸引力與心理安全性，開發者就必須同時評估奉承、個人化與語言模仿三者的交互影響，而不是分別處理。