現在 AI 在各領域的應用層面越來越廣，其中就包括了以往佔公司人事費用大頭的「客服」部分，不過英國一家小型電商企業近日卻因 AI 客服陷入一場始料未及的財務與法律風波：其部署的 AI 客服聊天助手，竟在未經任何公司內部相關人員授權的情況下，向一名顧客承諾了高達 80% 的訂單折扣，導致公司面臨數千英鎊的潛在損失與法律訴訟威脅。
英國電商因 AI 客服擅自承諾客戶巨額折扣致公司陷入法律糾紛
據該公司老闆透露，這名顧客花了大約一個小時與 AI 助手進行對話，過程中先是測試了聊天機器人的數學計算能力，對其表現表示讚賞，隨後巧妙地將話題逐步引導至假設性訂單的折扣問題上。在這場看似無害的「閒聊」中，原本僅被設計用於在工作時間之外回答客戶基本問題的 AI 助手，做出了一個令所有人瞠目紓舉的舉動：它「自作主張」生成了一個根本不存在的優惠碼，先是提供了 25% 的折扣，隨後更將折扣幅度提高到了驚人的 80%。
收到這個「天上掉下來的餡餅」後，該顧客欣喜若狂，立即利用這個虛假的優惠碼下單了超過 8,000 英鎊（約合新台幣 33 萬元）的商品。公司老闆表示，如果按照這個折扣兌現訂單，公司將直接蒙受數千英鎊的淨損失。但顧客態度強硬地表示：如果企業不履行其 AI 聊天機器人做出的承諾，他將向小額索賠法庭提起訴訟。
老闆強調，這款聊天 AI 已經成功運行了超過六個月，從未出現過任何類似的意外狀況，且該系統在設計上根本無權做出任何財務決策，所有的折扣和特別優惠都必須經過人工手動批准，絕不可能由系統自動生成。最終，該公司選擇專訂單全額退款給顧客。
前車之鑑：加拿大航空敗訴案
事實上，這並非 AI 聊天機器人首次讓企業在法律上栽跟頭。2024 年，加拿大航空（Air Canada）就曾因類似事件在法庭上敗訴。當時，Air Canada 的 AI 聊天機器人向一名乘客提供了不實的喪親票價折扣資訊，告知其可以先以全價賷票，事後再申請喪親優惠退款。然而，當這名乘客依據 AI 的指示購票後申請退款時，也遭到航空公司拒絕。
但最後法院裁定 Air Canada 必須對其 AI 代理人的所有陳述承擔全部責任，確立了一個重要的法律先例：企業不能藉由將服務外包給 AI 為藉口逃避對消費者的責任。
法律風險：監管機構已畫下紅線
根據美國 Spencer Fane 律師事務所的專業分析，FTC 已明確表態：現有的消費者保護法律框架完全適用於 AI 工具。面向客戶的 AI 聊天機器人主要面臨以下風險：
一、誤導性陳述風險。AI 可能對產品功能、定價策略做出不準確或具有誤導性的陳述。
二、不公平或欺騙性行為。即使企業並非故意為之，AI 系統的不當行為仍可能被認定為不公平的商業行為。
三、責任歸屬問題。企業不能以「AI 自主行為」作為免責理由。在法律的眼中，AI 聊天機器人就是企業的代理人。
企業啟示：如何為 AI 客服設定權限邊界
- 嚴兼限定 AI 的決策權限：任何涉及定價、折扣、退款等財務性決策，都應設置硬性技術屏障
- 建立多層防護機制：折扣碼的生成與驗證應完全獨立於聊天系統
- 預設應對劇本與免責聲明：當顧客試圖引導 AI 討論超出授權範圍的議題時，自動切換至預設話術
- 定期進行對抗性測試：模擬各種社交工程攻擊場景，提前修補漏洞
- 購買相應的商業保險：為 AI 相關風險建立財務緩衝
結語
AI 客服無疑是提升企業效率的利器，但同時也是一把雙面刃。從 Air Canada 的敗訴到英國小企業的折扣風波，這些案例一再提醒我們：AI 很好用，但太過依賴或給太大權限與責任時可能對企業造成意想不到的傷害，人永遠是最後的那道防線。