目前的 AI 人工智慧的聊天機器人常常會出現幻覺的問題，常常會在自己的不知道的情況下亂編一段內容給你，所以我們請 AI 回答問題的時候，一定要自己檢查一下 AI 給的答案，以免出現錯誤。美國前總統川普的前律師 Michael Cohen 就被 AI 幻覺的問題給害了，Michael Cohen 在曼哈頓聯邦法院的一宗案件的宣誓書中承認他使用 Google 的生成式聊天機器人 Bard 來尋找支持他論點的法律案例，沒想到 Bard 居然給了他假案例， Michael Cohen 的律師 David Schwartz 沒有檢查案件內容是否屬實就上交到法院。也讓法官要求 Cohen 的律師解釋為何 Michael Cohen 不需要為他引用不存在的案例而接受處罰。
美國前總統川普的前律師 Michael Cohen 引用 AI 編造的不存在案例
美國前總統川普的前律師 Michael Cohen 於 2018 年因違反競選資金規定而在監獄裡服刑，服刑後被獄後監督。 Michael Cohen 為了找到支持他提早結束獄後監督的法律案件，使用 Google 的生成式聊天機器人 Bard 來幫他尋找。但是他忘記了現在的人工智慧聊天機器人都會有的通病「幻覺」。
Michael Cohen 在曼哈頓聯邦法院的一宗案件的宣誓書中承認，他使用 Bard 來蒐集證據，但他忘記人工智慧會杜撰事實的問題。Cohen 表示他認為 Bard 是一個超級搜索引擎並不是像 ChatGPT 那種的生成式 AI 。且他在其他情況下反覆使用 Bard 也有成功的找到正確的信息，他不知道 Bard 會提供不存在的案例給他。他也沒想到他的律師 David Schwartz 會沒有驗證 Bard 找到的案例就直接將這些案例上交到法院。(都推給他的律師，明明就是 Cohen 自己找的假案例)
Michael Cohen 原先提交給法庭的文件都表示他遵守了所有釋放條款，現在應該結束獄後監督。不過因為提供假案例的消息，讓負責該案的美國地區法官的 Jesse Furman 要求 Cohen 的律師 David Schwartz 「解釋為什麼 Cohen 不需要為他引用不存在的案例而接受處罰」。對此Cohen 的律師 David 表示他以為這些假案例是來自 Cohen 的另一個律師 Danya Perry 而不是來自 Cohen 。而 Cohen 的另一個律師 Danya Perry 正在努力為 Cohen 結束他的獄後監督，並表示 Cohen 不該為 David 的失誤受苦。
Cohen 提供假案件的事件可能會讓美國前總統唐納·川普的刑事案件產生影響，本來川普的前律師 Michael Cohen 會作為證人來指控 Cohen 代替川普向斯托米·丹尼爾斯 Stormy Daniels 支付 13 萬美金的封口費，要求斯托米不公開 2006 年與川普性醜聞的內容。不過現在看來川普和他的律師團可能會以 Cohen 的犯罪紀錄以及使用 Bard 提供假案例的事情來在陪審團面前詆毀 Cohen ，讓 Cohen 的指控失去效用。