本月，一條由 ChatGPT 提供的「捷徑」讓兩名波蘭塔特拉山脈的登山者受困山壁，最後不得不由直升機救援脫困。這起事件再次凸顯：人工智慧聊天機器人會以極高的自信給出路線建議，但它並不具備評估地形風險的能力。
不要盲目全信 AI！ChatGPT 的徒步旅行建議使兩位遊客被困山上
根據 Cybernews 的報導，兩名立陶宛健行者原本打算前往塔特拉山脈的五湖谷，為了節省時間，他們向 ChatGPT 詢問是否有更快的路線。聊天機器人給出的答案卻引導他們前往涅比耶斯卡圖尼亞，再進入 Świnicka Ławka 的穿越路線。問題在於，這段路程需要攀岩經驗與技術，而兩人都不具備。
抵達該路段後，他們既無法安全前進，也無法原路折返，只能在 7 月 4 日向波蘭的非營利救援組織 Tatra Volunteer Search and Rescue（TOPR）求助，TOPR 之後確認，兩人已由直升機平安撤離。
這並非獨立事件。去年，加拿大不列顛哥倫比亞省也曾發生類似案例。一對夫婦依照 AI 規劃的路線前往健行，結果被困在一座「根本不需要攀登的山」上，他們既沒有攀登裝備，也沒有掌握當地天氣資訊，最後同樣需要救援隊介入。經濟合作暨發展組織（OECD）的人工智慧事件追蹤系統也記錄了多起聊天機器人憑空捏造地點的案例，例如在秘魯虛構了一個名為「胡曼泰聖峽谷」的不存在景點。
AI 的問題並不只出現在健行路線上。今年稍早的一份報告指出，TripAdvisor 的 AI 生成評論摘要曾淡化飯店的嚴重安全問題，即使有旅客反映衛生不佳、甚至遭到騷擾，AI 摘要仍將該飯店描述為「一塵不染」與「友好」。在這些情況中，人工智慧都以簡潔、肯定的語氣給出答案，彷彿能掌握所有資訊；然而現實可能是地形極度險峻，或飯店本身存在重大問題。
這些事件共同揭示一件事：聊天機器人擅長生成語句流暢、看似合理的建議，但它們無法真正理解地形、天候、裝備需求，也無法評估風險。當使用者把 AI 當成可靠的導航或旅遊規劃工具時，便可能在不知不覺中被引導至危險情境。如果你習慣使用 ChatGPT 或其他 AI 工具來規劃健行路線，這些案例提醒我們，絕不能完全依賴聊天機器人的建議。出發前，務必自行查閱地圖、路線資訊、天氣預報，並從官方或可信來源確認路況，AI 可以協助蒐集資訊，但它不應成為你在山區做決策的依據。