多虧了 AI，顧客真的不再永遠是對的。
Madison，一位在紐約市工作的服務生，總是會詢問每桌客人是否有過敏。最近，發生了一些驚險的狀況。「有時候客人會告訴我他們對帶殼海鮮過敏，然後我回來時，他們卻不問任何問題，」Madison 說，她要求隱藏姓氏以保護身份。「他們會點一道海鮮湯，而湯裡其實是用帶殼海鮮熬製的。」
當她告知他們菜餚含有過敏原時，她曾遇過客人反駁，說 ChatGPT 不同意她的說法。「他們只想跟 ChatGPT 說話，」Madison 解釋說。「你對帶殼海鮮過敏，而 ChatGPT 說裡面沒有帶殼海鮮，但我們卻告訴你，裡面有！」
生成式 AI 工具的大規模採用，正在改寫長久以來讓餐飲和零售業員工頭痛的老話：「顧客永遠是對的」。但當顧客期望你配合 AI 編造出來的內容時，又會發生什麼事呢？
除了無視她關於過敏原的警告，Madison 還注意到在她最近離職的米其林推薦義大利餐廳裡，顧客對生成式 AI 的依賴程度越來越高。「我多少次建議『讓我幫您找侍酒師』，他們卻說『不用了，我會問 ChatGPT』，或者侍酒師被請離餐桌，因為客人偏好 ChatGPT，這種情況越來越多了，」她說。她曾遇過顧客點選餐廳沒有的酒款，甚至有些酒款根本不存在。
對 Madison 來說，這些 AI 的幻覺加劇了某些人對葡萄酒原本就有的焦慮。「有些人一直以來都對侍酒師有意見，覺得『這些人就像二手車銷售員，想讓我們花比預期更多的錢買一瓶酒』，」她說，「或者有些人會鑽牛角角，覺得『侍酒師會覺得我很笨』。」為了「軟化」AI 幻覺的衝擊，Madison 和她的同事會說：「我們的酒單非常精緻，也許它顯示的是法國葡萄酒，而我們沒有法國葡萄酒，」而不是直接告訴顧客他們的 AI 聊天機器人完全編造了一個酒莊品牌。
你對帶殼海鮮過敏，而 ChatGPT 說裡面沒有帶殼海鮮，但我們卻告訴你，裡面有！
AI 的滲透似乎在目前的客戶服務工作中無處不在。Meta 新 AI 代理 Muse 的推出，很可能會加劇這個問題，以及那些必須處理顧客偶爾出現的荒謬請求的員工的頭痛問題。在報導這則新聞時，我聽到了來自電影院員工、咖啡師和 Apple Store 員工的說法，他們都曾遇過顧客要求不存在的產品或功能。在 Reddit 和 X 上，客服人員抱怨顧客將 ChatGPT 的話奉為圭臬。
Jason，一位在美國西部聯邦土地工作的河流巡警，表示他注意到越來越多的遊客帶著 AI 生成的、不合邏輯的行程來到公園。
「我的同事和我解釋說，AI 虛構了營地，或者將行程安排得地理順序混亂，導致團隊必須在某些天划船逆流而上（不可能），而其他日子則順著水流漂流，」Jason 說，他因是聯邦僱員而要求使用化名。「最瘋狂的是，即使有巡警在指著地圖解釋，我們還是有好幾組人保持懷疑。某種 AI 用戶傾向於信任 ChatGPT，勝過信任巡警、地圖和印刷的旅遊指南。」
Casey，一位在紐約的課後輔導老師，她要求使用化名，表示她注意到許多學生的父母、保姆和其他照護者現在會向 ChatGPT 或 Claude 尋求關於兒童發展的問題。
「我們有一個家庭諮詢了 ChatGPT，為他們的孩子制定了睡前習慣和睡眠時間表，但他們的孩子並沒有睡足，」Casey 說。根據孩子在計畫中的表現，Casey 估計孩子每晚需要多睡兩到三個小時，並將此告知了父母。「但父母堅持說他們的 ChatGPT 告訴他們，他們的日程安排沒問題。」
她說，有些父母現在將生成式 AI 工具視為專家，其知識超越了兒童保育專業人士。「與一個已經打定主意的人溝通可能非常困難，」Casey 說，「因為他們信任這個外部實體，認為它無價。」她也注意到這項技術有更多無傷大雅的用途，例如孩子們帶著 AI 生成的著色頁來上學。
Lauren Wilford，在餐飲業工作了 15 年，也注意到 AI 最近出現在她與客人的互動中。一開始是菜單：有人會將菜單照片上傳到 ChatGPT 或 Claude，詢問要點什麼，或尋求葡萄酒搭配的建議，而不是直接問服務生。
但現在，似乎有些顧客已經完全省略了中間人。在過去一年裡，Wilford 的餐廳接到了代理人代表用戶預訂的電話和電子郵件。代理式 AI 的興起讓這些互動更加令人困惑。
Wilford 對一位原本隨和的客戶在一個大型活動前夕突然變得要求多多感到驚訝，提出了最後一刻對講台和 AV 設備的要求——這兩者在她管理的羅德島普羅維登斯餐廳都不容易獲得——以及對餐飲菜單的最後一刻更改。但當客戶第二天到達時，卻沒有提及任何這些事情，讓 Wilford 更為震驚。雖然她無法證明，但 Wilford 認為這些要求可能根本不是來自公司裡的任何人；她懷疑這是 AI 代理的傑作。
「我同情人們使用 AI 代理的原因，」Wilford 說，特別是對於官僚和行政任務。「但任何需要兩個人互相看見並一起解決問題的事情，我認為如果我們試圖跳過所有這些環節，我們可能沒有意識到會失去什麼。」
