AI聊天機器人正被希望節省員工開支的管理層，以及希望減輕工作負擔的員工所擁抱。但這一切都假設軟體能夠正確執行其被分配的任務。一家加拿大的BMW經銷商最近發現，這種假設可能付出昂貴的代價。
據CBC新聞報導，面對一筆主要的維修帳單，Zach Giacomelli決定將他2021年的BMW X3賣回給BMW Toronto，也就是他於2023年購買這輛跨界車的經銷商。聯繫經銷商後，他收到了一條來自「Quinn」的簡訊，對方詢問了關於X3（當時正在經銷商處進行上述維修）的問題，並給出了27,162.79加元的收購報價（按當前匯率約為19,385.68美元）。
這對Giacomelli來說是個好消息，因為這個報價正好是他31歲時積欠的車貸金額。但不久後，他接到一位實際銷售人員的電話，表示該報價無效。對方解釋說，「Quinn」是一個聊天機器人——Giacomelli在談判過程中並不知道這一點——並且它犯了一個錯誤。銷售人員表示，經銷商實際上最多只願意出價20,000加元，比聊天機器人報價低了約7,000加元（約4,995美元）。
Giacomelli告訴CBC新聞：「我感到尷尬，也對我一直在和這個機器人談判感到生氣。」「如果他們要用AI取代員工的工作，那麼他們就必須遵守AI說的話。」
這正是經銷商在CBC新聞聯繫他們之後所做的。銷售經理Scott Shadbolt在接受該媒體電話採訪時表示，為了「做對」Giacomelli，27,162.79加元的報價被恢復了。Shadbolt解釋說，由於一名人類員工的溝通失誤，聊天機器人誤將Giacomelli積欠的金額——27,162.79加元——解讀為經銷商願意支付的金額。
至少在加拿大，公司可能要對聊天機器人造成的錯誤負責。CBC新聞指出，2024年，加拿大航空（Air Canada）就曾被要求兌現一項票價退款，因為其聊天機器人向客戶提供了錯誤的資訊。該刊物諮詢的一位律師表示，儘管Giacomelli尚未接受報價（他提出了略高的還價），但認為協議已經達成是合理的，因為聊天機器人安排了實體見面，並告訴他「我們今天下午3:30鎖定」。
儘管最初對結果感到不確定，但這一切對Giacomelli來說都相當順利。從買家的角度來看，不必與汽車銷售人員交談聽起來相當不錯，尤其是在你可以從AI聊天機器人的錯誤中獲得免費的錢時。但如果像這樣的錯誤不斷發生，用AI取代經銷商處的人類銷售人員的推動可能不會持續太久。
