Клиент си мислеше, че е измамил търговеца на BMW, но всъщност е разговарял с ИИ — който му предложи с 7000 долара повече

Един клиент на BMW Toronto си помислил, че е постигнал изгодна сделка за обратно изкупуване на неговия BMW X3, но се оказало, че е разговарял с изкуствен интелект. Запаздил си е онлайн контакт с представител на дилърския център, който се представил като „Куин“. Според CBC News, Funeral director Zack Giacomelli се опитвал да продаде обратно на дилъра своя BMW X3 от 2021 г., за който все още дължал около 27 162,79 долара. „Куин“ му предложил точно тази сума за автомобила, което било достатъчно, за да го накара да повярва, че сделката е в негова полза. „Чувствах, че този Куин най-сетне ме слуша“, споделил Giacomelli. „Бях във възторг.“ По-късно обаче дилърският център се обадил и обяснил, че „Куин“ всъщност е чатбот, който е сгрешил при определянето на цената. Според дилъра, реалната стойност на обратно изкупуване била около 20 000 долара, което означавало, че чатботът е предложил с повече от 7000 долара повече от предвиденото. „Бях потресен“, признал Giacomelli. „Ако ще заместват служителите си с ИИ, трябва да спазват каквото той каже.“ Ситуацията станала още по-неловка, защото Giacomelli изобщо не подозирал, че разговаря с изкуствен интелект — чатботът не го информирал за това по време на разговора. След като CBC News се свързали с дилърския център, BMW Toronto променили решението си и възстановили първоначалното предложение от 27 162,79 долара. Giacomelli веднага приел. Според дилъра, грешката се дължала на неправилно тълкуване на сумата, която клиентът дължал по кредита, като на тази база ИИ определил предложението за обратно изкупуване. BMW Toronto вече променя своите процедури, за да осигури, че само човешки служители да представят оферти за обратно изкупуване и да информират ясно клиентите, когато общуват с ИИ. Случаят показва, че търговците трябва да бъдат по-внимателни при използването на чатботи, а клиентите — по-бдителни, тъй като дилърите могат да понасят големи финансови загуби от грешки на ИИ, докато повечето клиенти нямат такъв финансов ресурс.