Изкуствен интелект предложи изгодна оферта за обратно изкупуване, но дилърът я оттегли, защото била “твърде добра”

Потребителят Зак Джакомели остана приятно изненадан, когато получи изгодна оферта за обратно изкупуване на неговия BMW X3 от дилър BMW Toronto. Според изявлението на дилъра, офертата от 27 162,79 долара — която покриваше точно размера на неговия заем — беше изпратена от изкуствен интелект (ИИ) чатбот на име Куин.

Джакомели прие офертата и дори предложи насрещна оферта от 28 500 долара, която чатботът прие условно. Въпреки това, скоро след това един служител от дилъра се обади, за да оттегли офертата, като изясни, че Куин не е човек, а ИИ, който е сгрешил.

Реалната оферта за автомобила се оказала само 20 000 долара — с повече от 7 000 долара по-малко от размера на заема на Джакомели. “Бях съкрушен”, сподели той пред CBC.

“Ако ще заместват човешките служители с ИИ, трябва да отговарят за това, което той предлага.” В Канада законът е на негова страна. През 2024 г.

Air Canada беше принудена да върне парите на клиент, след като ИИ чатбот на компанията предложи рефунд, който противоречеше на стандартните политики на авиокомпанията. Макар Air Canada да твърдеше, че чатботът е “отделен правен субект”, трибуналът в Британска Колумбия отхвърли това твърдение и постанови, че отговорността е на компанията.

“Подобно на ситуация, в която един служител сгреши и компанията носи отговорност, ИИ е като служител”, каза Таня Уокър, адвокат по дела в Торонто. “Мисля, че компаниите все още не осъзнават мащаба на правния риск, който поемаме.” След като CBC се свърза с BMW Toronto, дилърът промени позицията си и се съгласи да спази първоначалната оферта от 27 162,79 долара.

Според служителя Скот Шадболт, случаят се дължи на човешка грешка — служител е въвел погрешна информация, която е накарала чатбота да предложи офертата. Шадболт уточни, че Куин никога не е бил програмиран да преговаря самостоятелно, а само да предава оферти, генерирани от хора.

В бъдеще само човешки служители ще представят такива оферти на клиенти. BMW Toronto също възнамерява да промени процесите си, за да бъде ясно кога клиентите общуват с ИИ.

Макар че повечето купувачи на автомобили (80%) са отворени към използването на ИИ, този случай показва защо е важно да се поддържа човешки контрол върху автоматизираните процеси.