Чат-бот BMW Toronto предложил выкуп авто по честной цене, но дилер тут же отозвал офер — и вот почему

Владелец BMW X3 2021 года Зак Джакомелли обратился к дилеру BMW Toronto с просьбой оценить возможность выкупа его машины после появления серьёзных проблем. Вместо ожидаемого заведомо заниженного предложения он получил от «Куинна из BMW Toronto» текстовое сообщение с офертой на сумму $27 162,79 — ровно столько, чтобы погасить кредит на машину.

Джакомелли даже попытался поднять цену до $28 500, на что «Куинн» ответил, что «команда» рассматривает встречное предложение и предложил «зафиксировать сделку сегодня в 15:30». Казалось, всё складывается удачно — но не тут-то было.

Через некоторое время позвонил живой менеджер и заявил, что «Куинн» — это не человек, а ИИ-чатбот, который ошибся. Более того, реальная оферта дилера на выкуп X3 составила всего $20 000 — на $7 162,79 меньше, чем сумма кредита.

«Я был в шоке», — признался Джакомелли канадской телерадиокомпании CBC. — Если дилеры заменяют сотрудников на ИИ, то должны отвечать за обещания, которые даёт этот ИИ». В Канаде уже был прецедент: в 2024 году авиакомпания Air Canada была обязана выплатить клиенту возврат, предложенный её ИИ-чатботом, несмотря на то что тот противоречил официальной политике компании.

Британская колумбия постановила, что авиакомпания не может перекладывать ответственность на ИИ, так как он является инструментом компании, как и любой сотрудник. После обращения CBC дилер BMW Toronto изменил свою позицию и согласился исполнить первоначальную оферту ИИ на $27 162,79.

По словам менеджера по продажам Скотта Шадболта, ошибка произошла из-за недопонимания между сотрудниками: человек передал ИИ неверные данные, и чатбот посчитал сумму кредита предложением к выкупу. «Мусор на входе — мусор на выходе», — подчеркнул Шадболт.

Теперь в BMW Toronto обещают, что впредь клиенты будут точно знать, с кем общаются: с человеком или с ИИ. Впрочем, как отметил Джакомелли, если дилеры массово переводят сотрудников на ИИ, то и ответственность за их ошибки должна ложиться на компанию.

Тем более что, по данным опросов, 80% покупателей автомобилей готовы пользоваться ИИ-помощниками — но только если те работают корректно и под контролем.