Chatbot-ul BMW a făcut o ofertă corectă de răscumpărare, dar dealer-ul a anulat-o pentru că era prea bună

Un client din Toronto a primit o ofertă neașteptat de corectă pentru răscumpărarea BMW-ului său X3, de la un chatbot AI al dealer-ului BMW Toronto.

Oferta acoperea exact suma restantă a creditului său, respectiv 27.162,79 dolari canadieni, iar clientul a decis să negocieze o sumă mai mare, de 28.500 dolari.

Chatbot-ul, numit „Quinn”, a acceptat cererea și chiar a sugerat finalizarea tranzacției în aceeași zi la ora 15:30.

Totuși, bucuria clientului a fost de scurtă durată: un reprezentant uman al dealer-ului a sunat ulterior pentru a anula oferta, explicând că „Quinn” nu era un angajat, ci un sistem AI care a comis o eroare. În realitate, oferta corectă pentru vehiculul său era de doar 20.000 de dolari, cu peste 7.000 de dolari mai puțin decât suma restantă a creditului.

Clientul, Zack Giacomelli, a declarat pentru CBC că a fost devastat de situație și a criticat decizia dealer-ului de a revoca o ofertă făcută de un sistem AI, mai ales într-un context în care companiile înlocuiesc angajații cu inteligență artificială. „Dacă înlocuiesc locurile de muncă ale angajaților cu AI, atunci trebuie să respecte și ofertele pe care le fac acele sisteme”, a spus Giacomelli.

Cazul său amintește de o decizie recentă a Curții de Rezoluție Civilă din Columbia Britanică, care a obligat Air Canada să respecte o ofertă făcută de un chatbot AI al companiei, deși aceasta contravinea politicilor interne.

Tribunalul a stabilit că responsabilitatea pentru greșelile făcute de AI revine companiei, la fel cum ar fi responsabilă pentru greșelile unui angajat.

După ce a fost contactat de CBC, dealer-ul BMW Toronto a revenit asupra deciziei și a acceptat să onoreze oferta inițială de 27.162,79 dolari.

Potrivit managerului de vânzări Scott Shadbolt, eroarea a apărut din cauza unei comunicări greșite între un angajat uman și sistemul AI, care a interpretat greșit suma restantă a creditului drept o ofertă de răscumpărare.

Shadbolt a precizat că, în viitor, doar angajații umani vor prezenta astfel de oferte clienților, iar dealer-ul va implementa modificări pentru a clarifica când un client interacționează cu un sistem AI.

Deși majoritatea cumpărătorilor de mașini (80%) sunt deschiși la utilizarea AI în procesul de achiziție, experiența lui Giacomelli subliniază importanța supravegherii umane pentru a preveni erori costisitoare și a menține încrederea clienților.