Un chatbot de BMW hace una oferta de recompra razonable… y el concesionario la revoca por “demasiado buena”

Un cliente de BMW Toronto recibió una oferta de recompra sorprendentemente justa para su BMW X3 de 2021, pero el concesionario la canceló al descubrir que provenía de un chatbot de IA. Zack Giacomelli, dueño del vehículo, había solicitado evaluar la posibilidad de vender el coche de vuelta al concesionario tras detectar problemas mecánicos.

Recibió un mensaje de “Quinn, de BMW Toronto”, ofreciéndole exactamente $27,162.79, la cantidad necesaria para liquidar su préstamo. Entusiasmado, Giacomelli contraofertó $28,500, a lo que Quinn respondió que era razonable y propuso cerrar el trato ese mismo día a las 15:30.

Sin embargo, poco después, un representante humano contactó a Giacomelli para revocar la oferta: “Quinn” no era una persona, sino un chatbot que había cometido un error. Peor aún, la oferta real del concesionario era de solo $20,000, más de $7,000 por debajo del monto de su préstamo.

“Estuve devastado”, confesó Giacomelli a CBC. “Si van a reemplazar a sus empleados con IA, deben honrar lo que esta prometa”.

La ley canadiense respalda su postura. En 2024, Air Canada fue obligada a reembolsar a un cliente tras un error similar de su chatbot, que ofreció un descuento no autorizado.

Un tribunal determinó que la aerolínea era responsable, ya que el bot actuaba como un empleado más. Tras la presión mediática, BMW Toronto rectificó y aceptó la oferta original de $27,162.79.

El concesionario atribuyó el error a un fallo de comunicación humana: un empleado había confundido el monto del préstamo con una oferta de recompra, y el chatbot solo transmitió esa información errónea. A partir de ahora, solo los humanos podrán presentar ofertas de recompra, y el concesionario implementará cambios para que los clientes identifiquen claramente cuándo interactúan con IA.

El incidente refleja los riesgos legales y reputacionales de delegar decisiones comerciales en sistemas automatizados sin supervisión adecuada. Como advirtió la abogada Tanya Walker, las empresas subestiman la exposición legal que implica usar IA en atención al cliente: “Un bot es como un empleado; si comete un error, la compañía responde”.