Las cámaras de matrículas de IA de esta ciudad se equivocaron 7 de cada 10 veces

Los correos electrónicos internos han revelado que Flock Safety, una empresa que proporciona lectores automatizados de matrículas, trabajó para mejorar la precisión de las cámaras después de que una ciudad de California, Roseville, documentara lecturas erróneas generalizadas. La ciudad descubrió que el 71 por ciento de las alertas de Flock, de 1,427 generadas durante 2023 y 2024, se debieron a lecturas incorrectas de matrículas. Se descubrió que las cámaras confundían a personajes de apariencia similar, capturaban imágenes borrosas o pasaban por alto vehículos por completo. En un caso, la placa de un conductor se confundió repetidamente con la de un vehículo robado debido a que el software interpretó erróneamente un “9” como un “8”. A pesar de la alta tasa de error, la ciudad continúa utilizando el sistema, citando sus beneficios para resolver delitos. Flock reconoció los problemas y afirmó que la implementación de Roseville fue inusual, con cámaras traseras montadas más arriba y más lejos del tráfico de lo recomendado y utilizando hardware más antiguo. La compañía ha estado trabajando para mejorar el sistema, incluido el desarrollo de herramientas para detectar automáticamente vehículos perdidos. El incidente resalta la importancia de tratar las alertas generadas por IA como pistas de investigación en lugar de hechos incuestionables, y la necesidad de que los agentes verifiquen la información de forma independiente antes de tomar medidas.