Camerele AI ale plăcuțelor de înmatriculare ale acestui oraș au fost greșite de 7 din 10 ori

E-mailurile interne au dezvăluit că Flock Safety, o companie care furnizează cititoare automate de plăcuțe de înmatriculare, a lucrat pentru a îmbunătăți acuratețea camerei după ce un oraș din California, Roseville, a documentat interpretări greșite pe scară largă. Orașul a constatat că 71% dintre alertele Flock, din 1.427 generate în timpul 2023 și 2024, provin din citirile incorecte ale plăcuțelor de înmatriculare. S-a constatat că camerele confundă personaje cu aspect similar, captează imagini neclare sau ratează vehiculele cu totul. Într-un caz, plăcuța șoferului a fost confundată în mod repetat cu cea a unui vehicul furat, deoarece software-ul a citit greșit un „9” ca un „8”. În ciuda ratei mari de eroare, orașul continuă să folosească sistemul, invocând beneficiile sale în soluționarea infracțiunilor. Flock a recunoscut problemele, declarând că implementarea lui Roseville a fost neobișnuită, cu camerele din spate montate mai sus și mai departe de trafic decât se recomandă și folosind hardware mai vechi. Compania a lucrat pentru a îmbunătăți sistemul, inclusiv dezvoltarea de instrumente pentru a detecta automat vehiculele ratate. Incidentul evidențiază importanța tratării alertelor generate de AI ca piste de investigație, mai degrabă decât fapte incontestabile, și necesitatea ca ofițerii să verifice în mod independent informațiile înainte de a lua măsuri.