Камерите на регистрационния номер с изкуствен интелект в този град са грешни 7 от 10 пъти

Вътрешни имейли разкриха, че Flock Safety, компания, предоставяща автоматизирани четци на регистрационни табели, е работила за подобряване на точността на камерата, след като град Роузвил в Калифорния документира широко разпространени неправилни разчитания. Градът установи, че 71 процента от сигналите на Flock, от 1427, генерирани по време на 2023 и 2024, произтичат от неправилно четене на регистрационен номер. Установено е, че камерите объркват подобни на вид герои, заснемат размазани изображения или изобщо пропускат превозни средства. В един случай табелата на водача многократно е бъркана с тази на откраднато превозно средство поради това, че софтуерът е разчел погрешно „9“ като „8“. Въпреки високия процент на грешки, градът продължава да използва системата, като се позовава на предимствата й при разкриването на престъпления. Flock призна проблемите, заявявайки, че внедряването на Roseville е необичайно, със задни камери, монтирани по-високо и по-далеч от трафика, отколкото се препоръчва, и използвайки по-стар хардуер. Компанията работи за подобряване на системата, включително разработване на инструменти за автоматично откриване на пропуснати превозни средства. Инцидентът подчертава значението на третирането на сигналите, генерирани от изкуствен интелект, като разследващи следи, а не като неоспорими факти, и необходимостта служителите да проверяват независимо информацията, преди да предприемат действия.