Вона ніколи не була в цьому штаті, але опинилася за ґратами. Поліція “впізнала” її за допомогою штучного інтелекту і звинуватила у серії злочинів за тисячу кілометрів від дому. Чим закінчилася історія, в якій алгоритм помилився, а люди — повірили?
Про це розповідає CNN.
Ця історія, яка звучить як сюжет трилера: жінка провела понад п’ять місяців за ґратами через помилку системи розпізнавання облич.
50-річну Анджелу Ліппс із Теннессі заарештували в липні після того, як поліція міста Фарго, штат Північна Дакота, пов’язала її з серією банківських шахрайств. Проблема в тому, що, за словами самої жінки, вона ніколи не була в цьому штаті — він розташований більш ніж за 1000 миль від її дому.
Слідство використало технологію розпізнавання облич від стороннього агентства. Як з’ясувалося, система лише визначила “потенційно схожу людину”, але ця інформація стала частиною справи. Пізніше начальник поліції Фарго Девід Зібольскі визнав: саме використання даних від сусіднього відомства стало “частиною проблеми”.
Цю технологію застосовувала поліція Західного Фарго — вони користуються сервісом Clearview AI, який аналізує мільярди фото з інтернету та соцмереж. Саме він і “вказав” на Ліппс як на можливу підозрювану.
Попри відсутність переконливих доказів, суддя підписав ордер на її арешт із правом екстрадиції по всій країні. Жінку затримали 14 липня в Теннессі. Вона провела понад три місяці у місцевій в’язниці, після чого її перевезли до Північної Дакоти.
Ліппс згадує цей досвід як принизливий і страшний: вона вперше летіла літаком — у кайданках і під конвоєм.
Ситуація почала змінюватися лише тоді, коли адвокат знайшов банківські записи: вони підтверджували, що під час “злочинів” жінка перебувала у Теннессі.
У грудні прокурори нарешті визнали наявність доказів, які виправдовують Ліппс. 23 грудня справу закрили, а вже наступного дня, напередодні Різдва, жінку звільнили.
Попри це, розслідування формально триває, і поліція не виключає, що звинувачення можуть подати знову — якщо з’являться нові дані.
Правоохоронці вже визнали “кілька помилок” у процесі. Зокрема, вони покладалися на дані ШІ, не перевіривши їх належним чином, а також не передали фото з камер спостереження до сертифікованого центру аналізу. Тепер поліція обіцяє змінити підходи і посилити контроль за використанням таких технологій.
Юристи Ліппс вважають, що ситуації можна було уникнути: достатньо було перевірити, чи перебувала жінка в Північній Дакоті під час злочинів. Вони вже вивчають можливість подання позову через порушення прав.
Це не перший випадок, коли штучний інтелект помиляється у роботі поліції. Експерти наголошують: проблема не лише в технологіях, а й у тому, як їх використовують люди.
ШІ дедалі активніше заходить у роботу поліції, але ця історія показує: навіть найрозумніші алгоритми не замінять базової перевірки фактів і ціна помилки може бути занадто високою.
А не веселою, як розповідало раніше BitukMedia. Поліцейський з американського штату Юта раптово… перетворився на жабу — щоправда, лише на папері. Курйоз стався після того, як штучний інтелект автоматично згенерував службовий рапорт, переплутавши реальність із мультфільмом, що звучав на фоні.