Курйоз із бодікамер: ШІ “перетворив” поліцейського на жабу

Поліцейський з американського штату Юта раптово… перетворився на жабу — щоправда, лише на папері. Курйоз стався після того, як штучний інтелект автоматично згенерував службовий рапорт, переплутавши реальність із мультфільмом, що звучав на фоні.

Про це розповідає портал UPI.

Поліція міста Гібер-Сіті (штат Юта, США) зіткнулася з неочікуваними наслідками використання штучного інтелекту для автоматичного створення службових звітів. Один із таких рапортів помилково повідомив, що офіцер поліції був “перетворений на жабу”.

Як пояснив сержант Рік Кіл в інтерв’ю FOX 13 News, помилка виникла через те, що бодікамера зафіксувала фоновий звук мультфільму “Принцеса і жаба“, який транслювався поблизу. Алгоритм сприйняв репліки з мультфільму як частину реального інциденту та включив їх до офіційного звіту.

“Програма для аналізу відео з бодікамер і система написання звітів на базі ШІ підхопили звук фільму, що грав фоном. Саме тоді ми й усвідомили, наскільки важливо ретельно перевіряти автоматично згенеровані рапорти”, — зазначив Кіл.

Поліцейський департамент почав використовувати дві ШІ-програми, Draft One та Code Four, у грудні. Вони автоматично створюють текстові звіти на основі відео з нагрудних камер офіцерів. Попри курйозний інцидент, у відомстві не планують відмовлятися від нової технології, але обіцяють посилити людський контроль.

За словами сержанта Кіла, використання штучного інтелекту дозволяє суттєво заощадити час: “Я економлю приблизно 6–8 годин на тиждень. Я не надто технічно підкований, але система справді проста у використанні”.

Програму Draft One у 2024 році випустила компанія Axon. Сервіс працює на базі ChatGPT-4 від OpenAI та призначений для транскрибування й узагальнення відео з бодікамер.

Історія з “офіцером-жабою” стала наочним прикладом того, що навіть корисні алгоритми потребують людської уважності — особливо тоді, коли йдеться про офіційні документи.

Як розповідало BitukMedia, літнє подружжя з Куала-Лумпура (Малайзія) стало жертвою штучного інтелекту: побачивши відео з нібито туристичним сюжетом про мальовничу канатну дорогу, вони вирушили в тривалу подорож, аби побачити “курорт” на власні очі. Та прибувши на місце, з подивом дізналися — усе побачене в ролику було фальшивкою, згенерованою ШІ.