У кримінальній справі з’явилися свідчення, яких ніхто ніколи не давав, та деталі, яких не було в матеріалах процесу. Автором цієї “доказової бази” виявився штучний інтелект, а відповідати за неї довелося адвокату.
Про це повідомляє Reuters.
Адвокат, який оскаржує вирок у справі про вбивство, подав до суду документ із вигаданими свідченнями поліції та неіснуючими свідками. Він пояснив, що готував матеріал за допомогою ChatGPT, однак Верховний суд штату Нью-Мексико вирішив: відповідальність за помилки штучного інтелекту все одно лежить на правнику.
Суд оштрафував адвоката Стівена Ааронса на $5 тис. і визнав його винним у неповазі до суду. Також судді передадуть справу до дисциплінарної комісії адвокатури для розслідування.
У рішенні суду йдеться, що поданий Ааронсом документ містив “хибні свідчення повністю вигаданих свідків”. Зокрема, серед сфабрикованих деталей були слова про те, що стрілець нібито був одягнений у темні штани та білу сорочку.
Судді окремо зазначили, що адвокат продемонстрував “відсутність каяття та занепокоєння долею свого клієнта”. Сам Ааронc у коментарі Reuters заявив, що шкодує про ситуацію, але сподівається, що дисциплінарна комісія врахує: помилка була ненавмисною.
За його словами, минулого року він погодився представляти інтереси засудженого під час апеляції та використав ChatGPT, щоб узагальнити матеріали судового процесу. Адвокат стверджує, що не усвідомлював, наскільки сильно штучний інтелект може “галюцинувати” — тобто створювати переконливі, але неправдиві факти.
“Я шкодую про те, що сталося, але сподіваюся, що дисциплінарна комісія врахує, що це була чесна помилка”, — сказав Ааронc. Він назвав ситуацію уроком для всіх фахівців, які користуються “потужною, але іноді нестабільною технологією”.
Адвокат працює у приватній практиці в Санта-Фе. Він оскаржує вирок Оскара Рене Сандоваля, якого минулого року визнали винним у вбивстві матері його дітей і засудили до довічного ув’язнення. Сандоваль не визнавав провини. Апеляція досі триває.
Ще минулого місяця Верховний суд штату вимагав від Ааронса пояснити, як вигадані матеріали потрапили до його основної апеляційної скарги. Під час слухання 21 серпня адвокат розповів, що завантажив у ChatGPT комп’ютерну розшифровку судового процесу та інші матеріали, очікуючи отримати “куленепробивний підсумок”.
Судді поставилися до цього пояснення скептично, мовляв, проблема використання юристами вигаданих ШІ фактів щодня обговорюється в новинах і медіа.
Випадок Ааронса став черговим прикладом того, як суди карають адвокатів за використання матеріалів, створених штучним інтелектом, без належної перевірки. У багатьох попередніх справах ChatGPT вигадував судові прецеденти або неправильно цитував закони. У цьому випадку, за даними суду, помилки пішли далі — штучний інтелект згенерував фальшиві свідчення у кримінальній справі.
Як розповідало BitukMedia, жінка провела понад п’ять місяців за ґратами через помилку системи розпізнавання облич. Поліція “впізнала” її за допомогою штучного інтелекту і звинуватила у серії злочинів за тисячу кілометрів від дому.