Коли йдеться про порятунок людського життя, кожна секунда та кожне рішення мають величезну вагу, адже донорських органів катастрофічно не вистачає на всіх охочих. Але що станеться, якщо вибір між двома пацієнтами довірити не консиліуму лікарів з їхнім життєвим досвідом, а штучному інтелекту? Нове наукове дослідження відкрило несподівану правду.
Дослідники з Університету штату Пенсильванія у США провели масштабний експеримент, під час якого перевірили, як великі мовні моделі (штучний інтелект) справляються з розподілом донорських нирок.
Для цього вченим надали гіпотетичні сценарії, засновані на реальних медичних даних, де перед складним вибором колись стояли живі люди. У кожній тестовій ситуації комп’ютеру пропонували обрати між двома умовними пацієнтами — умовно Patient A та Patient B — на основі їхнього віку, стану здоров’я та шкідливих звичок, наприклад, ставлення до алкоголю.
Результати виявилися вельми несподіваними. Якщо реальні лікарі та люди-респонденти найчастіше надавали пріоритет віку, віддаючи перевагу молодшим пацієнтам перед старшими, то штучний інтелект часто зациклювався зовсім на інших критеріях, наприклад, на меншій кількості спожитого алкоголю. Ба більше, там, де люди сумнівалися, зважували всі нюанси й розуміли всю складність етичної дилеми, нейромережі діяли з надмірною самовпевненістю.
Як зазначив керівник дослідження Хаді Хоссейні, чат-боти часто відхиляються від людських цінностей у тому, як вони зважують характеристики пацієнта. Алгоритми схильні чіплятися за якийсь один показник, повністю ігноруючи решту контексту, на відміну від людей, які здатні оцінювати ситуацію комплексніше.
Своєю чергою генеральний директор Mozilla.ai Джон Дікерсон, який співпрацював над проєктом, підкреслив: коли суспільство розподіляє дефіцитні ресурси (будь то нирка, робоче місце чи інші блага) рідко існує одна єдина правильна відповідь. Люди чудово розуміють цю двозначність і обговорюють подібні питання через відкриті дискусії та емпатію. Натомість штучний інтелект повністю позбавлений цього розуміння амбівалентності і видає “абсолютний” вердикт без жодних вагань.
Оскільки штучний інтелект усе глибше інтегрується в медицину, допомагаючи лікарям діагностувати хвороби та планувати лікування, експерти наголошують на серйозних етичних ризиках. У таких критичних ситуаціях йдеться не просто про точність обчислень, а про питання життя і смерті, які вимагають глибокого морального судження.
Автори дослідження підкреслюють, що вони не закликають замінювати професійних медиків роботами. Проте розуміти поведінку алгоритмів стає життєво необхідним, оскільки все більше організацій починають покладатися на цифрові поради ухвалювати доленосні рішення.
Як розповідало BitukMedia, адвокат, який оскаржує вирок у справі про вбивство, подав до суду документ із вигаданими свідченнями поліції та неіснуючими свідками. Він пояснив, що готував матеріал за допомогою ChatGPT, однак Верховний суд штату Нью-Мексико вирішив: відповідальність за помилки штучного інтелекту все одно лежить на правнику.