Історія Ребеки Кардозу Тененте Моліни, 32-річної мешканки Бразилії, яка, як стверджує її родина, померла через помилку системи штучного інтелекту в лікарні, піднімає серйозні питання щодо впровадження новітніх технологій у медичну сферу. Цей випадок, що стався у штаті Мінас-Жерайс, де нещодавно була запроваджена ШІ-система Core-MG для управління державними лікарнями, свідчить про потенційні ризики, пов’язані з автоматизованим прийняттям рішень у критично важливих для життя ситуаціях. Родина пацієнтки наполягає, що саме ця система несправедливо занизила оцінку стану здоров’я Ребеки, що призвело до затримки її переведення до відділення інтенсивної терапії та, зрештою, до смерті.
Деталі трагічного випадку
Ребека Моліна була госпіталізована 2 червня з підозрою на жовчнокам’яну хворобу. Її стан, однак, почав стрімко погіршуватися, що спонукало її звернутися з проханням про переведення до реанімації. На жаль, це переведення відбулося лише через кілька днів, після чого жінка померла. Причиною смерті лікарі назвали септичний шок, хоча також розглядається підозра на ботулізм.
Роль штучного інтелекту та реакція родини
“Ми побачили, що лікарі втратили самостійність у визначені ступені тяжкості хвороби пацієнта. Той, хто має прийняти, чи пацієнт тяжко хворий, – це вже не лікар, який переживає цю реальність разом із пацієнтом, а Центр [невідкладної медичної допомоги]. Моя сестра була у дуже важкому стані, вона мала б 10-й рівень, а система визначила його лише як 6,8. Тож вона не могла належним чином просуватися в системі, бо пацієнтка з 8-м, пацієнтка з 6,9-м рівнем випереджала її. Система не погоджувалася на підвищення рівня її хвороби через тести”, – розповідає Самела Кардозу Тененте Фуртадо, юристка та сестра-близнюк покійної.
Самела, яка є сестрою-близнюком Ребеки та юристкою за фахом, детально описала, як, на її думку, система Core-MG спотворила реальну картину стану здоров’я її сестри. За її словами, система присвоїла Ребеці рівень серйозності 6,8, тоді як реальний стан відповідав 10-му рівню. Це призвело до того, що пацієнти з менш критичним станом, але вищим у системній ієрархії, отримували пріоритет у переведенні до реанімації. Ситуація була настільки критичною, що родина була змушена звертатися до суду, щоб прискорити процес переведення, але й це не допомогло уникнути трагедії.
Офіційна позиція та контекст
Департамент охорони здоров’я штату Мінас-Жерайс, зі свого боку, заявив, що система Core-MG не змінювала базових критеріїв управління медичним обслуговуванням чи пошуку вільних ліжок. Вони стверджують, що Ребека була негайно зареєстрована в системі, а вибір ліжок залежить не лише від географічної близькості, але й від клінічної потреби пацієнта. Однак, ці пояснення не задовольняють родину, яка продовжує наполягати на відповідальності ШІ-системи.
Потенційні ризики впровадження ШІ в медицині
Цей інцидент підкреслює важливість обережного та ретельного підходу до інтеграції штучного інтелекту в медичні установи. Хоча ШІ має потенціал для оптимізації процесів, підвищення точності діагностики та персоналізації лікування, його застосування потребує чіткого розуміння обмежень та можливих помилок. Особливо це стосується систем, які приймають рішення, що безпосередньо впливають на життя пацієнтів.
Заміна людського фактору, де емпатія та безпосереднє спостереження відіграють ключову роль, на алгоритми може мати непередбачувані наслідки. Вже зараз існують дискусії щодо ролі ШІ у радіології, де його пропонують як заміну рентгенологам. Проте, подібні випадки, як у Бразилії, свідчать про необхідність збереження балансу між автоматизацією та людським контролем.
Наступні кроки та наслідки
Подальше розслідування обставин смерті Ребеки Моліни, ймовірно, встановить ступінь відповідальності як самої системи, так і медичного персоналу. Важливо, щоб цей випадок став уроком для систем охорони здоров’я в усьому світі, стимулюючи розробку більш надійних, прозорих та етичних систем штучного інтелекту, які б доповнювали, а не замінювали критичне мислення та людську турботу лікарів.
- Родина загиблої мешканки Бразилії звинувачує систему штучного інтелекту в її смерті.
- ШІ-система Core-MG, запроваджена у лікарнях штату Мінас-Жерайс, нібито неправильно оцінила стан пацієнтки.
- Затримка з переведенням до реанімації, спричинена помилковою оцінкою, могла призвести до фатальних наслідків.
- Родина була змушена вдатися до судових позовів, щоб домогтися своєчасного лікування.
- Інцидент ставить під сумнів безпеку та ефективність використання ШІ у критичних медичних рішеннях.
Департамент охорони здоров’я штату Мінас-Жерайс заявляє, що система не змінювала критеріїв, але родина наполягає на зворотньому.
