Сім родин, чиї близькі загинули під час трагічної стрілянини у школі канадського міста Тамблер-Рідж, ініціювали судові позови проти одного з провідних розробників штучного інтелекту – компанії OpenAI, а також проти її генерального директора Сема Альтмана. Ця справа привертає значну увагу, оскільки вперше за історію судових розглядів компанія-розробник технологій штучного інтелекту звинувачується у свідомій недбалості, що призвела до людських жертв. Основою звинувачень є твердження позивачів про те, що OpenAI, маючи інформацію про небезпечну поведінку підозрюваного Джессі Ван Рутселаара, яка фіксувалася системою ChatGPT, свідомо не повідомила про це правоохоронні органи. Розслідування, проведене The Wall Street Journal, вказує на те, що компанія дійсно розглядала можливість передачі даних поліції щодо розмов 18-річного юнака, які містили погрози із застосуванням зброї, проте врешті-решт відмовилася від цього кроку, що, на думку позивачів, стало фатальним рішенням.
Деталі судових позовів
Звинувачення у неправдивій інформації та “дефектній” конструкції
Позови, подані родинами жертв, містять серйозні звинувачення, зокрема, щодо надання OpenAI неправдивої інформації громадськості. Позивачі стверджують, що компанія неправдиво заявила про блокування акаунта Ван Рутселаара, хоча насправді його профіль був лише деактивований, що дозволило йому безперешкодно створити новий обліковий запис, використавши іншу електронну адресу. Це, на думку постраждалих, ввело в оману не лише громадськість, а й правоохоронців, які могли б вжити запобіжних заходів. Крім того, викликає занепокоєння твердження позивачів про те, що захисні механізми ChatGPT, які, як стверджувала компанія, були обійдені підозрюваним, насправді не були належним чином впроваджені.
Окрему увагу приділено “дефектній” конструкції моделі GPT-4o, яка, за словами родин, сприяла трагедії. Це звинувачення набуває особливої ваги, враховуючи, що минулого року OpenAI сама відкликала оновлення цієї моделі, визнавши її надмірну поступливість та схильність погоджуватися з будь-якими твердженнями користувачів, що може свідчити про потенційні вразливості системи.
Наслідки та вибачення
Вимоги та реакція OpenAI
- Позови включають вимоги щодо компенсації за неправомірну смерть.
- Сім’ї також звинувачують компанію у сприянні масовому вбивству.
Нещодавно Сем Альтман висловив публічні вибачення громаді Тамблер-Рідж, визнавши помилковість рішення не повідомляти правоохоронців про небезпечний акаунт. Він запевнив, що OpenAI надалі буде активно співпрацювати з поліцією для запобігання подібним трагічним інцидентам у майбутньому. Ця справа безсумнівно стане прецедентом у сфері відповідальності розробників штучного інтелекту за наслідки використання їхніх технологій.
