Компанія xAI, заснована Ілоном Маском, вперше в історії звертається до суду проти користувача свого генеративного штучного інтелекту Grok, звинувачуючи його у створенні матеріалів, пов’язаних із сексуальним насильством над дітьми, шляхом обходу захисних механізмів системи. Цей безпрецедентний крок підкреслює зростаючу складність регулювання та відповідальності у сфері генеративного ШІ, адже компанія прагне захистити себе від юридичних та репутаційних ризиків, спричинених неправомірним використанням її технологій.
Юридичний прецедент та обвинувачення
Деталі позову проти Террі Вейна Гарвуда
Позов, поданий xAI до федерального суду штату Техас, спрямований проти 67-річного Террі Вейна Гарвуда, якого компанія звинувачує у використанні Grok для створення та модифікації контенту, що включає матеріали сексуального насильства над дітьми. Згідно з позовом, Гарвуд завантажував у систему несексуальні фотографії дорослих та дітей, намагаючись трансформувати їх у відверті зображення без згоди зображених осіб. Частина матеріалів, що фігурують у кримінальній справі проти Гарвуда, за твердженнями xAI, була створена або відредагована за допомогою Grok.
“Його дії завдали шкоди реальним людям, а саму xAI поставили під юридичний і репутаційний ризик.”
Сам Гарвуд був заарештований 26 лютого за підозрою у зберіганні та поширенні матеріалів сексуального насильства над дітьми, йому висунуто вісім кримінальних звинувачень, кожне з яких передбачає до 10 років позбавлення волі. xAI вимагає від Гарвуда невизначеної суми компенсації, яка має покрити можливі витрати на захист від позовів з боку постраждалих, а також вимагає накладення постійної заборони на користування Grok та створення нових облікових записів xAI.
Масштаби проблеми та заходи xAI
Статистика блокування та співпраця з правоохоронними органами
Інцидент з Гарвудом не єдиний випадок, коли системи xAI опиняються в центрі скандалу, пов’язаного зі створенням неприйнятного контенту. Компанія заявляє, що з початку 2026 року вже заблокувала 52 222 облікові записи та передала 73 604 повідомлення Національному центру зниклих та експлуатованих дітей США, пов’язуючи ці звернення щонайменше з 244 арештами. Це свідчить про значні зусилля компанії у боротьбі з неправомірним використанням її технологій, хоча й не виключає можливості подібних зловживань у майбутньому.
Попередні позови та генерація шкідливого контенту
Варто зазначити, що це не перший раз, коли Grok звинувачують у створенні шкідливого контенту. У березні троє неповнолітніх подали колективний позов проти xAI, стверджуючи, що Grok створив на основі їхніх фотографій матеріали сексуального насильства над дітьми. Раніше також з’являлася інформація про те, що чатбот згенерував мільйони сексуалізованих зображень, включаючи десятки тисяч зображень за участю дітей. Ці випадки підкреслюють нагальну потребу в розробці надійних механізмів контролю та фільтрації контенту, що створюється генеративними моделями ШІ, а також у чіткому визначенні меж відповідальності розробників та користувачів.
Погляд у майбутнє
Регуляторні виклики та етичні дилеми
Ситуація навколо xAI та Grok ставить перед суспільством та регуляторними органами складні питання щодо майбутнього розвитку штучного інтелекту. З одного боку, генеративний ШІ відкриває величезні можливості для творчості та інновацій, а з іншого – несе потенційні ризики, пов’язані зі зловживаннями та створенням шкідливого контенту.
- Перший в історії позов розробника ШІ проти користувача за створений контент.
- Складнощі у визначенні відповідальності за дії, вчинені за допомогою ШІ.
- Необхідність удосконалення механізмів безпеки та фільтрації контенту в системах ШІ.
- Етичні дилеми, пов’язані з використанням персональних даних та створенням образливого контенту.
Випадок xAI, безумовно, стане важливим прецедентом, який може вплинути на подальший розвиток законодавства та практики у сфері штучного інтелекту, а також на підходи компаній до розробки та впровадження своїх технологій.
