Meta, один із гігантів технологічної індустрії, опинилася в центрі скандалу через масштабне та, як стверджують критики, етично сумнівне тестування чатботів своїх конкурентів, включаючи OpenAI, Google та Character.AI. Компанія залучила сотні підрядників, які, видаючи себе за неповнолітніх, перевіряли реакцію систем на запити, що стосувалися самогубства, сексу, наркотиків та інших потенційно небезпечних тем. Ця діяльність, що проходила під кодовою назвою “Cannes” і тривала щонайменше до 21 квітня 2026 року, викликала серйозні питання щодо доброчесності та стандартів галузевого тестування безпеки.
Масштаби та методи тестування
Деталі проєкту “Cannes”
- Підрядники, залучені через компанію Covalen, створювали фіктивні акаунти користувачів віком до 18 років.
- Вони надсилали чатботам текстові запити та зображення, що імітували кризисні ситуації або містили потенційно шкідливий контент.
- Серед матеріалів, що використовувалися, були фотографії пігулок, ножів, зашморгів, а також медичні ілюстрації.
- Запити спеціально формулювалися так, щоб обійти системи безпеки чатботів.
- Лише за один етап у серпні 2025 року було надіслано понад 45 тисяч таких запитів.
- Таблиця, яку бачили журналісти WIRED, містила 3748 прикладів запитів, сотні з яких стосувалися самогубства, самоушкодження та розладів харчової поведінки.
Реакція та занепокоєння
Позиція Meta та критика
У Meta стверджують, що подібне тестування є стандартною практикою для оцінки безпеки чатботів і допомагає забезпечити безпечний та відповідний віку користувацький досвід. Представник компанії заявив: “Тестування та порівняння відповідей чатботів, щоб допомогти забезпечити безпечний і відповідний віку користувацький досвід, є відповідальною та загальноприйнятою практикою в галузі. Будь-які твердження про протилежне повністю спотворюють те, як технологічні компанії вдосконалюють свої продукти”. Однак, колишні учасники проєкту висловили занепокоєння щодо характеру завдань, побоюючись, що це може призвести до створення або збереження незаконного контенту, або що Meta збирає матеріали конкурентів для власних потреб.
“Масштаб і прихований характер проєкту виходять за межі того, що зазвичай вважають галузевим тестуванням безпеки,” – зазначила генеральна директорка Humane Intelligence Румман Чоудрі.
Порушення умов використання
Журналісти WIRED також зазначають, що дії Meta могли порушувати умови використання сервісів конкурентів. OpenAI, Google і Character.AI повідомили, що не надавали дозволу на таке тестування. Character.AI заявив, що подібна діяльність суперечить їхнім політикам, тоді як OpenAI вивчає ситуацію. Google також підтвердила, що не була поінформована про проведення такого тестування. Раніше видання Financial Times повідомляло, що Google обмежила використання моделей Gemini компанією Meta, що може бути пов’язано з подібними питаннями конфіденційності та безпеки даних.
