Інцидент з несанкціонованим доступом до потужної ШІ-моделі Mythos від Anthropic, яка, за словами розробників, здатна виявляти вразливості в операційних системах та браузерах, підкреслює складність контролю за поширенням потенційно небезпечних технологій. Bloomberg повідомляє, що невелика група сторонніх користувачів отримала доступ до Mythos через закритий онлайн-форум того ж дня, коли компанія оголосила про обмежений запуск моделі в рамках Project Glasswing, і продовжує використовувати її, хоча й не для цілей кібербезпеки, що підтверджується наданими скріншотами.
Виклики безпеки у сфері штучного інтелекту
Механізми доступу та потенційні загрози
“Інцидент із несанкціонованим доступом показує складність контролю за поширенням подібних – потенційно небезпечних – інструментів і викликає питання, хто ще може використовувати модель без дозволу і з якою метою”, – пише Bloomberg.
- Користувачі застосували кілька тактик для отримання доступу, зокрема через обліковий запис працівника підрядника Anthropic.
- Були задіяні боти для пошуку інформації про нерелізні моделі на відкритих ресурсах, як-от GitHub.
- Частина інформації могла стати відомою після витоку даних зі стартапу Mercor.
Реакція Anthropic та партнерів
Речник Anthropic заявив, що компанія вивчає повідомлення про несанкціонований доступ до Claude Mythos Preview через середовище стороннього підрядника, проте наразі немає доказів того, що доступ вийшов за межі цього середовища або вплинув на основні системи компанії. Варто зазначити, що доступ до тестування Mythos також мають такі великі технологічні компанії, як Apple, Amazon та Cisco Systems, а Amazon пропонує модель через свою платформу Bedrock.
Наміри користувачів та подальші питання
Група, яка отримала доступ, стверджує, що її цікавить тестування нових можливостей моделей, а не зловмисне використання, і що вони виконували прості завдання, щоб не привертати уваги. Учасники також заявляють про доступ до інших неопублікованих ШІ-моделей компанії, що викликає серйозні питання щодо ефективності систем безпеки та контролю доступу до передових розробок у сфері штучного інтелекту.
Аналогічні випадки та висновки
Цей інцидент резонує з іншими нещодавніми подіями, такими як злам платформи хмарної розробки Vercel через сторонній ШІ, яким користувався працівник, що підкреслює зростаючу вразливість цифрової інфраструктури до нових загроз, пов’язаних зі штучним інтелектом.
