Найбільший у світі розвідувальний альянс “П’ять очей”, що об’єднує розвідки п’яти англомовних країн (Австралії, Канади, Нової Зеландії, Великої Британії та США), випустив рідкісну спільну заяву, в якій міститься тривожне попередження: потужні моделі штучного інтелекту, здатні дестабілізувати уряди та бізнес, з’являться не через роки, а вже в найближчі місяці. Ця заява, опублікована 22 червня, з’явилася у відповідь на рішення адміністрації Дональда Трампа заборонити іноземним громадянам використання моделі ШІ Fable від Anthropic. Розвідувальний альянс визнає, що штучний інтелект “з часом покращить кіберзахист”, але водночас він прискорить швидкість, масштаб та складність кіберзагроз.
Ключове попередження від “П’яти очей”
“Потужні ШІ-моделі, як очікується, перевищать поточні очікування індустрії та фундаментально змінять як наступальні, так і оборонні кіберможливості. Йдеться не про роки, а про місяці”, – йдеться у попередженні Five Eyes.
У заяві підкреслюється, що “кіберстійкість є ключовою для безперервності бізнесу, довіри ринку та довгострокової цінності” в умовах, що швидко змінюються. Це означає, що кіберризики більше не можуть розглядатися як “суто технічна проблема”, а вимагають комплексного реагування на рівні всієї організації та суспільства.
Контекст попередження: розвиток Anthropic та потенційні загрози
Хоча жодні конкретні моделі чи компанії не згадуються у заяві, експерти пов’язують її появу з останніми розробками компанії Anthropic, зокрема з моделями Fable 5 та Mythos. Mythos, що позиціонувалася як потужний інструмент для виявлення вразливостей у кіберсистемах, була обмежена для використання лише перевіреними організаціями. Fable 5, представлена як безпечніша версія Mythos, була заблокована для використання іноземними громадянами урядом США наприкінці червня через рекомендації служб національної безпеки.
Олівія Шен, експертка з національної безпеки та ШІ з Університету Сіднея, у коментарі для The Guardian зазначила, що світ уважно стежить за розробками Anthropic, але на горизонті можуть з’явитися ще потужніші системи. Вона припускає, що “наступна версія Mythos або Fable вже зовсім близько”, і додає, що “можуть існувати інші моделі, які розробляються в Китаї або іншими державами та компаніями і є не менш просунутими”.
Заклики до регулювання ШІ
Ці події відбуваються на тлі закликів генерального директора Anthropic до країн G7 не допустити розколу ринку ШІ через блокування моделей компанії. Це свідчить про зростаючу увагу до етичних та безпекових аспектів розвитку штучного інтелекту, а також про необхідність міжнародної співпраці для управління його потенційними ризиками.
Подальші кроки та перспективи
- Альянс “П’ять очей” наголошує на необхідності підвищення кіберстійкості на всіх рівнях.
- Уряди та бізнес-структури мають переглянути свої підходи до управління кіберризиками, інтегруючи їх у загальну стратегію організації.
- Необхідно посилити міжнародну співпрацю у сфері безпеки ШІ та обміну інформацією про потенційні загрози.
- Розробники ШІ-моделей повинні враховувати потенційні наслідки своїх розробок та співпрацювати з регуляторними органами для забезпечення безпечного впровадження технологій.
Розвиток потужних ШІ-моделей ставить перед світовою спільнотою нові виклики, вимагаючи проактивного підходу до управління ризиками та забезпечення безпечного майбутнього.
