Новини про потенційні ризики безпеки, пов’язані з новими моделями штучного інтелекту від Anthropic, Fable 5 та Mythos 5, привернули увагу громадськості та урядових структур. Генеральний директор Amazon, Енді Джессі, міг стати ключовим джерелом інформації щодо цих ризиків, повідомивши про можливість використання моделей для кібератак.
Як пише Wall Street Journal, посилаючись на обізнаних осіб, Джессі під час зустрічі з міністром фінансів США Скоттом Бессентом та іншими посадовцями розкрив, що дослідники Amazon виявили вразливості в моделі Fable 5, які дозволили отримати дані, потенційно придатні для кібератак, хоча доступ до них мав бути обмежений.
Реакція урядових структур та подальші дії
Ця інформація спричинила нараду у Білому домі, де розглядалися можливі сценарії дій, а фахівці з безпеки розпочали перевірку результатів дослідження Amazon. Адміністрація президента запропонувала компанії Anthropic або усунути виявлені недоліки, або повністю відключити ці моделі. Зрештою, було прийнято рішення обмежити доступ до Fable 5 та Mythos 5 для іноземних урядів, компаній та приватних осіб, щоб мінімізувати потенційні загрози.
“Президент Трамп підписав відповідне рішення, попри занепокоєння, що це може стримати інновації.”
За словами представників Білого дому, сумніви щодо здатності Anthropic самостійно забезпечити належний рівень безпеки своїх нових розробок існували й раніше. Ці сумніви посилилися після розмови частини урядовців з генеральним директором Anthropic Даріо Амодеї, що відбулася напередодні введення заборони.
Позиція Anthropic та ставлення до виявлених вразливостей
Компанія Anthropic, у свою чергу, заявляє, що виявлені Amazon вразливості є відносно базовими і не становлять повноцінного “джейлбрейку” моделей. Представники компанії стверджують, що подібні слабкі місця можна знайти і в інших публічно доступних моделях ШІ, і цю думку поділяють деякі незалежні дослідники безпеки, ознайомлені з дослідженням Amazon.
Партнерство Amazon та Anthropic
Цікавим фактом є те, що Amazon є одним із найбільших інвесторів Anthropic, постачаючи компанії необхідні чипи для дата-центрів в рамках масштабної угоди. Це партнерство додає складності у розумінні динаміки взаємовідносин між двома технологічними гігантами.
- Виявлення потенційних вразливостей у моделях ШІ.
- Реакція урядових структур та запровадження обмежень.
- Різні погляди компаній на рівень безпеки розробок.
Подальший розвиток подій покаже, як ці виявлені ризики вплинуть на майбутнє розробок штучного інтелекту та політику безпеки в цій сфері.
