Генеральний директор Anthropic Даріо Амодей виступив із заявою, яка проливає світло на складні питання регулювання штучного інтелекту та геополітичні виклики, пов’язані з розвитком цієї технології. Його коментарі з’явилися у відповідь на дискусії щодо можливих обмежень китайських моделей ШІ у Сполучених Штатах, і вони пропонують переосмислити поточні підходи до безпеки та конкуренції у сфері ШІ.
Конкуренція чи безпека: дилема відкритих моделей
Суспільне благо від відкритих розробок
Амодей наголосив, що Anthropic не виступає за заборону моделей з відкритими вагами, вважаючи їх суспільним благом. На його думку, такі моделі, за відсутності небезпечних можливостей, можуть бути доступні широкому колу користувачів за помірною вартістю, сприяючи інноваціям у бізнесі, наукових дослідженнях та освіті. Ця позиція, однак, суперечить деяким побоюванням щодо потенційного зловживання відкритими технологіями.
“Моделі без небезпечних можливостей є суспільним благом, оскільки їх можна запускати за вартістю обчислень і використовувати в бізнесі, розробці та дослідженнях”, – зазначив генеральний директор Anthropic.
Виклики безпеки відкритих моделей
Водночас, Амодей висловив занепокоєння щодо незворотності відкритих моделей. Після публікації, модель стає неконтрольованою, а її захисні механізми можуть бути легко видалені, що створює значні ризики. Цю точку зору підтримує і британський AI Security Institute, який також попереджає про незворотність такого роду рішень. Це ставить під сумнів твердження про те, що відкриті ваги обов’язково спрощують захист від зловмисників.
Геополітичні ризики та пропозиції Anthropic
Китайський фактор та авторитарні режими
Найбільшу геополітичну загрозу, на думку керівника Anthropic, становить не використання китайських моделей американським бізнесом, а потенціал авторитарних держав створити системи ШІ, що перевершують американські розробки. Такі потужні системи можуть бути використані для військових цілей, стеження та придушення населення, незалежно від того, чи є ваги моделі публічно доступними. Це підкреслює необхідність міжнародної співпраці у сфері контролю за розробкою та розгортанням передових ШІ-технологій.
Ризики кібератак та біологічної зброї
Окремо Амодей виділив ризики використання ШІ для кібератак та створення біологічної зброї. У таких сценаріях відкриті ваги можуть бути навіть небезпечнішими, ніж закриті моделі, оскільки розробник втрачає контроль над їх використанням та не може своєчасно оновлювати захисні механізми.
Пропозиції щодо регулювання
Замість загальних заборон, Anthropic пропонує зосередитися на таких заходах:
- Обмеження постачання передових чипів та обладнання до Китаю.
- Протидія контрабанді технологій.
- Покарання за промислову дистиляцію, тобто несанкціоноване копіювання та модифікацію моделей.
Компанія також підтримала ідею обов’язкової перевірки всіх потужних моделей ШІ на кібернетичні, біологічні та інші ризики, незалежно від країни походження та доступності їхніх ваг. Цю пропозицію раніше висловив генеральний директор Google DeepMind Деміс Хассабіс, який запропонував створити міжнародний орган зі стандартизації. Однак, Амодей підкреслив, що без участі Китаю така система тестування не буде повноцінно ефективною, і висловив сподівання на можливу співпрацю між Пекіном і Вашингтоном у запобіганні використанню ШІ для створення біологічної зброї, оскільки це відповідає інтересам обох держав.
Реакція на ринку ШІ
Нагадаємо, що дискусія щодо обмежень китайських ШІ-моделей у США активізувалася після виходу моделі Kimi K3. Тим часом, американський бізнес все частіше комбінує дорогі закриті системи з доступнішими моделями з відкритими вагами, включаючи китайські. Ця тенденція свідчить про складність пошуку балансу між інноваціями, конкуренцією та безпекою в динамічно розвитку сфері штучного інтелекту.
