Anthropic заявила про спроби використати Claude для розробки біологічної зброї

Anthropic заявила про спроби використати Claude для розробки біологічної зброї

Компанія Anthropic, розробник передових моделей штучного інтелекту, нещодавно оприлюднила звіт, що висвітлює тривожні тенденції зловживання її технологіями. Протягом останніх восьми місяців компанія виявила та заблокувала кілька потенційних спроб використати її ШІ-моделі для досліджень, які могли б сприяти створенню біологічної зброї. Ця інформація викликає серйозне занепокоєння щодо безпеки та етичного використання штучного інтелекту у сфері наукових розробок.

Безпекові виклики та подвійне призначення наукових досліджень

Складність розрізнення намірів

Anthropic визнає, що не завжди вдається чітко визначити справжню мету досліджень, які використовують її ШІ-моделі. Біологічні експерименти, хоч і можуть мати цілком легальні та суспільно корисні цілі, наприклад, розробку вакцин, водночас несуть у собі ризик використання тих самих методів для створення небезпечних патогенів. Такий дуалізм вимагає від компанії особливо обережного підходу та посиленого контролю за підозрілою активністю.

Випадок з дослідженням вірусу чикунгунья

Одним із найсерйозніших випадків, описаних у звіті, стало звернення вченого у травні місяці до моделі Claude за допомогою у підготовці грантової заявки. Предметом дослідження був вірус чикунгунья, а дослідник планував створити його мутації, що підвищили б небезпеку під час повторного зараження живих організмів. Anthropic вважає цей випадок особливо підозрілим, зважаючи на те, що дослідження мали проводитись у військовому науково-дослідному інституті, що додає йому ознак потенційної військової розробки.

Обхід обмежень та посилення заходів безпеки

Приховані наміри та регіональні обмеження

Звіт Anthropic також викриває спроби дослідників обходити встановлені обмеження, зокрема, щодо доступу користувачів з певних географічних регіонів до моделей Claude. Окрім того, були зафіксовані спроби приховати справжню мету своїх запитів, що свідчить про усвідомлення потенційної небезпеки та спроби уникнути контролю. У відповідь на такі дії, компанія оперативно заблокувала пов’язані з цими дослідженнями облікові записи.

Еволюція моделей та посилення контролю

Компанія наголошує, що її попередні моделі, оцінені минулого року, не мали такого рівня можливостей для суттєвого сприяння небезпечним біологічним дослідженням. Однак, сучасні версії Claude досягли значного прогресу у виконанні складних наукових завдань, що спонукало Anthropic до посилення обмежень для запитів, пов’язаних із біологічними дослідженнями подвійного призначення. Це свідчить про динамічний характер загроз та необхідність постійного вдосконалення систем безпеки.

“Ми постійно вдосконалюємо наші механізми безпеки, щоб запобігти зловживанням нашими моделями. Наша мета – сприяти науковому прогресу, одночасно захищаючи суспільство від потенційних загроз,” – зазначили представники Anthropic.

Інші випадки зловживання ШІ-моделями

Російські кібератаки та розробка озброєнь

Крім загроз у сфері біологічної безпеки, звіт Anthropic висвітлює й інші випадки зловживань. Зокрема, зазначається, що російські хакери використовували модель Claude для здійснення автоматизованих атак на українські урядові, військові та дипломатичні структури. Це підкреслює універсальність загроз, що походять від зловмисного використання штучного інтелекту.

Потенціал для розробки зброї

Також було виявлено спроби використання Claude для розробки програмного забезпечення, пов’язаного зі створенням ракет, ударних дронів, вогнепальної зброї та бомб. Ці спроби були зафіксовані в росії, Китаї та Ємені, що вказує на глобальний характер проблеми та необхідність міжнародної співпраці для її вирішення.

  • Розробка нових вакцин та методів лікування.
  • Виявлення та нейтралізація небезпечних біологічних загроз.
  • Підвищення ефективності наукових досліджень у різних галузях.

Ці події підкреслюють критичну важливість розробки надійних систем контролю та етичних рамок для штучного інтелекту, адже його потенціал як для добра, так і для зла, стає все більш очевидним.