В умовах стрімкого розвитку штучного інтелекту (ШІ) та його інтеграції у сфері національної безпеки, виникають складні етичні та технічні дилеми. Нещодавній витік документів Пентагону, що стосуються співпраці з OpenAI, виявив потенційну вимогу до розробки спеціалізованих моделей ШІ для військових із “мінімальним рівнем відмов”, що викликало значний резонанс у технологічній спільноті та за її межами.
Аналіз ситуації: вимоги до ШІ та їх наслідки
Суперечливе формулювання у документах Пентагону
Згідно з інформацією, оприлюдненою виданням The Intercept у межах судового позову за Законом про свободу інформації, один із документів (версія P00003) містив опис OpenAI Mission Models як моделей для завдань національної безпеки, що мають “мінімальний рівень відмов”.
Рівень відмов ШІ відображає частоту, з якою система відмовляється виконувати запит через вбудовані правила безпеки, що покликані запобігти небезпечному або неетичному використанню.
Таке формулювання викликає занепокоєння, оскільки зменшення кількості відмов може потенційно підвищити корисність ШІ для військових операцій, але водночас може послабити захисні механізми, що запобігають його використанню в небезпечних цілях. Цей тренд частково перегукується з підходом стартапу Abliteration, який розробляє ШІ-моделі, що готові виконувати завдання, від яких відмовляються інші системи, прагнучи до повної відсутності відмов.
Відповіді сторін та подальші питання
Представник OpenAI, Нейт Еванс, рішуче заперечив, що компанія коли-небудь погоджувалася на вимогу “мінімального рівня відмов”, стверджуючи, що це формулювання було запропоновано Міністерством оборони США на ранніх етапах розробки проєкту, але було відхилено OpenAI і згодом вилучено з фінальної угоди.
У Пентагоні також наполягають на відсутності подібної вимоги в будь-яких чинних контрактах з OpenAI. Однак, ситуація ускладнюється тим, що запит медіа стосувався надання виключно фінальних підписаних документів, а оприлюднена версія документа не мала позначки “чернетка”. Цікаво, що юрист Міністерства юстиції США спочатку підтвердив статус документа як остаточного, але згодом відкликав свою заяву, що додає невизначеності.
Наступна версія угоди (P00004) взагалі повністю приховала опис завдання, пов’язаного з військовими моделями ChatGPT, що унеможливлює незалежну перевірку щодо збереження спірної вимоги.
Контекст співпраці та потенційні ризики
Підписання контракту OpenAI з Міноборони США відбулося на тлі конфлікту Пентагону з компанією Anthropic, що викликає питання щодо стратегічних мотивів та потенційних наслідків. Раніше OpenAI заявляла про свою відданість збереженню власних засобів безпеки та відмову від використання своїх технологій для масового стеження, автономної зброї та автоматичного ухвалення критично важливих рішень. Однак, поспішність укладання угоди, як зазначив Сем Альтман, може свідчити про складність навігації в мінному полі військового застосування передових ШІ-технологій.
- Виявлення потенційних вимог щодо “мінімального рівня відмов” у документах Пентагону підкреслює напруженість між прагненням до підвищення ефективності військових операцій за допомогою ШІ та необхідністю збереження етичних норм і безпеки.
- Відсутність чіткої прозорості щодо фінальних версій контрактів та можливі суперечності у заявах сторін створюють підстави для подальшого моніторингу та аналізу співпраці між OpenAI та Пентагоном.
- Випадок із документами Пентагону демонструє, наскільки важливою є детальна увага до формулювань у контрактах, що стосуються розробки та застосування передових технологій, особливо в чутливих сферах, таких як національна безпека.
Подальший розвиток подій та можливі роз’яснення від OpenAI та Пентагону матимуть вирішальне значення для розуміння майбутнього взаємодії між технологічними гігантами та військовими структурами у сфері штучного інтелекту.
