Сучасний етап розвитку штучного інтелекту супроводжується не лише технологічним проривом, а й гострою дискусією навколо необхідності державного регулювання та встановлення жорстких запобіжників безпеки. Пропозиція компанії Anthropic щодо нового законопроєкту демонструє намагання техногігантів самостійно формувати правила гри, встановлюючи при цьому чимало дискусійних обмежень для державного втручання.
Ключові параметри та поріг втручання
Запропонований документ передбачає надзвичайно високі критерії для блокування або зупинки роботи моделі: регулятори зможуть втрутитися лише за умови, що потенційна шкода перевищує один мільярд доларів або загрожує життю і здоровю щонайменше п’ятдесяти людей.
Цей законопроєкт відображає пропозиції, викладені у нашій системі безпеки передового ШІ, які ми просуваємо серед законодавців на федеральному рівні та рівні штатів із червня, – заявляють представники компанії Anthropic.
Основні джерела загроз згідно з проєктом
- Потенційне створення або поширення біологічної зброї;
- Масштабні кібератаки, здійснені за допомогою штучного інтелекту;
- Втрата контролю над автономними агентами та моделями з боку розробників.
Роль незалежних оцінювачів та Міністерства торгівлі
Механізм перевірки передбачає залучення незалежних експертів, зареєстрованих у Міністерстві торгівлі США, які здійснюватимуть періодичний аудит систем. У разі виявлення критичних ризиків профільне відомство матиме лише сімдесят дві години на передачу доказів до окружного суду. При цьому документ чітко обмежує повноваження, виключаючи втручання інших державних структур чи міністерств.
- Проведення регулярних незалежних оцінок безпеки передових моделей.
- Обов’язкове сповіщення Міністерства торгівлі у разі виявлення імовірних загроз.
- Прийняття фінального рішення виключно через федеральний суд округу Колумбія.
Подібні ініціативи виникають на тлі зростаючої кількості інцидентів із автономними агентами та закликів з боку провідних науковців і лідерів галузі запровадити ефективні механізми контролю за еволюцією надрозумних систем. Проте майбутнє цього законопроєкту в Конгресі США досі залишається невизначеним через запеклі дебати між прихильниками жорсткого нагляду та представниками індустрії.
