Генеральний директор Anthropic Даріо Амодеї, виступаючи у програмному есе “Policy on the AI Exponential”, висловив думку, що епоха необмеженої прозорості щодо передових штучних інтелектів добігає кінця. Він наполягає на необхідності жорсткого регулювання цих технологій, порівнюючи їх з літаками, автомобілями чи лікарськими засобами, які вже давно підпадають під суворий контроль. Anthropic, зі свого боку, представила законодавчу пропозицію щодо обов’язкового тестування передових ШІ-моделей, а також розробила політичну рамку для врегулювання потенційного масового витіснення робочих місць, зобов’язавшись фінансово підтримувати обидві ініціативи.
Амодеї використовує алегорію з “Володаря перснів”, де політичні інституції постають у ролі Древоборода, що повільно реагує, тоді як ШІ розвивається зі швидкістю гобітів, які потребують негайних дій. За лише чотири роки штучний інтелект пройшов шлях від нездатності генерувати зв’язний код до написання значної його частини у великих ШІ-компаніях. Згідно з законами масштабування, якщо поточні темпи розвитку збережуться ще рік-два, світ може зіткнутися з реальністю, яку Амодеї називає “країною геніїв у дата-центрі”.
Ключовим моментом, який, на думку Амодеї, змінив парадигму, стала демонстрація моделі Claude Mythos Preview. Ця модель виявила реальні кіберризики, що становлять загрозу для фінансового сектору, критичної інфраструктури та національної безпеки. Цей випадок, на переконання Амодеї, остаточно довів, що ШІ-моделі є інструментами стратегічного значення, а за кіберризиками неминуче послідують біологічні загрози та ризики, пов’язані з автономністю систем.
П’ять напрямів, які потребують переосмислення згідно з Амодеї:
-
Регулювання та публічна безпека.
Центральною пропозицією есе є створення аналога Федерального управління цивільної авіації США (FAA) для ШІ. Моделі, що перевищують певний поріг обчислень, повинні проходити обов’язкове тестування незалежною третьою стороною за чотирма напрямами ризику: кібербезпека, біологічна зброя, втрата контролю над ШІ-системами та автоматизовані дослідження, що прискорюють перші три. Держава повинна мати повноваження блокувати розгортання небезпечної моделі, проте це має відбуватися в межах зазначених ризиків і з гарантіями проти політичного фаворитизму. Розробники ШІ зобов’язані захищати ваги моделей та оперативно повідомляти про інциденти.
-
Макроекономіка та податки.
Амодеї попереджає про потенційне “заклинювання” економіки в режимі “гіперзростання з гіпернерівністю”, що означає вибухове зростання ВВП при одночасному тривалому витісненні людської праці. Він наголошує, що його попередження про втрату робочих місць спрямовані на те, щоб політики та бізнес встигли адаптуватися, а не на те, щоб бути “пророком апокаліпсису”. Серед запропонованих інструментів – державний моніторинг впливу ШІ на зайнятість, страхування зарплат для тих, хто змушений перейти на нижчеоплачувану роботу, податкові стимули для утримання персоналу, а в крайньому разі – безумовний базовий дохід або універсальні капітальні рахунки, що фінансуються податками на ШІ-компанії та приріст капіталу.
-
Прискорення позитивного впливу.
Парадоксально, але для тих галузей, які ШІ покликаний прискорити – біомедицина, енергетика, матеріалознавство – Амодеї боїться не недорегульованості, а навпаки, надмірної обережності регуляторів. Він вважає, що регуляторні органи, подібні до FDA та EMA, розраховані на тривалі цикли схвалення, можуть не впоратися з потоком нових розробок. Амодеї закликає ці агентства вже зараз розробляти стандарти для прийняття ШІ-симуляцій як альтернативи частині клінічних експериментів, починаючи від моделювання фармакокінетики до створення синтетичних контрольних груп у випробуваннях.
-
Держава та громадянські свободи.
Амодеї вважає потужний ШІ в неправильних руках потенційним інструментом автократії. Він пропонує законодавчо заборонити застосування повністю автономної зброї всередині країни (проти власних громадян), вбудовувати в автономні системи механізми конституційної підзвітності з можливістю “вимкнення” під контролем судової гілки влади, а також закрити лазівку щодо купівлі даних у брокерів для масового стеження. Крім того, він наголошує на необхідності гарантувати громадянам доступ до ШІ, який не поступається за потужністю тому, що використовується проти них державою у регуляторних чи судових процесах. Примітно, що загрозу він бачить не лише з боку урядів, а й з боку ШІ-компаній, які, на його думку, також потребують зовнішніх обмежень, подібних до Long-Term Benefit Trust самої Anthropic.
-
Лідерство демократій.
Штучний інтелект, на думку Амодеї, “перезавантажує всю ігрову дошку” геополітики, подібно до ядерної зброї, але з потенційно більшим масштабом. Країна, що володіє потужним ШІ, матиме значну перевагу над країною, яка відстає на три роки, що можна порівняти з протистоянням “морпіхів Другої світової проти середньовічних мечників”. Він пропонує створити коаліцію демократій зі спільними правилами безпеки, вільним обміном чіпами та обладнанням у межах коаліції, а також скоординованою відмовою в доступі для противників. Метою є поступове розширення коаліції, щоб членство в ній ставало все більш привабливим, а перебування поза її межами – дедалі невигіднішим. Амодеї наводить приклад, що автономна зброя має легітимне застосування для захисту від зовнішньої агресії, як-от проти російського вторгнення в Україну.
Окремо Амодеї відкидає поширену в індустрії тезу про необхідність “кращого маркетингу” для подолання суспільного спротиву. Він стверджує, що люди стурбовані, оскільки правильно оцінюють реальні ризики, і вважає своїм обов’язком як лідера галузі залишатися прозорим щодо них. Суспільне занепокоєння він розглядає як дієву демократичну підзвітність. Завдання полягає в тому, щоб спрямувати цю енергію в конструктивні рішення, поки існує “відкрите вікно можливостей”. Збіг очевидних доказів ризиків, перших економічних ефектів ШІ та суспільного запиту на регулювання створює умови, за яких політики є незвично відкритими до дій.
