Компанія Anthropic, що займається розробкою штучного інтелекту, виступила з безпрецедентним закликом до провідних лабораторій у сфері ШІ, наполегливо рекомендуючи сповільнити темпи розвитку цієї стрімко прогресуючої технології. У своєму нещодавньому блозі компанія наголосила на надзвичайно високій швидкості еволюції штучного інтелекту, яка, за їхніми прогнозами, може призвести до сценарію, коли ШІ почне вдосконалюватися самостійно, поза межами людського контролю, що несе в собі значні суспільні ризики.
Заклик до сповільнення розвитку ШІ: аргументи та занепокоєння
Публікацію, підготовлену керівницею внутрішнього дослідницького інституту Мариною Фаваро та співзасновником компанії Джеком Кларком, детально описує шалений прогрес, досягнутий можливостями ШІ за останні роки, і висловлює думку про доцільність призупинення подальшого прискорення. “Ми вважаємо, що для світу було б корисно мати можливість уповільнити або тимчасово призупинити розвиток передових технологій штучного інтелекту, щоб соціальні структури та дослідження з узгодження цілей встигали за прогресом технологій”, – зазначають автори.
Основне занепокоєння Anthropic полягає в потенційній здатності великих мовних моделей досягти рівня самостійного вдосконалення. Хоча автори визнають, що це може мати позитивні наслідки, зокрема прискорити прогрес у науці, медицині та інших критично важливих сферах, вони також попереджають про небезпеку повної втрати людського контролю над такими системами. “Якщо зайти досить далеко та забезпечити достатню кількість обчислень, ця тенденція вказує на систему штучного інтелекту, здатну повністю автономно проєктувати та розробляти свого наступника. Це називається рекурсивним самовдосконаленням. Ми ще не досягли цієї мети, і рекурсивне самовдосконалення не є неминучим. Але воно може статися раніше, ніж більшість установ готова”, – підкреслюють у блозі.
Шляхи координації та майбутні дискусії
У відповідь на ці виклики, Anthropic вже ініціювала дослідження спільно з іншими гравцями галузі з метою розробки механізмів, які б дозволили регулювати темпи розвитку ШІ. Компанія планує організувати в найближчі місяці серію дискусій за участю політиків, науковців, представників громадянського суспільства та інших компаній, що працюють над ШІ. Ці зустрічі будуть присвячені пошуку відповідей на ключові питання, порушені у блозі, зокрема щодо природи рекурсивного самовдосконалення та шляхів створення ефективних систем координації.
“Ці системи дозволять розробникам провідних систем штучного інтелекту перевірити, чи інші розробники в усьому світі фактично зупинилися або уповільнили свою діяльність, і чи зловмисник не зможе використати скоординоване уповільнення, щоб таємно вирватися вперед. Якби такі системи існували, ми очікуємо, що ми б уповільнили або тимчасово зупинили свою діяльність, якби інші передові розробники також зробили це у спосіб, який можна перевірити”, – пояснюється в публікації.
Цей заклик від Anthropic підкреслює зростаюче усвідомлення потенційних ризиків, пов’язаних з неконтрольованим розвитком штучного інтелекту, та необхідність міжнародної співпраці для забезпечення безпечного та етичного майбутнього цієї технології.
Раніше генеральний директор Anthropic висловлював думку, що ШІ може стати серйозним випробуванням для людства як виду, а також передбачив значне скорочення робочих місць в офісній сфері через автоматизацію, що може призвести до зростання безробіття. Крім того, Anthropic, OpenAI та Microsoft спільно закликали уряд США посилити заходи безпеки для запобігання створенню біологічної зброї за допомогою ШІ.
