Світ стоїть на порозі безпрецедентної кризи, спричиненої стрімким розвитком штучного інтелекту (ШІ), який може призвести до появи “суперінтелекту” – сутності, що значно перевершує людські можливості. Цю тривожну перспективу окреслила невелика група дослідників з некомерційної організації AI Futures Project у своєму 90-сторінковому дослідженні, яке фокусується не на класичних загрозах, як-от глобальне потепління чи ядерна війна, а на феномені, що може мати катастрофічні наслідки вже протягом наступного десятиліття. Автори наполягають на превентивному припиненні розробки суперінтелекту, оскільки його поява, незалежно від обставин, становитиме екзистенційну загрозу для людства.
Що таке суперінтелект і чому він несе загрозу?
Згідно з визначенням AI Futures Project, “суперінтелект означає системи штучного інтелекту, які значно перевершують найкращих людей у всьому, водночас будучи швидшими та дешевшими”. Це викликає сумніви щодо реалістичності таких машин, проте дослідники переконані, що надзвичайно високі темпи розвитку технологій роблять такий сценарій цілком імовірним. Наразі розробка ШІ потребує значної участі людей, але прагнення до повної автоматизації цього процесу може прискорити появу суперінтелекту.
Переваги суперінтелекту над людиною полягають у його розвинених навичках, ефективності та глибоких знаннях, що ставить під сумнів здатність людей конкурувати з ним. Найбільш тривожним питанням залишається контроль над такою системою: хто її керуватиме, і чиїм інтересам вона служитиме? Відсутність контролю може призвести до концентрації надмірної влади в руках власників суперінтелекту, що потенційно може спричинити політичні диктатури або навіть протилежний сценарій – коли суперінтелект, діючи з технократичної логіки або через відсутність моральних кордонів, може дійти висновку про непотрібність людства, або його частину, вважаючи це “ефективнішим” рішенням.
“всі проблеми людей будуть вирішені, якщо самих людей більше не буде”.
Це одне з можливих технократичних обґрунтувань, яке може призвести до знищення людства, хоча автори допускають і менш радикальні варіанти, коли частина людства може бути залишена, якщо це видасться суперінтелекту “дешевше або ефективніше”.
План А: надія на порятунок від технологічної гонитви
AI Futures Project пропонує “План А” – найбільш позитивний і утопічний сценарій запобігання ШІ-апокаліпсису, який базується на переговорах між двома наддержавами, що досягли значних успіхів у сфері ШІ – США та Китаєм. Ці переговори, заплановані на 2029 рік, мають розпочатися на тлі зростання побоювань щодо втрати контролю над ШІ. Початковим кроком стане обмін інформацією про обчислювальні потужності, дані про які можна буде верифікувати через виробництво ШІ-чипів, що зосереджене у кількох країнах.
Проблема Китаю та перегони озброєнь у сфері ШІ
Існує поширена думка, що Китай прагне наздогнати США у перегонах ШІ, використовуючи будь-які засоби. Однак, на думку авторів, це не враховує власну стурбованість Китаю щодо безпекових ризиків, етичних та футурологічних наслідків розвитку ШІ, включаючи потенційне безробіття та зникнення звичного способу життя. Насправді, Китай, маючи менш виграшну позицію у сфері ШІ-можливостей порівняно зі США, може бути зацікавлений у припиненні гонитви.
Дослідники пропонують глобальну домовленість, подібну до Договору про нерозповсюдження ядерної зброї, яка передбачатиме взаємне розсекречення досліджень, припинення перегонів та спільний, контрольований розвиток технологій. Це створить класичну win-win ситуацію, де жодна зі сторін не матиме причин доводити процес до взаємного знищення чи припинення існування людства.
Реалізм та утопізм Плану А
План А передбачає поетапне врегулювання:
- Початок переговорів між США та Китаєм у 2029 році.
- Обмін даними про обчислювальні потужності та публічне звітування про закупівлі обладнання для ШІ.
-
До 2030 року – перебудова світової парадигми розвитку ШІ, що включатиме:
- Сповільнення розвитку до 2040 року для осмислення наслідків.
- Повна прозорість досліджень.
- Поширення ШІ-продуктів для зменшення концентрації влади.
- Принцип “зворотності” – розміщення обчислювальних потужностей на нейтральних територіях з можливістю фізичного знищення у разі порушення домовленостей.
Подальші етапи Плану А переходять у сферу наукової фантастики: економічна трансформація завдяки роботам, вирішення проблем хвороб та злочинності, зупинка розвитку ШІ на рівні безпечних роботів-експертів. До 2040 року людство, досягнувши високого рівня благополуччя, добровільно передасть управління державою та військовими об’єктами штучному інтелекту, знявши заборону на розвиток суперінтелекту.
Марення чи нові цінності?
План А, хоч і є найбільш оптимістичним, залишається утопічним. Альтернативні сценарії, на думку авторів, є набагато реалістичнішими, хоча й жахливішими, ведучи до глобальних війн та диктатур. AI Futures Project не ставили на меті зробити науковий прогноз, а радше продемонструвати напрямок думки та сформувати ціннісну основу для правильного розвитку ШІ. Цей документ є каркасом для наших сподівань щодо технології, а те, чи буде він врахований “сильними світу цього”, залежатиме від дій громадськості кожної країни.
Дослідження AI Futures Project актуалізує дискусію про майбутнє ШІ, підкреслюючи необхідність глобальної співпраці та відповідального підходу до розробки технологій, які можуть кардинально змінити долю людства.
