Генеральний директор OpenAI, Сем Альтман, чітко окреслив дві фундаментальні загрози, що постають перед людством у контексті розвитку штучного інтелекту: неконтрольоване домінування технології та надмірна концентрація влади в руках обмеженого кола осіб чи організацій. Ці питання набувають особливої актуальності на тлі стрімкого прогресу ШІ, який вже зараз демонструє потенціал, що виходить за межі людського розуміння та контролю.
Ключові загрози та шляхи їх уникнення
Втрата контролю над ШІ
Перший сценарій, описаний Альтманом, передбачає можливість того, що штучний інтелект самостійно визначатиме майбутнє людства, що він категорично відкидає, підкреслюючи непохитну позицію OpenAI: “беззастережно на боці людства”. Для запобігання такому розвитку подій, критично важливо, щоб методи узгодження поведінки та безпеки ШІ розвивалися випереджальними темпами порівняно з можливостями самих моделей. Інакше, існує реальний ризик того, що нові системи стануть надто потужними раніше, ніж розробники зможуть ефективно контролювати їхню поведінку.
Надмірна концентрація влади
Другий вагомий ризик, на думку Альтмана, полягає в концентрації надмірної влади. Якщо одна особа, компанія чи держава отримає контроль над надзвичайно потужним ШІ, це може призвести до антиутопічних наслідків, зокрема, до нав’язування певних поглядів. Подібна небезпека може виникнути і в разі домінування однієї країни або окремої ШІ-лабораторії.
Пропозиції OpenAI щодо забезпечення безпеки ШІ
Для протидії цим загрозам, Альтман підтримує ідею запровадження єдиних федеральних вимог до безпеки передових моделей ШІ, а також залучення незалежних аудиторів. Він наголошує, що компанії не повинні очікувати на нове законодавство чи антимонопольні винятки, а повинні активно впроваджувати посилені перевірки вже зараз.
OpenAI активно працює над розробкою окремих обґрунтувань безпеки ще до етапів навчання з підкріпленням, які значно розширюють можливості моделей. Компанія зобов’язується заздалегідь визначати потенційні ризики такого навчання та чітко пояснювати шляхи їх контролю.
Еволюція підходів до безпеки
За словами Альтмана, попередні системи безпеки, такі як Preparedness Framework від OpenAI, переважно фокусувалися на оцінці вже готових моделей перед їх випуском. Однак, з огляду на прискорення розвитку ШІ, необхідність контролю має бути перенесена на більш ранні етапи, охоплюючи сам процес створення та навчання нових систем.
Заклик до співпраці та розробки стандартів
Альтман пропонує компаніям розробити спільні стандарти для виявлення неузгодженої поведінки моделей, моніторингу їх дій та оцінки безпеки. OpenAI готова до відкритого обговорення єдиного підходу з іншими представниками галузі.
Дискусія щодо темпів розвитку ШІ
Ідея сповільнення розвитку штучного інтелекту, висунута Даріо Амодеєм, задля синхронізації темпів розробки систем безпеки з можливостями моделей, отримала підтримку від Альтмана. Однак, він уточнює, що сповільнення не означає повної зупинки прогресу, а скоріше призведе до його подорожчання та уповільнення через посилені перевірки та моніторинг.
Президент США Дональд Трамп, навпаки, виступає проти уповільнення розвитку ШІ, висловлюючи побоювання, що обмеження для американських компаній можуть надати Китаю технологічну перевагу. Амодей також поділяє це занепокоєння, припускаючи, що Китай може не підтримати ініціативу сповільнення, що ставить американських розробників у невигідне становище без міжнародної угоди.
CEO OpenAI підкреслює, що конкуренція між американськими компаніями не може слугувати виправданням для ризикованого розвитку моделей. Він вважає, що допомога уряду буде найбільш необхідною для міжнародної координації, тоді як доступні заходи безпеки лабораторії повинні впроваджувати самостійно.
“Наша відповідальність полягає не лише у створенні найпотужніших систем ШІ, але й у забезпеченні того, щоб ці системи служили на благо людства, а не створювали нові, небачені раніше загрози.” – Сем Альтман.
