У світі технологій, де штучний інтелект (ШІ) стрімко розвивається, компанія Google DeepMind робить значний крок, започаткувавши DeepMind Institute. Цей новий майданчик покликаний стати центром дослідження безпечного розвитку загального штучного інтелекту (AGI), вивчення його впливу на суспільство та розробки механізмів регулювання.
DeepMind Institute: Фокус на безпечному розвитку AGI
Об’єднання зусиль для вирішення глобальних викликів
DeepMind Institute прагне об’єднати зусилля дослідників Google, Google DeepMind та ширшої наукової спільноти, підкреслюючи, що питання майбутнього AGI не повинні вирішуватися виключно технологічними компаніями. Відтак, до обговорення активно залучаються уряди, представники гуманітарних наук, мистецтва та суспільства, що свідчить про прагнення до комплексного підходу. AGI, що визначається як система з когнітивними здібностями, подібними до людського мозку, перебуває на стадії активного розвитку, і хоча сучасні моделі ще мають обмеження, такі як помилки у простих завданнях та недостатня послідовність, у DeepMind очікують на швидке подолання цих викликів.
Лідерство та перші кроки інституту
Керівництво інститутом довірено співзасновнику DeepMind Шейну Леггу, президенту Google з досліджень, лабораторій, технологій і суспільства Джеймсу Маніці та голові Google DeepMind Демісу Хассабісу, причому Шейн Легг також обійняв посаду головного редактора платформи. Першими результатами діяльності інституту стали чотири опубліковані матеріали, які зосереджені на ключових аспектах: економічна політика в епоху AGI, забезпечення прозорості процесів міркування моделей ШІ, принципи суспільного розвитку та розробка системи оцінювання передових моделей ШІ.
Дослідники попереджають про можливий перехід майбутніх моделей до ефективніших, але непрозорих способів міркування, що може ускладнити виявлення обману, прихованих цілей та спроб обійти обмеження.
Інноваційні пропозиції для регулювання ШІ
Одним із важливих аспектів, піднятих у публікаціях, є необхідність збереження зрозумілого для людей процесу міркування моделей, а також оцінка прозорості та методів їхнього навчання. На цьому тлі Деміс Хассабіс виступив із ініціативою створення в США органу зі стандартизації передового ШІ, який би спочатку працював на добровільній основі, а згодом міг би стати обов’язковою умовою для виходу моделей на ринок. Такий орган міг би проводити перевірки на ризики у сферах кібербезпеки, біології та інших небезпечних галузях, а також виявляти ознаки обману. У разі, якщо заходи безпеки не встигатимуть за розвитком технологій, цей орган міг би рекомендувати скоординоване уповільнення розробки передових моделей ШІ.
Позиція Google та відкритість до діалогу
Важливо зазначити, що матеріали, опубліковані DeepMind Institute, відображають позиції окремих авторів і не є офіційною позицією Google. Платформа відкрита до суперечливих поглядів та перегляду висновків у міру надходження нових даних, що підкреслює її роль як динамічного центру для обговорення майбутнього ШІ.
- Запуск DeepMind Institute як платформи для дослідження безпечного розвитку AGI.
- Об’єднання зусиль дослідників, урядів та представників суспільства.
- Публікація чотирьох ключових матеріалів щодо економіки, прозорості, суспільства та оцінки ШІ.
- Ініціатива створення органу зі стандартизації передового ШІ у США.
- Відкритість до різних поглядів та перегляду висновків.
