Компанія Microsoft, усвідомлюючи потенційні ризики, пов’язані з розвитком штучного інтелекту, зробила важливий крок, запровадивши новий “кодекс поведінки” для своїх систем. Цей документ, що визначає базові цінності та обмеження для навчання й використання ШІ, покликаний запобігти небезпечним діям моделей та окреслити підхід до контролю над майбутніми надпотужними системами.
Виклики майбутнього та роль Microsoft
У Microsoft передбачають, що протягом наступного десятиліття суперінтелектуальні моделі можуть перевершити людські можливості у більшості завдань, що ставить перед людством складне завдання контролю та узгодження таких систем. Компанія наголошує на необхідності заздалегідь визначити мету створення надпотужних моделей та встановити чіткі механізми їхнього регулювання, що є критично важливим для безпечного майбутнього.
Принципи та обмеження кодексу
Цей кодекс встановлює принципи, згідно з якими моделі мають підтримувати людей, а не замінювати їх, сприяти розвитку та уникати дій, що можуть призвести до втрати контролю.
- Серед “абсолютних обмежень” — заборона на використання ШІ для кібератак, створення ядерної зброї чи виробництво дипфейків.
- Окремо підкреслюється, що моделі не повинні застосовувати адаптивні чи обманні механізми, які дозволяють уникати людського нагляду або роблять їх недоступними для зупинки чи модифікації уповноваженими особами.
Контекст та реакція галузі
Рішення Microsoft з’явилося на тлі зростаючої уваги до питань безпеки штучного інтелекту, що підтверджується останніми інцидентами з неконтрольованими ШІ-агентами та тривожними попередженнями від експертів про ризик знищення людства через швидкий розвиток ШІ. Крім того, були виявлені спроби використання штучного інтелекту для розробки біологічної зброї, що ще більше загострює ситуацію.
У відповідь на ці виклики, керівники провідних ШІ-компаній, зокрема Даріо Амодей, Сем Альтман та Ілон Маск, висловили занепокоєння щодо темпів розвитку передового ШІ та підтримали ідею впровадження механізмів незалежної оцінки та безпеки.
Заклик до зваженого підходу
Генеральний директор Microsoft Сатья Наделла у своєму повідомленні підтримав концепцію незалежної оцінки у лабораторіях ШІ та закликав до зваженого підходу у створенні систем ШІ. Він зазначив, що компанія вітає дослідження та ретельне планування, необхідні для правильного узгодження технологій із безпекою, підкреслюючи важливість відповідального ставлення до розвитку цієї потужної технології.
Варто зазначити, що деякі політичні діячі, як-от Дональд Трамп, вважають, що єдиним “запобіжником” для ШІ є “сильний і розумний (з високим IQ!) президент США”, тоді як Китай, на відміну від нього, відкидає заклики до уповільнення розвитку штучного інтелекту.
