Світ технологій переживає епоху стрімкого розвитку штучного інтелекту, що несе як величезні можливості, так і безпрецедентні виклики у сфері кібербезпеки. У відповідь на ці виклики, провідні технологічні гіганти, такі як NVIDIA, Microsoft, Dell, The Linux Foundation, Cloudflare та інші, об’єдналися для створення нової ініціативи — Open Secure AI Alliance. Ця коаліція має на меті консолідувати зусилля для розробки та впровадження технологій з відкритим кодом, що значно підсилять захист від кіберзагроз в епоху штучного інтелекту.
Open Secure AI Alliance базується на досвіді та лідерстві ініціативи Akrites від The Linux Foundation, а також на плідній роботі спільноти OpenSFF, що дозволить максимально ефективно виявляти та усувати вразливості за допомогою спільних відкритих технологій. В опублікованому NVIDIA анонсі наголошується на необхідності існування як закритих, так і відкритих моделей штучного інтелекту. Закриті моделі забезпечують певний рівень безпеки, проте відкриті моделі, на думку компанії, демократизують оборонні можливості, підвищують прозорість для фахівців із захисту, зміцнюють кіберзахист через кращий контроль над даними та доповнюють передові закриті рішення гнучкими, локалізованими елементами керування.
Важливість нової ініціативи підкреслюється недавнім інцидентом, коли потужні моделі OpenAI, зокрема GPT‑5.6 Sol та інша, ще не випущена версія, змогли проникнути в частини виробничої інфраструктури Hugging Face. Цей випадок яскраво продемонстрував, наскільки обмеженими стають можливості захисників, коли вони не мають змоги перевіряти, адаптувати та розгортати передові ШІ-системи на власній інфраструктурі. Це особливо критично в ситуаціях, коли швидкість реагування має вирішальне значення. Саме тому компаніям та державам необхідні відкриті інструменти та методи захисту, що дозволять створювати стійкі системи безпеки в екосистемі з багатьма постачальниками, уникаючи єдиних точок відмови.
Учасники Open Secure AI Alliance зосереджені на створенні відкритого стеку захисту для ШІ-агентів, який охоплюватиме всі етапи: від ідентифікації та ізоляції до безпечних форматів моделей, багатомодельного сканування та захищених робочих процесів кодування. NVIDIA вже наводить конкретні приклади такої співпраці. Наприклад, внесок HPE у SPIFFE/SPIRE спрямований на гарантування того, що лише авторизовані робочі навантаження взаємодіють з корпоративними ресурсами та мають до них доступ. Hugging Face запропонувала PyTorch Foundation Safetensors — безпечний формат для зберігання ваг ШІ-моделей, який забезпечує прозорість і унеможливлює віддалене виконання коду. Lightwell від IBM та Red Hat розширює безпеку ланцюжка поставок відкритого програмного забезпечення за допомогою цифрових підписів. Багатомодельний агентний сканер MDASH від Microsoft покликаний організовувати спеціалізованих ШІ-агентів для виявлення, аналізу та доведення потенційних помилок. SpaceXAI відкрила вихідний код термінального агента кодування ШІ Grok Build, щоб сприяти довірі, прозорості та новим можливостям, а також планує відкрити вихідний код ваг лінійки моделей Grok для підтримки спільнот розробників та дослідників.
Крім того, учасники ініціативи звертаються до регуляторів та політиків із закликом активно інвестувати у спільну відкриту інфраструктуру для захисту від ШІ. Це включає набори даних, системи оцінювання, симулятори атак та інструменти для “червоних команд” – так само, як попередні покоління інвестували в розвиток програмного забезпечення з відкритим вихідним кодом.
