Робота з сучасними мовними моделями, чи то через зручні споживчі інтерфейси, чи через програмні інтерфейси (API), несе в собі потенційні ризики, пов’язані як із конфіденційністю даних, так і з безпекою самих систем. Важливо розрізняти ці два аспекти, адже вони стосуються різних аспектів взаємодії з агентами штучного інтелекту. Конфіденційність стосується того, куди надходять надані дані, як довго вони зберігаються та хто має до них доступ. Безпека ж охоплює те, що може потрапити до системи ззовні та що може нею керувати.
Проблеми приватності: куди йдуть ваші дані
Зберігання та використання даних
При використанні хмарних мовних моделей ваші повідомлення не залишаються на пристрої, а надсилаються на сервери постачальника для обробки. Цей процес породжує два ключові питання, які часто плутають: чи будуть ваші розмови використані для навчання майбутніх версій моделі, і як довго ці дані зберігатимуться в журналах, а також хто матиме до них доступ. Питання терміну зберігання даних, або “data retention”, є незалежним від питання використання для навчання.
Компанія Anthropic у серпні 2025 року продемонструвала, як ці питання можуть бути пов’язані. Раніше розмови користувачів Claude видалялися протягом тридцяти днів і за замовчуванням не використовувалися для навчання. Оновлені умови надали користувачам планів Free, Pro та Max вибір: згода на використання даних для навчання автоматично подовжувала термін зберігання до п’яти років, тоді як відмова залишала попередній режим. Ці зміни не торкнулися бізнес-планів.
Правові аспекти та судові приписи
Навіть налаштовані параметри конфіденційності не завжди гарантують повне видалення даних. Справа The New York Times проти OpenAI ілюструє це: у травні 2025 року суд зобов’язав OpenAI зберігати всі журнали відповідей, включаючи видалені користувачами та приватні розмови, підлягаючи видаленню. Це зобов’язання, хоч і оскаржене OpenAI, діяло до кінця вересня 2025 року, застосовуючись до вже накопичених даних. Суд також визнав окремих користувачів сторонніми особами у справі, що призвело до вирішення долі їхніх листувань без їхньої участі. Згодом OpenAI була зобов’язана передати позивачам двадцять мільйонів знеособлених журналів розмов.
“Обіцянка видалити дані діє між компанією і користувачем, а припис про збереження доказів діє між компанією і судом.”
Українське законодавство у сфері ШІ
В Україні правове регулювання персональних даних перебуває на стадії трансформації. Закон “Про захист персональних даних”, ухвалений у 2010 році, потребує адаптації до сучасних реалій. Законопроєкт №8153, спрямований на гармонізацію з європейським GDPR, пройшов перше читання, а законопроєкт №6177 передбачає створення окремого наглядового органу. Мінцифри також розробило Білу книгу з регулювання штучного інтелекту, яка передбачає поетапний підхід: від добровільних кодексів до обов’язкових норм. Наразі українське законодавство не має специфічних правил для мовних моделей, а терміни зберігання та порядок видалення визначаються угодами з постачальниками.
Рівні доступу та їх наслідки
Споживчі застосунки, API та корпоративні плани
Способи взаємодії з хмарними моделями відрізняються за дефолтними налаштуваннями щодо даних. Споживчі застосунки пропонують найбільшу зручність, але найменше гарантій, тоді як API надає розробникам доступ з іншим набором правил, включаючи угоди про нульове зберігання для бізнесу. Корпоративні плани зазвичай виключають користувача з процесу тренування моделі за замовчуванням.
Витік даних як наслідок необережності
Інцидент із Samsung, коли інженери використовували ChatGPT для роботи з конфіденційним кодом, призвів до трьох витоків даних протягом двох тижнів. Це підкреслює необхідність обережного ставлення до використання ШІ-інструментів, особливо з конфіденційною інформацією. Samsung у відповідь заборонила генеративні інструменти на робочих пристроях та почала розробку власної моделі.
Безпека: захист від зовнішніх втручань
Пряма та непряма ін’єкція (Prompt Injection)
Однією з головних загроз безпеки є “ін’єкція”, коли зловмисники намагаються маніпулювати моделлю. Пряма ін’єкція передбачає введення шкідливих інструкцій безпосередньо користувачем, як у випадку з дилером Chevrolet, де бот погодився продати автомобіль за долар. Непряма ін’єкція, яка є більш небезпечною, полягає у вбудовуванні шкідливих команд у дані, які агент обробляє самостійно, наприклад, у електронному листі. Дослідження EchoLeak від Aim Labs продемонструвало, як така атака на Microsoft 365 Copilot могла призвести до викрадення внутрішніх даних компанії.
“Ін’єкція в чат-бота дає скріншот чи текст, тоді як ін’єкція в ШІ-агента може дати дію.”
“Смертельна трійка” та правило двох
Саймон Віллісон запропонував концепцію “смертельної трійки” – поєднання доступу до приватних даних, контакту з неперевіреним зовнішнім вмістом та здатності передавати дані назовні. Це три властивості, які в сукупності створюють максимальний ризик. Meta запропонувала “правило двох”, згідно з яким агент в одній сесії не повинен мати більше двох з трьох указаних властивостей, щоб знизити ризик.
Отруєна пам’ять та фільтри
Атаки типу SpAIware демонструють, як шкідливі інструкції можуть бути записані в постійну пам’ять моделі, переживаючи сесію. Фільтри, що мають відсіювати шкідливі інструкції, працюють на ймовірностях і не завжди ефективні проти адаптивних атак. Дослідження показали, що навіть просунуті захисні механізми можуть бути зламані з високою ефективністю.
Звички замість налаштувань
У зв’язку з недосконалістю технічних засобів захисту, важливо формувати корисні звички при роботі з ШІ:
- Обмеження доступу: надавати агенту лише необхідні для завдання права.
- Розділення контурів: відокремлювати робочі дані від особистих, уникати зайвих прав на запис.
- Незворотні дії: вимагати підтвердження для критично важливих операцій.
- Принцип “все прочитане ззовні неперевірене”: ставитися з обережністю до будь-якої зовнішньої інформації.
Ці принципи, засновані на класичних концепціях безпеки, залишаються актуальними для сучасних мовних моделей. Локальний запуск моделей може вирішити частину проблем з приватністю, але не усуває вразливості безпеки.
