Microsoft впроваджує нову функцію в Microsoft Purview, яка надасть IT-адміністраторам можливість переглядати запити співробітників до ШІ-сервісів та отримані відповіді без шифрування, що може викликати занепокоєння щодо конфіденційності. Ця інновація, анонсована у Центрі повідомлень (MC1304292) та детально описана виданням Neowin, покликана посилити безпеку та управління даними в корпоративному середовищі.
Microsoft Purview: Інструмент для безпеки та управління даними
Детальний аналіз нової функції
Microsoft Purview, широко використовуваний IT-фахівцями для забезпечення безпеки та управління корпоративними даними, отримує оновлення, яке дозволить авторизованим співробітникам служби безпеки отримувати доступ до повідомлень, що містять “індикатори ризику”, які користувачі надсилають до різних ШІ-сервісів. Ця нова можливість, як повідомляє Neowin, надаватиме IT-командам доступ до запитів та відповідей у форматі відкритого тексту, незалежно від того, чи були користувачі псевдонімізовані. Хоча система зберігатиме конфіденційність особистості працівника, зміст його взаємодії зі штучним інтелектом буде доступним для перегляду. Однак, у випадках, коли адміністратор виявить порушення корпоративних політик, він матиме можливість деанонімізувати користувача.
Microsoft додає, що контент буде доступний навіть у випадках, коли користувачів псевдонімізовано. Це означає, що система збереже конфіденційність і приховуватиме особу працівника, однак надасть доступ до змісту взаємодії із ШІ. Однак, якщо адмін вирішить, що запит порушує політики компанії, він може деанонімізувати людину.
За задумом розробників, ця функція має стати вагомим інструментом у боротьбі з витоками конфіденційної інформації та крадіжкою інтелектуальної власності, а також допоможе виявляти ризиковані сценарії використання генеративного ШІ. Важливо зазначити, що доступ до таких даних буде суворо регламентований рольовою моделлю, а всі дії адміністраторів детально фіксуватимуться у журналах аудиту, що покликане мінімізувати ризик зловживань.
Терміни впровадження
Попередня версія цієї інноваційної функції стане доступною протягом травня, а повноцінний реліз запланований на наступний місяць.
Контекст та супутні новини
Ця новина з’являється на тлі інших важливих подій у сфері штучного інтелекту та безпеки даних. Зокрема, OpenAI нещодавно запровадила функцію “Довірений контакт” у ChatGPT для випадків можливого самошкодження, а Google пояснила причини автоматичного завантаження ШІ-компонентів у Chrome, запропонувавши користувачам відповідні рішення.
Потенційні наслідки та дискусії
Введення такої функції викликає низку запитань щодо балансу між корпоративною безпекою та правом на приватність. З одного боку, можливість моніторингу запитів до ШІ може суттєво знизити ризики витоку даних. З іншого боку, повний доступ до змісту взаємодії працівників зі штучним інтелектом, навіть без ідентифікації особи, може створювати атмосферу недовіри та стеження. Експерти з кібербезпеки та приватності закликають до уважного вивчення політик використання таких інструментів та забезпечення прозорості щодо того, як саме будуть використовуватися зібрані дані.
- Забезпечення корпоративної безпеки.
- Захист інтелектуальної власності.
- Виявлення потенційно небезпечних дій.
- Питання конфіденційності даних працівників.
- Необхідність прозорої політики використання.
Подальший розвиток подій покаже, наскільки ефективною та прийнятною для співробітників виявиться нова функція Microsoft Purview.
