Meta, гігант соціальних мереж, зіткнулася з серйозною проблемою конфіденційності після того, як її внутрішня програма відстеження дій працівників на ПК, призначена для навчання штучного інтелекту, була призупинена через витік даних. Цей інцидент, що викрив приватні розмови та продуктивність співробітників, кидає тінь на зусилля компанії з розвитку ШІ та викликає серйозні запитання щодо безпеки даних.
Програма, відома як Model Capability Initiative (MCI), була запущена Meta у квітні з метою покращення своїх ШІ-моделей шляхом аналізу даних про взаємодію співробітників з їхніми робочими комп’ютерами, включаючи натискання клавіш та рухи миші. Однак, відстеження було зроблено обов’язковим для більшості працівників, що викликало невдоволення та внутрішні протести ще до витоку. Згідно з повідомленнями, програма збирала ширший спектр даних, ніж планувалося, і зберігала їх у незашифрованому вигляді, що створювало значні ризики.
“Ми ретельно розробляли програму з урахуванням гарантій конфіденційності. Хоча наразі ми не маємо ознак неналежного доступу працівників до даних, дію програми призупинено на час розслідування”, – заявив речник Meta.
Витік даних, як повідомляє Business Insider, стався через те, що конфіденційна інформація стала доступною всім співробітникам компанії. Скріншоти, переглянуті виданням, свідчать про те, що витік охоплював приватні розмови працівників, деталі їхньої продуктивності та іншу чутливу інформацію. Meta підтвердила витік і класифікувала інцидент як SEV 2 за п’ятирівневою шкалою критичності, що вказує на високий рівень небезпеки.
Один зі співробітників, чиї слова наводяться у виданні, висловив глибоке занепокоєння, зазначивши:
“Я отримав доступ до особистої податкової та медичної інформації через свій робочий комп’ютер, як і багато тисяч співробітників. Нам сказали, що ці дані будуть захищені та використовуватимуться лише для обґрунтованих бізнес-цілей після ретельної фільтрації”.
Цей інцидент став ще одним тривожним сигналом щодо безпеки даних у Meta, особливо у контексті розвитку штучного інтелекту. Лише на початку червня стало відомо про викрадення понад 20 000 акаунтів Instagram через злом інструменту підтримки компанії, що працює на базі ШІ. Ці події підкреслюють нагальну потребу в посиленні заходів безпеки та прозорості при розробці та впровадженні нових технологій, що стосуються персональних даних.
Крім того, ця ситуація виникає на тлі кадрових змін у компанії: топменеджерка, яка відповідала за ШІ-реорганізацію Meta, залишила компанію. Це може свідчити про внутрішні виклики та перегляд стратегії розвитку ШІ в Meta.
Наслідки витоку даних для Meta
Призупинення програми MCI та внутрішнє розслідування є першими кроками Meta у відповідь на інцидент. Однак, компанії доведеться докласти значних зусиль, щоб відновити довіру співробітників та громадськості.
- Репутаційні ризики: Витік даних може серйозно зашкодити репутації Meta як надійного роботодавця та відповідального зберігача персональної інформації.
- Юридичні наслідки: Компанії можуть загрожувати штрафи та судові позови, особливо якщо буде доведено порушення законодавства про захист даних.
- Вплив на розробку ШІ: Негативний досвід може сповільнити розробку ШІ-продуктів Meta, оскільки компанія буде змушена переглянути свої підходи до збору та використання даних.
Майбутнє програм відстеження працівників
Інцидент з Meta піднімає ширші питання щодо етичності та доцільності програм відстеження працівників, навіть якщо вони призначені для покращення робочих процесів або розвитку технологій.
- Прозорість: Компанії повинні бути повністю прозорими щодо того, які дані збираються, як вони використовуються та хто має до них доступ.
- Згода: Необхідно отримати інформовану згоду працівників на збір їхніх даних, пояснюючи мету та потенційні ризики.
- Безпека: Максимальні заходи безпеки мають бути вжиті для захисту зібраних даних від несанкціонованого доступу.
- Обмежене використання: Дані повинні використовуватися лише для чітко визначених цілей і не повинні зберігатися довше, ніж це необхідно.
Meta, ймовірно, буде змушена переглянути свою політику щодо збору даних та посилити заходи безпеки, щоб уникнути подібних інцидентів у майбутньому. Майбутнє програм, подібних до MCI, залежатиме від того, наскільки ефективно компанії зможуть збалансувати свої бізнес-потреби з правом працівників на приватність та безпеку даних.
