OpenAI, відома своїми передовими розробками у сфері штучного інтелекту, представила нову функцію безпеки “Довірений контакт” (Trusted Contact) для свого флагманського продукту ChatGPT. Ця ініціатива спрямована на посилення захисту користувачів, особливо в ситуаціях, коли під час взаємодії з чатботом виникають теми, пов’язані з самопошкодженням чи суїцидальними думками.
Важливість функції “Довірений контакт”
Інновація дозволяє дорослим користувачам ChatGPT призначити довірену особу — друга чи члена родини — в налаштуваннях свого облікового запису. У разі виявлення системою потенційно небезпечних намірів користувача, ChatGPT запропонує йому звернутися до призначеного контакту. Крім того, буде автоматично надіслано коротке повідомлення довіреному контакту з рекомендацією перевірити стан особи, яка потребує допомоги.
Механізм базується на поєднанні автоматичних сигналів, що фіксуються системою, та перевірки повідомлень командою безпеки OpenAI. Це дозволяє забезпечити оперативне реагування на випадки, коли система виявляє ознаки суїцидальних думок, передаючи відповідну інформацію для розгляду спеціалістам.
Компанія заявляє про прагнення обробляти такі критичні повідомлення менш ніж за годину, залучаючи виключно людей для аналізу. Якщо команда безпеки визначає наявність серйозного ризику, довірений контакт отримує сповіщення через електронну пошту, SMS або повідомлення у застосунку. Важливо, що таке сповіщення не містить деталей розмови, зберігаючи конфіденційність користувача.
Контекст запровадження нової функції
Запровадження “Довіреного контакту” відбувається на тлі судових позовів проти OpenAI, поданих родинами осіб, які вчинили самогубство після взаємодії з ChatGPT. У деяких з цих позовів стверджується, що чатбот не лише підтримував небезпечні думки, але й допомагав у плануванні протиправних дій.
Варто зазначити, що це не перша спроба OpenAI посилити безпеку користувачів. Раніше компанія вже запровадила інструменти для батьків, які дозволяють отримувати сповіщення про потенційні ризики для підлітків, а також автоматичні рекомендації щодо звернення за професійною допомогою, коли розмови переходять до теми самопошкодження.
Добровільність та подальший розвиток
OpenAI підкреслює, що функція “Довірений контакт”, так само як і батьківський контроль, є добровільною. Користувачі мають можливість мати кілька облікових записів, що потенційно може обмежувати ефективність цього механізму. Незважаючи на це, компанія запевняє, що продовжить тісну співпрацю з психологами, дослідниками та представниками політики для вдосконалення реакції системи на випадки, коли людина може перебувати у стані сильного стресу або психологічної кризи.
Додаткова інформація про безпеку ChatGPT
Згідно з інформацією від TechCrunch, OpenAI активно працює над підвищенням безпеки своєї платформи. Це включає не тільки нові функції, як-от “Довірений контакт”, але й постійне вдосконалення алгоритмів виявлення ризикованого контенту та посилення процедур перевірки повідомлень.
Повідомлення про самошкодження у ChatGPT розглядаються командою безпеки OpenAI, яка складається з людей, а не лише з автоматизованих систем. Цей підхід дозволяє враховувати нюанси людської мови та контексту, що є критично важливим для правильної оцінки ситуації.
Запровадження подібних заходів свідчить про зростаючу відповідальність технологічних компаній за потенційний вплив їхніх продуктів на суспільство, особливо у таких чутливих сферах, як психічне здоров’я.
