Компанія Anthropic, відомий розробник чат-ботів зі штучним інтелектом, представила нову систему водяних знаків для контенту, який генерує їхній продукт — Claude. Ця інноваційна технологія, за заявами розробників, покликана забезпечити прозорість та ідентифікацію контенту, створеного ШІ, без шкоди для якості відповідей чи зручності користувача. Нововведення відповідає вимогам Кодексу прозорості ЄС щодо штучного інтелекту, який зобов’язує використовувати технології для розпізнавання контенту, згенерованого машинами.
Детальний огляд технології водяних знаків від Anthropic
Anthropic інтегрує підхід SynthID-Text, розроблений командою Google DeepMind та представлений у 2024 році, що свідчить про співпрацю провідних гравців у сфері ШІ. Ця технологія базується на виявленні певних закономірностей у тексті, які залишаються непомітними для звичайного читача, але можуть бути ідентифіковані за допомогою спеціальної системи з ключем. Механізм працює шляхом використання “низькоризикових” виборів слів зі схожими значеннями, що дозволяє формувати прихований шаблон.
Вплив на користувачів та потенційні обмеження
- Для звичайного читача текст із водяним знаком не відрізнятиметься від контенту, створеного людиною.
- Система водяних знаків може бути частково або повністю видалена шляхом редагування тексту, проте легке редагування, ймовірно, не усуне його повністю.
- Повне переписування тексту, що передбачає заміну практично кожного слова, може дозволити позбутися водяного знака.
- Якщо Claude лише незначно відредагує текст, написаний людиною, виявити водяний знак буде складніше, оскільки більшість слів залишаться авторськими.
- Для програмного коду водяний знак буде менш вираженим через обмежену свободу вибору моделі під час написання коду, хоча маркування може застосовуватися до коментарів.
Реакція спільноти та майбутні перспективи
Важливо зазначити, що впровадження водяних знаків викликало неоднозначну реакцію серед користувачів. Деякі висловили занепокоєння на платформах, подібних до Reddit, розглядаючи цю технологію як інструмент стеження та безпідставних підозр. Інші ж розцінюють таке маркування як лицемірство, враховуючи, що сам Claude використовує технології, розроблені іншими компаніями. Anthropic також підкреслила, що вони не єдині, хто планує впроваджувати подібні системи; інші великі розробники ШІ-моделей, які підписали європейський Кодекс практики, також мають наміри впроваджувати власні системи маркування.
“Ми прагнемо забезпечити максимальну прозорість у сфері генеративного ШІ, одночасно гарантуючи, що технології залишаються корисними та доступними для всіх”, – зазначили представники Anthropic.
Цікаво, що Anthropic може побити рекорд SpaceX за найбільшим IPO в історії, очікуючи від інвесторів 2 трильйони доларів. Це свідчить про зростаючу вагу та потенціал компаній, що працюють у сфері штучного інтелекту.
