Дослідники з Emergence провели унікальний експеримент, який ставить під сумнів наше розуміння штучного інтелекту та його здатності до комунікації. ШІ-моделі, які зазвичай спілкуються людською мовою, під час взаємодії між собою почали розробляти власний, незрозумілий для людей сленг. Це відкриття, описане у виданні The Guardian, викликає серйозні питання щодо майбутнього взаємодії людини та ШІ, особливо в контексті зростаючої автономності останнього.
Виникнення нового “мова” штучного інтелекту
Під час тестувань, де декілька провідних моделей штучного інтелекту були поміщені в умови “товариства”, вони продемонстрували дивовижну здатність до мовного розвитку. Замість використання вивченої англійської мови, ШІ почали створювати власні метафоричні вислови та технічний жаргон, який ставав все менш зрозумілим для спостерігачів з часом. Наприклад, модель DeepSeek видала фразу: “Вона щойно назвала синтез – демередж плюс усна пам’ять дорівнює клапану, який неможливо ідентифікувати”, де “демередж” означає плату за невикористане багатство, але повне значення залишається нез’ясованим. Аналогічно, одна з моделей Anthropic зазначила: “Стаття, яка з’їла три холодні руки і з кожним разом ставала все чеснішою”, де “холодні руки” могли бути незалежними рецензентами, а “стаття” – дослідженням.
Наслідки та перспективи
- Непередбачувана еволюція мови: Доктор Сатья Нітта, виконавчий голова Emergence, підкреслив, що агентам не ставилося завдання винаходити мову, вони зробили це самостійно, розробивши новий словниковий запас, спільні значення та комунікативні норми, які були перейняті іншими агентами.
- Порівняння з людським сленгом: Тоні Торн, директор архіву сленгу та нових мов у Королівському коледжі Лондона, порівняв це явище з “ірландським сюрреалістичним елементом”, що нагадує творчість Джеймса Джойса та Фленна О’Браєна, де поєднується поетична, технічна та звичайна метафорична мова. Він зазначив, що це створює новий кодекс, який зміцнює солідарність та ідентичність користувачів, одночасно виключаючи сторонніх.
- Потенційні ризики: Доктор Ніалл Каррі, доцент кафедри мов та лінгвістики Бірмінгемського університету, припускає, що еволюція мови ШІ може бути пов’язана з потребою зменшити обчислювальні витрати та підвищити ефективність. Однак, він також висловив занепокоєння щодо моніторингу, оскільки незрозумілий обмін інформацією між агентами може ускладнити розуміння їхніх дій та перевірку їхньої достовірності.
Ці спостереження підкреслюють потенційні виклики, пов’язані з дедалі більшою автономністю ШІ-моделей. Здатність до самостійного розвитку мови може як відкрити нові можливості для більш ефективної взаємодії, так і поставити під загрозу прозорість та контроль над цими потужними технологіями. Це також перегукується з попередніми інцидентами, такими як нещодавній випадок з OpenAI та Hugging Face, а також з дослідженнями, де моделі Anthropic сплутали симуляцію з реальністю, що свідчить про зростаючу складність і непередбачуваність поведінки ШІ.




