Нещодавнє викриття вмісту документації інструменту програмування Codex від OpenAI, який працює на основі відкритого коду, викликало неабиякий резонанс у спільноті розробників та користувачів штучного інтелекту. Документ містить низку інструкцій, які, схоже, є текстовими настановами для моделі GPT-5.5, і деякі з них прямо забороняють згадувати певних істот, зокрема гоблінів, а також інших казкових або звичайних тварин, таких як єноти та голуби. Ця заборона, однак, здається, призвела до парадоксального ефекту: користувачі почали повідомляти про раптові та несподівані згадки гоблінів у продуктах OpenAI, що викликало жарти навіть з боку генерального директора OpenAI Сема Альтмана, як передає видання Wired.
Загадкові інструкції та їх наслідки
Детальний аналіз заборон
Серед виявлених інструкцій є доволі специфічні формулювання, такі як: “Ніколи не говори про гоблінів, гремлінів, єнотів, тролів, огрів, голубів чи інших тварин та істот, якщо це не є абсолютно та однозначно релевантним запиту користувача”. Ця деталізація заборон свідчить про спробу OpenAI контролювати поведінку своїх мовних моделей, запобігаючи небажаним або недоречним згадкам. Однак, як показує практика, такі обмеження можуть призводити до непередбачуваних наслідків.
Користувацький досвід та “гоблінська одержимість”
Після публікації цих рядків у соціальній мережі X, деякі користувачі поділилися власним досвідом, зазначивши, що моделі OpenAI нібито “одержимі” гоблінами та подібними істотами, особливо під час роботи з інструментом OpenClaw. Наприклад, Тара Вішванатан висловила своє здивування: “Мені цікаво, чому мій Claw раптом став гобліном у Codex 5.5”. Інший користувач, Лео Мозолоа, підтвердив цю тенденцію, зазначивши: “Останнім часом часто ним користуюся, і він реально не може припинити називати баги гремлінами та гоблінами. Це просто смішно – вони так старанно намагаються цьому запобігти, але він усе одно це робить”.
Гобліни як новий інтернет-мем
Поширення феномену
Феномен “гоблінських згадок” швидко став вірусним і перетворився на інтернет-мем. Користувачі почали активно створювати візуальний контент, пов’язаний з гоблінами, зокрема, арт із зображенням гоблінів у дата-центрах. Стерлінг Кріспін, наприклад, використав образ гоблінів для висміювання проблеми використання води в центрах обробки даних (ЦОД).
Реакція OpenAI
Представники OpenAI, схоже, визнають як саму заборону, так і пов’язану з нею проблему. Нік Паш, розробник Codex, підтвердив, що “дивні згадки гоблінів” є однією з причин появи таких інструкцій. Навіть Сем Альтман долучився до обговорення, опублікувавши мем із запитом до ChatGPT, де чат-бот обіцяє “додаткових гоблінів у GPT-6”.
Неврегульована проблема
Відсутність офіційних коментарів та рішень
Незважаючи на визнання проблеми та жарти з боку керівництва компанії, OpenAI поки офіційно не прокоментувала появу казкових істот у відповідях мовних моделей. Також не було повідомлено про конкретні кроки, спрямовані на подолання “гоблінської проблеми”, яка, судячи з усього, залишається актуальною, попри наявні інструкції. Це свідчить про складність завдання контролю за поведінкою потужних мовних моделей та потенційні непередбачувані наслідки будь-яких обмежень.
“Ніколи не говори про гоблінів, гремлінів, єнотів, тролів, огрів, голубів чи інших тварин та істот, якщо це не є абсолютно та однозначно релевантним запиту користувача”, – йдеться в одній з інструкцій, виявлених у документі OpenAI Codex.
