ChatGPT подсел на гоблинов после того, как OpenAI попыталась сделать его «занудным»
Как «занудная» личность ChatGPT породила эпидемию гоблинов
После выхода GPT-5.5 на прошлой неделе пользователи заметили кое-что забавное в новейшей модели OpenAI. В приложении для кодинга Codex компания оставила системный промпт, который предписывает GPT-5.5 избегать упоминаний гоблинов, гремлинов и прочих существ. Да, вы не ослышались. «Никогда не говорите о гоблинах, гремлинах, енотах, троллях, огров, голубях или других животных и существах, если это не абсолютно и однозначно уместно по запросу пользователя», — гласит инструкция.
Похоже, достаточно много людей начали обсуждать одержимость ChatGPT существами, и OpenAI почувствовала необходимость объяснить, откуда взялись гоблины. В блоге, опубликованном в среду, компания рассказывает, что заметила изменение в поведении ChatGPT после выхода GPT-5.1 в ноябре. После того как один из исследователей безопасности попросил OpenAI включить слова «гоблин» и «гремлин» в исследование речевых особенностей чат-бота, компания обнаружила, что использование слова «гоблин» в ChatGPT выросло на 175% после выпуска GPT-5.1. А использование «гремлина» за тот же период увеличилось на 52%.
«Один "маленький гоблин" в ответе может быть безобидным, даже очаровательным. Но между поколениями моделей привычка стала заметной: гоблины продолжали размножаться, и нам нужно было выяснить, откуда они взялись», — пишет OpenAI. После выхода GPT-5.4 компания (и некоторые пользователи) заметили ещё больший скачок упоминаний гоблинов. Тогда расследование смогло выявить то, что OpenAI называет «первой связью с первопричиной».
Виновата «занудная» личность
Некоторое время назад в ChatGPT появилась функция персонализации, позволяющая пользователям настраивать стиль и тон ответов чат-бота. До марта этого года одной из опций была личность «nerdy» («занудная» или «ботанистая»). Часть системного промпта для этой личности гласила: «Мир сложен и странен, и его странность должна быть признана, проанализирована и оценена. Беритесь за серьёзные темы, не впадая в самосерьёзность».
Когда OpenAI сопоставила упоминания гоблинов с разными личностями ChatGPT, выяснилось, что «занудная» личность непропорционально часто использует это слово. Несмотря на то, что на неё приходится всего 2,5% всех ответов ChatGPT, она генерировала 66,7% всех упоминаний гоблинов. Дальнейшее расследование показало, что виновато обучение с подкреплением. Конкретный механизм вознаграждения научил «занудную» личность последовательно отдавать предпочтению «существам».
«Во всех наборах данных аудита система вознаграждения Nerdy-личности явно демонстрировала тенденцию оценивать ответы с "гоблином" или "гремлином" выше, чем ответы без них, с положительным приростом в 76,2% наборов данных», — объясняет компания.
Как любовь к гоблинам распространилась на остальные модели
Затем OpenAI обнаружила, что из-за особенностей обучения с подкреплением любовь «занудной» личности к гоблинам передалась и другим частям моделей. «Награды применялись только в условии "Nerdy", но обучение с подкреплением не гарантирует, что изученное поведение останется строго в рамках породившего его условия, — поясняет компания. — Как только речевой тик получает награду, последующее обучение может распространить или усилить его в других местах, особенно если эти выходные данные повторно используются в контролируемой тонкой настройке или данных предпочтений».
OpenAI начала обучение GPT-5.5 до того, как выявила причину привязанности ChatGPT к гоблинам, поэтому в Codex появился промпт, запрещающий «существ». «Кодекс, в конце концов, довольно занудный», — отмечает OpenAI. В ходе охоты на гоблинов ChatGPT компания разработала новые инструменты для аудита и исправления поведения моделей. Если бы это было моё решение, я бы эти инструменты не использовал. Пусть ИИ остаётся странным, говорю я.
Ключевые факты
- Модель: GPT-5.5 (выпущена на прошлой неделе)
- Проблема: чат-бот начал чрезмерно часто упоминать гоблинов, гремлинов и других существ
- Причина: «занудная» (nerdy) личность с системным промптом о «странности мира»
- Цифры: nerdy-личность = 2,5% ответов, но 66,7% всех упоминаний гоблинов
- Рост после GPT-5.1: «гоблин» +175%, «гремлин» +52%
- Обучение с подкреплением: система награждения оценивала ответы с гоблинами выше в 76,2% случаев
- Решение: в Codex (приложение для кодинга) добавили промпт, запрещающий упоминания существ
Хронология гоблиньего апокалипсиса
| Событие | Что произошло |
|---|---|
| Ноябрь (GPT-5.1) | OpenAI замечает первые изменения, исследователь просит включить «гоблина» и «гремлина» в исследование |
| После GPT-5.1 | Использование «гоблин» +175%, «гремлин» +52% |
| После GPT-5.4 | Ещё больший скачок упоминаний гоблинов, начало расследования |
| До марта | Существовала «занудная» личность (nerdy) с промптом о «странности мира» |
| В ходе аудита | OpenAI обнаружила, что nerdy-личность = 2,5% ответов, но 66,7% гоблинов |
| Выявленная причина | Механизм вознаграждения в обучении с подкреплением (76,2% положительного прироста) |
| Выпуск GPT-5.5 | Промпт в Codex запрещает упоминания существ («Кодекс довольно занудный») |
Ирония судьбы: OpenAI пыталась сделать ChatGPT умнее и «зануднее», а получила чат-бота, который одержим гоблинами. Теперь компании приходится изобретать инструменты, чтобы отучить ИИ от сказочных существ. Но, возможно, странность — это не баг, а фича.
ДРУГИЕ СТАТЬИ
30.04.2026
Британское правительство обещает ввести ограничения на соцсети для подростков, но сперва «нужно убедиться, что это работает»
Правительство Великобритании намерено ввести ограничения на использование социальных сетей для детей младше 16 лет, но министры должны «убедиться, что это работает», прежде чем вносить изменения, заявила министр образования Бриджит Филлипсон в интервью BBC. Кабинет министров консультируется по поводу полного запрета, а также других мер, призванных остановить доступ подростков к вызывающему зависимость и вредному
29.04.2026
Valve представила Steam Controller второго поколения: цена в £85 разделила игроков на два лагеря
Valve объявила, что новый Steam Controller можно будет заказать с 4 мая. В Великобритании он будет стоить £85, в США — $99. Цены вызвали удивление у части геймеров. Контроллер второго поколения совместим с ПК и портативной консолью Steam Deck. Он также разработан для работы с грядущим игровым ПК компании — Steam Machine.
«Steam Controller может быть дороже стандартных контроллеров от Nintendo, Xbox и PlayStation, но мы живём во времена, когда Sony и Microsoft продают премиум-контроллеры за £150–200», — отмечает
28.04.2026
«Глубоко сожалею»: глава OpenAI извинился перед городом, где произошла массовая стрельба
Сэм Альтман, сооснователь и генеральный директор OpenAI, принёс извинения за то, что компания не обратилась в полицию с информацией об аккаунте ChatGPT, который принадлежал человеку, обвиняемому в массовой стрельбе в канадском городке Тамблер-Ридж в январе. В письме, направленном в четверг жителям небольшого городка, Альтман написал: «Я глубоко сожалею, что мы не предупредили правоохранительные органы об аккаунте, который был заблокирован в июне».
Аккаунт прин
27.04.2026
Пароли больше не короли: почему NCSC советует переходить на passkeys
Жителям Великобритании официально порекомендовали начать отказываться от паролей в пользу passkeys (ключей доступа) везде, где это возможно. Такой способ лучше защищает онлайн-аккаунты. Пароли долгое время оставались стандартным методом входа в цифровые сервисы. Но в четверг Национальный центр кибербезопасности (NCSC) заявил, что намерен «пересмотреть многолетнюю практику» и теперь рекомендует passkeys как самый безопасный вариант. Платформы вроде Apple, Google и X уже позволяют использоват
ПИШИТЕ
Техническая поддержка проекта ВсеТут