OpenAI внедрила скрытые водяные знаки в ChatGPT для борьбы с плагиатом: эффективность под вопросом

21.04.2025 15:45:00 | iXBT.com

Компания OpenAI, разработавшая чат-бот ChatGPT, добавила невидимые водяные знаки в тексты, создаваемые новыми моделями GPT-o3 и GPT-4o-mini. Как выяснили специалисты из Rumi, это сделано для идентификации контента, сгенерированного ИИ, однако эффективность метода вызывает сомнения.

Исследователи обнаружили, что при формировании длинных текстов, например эссе, модели встраивают символ Unicode «Узкий пробел» (U+202F). Визуально он неотличим от обычного пробела, но отличается по ASCII-коду. Заметить такие знаки можно только с помощью специализированных инструментов: онлайн-анализаторов символов, редакторов кода (Sublime Text, VS Code) или текстовых анализаторов. Например, при копировании эссе, созданного GPT-o3, в этих программах отображается паттерн из NNBSP, который подтверждает происхождение текста.

OpenAI не анонсировала нововведение публично. Однако после апрельских утечек о тестировании водяных знаков для изображений компания Rumi провела собственный анализ. В ходе проверки выяснилось, что более ранние версии, включая GPT-4o, подобных маркеров не содержат.

Скриншот: Rumi

Главное преимущество метода — почти нулевой шанс ложных срабатываний. Поскольку студенты вряд ли намеренно используют U+202F в работах, обнаружение таких символов однозначно указывает на заимствование из ChatGPT. Однако ключевой недостаток — хрупкость защиты. Как только пользователи узнают о водяных знаках, удалить их можно за секунды через функцию «найти и заменить» в любом редакторе. Видеоинструкции по очистке текстов уже появляются в сети.

Ситуация усугубляется тем, что до конца мая 2025 года ChatGPT доступен студентам бесплатно. Это совпадает с периодом сдачи курсовых и дипломных работ. Неосведомлённые учащиеся, скопировавшие текст без проверки, рискуют столкнуться с обвинениями в плагиате. Те же, кто знает о водяных знаках, получают преимущество, усугубляя разрыв между пользователями ИИ и теми, кто пишет работы самостоятельно.

Пока OpenAI не прокомментировала ситуацию. Если история получит огласку, то компания может отказаться от водяных знаков, как ранее отказалась от неточного AI-детектора.

Подробнее