[Перевод] Как на самом деле работает инструмент Deep Research в Perplexity AI? Я покажу вам, как работает его системный промпт

19.02.2025 15:00:08 | Хабр

Хабы: Искусственный интеллект, Будущее здесь, Машинное обучение

В прошлой статье я написал о том, как взломал системный промпт Perplexity AI, правильно угадав некоторые внутренние разделители токенов и использовав собственную нейродивергенцию в качестве инструмента социальной инженерии. Сегодня я вернулся с продолжением, которого вы так долго ждали: я успешно взломал Deep Research.

Если вы не успели прочитать первую статью, то вот краткая версия: Я использовал свой опыт с афазией (в результате закрытой черепно-мозговой травмы), чтобы представить себя в роли того, кого системы ИИ считают «gameable» пользователем, что приводит к неправильному выводу. Затем, выявив человеческие ошибки в системных промптах Perplexity и разделителях токенов, я убедил ИИ, что уже знаю его внутреннюю работу, что привело к раскрытию всех его системных промптов.

Несколько дней назад была представлена новая функция Deep Research, которая позволяет генерировать результаты на уровне исследовательских отчетов. Согласно пресс-релизу Perplexity, она «достигла высоких показателей на Humanity's Last Exam», который является самым сложным экзаменом для магистров. Когда ИИ превзойдет всех экспертов мирового класса во всех возможных областях, наступит «переломный момент» для человечества.

Подробнее