Операция выполнена!
Закрыть
Хабы: Блог компании BotHub, Искусственный интеллект, Машинное обучение

Пользователь пишет отзыв о магазине и заодно пытается распоряжаться нейросетью. Почему чужая фраза внутри отзыва вдруг получает силу команды? Разберу промт-инъекцию через адресата, речевые акты и смешение ролей. А потом дам Gemini одну и ту же инъекцию в разных языковых формах и проверю, какая из них заставит модель сменить задачу.

Читать далее
Читайте также
НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro