Хабы: Искусственный интеллект, Развитие стартапа, Информационная безопасность, Будущее здесь
Как гарантировано защитить своего бота на ChatGPT от взлома его системной роли?
В статье предлагается один из подходов, который может защитить бота на базе любой LLM.
В итоге бот ни при каких обстоятельствах не должен раскрыть пользователю свою системную роль и не говорить на темы, которые мы обозначим как запретные.
Читать далее