Операция выполнена!
Закрыть
Хабы: Я пиарюсь

Полгода назад по сети разошлась история про AI-агента, который слил 441 тысячу за один твит — у модели был доступ к исполнению, и никто не стоял между её решением и деньгами. С тех пор каждый раз, когда речь про «дать агенту управлять чем-то важным», всплывает один страх: а если он сделает глупость с реальными деньгами?

Я строю сервис, где AI-агент управляет рекламными кампаниями в Яндекс.Директе, Google Ads и VK — то есть ровно там, где ошибка агента стоит денег напрямую. И главный вопрос проектирования был не «как научить агента управлять рекламой», а «как сделать так, чтобы он физически не мог потратить деньги без человека».

В статье — архитектура, где у агента нет ни одной кнопки, которая тратит бюджет сама:

— граница read/write: агент свободно читает метрики, ищет аномалии, строит отчёты и дашборды, но любое действие, тратящее деньги, — только три инструмента, и все через подтверждение; — контур human-in-the-loop: перед тратой сумма сверяется с порогом, выше порога агент не исполняет, а лишь предлагает — исполнит отдельный сервис после клика человека; — срок годности подтверждений, защита от двойного исполнения, белый список исполняемого, prepaid-модель как естественный ограничитель цикла.

Честно: сервис в открытой бете, и агент ни разу не пытался сделать дичь. Так что это статья не про пойманный инцидент, а про архитектуру, спроектированную так, чтобы инцидент был невозможен by design. Плюс показываю, чему агенту доверять как раз можно — аналитике и сборке дашбордов.

Читать далее
Читайте также
НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro