Определение, от которого есть польза
ИИ-агент получает цель, а не команду. Он сам решает, какие шаги предпринять, вызывает внешние инструменты, смотрит на результат и корректирует поведение, пока не достигнет цели или не упрётся в границу своих полномочий.
Удобная формула для проверки: цель → план → действие → наблюдение → память → корректировка. Если в системе нет хотя бы наблюдения и корректировки, перед вами генератор текста в оболочке.
Чем агент отличается от соседних понятий
От чат-бота
Чат-бот отвечает. Агент делает: заводит заявку, находит документ, пересчитывает, отправляет результат в вашу систему. Окна для разговора у агента может не быть вовсе: он умеет работать по событию, без сообщений.
От классической автоматизации
Сценарий автоматизации выполняет заранее описанную последовательность. Агент строит последовательность сам под конкретный случай. На разнородных входах это его сила. Там, где нужен строго один и тот же порядок действий, это его слабость.
От «модели с промптом»
Промпт задаёт поведение в одном обмене репликами. Агент живёт дольше: помнит контекст задачи, видит результаты своих действий и отвечает за конечный результат целиком.
Из чего он состоит
- Модель принимает решение о следующем шаге. Одна и та же архитектура агента может работать на разных моделях.
- Инструменты дают доступ к базам, API, поиску, коду. Через них рассуждение становится действием.
- Память хранит контекст задачи, историю шагов, долговременные знания о предметной области и пользователе.
- Планировщик разбивает цель на шаги. В простых агентах эту роль выполняет сама модель.
- Контур контроля задаёт границы полномочий, точки подтверждения человеком и журнал действий.
- Оценка: набор проверочных задач и метрики. Без них не понять, стало ли лучше.
Какие задачи ему стоит отдавать
Хороший кандидат на агента отвечает четырём условиям сразу:
- Задача повторяется. Иначе не окупится подготовка инструментов и проверок.
- Результат можно проверить, не полагаясь на впечатление.
- Входные данные разнородны. Иначе дешевле обычный сценарий автоматизации.
- Цена ошибки известна. От неё зависит, сколько контроля закладывать.
Плохие кандидаты: разовые задачи, процессы без критерия правильности и операции с необратимыми последствиями, где человек не может подтвердить действие.
Автономность включают по ступеням
Разумное внедрение идёт по ступеням, и следующая включается только после того, как метрики подтвердили предыдущую:
- Агент предлагает, человек выполняет. Польза есть уже здесь: качество видно без риска.
- Агент выполняет, человек подтверждает каждое действие.
- Агент выполняет сам, человек подтверждает только рискованные операции.
- Агент работает автономно, человек разбирает исключения и смотрит отчёты.
Прыжок сразу на четвёртую ступень чаще всего и заставляет откатывать пилоты: без накопленной статистики никто не может сказать, что именно система делает не так.
Что измерять
- доля задач, доведённых до конца без вмешательства человека;
- доля результатов, которые пришлось исправлять;
- стоимость одной решённой задачи, а не одного вызова модели;
- время от постановки до результата в сравнении с ручным процессом;
- доля верных отказов, когда агент правильно решил, что задача не его.
Частая ошибка внедрения
Начинать с выбора фреймворка. Полезнее сначала описать один сценарий до уровня «что считается успешным результатом» и проверить, что у агента вообще есть доступ к нужным данным и системам. Фреймворк потом можно сменить, а неверно выбранный сценарий съедает бюджет пилота.