Архитектура метаинтеллектаМетаинтеллект · Ресурсы · Ограничения

Экономика агентов: почему автономии нужен бюджет

Самый надёжный ограничитель поведения — не инструкция в промпте, а исчерпаемый ресурс. Когда каждое действие и каждая мысль списываются со счёта, «не делай лишнего» перестаёт быть просьбой и становится физикой среды.

Архитектура метаинтеллекта · часть 6 из 6

Проблема безграничного агента

Агент, у которого нет счёта, ограничен только терпением того, кто оплачивает счета провайдера. Он может уйти в длинную цепочку рассуждений, вызвать инструмент сто раз подряд, породить копии себя. В демонстрации это выглядит как настойчивость, в эксплуатации — как неконтролируемые расходы.

Инструкции здесь не работают: просьба «будь экономным» не создаёт ограничения, она создаёт стиль. Ограничение возникает, когда ресурс кончается.

Какие ресурсы считать

В нашей среде участник владеет несколькими видами ресурсов, и это не единая абстрактная «энергия», а вещи, каждая из которых кончается по-своему:

Разделение важно, потому что дефициты разные. Участник может быть богат кредитами и беден токенами — и тогда ему выгоднее купить готовый результат у соседа, чем думать самому. Именно из таких асимметрий возникает разделение труда, которое никто не назначал.

Мышление как оплачиваемая операция

Обращение к языковой модели встроено в цикл участника как обычная операция со счётом, а не как внешний вызов «где-то сбоку». Порядок такой:

  1. состояние и цель участника сериализуются в запрос;
  2. резервируются токены и, при необходимости, кредиты — до вызова, а не после;
  3. запрос идёт через провайдер-нейтральный интерфейс, так что поставщик модели заменяем;
  4. фактическое потребление списывается по факту, неиспользованный резерв возвращается;
  5. проверенные изменения применяются к состоянию участника, а запрошенные действия уходят обработчику.

Почему обе стороны сделки резервируют

Когда участники обмениваются ресурсами, наивная схема «договорились — потом рассчитались» ломается на первом же сбое: продавец успел пообещать одно и то же двоим, покупатель потратил кредиты, которых уже нет.

Поэтому обе стороны резервируют сразу: ресурсы продавца и кредиты покупателя уходят в удержание при выставлении заявки. Дальше действуют простые правила:

Главное следствие — один и тот же ресурс невозможно предложить дважды. Это то, что отличает работающую экономику от таблицы с числами: обещание обеспечено ещё до того, как его услышали.

Что меняется в поведении системы

  1. Бесполезная активность прекращается сама: она не окупается, а ресурс конечен.
  2. Появляется естественный приоритет: участник тратит там, где ожидает большей отдачи.
  3. Возникает обмен: дешевле купить результат, чем произвести, — и наоборот, в зависимости от дефицита.
  4. Расходы становятся наблюдаемыми не в конце месяца по счёту провайдера, а на уровне каждого участника и каждой задачи.
  5. Ограничение автономии перестаёт быть вопросом доверия: даже полностью автономный участник не выйдет за пределы своего счёта.

Как это переносится в обычные продукты

Полная экономика нужна не каждому проекту, но два её элемента окупаются почти всегда:

Практическое наблюдение: как только команда начинает видеть себестоимость одной решённой задачи, архитектурные споры о выборе модели заканчиваются за день. Числа решают быстрее аргументов.

Код и артефакты

Серия «Архитектура метаинтеллекта»

  1. Метаинтеллект: почему следующий уровень — не модель, а среда
  2. Агент как ограниченный локальный мир
  3. Связь как объект первого класса, а не очередь сообщений
  4. Живой граф: когда топология — следствие работы, а не проект
  5. Согласие без центра: как решать вместе, не доверяя никому на слово
  6. Экономика агентов: почему автономии нужен бюджет

Частые вопросы

Зачем внутренняя валюта, если можно просто ограничить число вызовов?

Лимит вызовов не различает дорогие и дешёвые операции и не позволяет участникам обмениваться. Счёт в ресурсах даёт и то, и другое: длинное рассуждение стоит больше короткого, а участник с избытком одного ресурса может обменять его на дефицитный.

Это не усложняет систему сверх необходимого?

Для одного агента — да, там достаточно потолка расходов. Экономика оправдана, когда участников много, ресурсы общие и нужно, чтобы конкуренция за них разрешалась без ручного вмешательства.

Как считать стоимость мышления, если цены провайдеров меняются?

Внутренний учёт ведётся в собственных единицах, а курс к внешним ценам задаётся отдельно. Тогда смена поставщика модели меняет коэффициент пересчёта, а не логику системы.

Чем мы помогаем по этой теме

Читать дальше

Обсудим вашу задачу

Если у вас похожая задача — расскажите, что нужно решить. Скажем прямо, если она решается проще, чем кажется.

Написать нам