Агентная память: следующий шаг после эпохи «токен-максимизации»

Индустрия ИИ-агентов находится на начальном этапе развития: если базы данных создаются уже 60 лет, то активная работа над агентами началась всего полтора года назад. Этот разрыв объясняет, почему до сих пор нет устоявшихся архитектурных решений, а первые подходы, такие как «токен-максимизация», быстро теряют актуальность. Компании приходят к выводу, что ключевой ресурс — не объем данных в промпте, а их правильный отбор и сохранение.

Эксперты MongoDB отмечают, что контекстное окно ИИ-моделей — дефицитный ресурс. Вместо того чтобы пытаться уместить в него как можно больше информации, важно определить, какие данные действительно необходимы. Решение этой задачи лежит в создании полноценной агентной памяти, которая сохраняет результаты работы моделей, обеспечивает к ним контролируемый доступ и позволяет находить нужные данные с помощью семантического поиска.

Агентная память решает три ключевые задачи. Во-первых, она сохраняет результаты предыдущих вычислений, чтобы дорогостоящие расчеты не терялись после завершения сессии. Во-вторых, она поддерживает ролевой контроль доступа, позволяя делиться данными между командами без риска утечек. В-третьих, она использует семантический поиск для извлечения данных по смыслу, а не по точному совпадению ключей.

Архитектура с использованием агентной памяти строится на сочетании мощной системы памяти и более легкой модели, которая выполняет роль «судьи». При поступлении нового запроса система сначала ищет ответ в памяти. Если найденный вариант подходит, он возвращается без привлечения дорогой модели. Если нет — запрос передается более мощной модели, а ее ответ сохраняется в памяти для будущего использования. Такой подход снижает затраты и ускоряет работу системы по мере ее эксплуатации.

В будущем агентная память станет более структурированной, с разделением на типы: таксономическая (терминология и определения), процедурная (последовательности действий) и другие. Как и в случае с традиционными базами знаний, ключевую роль будет играть курирование данных: эксперты будут отбирать наиболее ценные результаты, удалять шум и оптимизировать работу системы.