Область ИИ-агентов существует всего 18 месяцев, что резко контрастирует с 60 годами разработки баз данных, указывая на то, что мы находимся в самом начале этого пути обучения. Недавний урок заключается в том, что потребление токенов, некогда считавшееся показателем престижа, выявило ограниченность контекстного окна. Настоящая проблема заключается не в добавлении большего количества информации в запросы, а в различении того, какие данные туда относятся. Это приводит к важнейшей концепции памяти — постоянной и доступной для запросов системе вне модели ИИ.Эффективная память агента выполняет три жизненно важные функции: она сохраняет ранее сгенерированные и оплаченные рассуждения, применяет контроль доступа на основе ролей для безопасного обмена и позволяет извлекать правильный предыдущий контент с помощью семантического поиска. В отличие от традиционных баз данных, полагающихся на поиск по точному совпадению, память агента должна хранить и находить неструктурированный генеративный вывод по сходству. Перспективный корпоративный шаблон включает в себя сочетание надежной системы памяти с более легкой моделью с открытым весом, которая действует как судья. Эта архитектура сначала запрашивает память через семантический поиск и переранжирует результаты. Если полученный ответ достаточен, он возвращается, экономя затраты на дорогостоящую генеративную модель.Если ответ, основанный на памяти, недостаточен, более легкая модель обращается к более мощной генеративной модели для получения оригинального решения. Этот вновь сгенерированный ответ затем сохраняется обратно в память, делая последующие аналогичные запросы дешевле и быстрее. Зрелая память агента не будет единым хранилищем, а будет включать типы, аналогичные человеческой памяти, такие как таксономическая для определенных терминов и процедурная для последовательностей задач. Человеческое курирование будет иметь важное значение, поскольку не все сгенерированные воспоминания ценны, и люди будут расставлять приоритеты и вводить высокоценную информацию. Память определяется как следующее критическое достижение в разработке агентов, слой, который, скорее всего, станет устоявшимся, стандартным выбором.