Ответ

Почему агент помнит предыдущие диалоги

Внутри одного разговора он ничего не помнит сам: история сообщений передаётся ему заново с каждым запросом. Ощущение памяти создаётся этим.

Долгая память делается отдельно: к клиенту привязывается идентификатор, и при новом обращении подгружаются несколько прошлых диалогов.

У этого есть цена. Чем больше истории передаётся, тем больше текста в каждом запросе, а тариф считается за объём текста. Память надо ограничивать сознательно.

И есть требование закона: хранение переписки с человеком, это хранение персональных данных, со всеми вытекающими обязанностями.

Другие вопросы этой темы

Как устроен агент

К какой услуге это относится

Любая автоматизация

Страницы