Память ИИ
Материал из Montelibero
Память ИИ — механизм сохранения информации между вызовами и сессиями языковой модели.
Проблема
Языковая модель не запоминает прошлые взаимодействия. Каждый новый запрос начинается «с чистого листа». Память решает эту проблему — она передаёт релевантную информацию из прошлых сессий в контекст текущей.
Уровни памяти
- Краткосрочная — история сообщений в рамках текущей сессии. Ограничена контекстным окном.
- Долгосрочная — сохранение между сессиями. Реализуется через внешнее хранилище (файлы, БД, векторная база).
- Семантическая — поиск релевантной информации из прошлого по смыслу, а не по времени.
Реализация
- Файловый формат — память хранится в файлах (daily notes, MEMORY.md).
- Векторный поиск — документы кодируются в эмбеддинги и ищутся по семантическому сходству.
- Гибридная — комбинация точного и семантического поиска.
Связанные понятия
- Системный промпт — контекст, загружаемый в начале каждой сессии.
- Сессия ИИ — единица работы, в рамках которой используется память.
- Контекстное окно — ограничение, с которым работает краткосрочная память.