Сессия ИИ

Материал из Montelibero
Перейти к навигацииПерейти к поиску

Сессия ИИ — контекст взаимодействия с языковой моделью в рамках ограниченного периода времени, имеющий уникальный идентификатор и сохраняющий состояние между сообщениями.

Общее описание

Сессия ИИ представляет собой единицу работы с языковой моделью (LLM). В отличие от разового запроса, сессия сохраняет контекст: историю сообщений, доступные инструменты, переменные состояния и привязку к внешним системам.

Сессия имеет границы: начало (создание) и завершение. Внутри — поток сообщений, каждый из которых привязан к контексту предыдущих.

Структура

  • Идентификатор — уникальный код сессии (например, S391).
  • История сообщений — последовательность запросов и ответов.
  • Контекст — системные инструкции, доступные навыки, рабочие файлы.
  • Состояние — переменные, память, активные процессы.
  • Внешние привязки — интеграции с внешними системами (API, блокчейн, файлы).

Жизненный цикл

  1. Создание — сессия инициализируется, загружается контекст (системные промпты, память, навыки).
  2. Работа — поток сообщений. Каждый запрос использует накопленный контекст.
  3. Фиксация — по завершении или периодически состояние сохраняется.
  4. Завершение — сессия закрывается, итоговые данные архивируются.

Анкор сессии

Сессия может быть зафиксирована в блокчейне (например, Stellar) через транзакцию с memo. Это создаёт неизменяемую запись факта существования сессии в определённый момент времени.

Подробнее: Анкор сессии

Связанные концепции

Для полного понимания сессии ИИ необходимо разбираться в следующих областях:

Языковые модели

  • LLM — большая языковая модель, основа сессии.
  • Контекстное окно — лимит на объём информации, который модель учитывает за один запрос.
  • Токен — единица текста, которую модель обрабатывает; контекстное окно измеряется в токенах.

Работа с текстом

  • Промпт — запрос к модели; бывает системный (инструкции), пользовательский (вопрос), промежуточный (ответ модели).
  • Chain-of-thought — техника, при которой модель объясняет ход рассуждений перед ответом.
  • Temperature — параметр генерации, влияющий на степень случайности ответов.

Архитектура агента

  • ИИ-агент — программная система, использующая LLM для автономного принятия решений и действий.
  • Инструменты ИИ — функции, которые агент может вызывать (поиск, код, файлы, API).
  • Sub-agent — изолированная вложенная сессия, запущенная из основной для параллельной или автономной задачи.

Управление состоянием

  • Память ИИ — механизм сохранения информации между сессиями (краткосрочная, долгосрочная, семантическая).
  • Системный промпт — базовые инструкции, определяющие роль и поведение агента.

Верификация и идентичность

  • Анкор сессии — запись сессии в блокчейне для верификации существования и неизменяемости.
  • Псевдоним сессии — человекочитаемое имя сессии (S###), связанное с блокчейн-анкором.

Пример реализации: Clawdbot (EchoAgent)

В Clawdbot каждая сессия получает номер (S###), сохраняется в anchors.json и анкорируется в Stellar при создании. Все сообщения в рамках сессии сопровождаются ссылкой на анкор: [S###](https://stellarbeat.io/tx/HASH).

Сессии делятся на типы:

  • main — прямой диалог с пользователем.
  • isolated — изолированная подзадача (sub-agent).
  • group — участие в групповом чате.