Temperature

Материал из Montelibero
Перейти к навигацииПерейти к поиску

Temperature — параметр генерации, определяющий степень случайности ответов языковой модели.

Шкала

  • 0.0 — полностью детерминированный ответ. Модель всегда выбирает наиболее вероятный следующий токен. Воспроизводимо, но предсказуемо.
  • 0.5–0.7 — умеренная случайность. Ответы разнообразны, но остаются связными. Баланс креативности и надёжности.
  • 1.0+ — высокая случайность. Ответы могут быть непредсказуемыми, вплоть до бессмыслицы.

Влияние на сессию

  • Низкая temperature (0.0–0.3) — используется для точных задач: код, расчёты, факты.
  • Высокая temperature (0.7–1.0) — используется для творческих задач: тексты, идеи, brainstorm.

Связанные понятия

  • Промпт — температура влияет на результат генерации по промпту.
  • Chain-of-thought — CoT особенно чувствительна к температуре при генерации промежуточных шагов.