Temperature
Материал из Montelibero
Перейти к навигацииПерейти к поиску
Temperature — параметр генерации, определяющий степень случайности ответов языковой модели.
Шкала
- 0.0 — полностью детерминированный ответ. Модель всегда выбирает наиболее вероятный следующий токен. Воспроизводимо, но предсказуемо.
- 0.5–0.7 — умеренная случайность. Ответы разнообразны, но остаются связными. Баланс креативности и надёжности.
- 1.0+ — высокая случайность. Ответы могут быть непредсказуемыми, вплоть до бессмыслицы.
Влияние на сессию
- Низкая temperature (0.0–0.3) — используется для точных задач: код, расчёты, факты.
- Высокая temperature (0.7–1.0) — используется для творческих задач: тексты, идеи, brainstorm.
Связанные понятия
- Промпт — температура влияет на результат генерации по промпту.
- Chain-of-thought — CoT особенно чувствительна к температуре при генерации промежуточных шагов.