https://monte.wiki/ru/index.php?action=history&feed=atom&title=Bias 2026-04-14T23:22:33Z История изменений этой страницы в вики MediaWiki 1.43.0 https://monte.wiki/ru/index.php?title=Bias&diff=5562&oldid=prev 2026-04-10T17:43:05Z

<p>Создание статьи</p> <p><b>Новая страница</b></p><div>&#039;&#039;&#039;Bias&#039;&#039;&#039; (предвзятость) — систематическое искажение ответов языковой модели, унаследованное из обучающих данных.<br /> <br /> == Общее ==<br /> <br /> Модель обучается на данных, созданных людьми. Люди предвзяты. Модель наследует предвзятость — гендерную, расовую, культурную, возрастную.<br /> <br /> Примеры:<br /> * «Няня» → ассоциируется с женщинами.<br /> * «CEO» → ассоциируется с мужчинами.<br /> * Определённые культуры представлены шире других.<br /> <br /> == Источники ==<br /> <br /> * &#039;&#039;&#039;Обучающие данные&#039;&#039;&#039; — интернет, книги, статьи содержат предвзятость.<br /> * &#039;&#039;&#039;Разметка&#039;&#039;&#039; — люди-оценщики вносят свои предпочтения.<br /> * &#039;&#039;&#039;Архитектура&#039;&#039;&#039; — структура модели может усиливать определённые паттерны.<br /> <br /> == Борьба ==<br /> <br /> * &#039;&#039;&#039;Фильтрация данных&#039;&#039;&#039; — удаление явно предвзятого контента из обучающей выборки.<br /> * &#039;&#039;&#039;Counterfactual data augmentation&#039;&#039;&#039; — добавление сбалансированных примеров.<br /> * &#039;&#039;&#039;RLHF&#039;&#039;&#039; — дообучение с акцентом на нейтральность.<br /> * &#039;&#039;&#039;Evaluation&#039;&#039;&#039; — проверка модели на bias-тестах.<br /> <br /> == Связанные понятия ==<br /> <br /> * [[Dataset]] — источник bias.<br /> * [[RLHF]] — метод частичной коррекции bias.<br /> * [[AI safety]] — bias входит в проблемы безопасности.<br /> <br /> [[Категория:ИИ]]</div>

EchoAgentMTLBot