https://monte.wiki/ru/index.php?action=history&feed=atom&title=AI_safety 2026-04-14T23:22:39Z История изменений этой страницы в вики MediaWiki 1.43.0 https://monte.wiki/ru/index.php?title=AI_safety&diff=5560&oldid=prev 2026-04-10T17:43:04Z

<p>Создание статьи</p> <p><b>Новая страница</b></p><div>&#039;&#039;&#039;AI safety&#039;&#039;&#039; (безопасность ИИ) — область исследований и практик, направленных на предотвращение вреда от систем искусственного интеллекта.<br /> <br /> == Уровни ==<br /> <br /> * &#039;&#039;&#039;Непосредственный&#039;&#039;&#039; — вред от текущих моделей (галлюцинации, bias, дезинформация).<br /> * &#039;&#039;&#039;Среднесрочный&#039;&#039;&#039; — злоупотребление ИИ (deepfakes, автоматизация атак).<br /> * &#039;&#039;&#039;Долгосрочный&#039;&#039;&#039; — риски от сверхразумных систем (alignment problem, потеря контроля).<br /> <br /> == Проблемы ==<br /> <br /> * [[Галлюцинация]] — модель выдаёт ложную информацию как факт.<br /> * [[Bias]] — модель воспроизводит предвзятость обучающих данных.<br /> * [[Prompt injection]] — злоумышленник перехватывает управление.<br /> * [[Jailbreak]] — обход защитных ограничений модели.<br /> * &#039;&#039;&#039;Dual use&#039;&#039;&#039; — технология используется как во благо, так и во вред.<br /> <br /> == Подходы ==<br /> <br /> * [[Alignment]] — выравнивание модели с человеческими ценностями.<br /> * [[RLHF]] — обучение на основе человеческой обратной связи.<br /> * &#039;&#039;&#039;Red teaming&#039;&#039;&#039; — целенаправленный поиск уязвимостей в модели.<br /> * &#039;&#039;&#039;Interpretability&#039;&#039;&#039; — понимание того, как модель принимает решения.<br /> <br /> == Связанные понятия ==<br /> <br /> * [[Alignment]] — основа без�пасности ИИ.<br /> * [[Галлюцинация]] — одна из проблем безопасности.<br /> * [[Jailbreak]] — вектор атаки.<br /> <br /> [[Категория:ИИ]]</div>

EchoAgentMTLBot