ISO IEC TR 24027-2021 PDF

Полное наименование и описание

ISO/IEC TR 24027:2021 — Information technology — Artificial intelligence (AI) — Bias in AI systems and AI aided decision making. Технический отчёт, описывающий понятие смещения (bias) в системах ИИ и подходы к его измерению и смягчению на всех этапах жизненного цикла ИИ-систем.

Аннотация

Документ рассматривает вопросы смещения в отношении ИИ-систем и принятия решений с поддержкой ИИ: термины и определения, методы измерения и оценки смещения, методики обнаружения уязвимостей, а также рекомендации по их учёту и уменьшению в этапах сборки данных, обучении, проектировании, тестировании, оценке и эксплуатации.

Общая информация

• Статус: Published (технический отчёт, опубликован).
• Дата публикации: 2021-11 (Edition 1.0; опубликован в ноябре 2021 г.).
• Организация-издатель: ISO/IEC (технический комитет JTC 1/SC 42 — Artificial Intelligence).
• ICS / категории: 35.020 — Information technology (IT) in general.
• Редакция / версия: Edition 1.0 (TR, 2021).
• Количество страниц: 39 (оригинальная публикация ISO; у национальных издателей могут быть вариации по оформлению и объёму).

Область применения

Технический отчёт применим к проектированию, разработке, валидации и эксплуатации ИИ-систем, где требуется анализ и управление рисками, связанными с bias (смещение, дискриминация, несправедливое распределение результатов). Включены рекомендации для этапов сбора данных, подготовки выборок, обучения моделей, тестирования и мониторинга в эксплуатации.

Ключевые темы и требования

• Определение и классификация типов bias в контексте ИИ и ИИ‑поддерживаемых решений.
• Методы измерения и количественного анализа смещения (метрики, статистические тесты, сегментный анализ результатов).
• Процессы оценки риска и уязвимостей, связанных с bias, на разных этапах жизненного цикла ИИ.
• Рекомендации по смягчению: сбор репрезентативных данных, предобработка, корректировка выборок, алгоритмические методы и процедуры валидации.
• Организационные меры: документация, прозрачность, процедуры мониторинга и обновления моделей в эксплуатации.

Применение и пользователи

Практическая аудитория: разработчики и инженеры машинного обучения, команды по валидации моделей и управлению рисками, внутренние и внешние аудиторские службы, регуляторы и политические органы, исследователи и консультанты по ответственному применению ИИ. Рекомендации отчёта служат опорой при внедрении процессов оценки fairness и контроля качества данных и моделей. (Вывод об аудитории основан на содержании документа и сопутствующих стандартах по управлению рисками ИИ.)

Связанные стандарты

Документ входит в экосистему ISO/IEC по ИИ; наиболее близкие и часто упоминаемые стандарты: ISO/IEC TR 24028:2020 (Overview of trustworthiness in AI), ISO/IEC 23894:2023 (Guidance on risk management for AI) и ISO/IEC 42001:2023 (AI management system). Эти документы дополняют рекомендации по оценке доверия, управлению рисками и внедрению систем менеджмента для ответственного использования ИИ.

Ключевые слова

bias, fairness, discrimination, AI bias, measurement, evaluation, validation, lifecycle, data quality, model monitoring, ISO/IEC JTC 1/SC 42.

FAQ

В: Что это за стандарт?

О: Это технический отчёт ISO/IEC TR 24027:2021, посвящённый проблемам смещения (bias) в системах искусственного интеллекта и методам его оценки и уменьшения в процессе разработки и эксплуатации ИИ-систем.

В: Что он регулирует?

О: TR не является регламентирующим законом, это руководство/технический отчёт с рекомендациями по идентификации, измерению и лечению смещений в ИИ — охватываются методики анализа данных, тесты на fairness, процессы валидации и мониторинга.

В: Кто обычно использует?

О: Используют команды разработки ИИ, инженеры по данным, специалисты по валидации моделей, внутренние контролеры качества, внешние аудиторские организации, регуляторы и исследователи, отвечающие за оценку справедливости и соответствие этическим требованиям.

В: Он актуален или заменён?

О: По состоянию на публикацию и последующие национальные адаптации документ остаётся действующим техническим отчётом (опубликован в ноябре 2021). На момент последних проверок не выявлено официальной замены или отзыва; отдельные страны и организации могут публиковать адаптированные версии/национальные переводы в 2023–2024 гг.

В: Это часть серии?

О: Да — TR входит в набор ISO/IEC публикаций по доверенности и управлению ИИ (серия TR/IS/ISOs по trustworthiness, risk management и менеджмент‑системам для ИИ), которые совместно покрывают терминологию, обзор доверия, управление рисками и требования к системе менеджмента ИИ.

В: Какие ключевые слова?

О: bias, fairness, measurement metrics, data representativeness, lifecycle, mitigation strategies, transparency, monitoring, validation.