ISO IEC TR 24028-2020 PDF

Полное наименование и описание

Ст ISO/IEC TR 24028:2020 — Information technology — Artificial intelligence — Overview of trustworthiness in artificial intelligence. Технический отчёт, дающий обзор вопросов, связанных с надежностью и доверием к системам ИИ, включая прозрачность, объяснимость, контролируемость, а также аспекты доступности, надёжности, безопасности и конфиденциальности.

Аннотация

Документ представляет обзор тем, влияющих на доверие к системам ИИ: подходы к установлению доверия (прозрачность, объяснимость, контролируемость и пр.), инженерные ошибки и типичные угрозы/риски с возможными мерами смягчения, а также методы оценки и достижения доступности, устойчивости, надёжности, точности, безопасности и защиты приватности. Установление конкретных уровней «доверенности» систем ИИ находится за пределами данного отчёта.

Общая информация

• Статус: Published (опубликован).
• Дата публикации: 28 мая 2020 г. (публичная публикация в мае 2020).
• Организация-издатель: ISO и IEC (ISO/IEC JTC 1/SC 42 — Artificial intelligence).
• ICS / категории: 35.020 — Information technology (IT) in general.
• Редакция / версия: Edition 1 (версия 1.0, Technical Report).
• Количество страниц: 43 страницы.

Область применения

Отчёт предназначен для разработчиков, поставщиков, интеграторов и эксплуатантов ИИ-систем, а также для менеджеров по рискам, аудиторов, регуляторов и исследователей, которым требуется обзор факторов, влияющих на доверие к ИИ. Документ служит справочным обзором — он не задаёт обязательных уровней доверия или формальных критериев соответствия.

Ключевые темы и требования

• Прозрачность и объяснимость моделей ИИ (explainability, interpretability).
• Контролируемость и человеческий надзор (human-in-the-loop, governance).
• Инженерные «подводные камни»: источники ошибок, предвзятость данных, переобучение, деградация модели.
• Угрозы и риски: безопасность, враждебные атаки (adversarial), утечка данных, нарушения приватности.
• Меры смягчения и методы оценки: тестирование, валидация, мониторинг в эксплуатации, резервирование и устойчивость.
• Аспекты надёжности: доступность, устойчивость к сбоям, точность и воспроизводимость результатов.
• Ограничение объёма стандарта: не определяет уровней «доверенности», даёт обзор и рекомендации.

Применение и пользователи

Полезен для: инженеров и архитекторов ИИ, команд разработки и валидации моделей, менеджеров по продукту и рискам, специалистов по безопасности и приватности, органов регулирования и органов по сертификации, научно-исследовательских групп. Отчёт служит отправной точкой для разработки политик доверия к ИИ и интеграции практик тестирования и мониторинга в жизненный цикл ИИ-систем.

Связанные стандарты

Документ входит в экосистему стандартов ISO/IEC по ИИ; ключевые родственные документы включают: ISO/IEC 22989:2022 — концепции и терминология для ИИ (фундамент для согласования понятий). ISO/IEC TR 24029 (серия) — оценка робастности нейронных сетей (Part 1: Overview и последующие части). ISO/IEC 23894:2023 — руководство по управлению рисками, специфичным для ИИ. ISO/IEC 42001:2023 — управление системами искусственного интеллекта (AI management system), даёт требования для внедрения управления ИИ на уровне организации. Эти и другие документы вместе образуют набор руководств и требований для разработки, оценки и управления доверенными ИИ-системами.

Ключевые слова

Trustworthiness, доверие, explainability, transparency, controllability, robustness, reliability, safety, security, privacy, risk management, ИИ, neural networks, validation.

FAQ

В: Что это за стандарт?

О: Технический отчёт ISO/IEC TR 24028:2020 — обзорный документ по доверенности (trustworthiness) ИИ, дающий обзор проблем, угроз и подходов к достижению надежности ИИ-систем.

В: Что он регулирует?

О: Он не вводит обязательных требований — это обзор и руководство: описывает важные свойства и практики (прозрачность, безопасность, устойчивость и пр.), а также возможные меры по снижению рисков. Конкретные уровни доверия и сертификационные критерии не определены в этом документе.

В: Кто обычно использует?

О: Разработчики и поставщики ИИ, инженеры по валидации и тестированию, руководители проектов, специалисты по рискам и комплаенсу, аудиторы, регуляторы и исследователи — все, кому нужен структурированный обзор факторов доверия к ИИ.

В: Он актуален или заменён?

О: Документ опубликован в мае 2020 и остаётся полезным обзором; он не объявлен заменённым как таковой, но к семейству стандартов ИИ добавлены новые документы (например, стандарты по терминологии, управлению рисками и управлению ИИ в организации), которые дополняют и расширяют рекомендации по доверенности. При работе рекомендуется учитывать обновлённые стандарты и руководства в экосистеме ISO/IEC JTC 1/SC 42.

В: Это часть серии?

О: Да — TR 24028 находится в контексте семейства стандартов SC 42 по ИИ. Есть смежные технические отчёты и стандарты (серия 24029 по робастности, 22989 по терминологии, 23894 по управлению рисками, 42001 по управлению ИИ), которые вместе формируют системный подход к надёжности и доверию к ИИ.

В: Какие ключевые слова?

О: Trustworthiness, explainability, transparency, robustness, reliability, safety, security, privacy, risk management, monitoring, validation, governance.