ISO IEC 23894-2023 PDF

Полное наименование и описание

ISO/IEC 23894:2023 — Information technology — Artificial intelligence — Guidance on risk management. Стандарт даёт практические рекомендации по выявлению, оценке и управлению рисками, связанными с разработкой, внедрением и эксплуатацией систем и сервисов, использующих искусственный интеллект; ориентирован на интеграцию риско‑ориентированного подхода в процессы организации и жизненный цикл AI‑решений.

Аннотация

Документ описывает процессы и методы для систематического управления рисками, специфичными для AI: идентификация источников риска, оценка вероятности и последствий, выбор и внедрение мер снижения рисков, мониторинг и поддержание мер контроля в течение жизненного цикла. Рекомендации масштабируемы и могут быть адаптированы под контекст любой организации — от разработчиков моделей до конечных пользователей и интеграторов.

Общая информация

• Статус: Опубликован.
• Дата публикации: 6 февраля 2023 г. (Edition 1, 2023-02).
• Организация-издатель: ISO/IEC (международный стандарт, подготовлен ISO/IEC JTC 1/SC 42).
• ICS / категории: 35.020 (информационные технологии).
• Редакция / версия: Версия 1.0 (первое издание, 2023).
• Количество страниц: 26.

Область применения

Руководство предназначено для организаций и подразделений, участвующих в разработке, интеграции, внедрении или эксплуатации AI‑систем: команды разработчиков и инженеров, менеджеры по рискам и соответствию, отделы качества, интеграторы и поставщики услуг, регуляторы и аудиторы. Стандарт применим ко всем типам AI‑решений и может быть использован параллельно с национальными и отраслевыми требованиями по безопасности, приватности и этике.

Ключевые темы и требования

• Установление контекста и определение областей риска AI (функциональные, этические, юридические, операционные и т.д.).
• Процесс выявления, анализа и оценки рисков, специфичных для AI‑моделей и данных.
• Выбор и внедрение мер по снижению рисков: технические (обучение, валидация, тестирование), организационные (роли, процессы, ответственность) и контролирующие (мониторинг, обновления, инцидент‑менеджмент).
• Управление рисками на всём жизненном цикле AI: дизайн, разработка, верификация, развертывание, эксплуатация и вывод из эксплуатации.
• Взаимодействие с существующими системами управления рисками и управление зависимостями (данные, третьи стороны, интеграция).
• Документирование решений, процедур и результатов оценки рисков; обеспечение прозрачности и подотчётности.
• Учет вопросов безопасности, приватности данных, качества данных и возможных смещений/биасов в моделях.

Применение и пользователи

Рекомендации полезны организациям любого масштаба: разработчикам и интеграторам AI‑решений, предприятиям, внедряющим AI в бизнес‑процессы, государственным учреждениям, аудиторам и консультантам по управлению рисками. Стандарт служит базой для выработки внутренних политик, процедур и критериев оценки уровня риска в проектах с AI.

Связанные стандарты

ISO/IEC 23894:2023 входит в экосистему стандартов по ИИ и тесно коррелирует с документами, определяющими терминологию и менеджмент AI, в частности ISO/IEC 22989 (концепции и терминология AI), ISO/IEC 42001 (система менеджмента AI — требования к AIMS) и тематическими техническими отчётами по доверительности и надёжности AI (например, ISO/IEC TR 24028). Эти документы рекомендуется использовать совместно при построении комплексного подхода к управлению рисками AI.

Ключевые слова

AI, искусственный интеллект, управление рисками, риск‑менеджмент, жизненный цикл, безопасность, приватность, доверенность, мониторинг, соответствие, ISO/IEC JTC 1/SC 42.

FAQ

В: Что это за стандарт?

О: Международный стандарт, дающий практическое руководство по управлению рисками, связанным с разработкой, внедрением и эксплуатацией систем искусственного интеллекта.

В: Что он регулирует?

О: Не является нормативным регламентом; это руководство по процессам и мерам управления рисками AI — от идентификации рисков до их мониторинга и контроля в рамках жизненного цикла систем. Оно дополняет требования к менеджмент‑системам и технические рекомендации.

В: Кто обычно использует?

О: Разработчики моделей и приложений AI, менеджеры по рискам и соответствию, команды по качеству и безопасности, интеграторы, регуляторы, консультанты и организации, вводящие AI‑решения в эксплуатацию.

В: Он актуален или заменён?

О: По состоянию на публикацию и последующие сведения стандарт действителен (опубликован в феврале 2023 г.) и не отмечен как заменённый; при внедрении рекомендуется проверять наличие последующих поправок или новых версий у ISO.

В: Это часть серии?

О: Да — документ является частью набора международных публикаций по AI, подготовленных ISO/IEC JTC 1/SC 42, и предназначен для совместного использования с другими стандартами по терминологии, управлению и доверенности AI.

В: Какие ключевые слова?

О: Риск, управление рисками, AI, жизненный цикл, безопасность данных, приватность, валидация моделей, мониторинг, соответствие, управление качеством.