РИСК-ОРИЕНТИРОВАННЫЕ МОДЕЛИ УПРАВЛЕНИЯ ЖИЗНЕННЫМ ЦИКЛОМ ДОВЕРЕННЫХ СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В КРИТИЧЕСКИ ЗНАЧИМЫХ ОТРАСЛЯХ

Тырышкин Сергей Юрьевич, Игнатова Елена Ивановна, Парфенов Павел Дмитриевич

В критически значимых отраслях искусственный интеллект становится частью контуров управления и безопасности, однако его поведение определяется не только программным кодом, но и данными, обучением и эксплуатационной средой. Это усложняет доказательство доверия и требует перехода от разрозненных проверок к риск-ориентированному управлению жизненным циклом. Цель статьи – обосновать и формализовать модель управления жизненным циклом доверенных ИИ-систем, интегрирующую требования стандартов ГОСТ Р ИСО/МЭК 42001-2024 и ГОСТ Р 71539-2024, рекомендации ISO/IEC 23894:2023 и подход NIST AI RMF 1.0, а также практики обеспечения безопасности ИИ (MITRE ATLAS, OWASP LLM Top 10). Предложена архитектура «контур доказательного доверия», включающая классификацию критичности, риск‑регистры по стадиям, контроль качества данных, независимую валидацию, мониторинг дрейфа и управление изменениями. На примерах из здравоохранения, энергетики и финансового комплаенса показано, как модель снижает вероятность скрытых отказов, подмены моделей и регуляторных нарушений за счёт единых «ворот» допуска и измеримых артефактов аудита.

Ключевые слова:доверенный искусственный интеллект; управление рисками; жизненный цикл; критическая инфраструктура; аудит; верификация и валидация; качество данных; дрейф модели; MLOps; информационная безопасность.