ISO/IEC TR 24028-2020 Information technology — Artificial intelligence — Overview of trustworthiness in artificial intelligence

Документ «ISO/IEC TR 24028-2020» представляет собой технический отчет, который предоставляет обширный обзор концепции доверия в области искусственного интеллекта (ИИ). Основное назначение данного стандарта заключается в определении направлений и рекомендаций, касающихся доверия к системам ИИ, что имеет важное значение в условиях растущей интеграции ИИ в различные сферы жизни. Сфера применения охватывает как разработчиков ИИ-систем, так и организаций, использующих ИИ в своих процессах.

Ключевыми аспектами, которые регламентирует документ, являются методы оценки доверия, параметры, характеризующие надежность решений ИИ, а также требования к прозрачности и интерпретируемости ИИ-моделей. Процедуры, описанные в стандарте, помогают оценить и мониторить уровень доверия к ИИ, что позволяет строить более безопасные и предсказуемые системы. Также предусмотрены рекомендации по созданию нормативных документов, регулирующих использование ИИ в различных доменах.

Технические детали, содержащиеся в документе, включают условия испытаний и методы классификации ИИ-систем, позволяющие оценивать уровень доверия к результатам, получаемым от таких систем. Измеряемые величины, такие как точность, прозрачность моделей и возможности объяснения на выходе, становятся ключевыми для определения уровня доверия к ИИ. Также рассматривается возможность создания метрик для оценки доверия в зависимости от контекста применения.

Целевая аудитория стандарта включает производителей ИИ-решений, лаборатории, проводящие тестирование и аудит ИИ-систем, а также контролирующие органы, ответственные за регулирование и надзор в этой области. Стандарт направлен на создание общего языка и понимания доверия в ИИ, что способствует более эффективному сотрудничеству между всеми заинтересованными сторонами.

Практическое значение «ISO/IEC TR 24028-2020» заключается в улучшении безопасности и качества ИИ-систем, что непосредственно влияет на охрану труда и совместимость технологий. Внедрение рекомендаций стандарта может привести к снижению рисков, связанных с ошибками ИИ, и улучшению доверия конечных пользователей к этим системам. Стандарт также предполагает возможность обновления и доработки, что отражает быстро меняющуюся природу технологий и потребностей в области доверия к ИИ.