ISO/IEC TR 24028-2020 Information technology — Artificial intelligence — Overview of trustworthiness in artificial intelligence Информационные технологии — Искусственный интеллект — Обзор надежности искусственного интеллекта

Документ «ISO/IEC TR 24028-2020» представляет собой технический отчет, посвященный аспектам доверия в области искусственного интеллекта (ИИ). Основное назначение документа заключается в предоставлении обширного обобщения актуальных подходов к обеспечению доверия при разработке и внедрении технологий ИИ. Он нацелен на применение в различных секторах, где ИИ играет ключевую роль, таких как здравоохранение, финансы и автоматизация производственных процессов.

Ключевыми аспектами документа являются рекомендации по методам оценки доверия к ИИ-системам, определение параметров, требуемых для анализа, и набор требований, которым должны соответствовать такие системы для минимизации рисков. Важное внимание уделяется необходимости строгих и прозрачных процедур в процессе разработки ИИ-приложений, чтобы обеспечить соблюдение норм и стандартов безопасности.

Технические детали, представленные в документе, включают условия испытаний ИИ-систем, методы классификации применяемых алгоритмов, а также измеряемые величины, такие как надежность и производительность. Это позволяет организациям правильно интерпретировать результаты и делать обоснованные выводы о качестве разрабатываемых технологий.

Целевая аудитория документа включает разработчиков ИИ-систем, лаборатории по тестированию, а также контролирующие органы, заинтересованные в обеспечении соответствия продуктов международным стандартам. Ожидается, что данный документ будет использоваться в качестве руководства на всех этапах жизненного цикла ИИ-технологий — от концепции до практического внедрения.

Практическое значение стандарта заключается в повышении уровня безопасности и качества ИИ-приложений, а также в улучшении условий труда и обеспечении совместимости разработок. Стандарт способствует формированию более надежной экосистемы для использования ИИ, что особенно важно в условиях растущих угроз кибербезопасности и необходимости соблюдения этических норм. В этой редакции документа добавлены уточнения по процедурам оценки и нововведения, касающиеся уверенности в AI-системах, что усиливает его актуальность.