Электронный фонд правовой
и нормативно-технической документации
ГОСТ Р 70462.1-2022/ISO/IEC TR 24029-1-2021 Информационные технологии (ИТ). Интеллект искусственный. Оценка робастности нейронных сетей. Часть 1. Обзор
ГОСТ Р 70462.1-2022/ISO/IEC TR 24029-1-2021
НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ
Информационные технологии
ИНТЕЛЛЕКТ ИСКУССТВЕННЫЙ
Оценка робастности нейронных сетей
Часть 1
Обзор
Information technology. Artificial intelligence. Assessment of the robustness of neural networks. Part 1. Overview
ОКС 35.020
Дата введения 2023-01-01
Предисловие
1 ПОДГОТОВЛЕН Федеральным государственным автономным образовательным учреждением высшего образования "Национальный исследовательский университет "Высшая школа экономики" (НИУ ВШЭ) на основе собственного перевода на русский язык англоязычной версии документа, указанного в пункте 4
2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 "Искусственный интеллект"
3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 2 ноября 2022 г. N 1226-ст
4 Настоящий стандарт идентичен международному документу ISO/IEC TR 24029-1:2021* "Искусственный интеллект (AI). Оценка устойчивости нейронных сетей. Часть 1. Обзор" (ISO/IEC TR 24029-1:2021 "Artificial Intelligence (AI) - Assessment of the robustness of neural networks - Part 1: Overview", IDT).
________________
* Доступ к международным и зарубежным документам, упомянутым в тексте, можно получить, обратившись в Службу поддержки пользователей. - Примечание изготовителя базы данных.
Наименование настоящего стандарта изменено относительно наименования указанного международного документа для приведения в соответствие с ГОСТ Р 1.5-2012 (пункт 3.5)
5 ВВЕДЕН ВПЕРВЫЕ
Правила применения настоящего стандарта установлены в статье 26 Федерального закона от 29 июня 2015 г. N 162-ФЗ "О стандартизации в Российской Федерации". Информация об изменениях к настоящему стандарту публикуется в ежегодном (по состоянию на 1 января текущего года) информационном указателе "Национальные стандарты", а официальный текст изменений и поправок - в ежемесячном информационном указателе "Национальные стандарты". В случае пересмотра (замены) или отмены настоящего стандарта соответствующее уведомление будет опубликовано в ближайшем выпуске ежемесячного информационного указателя "Национальные стандарты". Соответствующая информация, уведомление и тексты размещаются также в информационной системе общего пользования - на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (www.rst.gov.ru)
Введение
При проектировании системы искусственного интеллекта (далее - ИИ) некоторые свойства, такие как робастность, отказоустойчивость, надежность, точность, безопасность, конфиденциальность и т.д., часто считают предпочтительными. Определение робастности приведено в 3.6. Робастность - важнейшее свойство, которое ставит новые задачи в сфере систем ИИ. Например, в рамках управления рисками систем ИИ существуют некоторые риски, которые конкретно связаны с робастностью этих систем и понимание которых имеет важное значение для внедрения ИИ во многих сферах. В настоящем стандарте представлен обзор актуальных подходов для оценки этих рисков с особым упором на нейронные сети, широко использующиеся в промышленности.
В большинстве отраслей промышленности проверка программного обеспечения - это важнейшая часть любого производственного процесса. Задача состоит в том, чтобы обеспечить как безопасность, так и производительность программного обеспечения, используемого во всех частях системы. В некоторых областях процесс верификации программного обеспечения (включая его обновления) также является важной частью сертификации. Например, в автомобильной или авиационной областях при применении действующих стандартов, таких как ИСО 26262 [1] или DO 178C, необходимо предпринимать определенные действия для обоснования дизайна, реализации и тестирования любого встроенного программного обеспечения.
Методы, используемые в системах ИИ, также подлежат валидации. Однако общие методы в системах ИИ создают новые проблемы, которые требуют конкретных подходов для обеспечения адекватного тестирования и/или проверки.
Типы тех систем, которые основаны на технологиях ИИ, включают системы интерполяции/регрессии, классификации, скоринговые и решающие системы.
Хотя существует множество методов валидации систем, не связанных с ИИ, они не всегда непосредственно применимы к системам ИИ и, в частности, к нейронным сетям. Архитектуры нейронных сетей представляют собой особую проблему, поскольку они не поддаются простому анализу и иногда могут быть непредсказуемы ввиду их нелинейной природы, что требует новых подходов к решению возникающих задач.
Методы подразделяются на три группы: статистические методы, формальные методы и эмпирические методы. В настоящем стандарте представлена справочная информация о существующих методах оценки робастности нейронных сетей.
Доступ к полной версии документа ограничен
Документ «ГОСТ Р 70462 1 2022 ISO IEC TR 24029 1 2021» представляет собой стандарт, посвящённый оценке робастности нейронных сетей в области информационных технологий. Основное назначение данного документа заключается в установлении методов и подходов к оценке устойчивости нейронных сетей к различным воздействиям, что является важным аспектом для обеспечения их надёжности и эффективности в практическом применении. Стандарт охватывает широкий спектр применений, включая, но не ограничиваясь, сферами искусственного интеллекта, машинного обучения и автоматизации процессов.
Ключевыми аспектами, регламентируемыми в документе, являются методы оценки, параметры, которые необходимо учитывать при проведении испытаний, а также требования к условиям тестирования нейронных сетей. В частности, стандарт описывает процедуры, позволяющие выявить слабые места в архитектуре нейронных сетей и оценить их поведение при различных условиях. Это включает в себя определение критериев успеха и методов анализа результатов испытаний.
Технические детали, представленные в стандарте, охватывают условия испытаний, такие как выбор тестовых данных, сценарии их использования и параметры, подлежащие измерению. Важными аспектами являются также классификация типов нейронных сетей и их применение в различных задачах. Стандарт описывает, как правильно проводить тестирование и какие метрики использовать для оценки робастности, что позволяет обеспечить высокую степень сопоставимости результатов между различными исследованиями и разработками.
Целевая аудитория данного документа включает производителей нейронных сетей, исследовательские лаборатории, а также контролирующие органы, занимающиеся сертификацией и проверкой качества программного обеспечения. Стандарт предоставляет необходимую методологическую базу для всех участников процесса разработки и внедрения нейронных сетей, что способствует улучшению взаимодействия между различными заинтересованными сторонами.
Практическое значение стандарта заключается в его влиянии на безопасность и качество разработки нейронных сетей. Оценка робастности является критически важной для предотвращения сбоев в работе систем, использующих данные технологии, что в свою очередь может повлиять на охрану труда и совместимость с другими системами. Стандарт помогает установить общие требования и практики, что способствует повышению уровня доверия к нейронным сетям в различных отраслях.
Изменения и дополнения, внесённые в стандарт, касаются уточнения методов оценки и расширения перечня рекомендуемых практик тестирования. Это позволяет более точно отражать современные тенденции в области разработки и применения нейронных сетей, а также учитывать новые вызовы, возникающие в процессе их эксплуатации. Таким образом, документ остаётся актуальным и полезным инструментом для специалистов в данной области.
Описание документа носит справочный характер, достоверность этого материала не гарантируется.
Чтобы получить полный доступ к этому и другим документам, приобретайте доступ к Информационной сети «Техэксперт» - лидеру в области комплексного обеспечения предприятий нормативно-технической документацией.
доступны в системах «Техэксперт» и «Кодекс»
Возможно вас заинтересуют
ГОСТ 6388-2022 Щетки зубные. Общие технические условия
ГОСТ Р 70321.1-2022 Технологии искусственного интеллекта для обработки данных дистанционного зондирования Земли. Алгоритмы искусственного интеллекта для распознавания зданий на космических снимках, получаемых с космических аппаратов оптико-электронного наблюдения. Типовая методика проведения испытаний
ГОСТ ISO 13688-2022 Система стандартов безопасности труда (ССБТ). Одежда специальная защитная. Общие технические требования (с Поправкой)
ПНСТ 776-2022 Информационные технологии (ИТ). Интеллект искусственный. Управление рисками
ГОСТ ISO 13999-3-2022 Система стандартов безопасности труда (ССБТ). Средства индивидуальной защиты рук. Перчатки и приспособления для защиты предплечья от порезов и ударов ручными ножами. Часть 3. Метод испытания текстильных материалов, кожи и других материалов на порез при ударе
ГОСТ ISO 13287-2022 Система стандартов безопасности труда (ССБТ). Средства индивидуальной защиты ног. Обувь специальная. Метод определения сопротивления скольжению