Электронный фонд правовой
и нормативно-технической документации
ГОСТ Р 59276-2020 Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения
ГОСТ Р 59276-2020
НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ
Системы искусственного интеллекта
СПОСОБЫ ОБЕСПЕЧЕНИЯ ДОВЕРИЯ
Общие положения
Artificial intelligence systems. Methods for ensuring trust. General
ОКС 35.240.01
Дата введения 2021-03-01
Предисловие
1 РАЗРАБОТАН Акционерным обществом "Всероссийский научно-исследовательский институт сертификации" (АО "ВНИИС"), Обществом с ограниченной ответственностью "ТВпортал" (ООО "ТВпортал")
2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 "Искусственный интеллект"
3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 23 декабря 2020 г. N 1371-ст
4 ВВЕДЕН ВПЕРВЫЕ
Правила применения настоящего стандарта установлены в статье 26 Федерального закона от 29 июня 2015 г. N 162-ФЗ "О стандартизации в Российской Федерации". Информация об изменениях к настоящему стандарту публикуется в ежегодном (по состоянию на 1 января текущего года) информационном указателе "Национальные стандарты", а официальный текст изменений и поправок - в ежемесячном информационном указателе "Национальные стандарты". В случае пересмотра (замены) или отмены настоящего стандарта соответствующее уведомление будет опубликовано в ближайшем выпуске ежемесячного информационного указателя "Национальные стандарты". Соответствующая информация, уведомление и тексты размещаются также в информационной системе общего пользования - на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (www.gost.ru)
Введение
Доверие к системам искусственного интеллекта является важнейшим условием, определяющим возможность применения этих систем при решении ответственных задач обработки данных. Примерами таких задач являются поддержка принятия врачебных решений, беспилотное управление транспортными средствами и некоторые другие, ошибки при решении которых могут привести к тяжким последствиям, связанным с угрозой для жизни и здоровья людей, серьезным экономическим и экологическим ущербом.
В настоящем стандарте:
- определено понятие доверия к системам искусственного интеллекта;
- приведена классификация факторов, влияющих на качество и способность систем искусственного интеллекта вызывать доверие на стадиях жизненного цикла;
- формализована взаимосвязь качества и способности систем искусственного интеллекта вызывать доверие;
- приведена классификация основных способов обеспечения доверия к системам искусственного интеллекта
1 Область применения
В настоящем стандарте рассматриваются вопросы обеспечения доверия к системам искусственного интеллекта со стороны потребителей результатов работы этих систем и, при необходимости, со стороны организаций, ответственных за регулирование вопросов создания и применения систем искусственного интеллекта, на основе подтверждения их качества, включая:
- виды существенных характеристик систем искусственного интеллекта, подтверждение значений которых установленным требованиям обеспечивает доверие к этим системам;
- виды факторов, приводящих к снижению качества систем искусственного интеллекта;
- особенности соотношения понятий "качество систем искусственного интеллекта" и доверия к этим системам;
- особенности обеспечения доверия на стадиях жизненного цикла систем искусственного интеллекта, включая стадии создания и эксплуатации этих систем;
- вопросы обеспечения доверия на различных уровнях архитектуры систем искусственного интеллекта.
Стандарт распространяется на системы искусственного интеллекта, обеспечивающие решение конкретных практически значимых задач, и не может быть использован для систем "сильного" или "общего" искусственного интеллекта.
2 Нормативные ссылки
В настоящем стандарте использованы нормативные ссылки на следующие стандарты:
ГОСТ 27.002-2015 Надежность в технике (ССНТ). Термины и определения
ГОСТ 34.601 Информационная технология. Комплекс стандартов на автоматизированные системы. Автоматизированные системы. Стадии создания
ГОСТ 34003-90* Информационная технология. Комплекс стандартов на автоматизированные системы. Термины и определения
________________
* Вероятно, ошибка оригинала. Следует читать: ГОСТ 34.003-90, здесь и далее по тексту. - Примечание изготовителя базы данных.
ГОСТ Р ИСО 9000 Системы менеджмента качества. Основные положения и словарь
Доступ к полной версии документа ограничен
Документ «ГОСТ Р 59276 2020» устанавливает общие положения для систем искусственного интеллекта, направленные на обеспечение доверия к таким системам. Основное назначение стандарта заключается в создании единой методологии оценки и обеспечения надежности, безопасности и этичности решений, принимаемых на основе искусственного интеллекта. Стандарт применяется в различных сферах, включая промышленность, здравоохранение, финансовый сектор и другие области, где используются технологии ИИ.
Ключевыми аспектами, регламентируемыми данным стандартом, являются методы оценки доверия к системам ИИ, параметры, определяющие их надежность, а также требования к процессам разработки и внедрения таких систем. Стандарт описывает процедуры, которые должны соблюдаться для достижения необходимого уровня доверия, включая тестирование, валидацию и мониторинг работы систем. Он также определяет критерии и показатели, которые могут быть использованы для оценки эффективности и безопасности решений, основанных на ИИ.
Важные технические детали включают условия испытаний, которые должны учитывать различные сценарии использования систем ИИ, а также классификации, позволяющие разделять системы по уровням сложности и потенциальным рискам. Измеряемые величины могут включать точность, стабильность и предсказуемость работы систем, что позволяет проводить их объективную оценку. Стандарт также подчеркивает необходимость документирования всех этапов разработки и внедрения для обеспечения прозрачности процессов.
Целевая аудитория документа включает производителей систем ИИ, научные и исследовательские лаборатории, а также контролирующие органы, ответственные за стандартизацию и сертификацию технологий. Стандарт служит основой для формирования нормативной базы, регулирующей использование ИИ в различных отраслях, что способствует повышению доверия со стороны пользователей и общества в целом.
Практическое значение стандарта заключается в его влиянии на безопасность и качество систем ИИ, а также на охрану труда и совместимость технологий. Соблюдение данного стандарта позволяет минимизировать риски, связанные с использованием ИИ, и способствует созданию безопасных и эффективных решений. В документе также могут содержаться изменения и дополнения, касающиеся новых технологий и подходов в области ИИ, что подчеркивает его актуальность и динамичность в условиях быстрого развития этой сферы.
Описание документа носит справочный характер, достоверность этого материала не гарантируется.
Чтобы получить полный доступ к этому и другим документам, приобретайте доступ к Информационной сети «Техэксперт» - лидеру в области комплексного обеспечения предприятий нормативно-технической документацией.
доступны в системах «Техэксперт» и «Кодекс»
Возможно вас заинтересуют
ГОСТ Р 58885-2020 Магниты постоянные общепромышленного применения. Классификация. Общие технические требования. Контроль магнитных параметров
ГОСТ Р 58884-2020 Магниты контрольные и юстировочные. Общие технические требования. Валидация. Порядок применения
ГОСТ 34684-2020 Наноматериалы. Нанотрубки углеродные одностенные. Технические требования и методы испытаний (с Поправкой)
ГОСТ Р 59277-2020 Системы искусственного интеллекта. Классификация систем искусственного интеллекта
ГОСТ Р 59278-2020 Информационная поддержка жизненного цикла изделий. Интерактивные электронные технические руководства с применением технологий искусственного интеллекта и дополненной реальности. Общие требования
ПНСТ 481-2020 Нефтяная и газовая промышленность. Системы подводной добычи. Инспектирование трубопроводов. Аттестация персонала