ПНСТ 837-2023/ISO/IEC CD TS 8200 Искусственный интеллект. Управляемость автоматизированных систем искусственного интеллекта

Документ «ПНСТ 837-2023/ISO/IEC CD TS 8200 Искусственный интеллект. Управляемость автоматизированных систем искусственного интеллекта» предназначен для разработки и внедрения стандартов, касающихся управляемости систем искусственного интеллекта (ИИ). Он охватывает широкий спектр применений, включая автоматизированные системы, которые могут принимать решения без непосредственного человеческого вмешательства. Основная цель документа — обеспечить безопасное и эффективное использование технологий ИИ в различных отраслях.

Ключевыми аспектами, регламентируемыми в данном стандарте, являются методы оценки управляемости, параметры, определяющие уровень контроля над системами ИИ, а также требования к их разработке и эксплуатации. Документ предлагает процедуры для проведения испытаний, направленных на определение способности системы ИИ к выполнению заданных функций в соответствии с установленными требованиями. Важными элементами являются также классификация систем по уровням управляемости и измеряемые величины, такие как точность и надежность работы алгоритмов.

Целевая аудитория стандарта включает производителей систем ИИ, исследовательские лаборатории, а также контролирующие органы, занимающиеся сертификацией и надзором за использованием технологий ИИ. Стандарт предоставляет им инструменты и методологии, необходимые для оценки соответствия систем современным требованиям безопасности и качества. Это особенно важно в условиях растущего внедрения ИИ в критически важные сферы, такие как здравоохранение, транспорт и энергетика.

Практическое значение стандарта заключается в его влиянии на безопасность и качество автоматизированных систем, что, в свою очередь, способствует повышению уровня охраны труда и совместимости различных технологий. Стандарт также учитывает современные вызовы, связанные с этическими и правовыми аспектами использования ИИ, что является важным шагом к обеспечению устойчивого и ответственного развития технологий. В документе предусмотрены изменения, касающиеся уточнения требований к документированию процессов управления и повышению прозрачности в использовании систем ИИ.