ISO/IEC TR 24027-2021 Information technology — Artificial intelligence (AI) — Bias in AI systems and AI aided decision making

Документ «ISO/IEC TR 24027-2021» посвящён вопросам предвзятости в системах искусственного интеллекта (AI) и процессе принятия решений с использованием AI. Основное назначение стандарта заключается в предоставлении рекомендаций по выявлению и минимизации предвзятости в AI-системах, что крайне важно для обеспечения безопасности и надёжности технологий. Документ предназначен для широкого круга пользователей, включая разработчиков, исследователей и регулирующие органы, участвующие в внедрении технологий AI.

Ключевые аспекты, регламентируемые в документе, включают методы оценки предвзятости, параметры её определения, а также требования к документированию подходов и процессов, связанных с разработкой и внедрением AI-систем. Особое внимание уделяется системному подходу к анализу предвзятости на различных этапах жизненного цикла системы, начиная с проектирования и заканчивая внедрением и эксплуатацией. Стандарт также включает практические рекомендации по обеспечению соблюдения этих требований.

Технические детали, описанные в документе, охватывают условия тестирования AI-систем на наличие предвзятости, классификации предвзятости и измеряемые величины, позволяющие оценить уровень риска. В документе указаны подходы к проведению испытаний, включая использование реальных данных и сценариев для адекватной оценки поведения систем AI в практических условиях. Это позволяет сформировать более точные и объективные решения для потребителей и специалистов сферы.

Целевая аудитория данного стандарта включает производителей AI-систем, испытательные лаборатории, академические учреждения и контролирующие органы, заинтересованные в внедрении этических норм и стандартов в разработку технологий. Также он будет полезен для организаций, стремящихся улучшить качество своих продуктов и услуг, обеспечивая соответствие современным требованиям рынка и правовым нормам.

Практическое значение стандарта проявляется в его влиянии на безопасность, качество и совместимость AI-систем. Стандарт помогает в формировании окружения, в котором разработки AI соответствуют высоким этическим и техническим требованиям, что в конечном счёте повышает доверие пользователей. Изменения и дополнения, внесённые в документ, учитывают актуальные технологические тренды и новейшие проблемы, связанные с развитием AI, что делает его важным инструментом для улучшения управления и контроля в этой области.