ISO/IEC TR 24368-2022 Information technology — Artificial intelligence — Overview of ethical and societal concerns

Документ «ISO/IEC TR 24368-2022» представляет собой технологический стандарт, посвящённый этическим и социальным аспектам, связанным с искусственным интеллектом. Основное назначение данного технического отчёта заключается в предоставлении обзорной информации для специалистов, работающих в области разработки и внедрения AI-технологий. Он охватывает различные вопросы безопасности, правовых и моральных норм, а также рекомендаций по их соблюдению.

Ключевыми аспектами, регламентируемыми документом, являются методы оценки, параметры взаимодействия AI-систем с пользователями и требования к прозрачности алгоритмов. Документ устанавливает процедуры для идентификации потенциальных рисков, связанных с использованием искусственного интеллекта, а также предоставляет рекомендации по снижению этих рисков. Особое внимание уделяется необходимости применения принципов этики на всех этапах разработки и эксплуатации AI-технологий.

Важные технические детали документа включают условия проведения испытаний AI-систем, классификации различных видов AI-приложений и оценку измеряемых величин, таких как эффективность, безопасность и соответствие установленным стандартам. Документ обозначает номенклатуры для оценки и слуховых испытаний, что важно для дальнейшего принятия решений контролирующими органами и производителями.

Целевая аудитория данного стандарта охватывает широкий круг специалистов: разработчиков, производителей AI-систем, лаборатории, а также регулирующие органы. Они получат представление об этических и социальных вызовах в этой области, что позволяет им адаптировать свои практики в соответствии с новыми требованиями и ожиданиями общества.

Практическое значение стандарта заключается в значительном влиянии на безопасность, качество продуктов, охрану труда и совместимость технологий. Соблюдение рекомендаций данного документа способствует улучшению взаимодействия человека и машины, а также повышению доверия к AI-системам среди пользователей. Улучшения и дополнения к стандарту, если таковые предусмотрены, отражают актуальные тенденции и новые вызовы в сфере искусственного интеллекта, создавая основу для будущих изменений в регуляторных подходах.