5.3 ДОВЕРЕННЫЙ ИИ В РЕГУЛИРОВАНИИ И СТАНДАРТАХ

1. Европейская этическая хартия Совета Европы по использованию ИИ в судебных системах (12.2018);
2. Руководство о защите данных при использовании ИИ (01.2019);
3. Декларация комитета министров о манипулятивных возможностях алгоритмов (02.2019);
4. Рекомендации комиссара Совета Европы по правам человека — 10 шагов для защиты прав человека при использовании ИИ (05.2019);
5. Рекомендация комитета министров о влиянии алгоритмов на права человека (04.2020)

• Неприемлемый риск. К этой категории относятся ИИ-системы, которые могут представлять угрозу для прав граждан и их безопасности, например разработки, позволяющие манипулировать поведением пользователей. Подобные системы будут запрещены.
  
  
• Высокий риск. К таким системам относятся решения в области критической инфраструктуры (например, транспорта), медицины (в частности, роботизированная хирургия), образования, права и др. Отнесенные к этой категории разработки должны соответствовать строгим критериям безопасности (иметь четкую систему оценки рисков, контроль со стороны людей и др.).
  
  
• Умеренный риск. Пользователи таких ИИ-систем должны четко понимать, что взаимодействуют с машиной (например, чат-ботом), а не человеком.
  
  
• Минимальный риск. В эту категорию попадает большинство ИИ-систем: интеллектуальные спам-фильтры, видеоигры с поддержкой ИИ и так далее.

• системы, манипулирующие поведением, что может причинить физический или психологический ущерб;
  
  
• системы, которые используют слабые места определенной группы лиц (возраст, физические или умственные особенности), чтобы существенно исказить поведение, и в результате могут причинить физический или психологический ущерб;
  
  
• оценка или классификация органами госуправления (или по их поручению) благонадежности физических лиц в течение определенного периода времени на основе их социального поведения, известных или прогнозируемых личных или личностных характеристик, если оценка приводит к неблагоприятному отношению к определенным физическим лицам или их группам в социальных контекстах, не связанных с условиями, в которых данные были первоначально созданы или собраны, либо к такому отношению, которое неоправданно или несоразмерно их социальному поведению;

• использование правоохранительными органами удаленных систем биометрической идентификации в режиме реального времени в общедоступных местах, кроме случаев, когда это критически необходимо, например для целенаправленного поиска потенциальных жертв преступлений, в том числе пропавших без вести детей.

1. Поставщики систем с ИИ обязаны использовать качественные данные, чтобы результаты не были предвзятыми или дискриминирующими.
   
   
2. Они должны предоставлять подробную документацию о том, как работают их системы ИИ, чтобы власти могли оценить их соответствие стандартам.
   
   
3. Поставщики должны делиться информацией с пользователями, чтобы помочь им понять и правильно использовать системы с ИИ.
   
   
4. Они должны обеспечить соответствующий уровень человеческого надзора как при разработке, так и при внедрении ИИ.
   
   
5. Они должны соблюдать самые высокие стандарты кибербезопасности.

Названный выше проект «Рекомендация по этическим аспектам ИИ» ЮНЕСКО требует (п. 58), чтобы органы власти и управления проводили самостоятельную оценку имеющихся и предлагаемых к внедрению систем ИИ, в том числе для определения целесообразности применения этих систем. Государствам следует создать механизмы, которые обеспечат соблюдение прав человека, мониторинг и надзор в том, что касается социально-экономических последствий применения ИИ-систем. Также рекомендуется создать и другие механизмы управления, в том числе:

• независимые органы по вопросам защиты данных;
  
  
• структуры надзора на уровне секторов;
  
  
• государственные органы надзора в сфере закупки ИИ-систем для чувствительных с точки зрения прав человека сфер использования, таких как система уголовного правосудия и независимого судопроизводства, правоохранительная деятельность, социальное обеспечение, занятость, здравоохранение.

Стандарт помогает:

• определить понятие «благополучие человека» в отношении ИАС;
  
  
• определить способы измерения влияния ИАС на благополучие человека с момента проектирования до окончания жизненного цикла системы;
  
  
• управлять развитием ИАС;
  
  
• определить болевые точки;
  
  
• подготовить стратегии минимизации рисков;
  
  
• оценить эффективность системы;
  
  
• выявить целевых и нецелевых пользователей, а также намеренные и ненамеренные способы применения и факты влияния ИАС на благополучие человека.