6.2 Фреймворк «Ответственная разработка цифровых решений»
Авторы раздела:
П. А. Алферов
А. Ю. Кирин
С. В. Коршунова
Е. Г. Потапова
Д. О. Теплякова
О. С. Шепелева
Время чтения: 12 мин.
Авторы доклада проанализировали ряд популярных фреймворков принятия решений и управления данными, после чего, опираясь на собственный опыт управления данными и этическими рисками, используя корпоративные стандарты в сфере бизнеса, а также адаптировав зарубежные инструменты к российским реалиям, предложили свой вариант такого фреймворка.
Помимо традиционных механизмов ответственности, обеспечивающих добросовестность работы госучреждений, при создании цифровых решений полезно использовать инструменты (фреймворки и чек-листы), которые помогают выявлять и оценивать риски, связанные с дизайном и параметрами работы конкретного цифрового сервиса, и находить способы справляться с ними. Фреймворки и чек-листы помогают сделать процесс принятия решений более осознанным, лучше структурировать его.
Bannister C., Sniderman B., and Buckley N. Ethical tech: Making ethics a priority in today’s digital organization. // Deloitte Review. 2020. Iss. 26.
Предлагаемый нами фреймворк «Ответственная разработка цифровых решений» — это инструмент, который поможет команде выявить этические болевые точки на ранних стадиях работы над проектом. Вопросы из категории «В ходе проекта» можно воспринимать как ориентиры на будущее: на стадии подготовки проекта команда должна подумать над созданием инструментов, которые помогут ответить на эти вопросы.
При разработке фреймворка использовались три основных источника:
- Data Ethics Decision Aid (DEDA) — список вопросов для обсуждения в команде при разработке цифрового проекта, составленных Утрехтским университетом;
- Data Ethics Canvas — графический инструмент этичной работы с данными, разработанный Открытым институтом данных;
- Data Ethics Framework — фреймворк Британского правительства по этичной работе с данными и разработке цифровых решений.
На момент публикации доклада фреймворк был протестирован в нескольких пилотных регионах. Давая обратную связь после заполнения опросника, РЦТ отметили, что такой фреймворк был бы полезен для их работы и они готовы рекомендовать его коллегам.
Data Ethics Decision Aid (DEDA) // Utrecht Data School.
What is the Data Ethics Canvas? // Open Data Institute.
Data Ethics Framework // UK Government.
Эту версию фреймворка можно рассматривать как план воркшопа: все участники проекта собираются вместе и последовательно отвечают на вопросы. Закрытые вопросы (с ответом «да/нет») желательно сопровождать краткими комментариями. Ответы на открытые вопросы обсуждаются в команде и фиксируются прямо в опроснике. Желательно при обсуждении ответов понимать, где и как именно они могут быть зафиксированы в документах проекта: ответы известны и зафиксированы, ответы известны, но нигде не зафиксированы, ответы найдены во время обсуждения и будут зафиксированы в документации и т. д.
ОТВЕТСТВЕННАЯ РАЗРАБОТКА ЦИФРОВЫХ РЕШЕНИЙ
На сайте доклада предлагается вариант фреймворка в форме теста для быстрого прохождения (с вариантами ответа). Его можно использовать как анкету для самопроверки, а также как дополнение к документации проекта или вопросы для освещения в информационной кампании.
блок 1
Общая информация о цифровом решении
1.1
Название решения, дата и место разработки
1.2
Участники проекта
блок 2
Цели
До старта проекта:
2.1
Какую пользу принесет цифровое решение тем, кто будет им пользоваться?
2.2
Какую пользу принесет цифровое решение обществу в целом?
2.3
Есть ли группы граждан, которым цифровое решение может навредить?
2.4
Что можно с этим сделать?
В ходе проекта:
2.5
Не изменились ли потребности пользователей?
2.6
По-прежнему ли цифровое решение приносит пользу обществу?
2.7
Не произошли ли события, которые могли повлиять на изначальные цели разработки цифрового решения?
2.7.1
(если да) Как вы можете адаптировать решение к новым условиям?
2.8
Можно ли измерить пользу, которую принесет цифровое решение?
2.9
Есть ли группы граждан, которые не получат от цифрового решения никакой пользы?
2.9.1
(если да) Что можно с этим сделать?
блок 3
Технологии реализации проекта
3.1
Какие технические решения будут использоваться в ходе проекта?
3.2
Насколько функционирование проекта будет зависеть от специфики таких решений?
3.3
Почему выбрали именно эти решения?
3.4
Какие варианты рассматривались?
3.5
Были ли у этих решений в прошлом инциденты, связанные с утечками данных или иными нарушениями в области приватности?
3.6
Какие этапы развертывания технологий предусмотрены?
3.7
Будет ли возможность использования (встраивания) сертифицированных ФСТЭК/ФСБ средств защиты информации и/или проведения аттестации решений/проекта по требованиям ФСТЭК/ФСБ?
блок 4
Команда
4.1
Есть ли в команде четкое распределение полномочий и сфер ответственности?
4.2
Есть ли в команде DPO (Data Protection Officer)?
Подробнее о роли DPO см. раздел 4.2.
4.3
Есть ли четкое распределение ролей среди сотрудников, работающих с данными?
4.4
Обладают ли сотрудники уровнем компетенций, необходимым для выполнения своих обязанностей?
4.5
Есть ли в команде человек, ответственный за хранение данных?
4.6
Какие курсы и тренинги, в том числе по хранению данных, нужны членам команды?
блок 5
Заинтересованные стороны
5.1
Перечислите основные заинтересованные стороны проекта.
5.2
Кому этот проект будет полезен?
5.3
Как заинтересованные стороны вовлечены в процесс создания цифрового решения?
5.4
Как учитывается клиентский опыт при разработке цифрового решения?
5.5
Есть ли группы граждан, чьи возможности может ограничить цифровое решение?
5.6
Какие группы граждан будут непосредственно вовлечены в работу цифрового решения?
5.7
Кого проект может затронуть в будущем?
5.8
Понимают ли заинтересованные стороны цель проекта и ход его реализации?
блок 6
Коммуникации
6.1
Можете ли вы объяснить гражданам, какую пользу принесет цифровое решение?
6.2
Можете ли вы объяснить, в чем суть вашего цифрового решения и как будет проходить его разработка?
6.3
Можете ли вы объяснить, почему вы использовали те или иные данные?
6.4
Можете ли вы объяснить неспециалисту, как работают модели и алгоритмы?
6.5
Проверяли ли вы, насколько выбранные вами каналы коммуникации соответствуют привычным для целевых групп способам получения информации?
6.6
Есть ли каналы обратной связи для пользователей?
6.7
Могут ли пользователи отправить запрос на изменение своих данных или отозвать их?
6.8
Могут ли пользователи подать жалобу?
6.9
Разработаны ли стратегии коммуникации на случай кризисной ситуации?
Подробнее о коммуникации с пользователями см. раздел 3.3.3
блок 7
Общественные ценности
7.1
Приведет ли разработка цифрового решения к ограничению законных прав и интересов каких-то людей и организаций?
7.2
Приведет ли разработка цифрового решения к возникновению дополнительных обязанностей для каких-то людей и организаций?
7.3
Как проект способствует:
- расширению возможностей человека?
- инклюзии слабо представленных слоев населения?
- уменьшению экономического, социального, гендерного, этнического неравенства?
7.4
Повлияет ли цифровое решение на окружающую среду?
7.4.1
(если да) Как можно уменьшить это влияние?
7.5
Какова вероятность того, что решение усиливает цифровое неравенство?
7.6
Если вы используете в работе ИИ, оценивались ли данные на предвзятость?
Подробнее о предвзятости алгоритмов: Этика и «цифра»: этические проблемы цифровых технологий. В 2 т. М.: РАНХиГС, 2020–2021.
7.7
Что вы сделали, чтобы ее избежать?
блок 8
Доступность и инклюзивность
8.1
Следуете ли вы стандарту WCAG 2.0 при разработке интерфейсов и при верстке?
8.2
Есть ли аналоговая замена цифровому решению?
8.3
Если вы используете языковые модели для коммуникации с пользователем (например, чат-боты):
- предупреждаете ли вы пользователя, что с ним говорит не человек?
- переадресовывается ли вопрос специалисту-человеку, если чат-бот не может решить проблему?
- кто несет ответственность за решения, принятые ИИ?
блок 9
ДАННЫЕ
Объем данных
9.1
Можно ли достичь целей проекта, используя меньший объем данных?
9.2
Можно ли достичь целей проекта, используя псевдонимизированные или анонимизированные данные?
Контроль доступа
9.3
Используете ли вы данные, с помощью которых можно идентифицировать человека (персональные данные)?
9.3.1
(если да) Как контролируется доступ к данным?
9.4
У кого из членов команды есть доступ к данным?
9.5
Собираетесь ли вы передавать данные в другие организации? В какие? На каких условиях?
9.6
Есть ли у вас обязательство публиковать данные в открытом доступе?
9.7
Проводилось ли тестирование устойчивости системы к взлому?
9.8
Какие положительные и отрицательные последствия могут быть у публикации всего корпуса данных или его части?
Анонимизация данных
9.9
Проверяли ли вы процессы сбора, хранения и обработки данных на соответствие методическим рекомендациям Роскомнадзора?
9.10
Если в проекте используются анонимизированные данные, ответьте на следующие вопросы:
- Можете ли вы продемонстрировать, что данные были анонимизированы в максимально возможной степени?
- Можно ли соотнести данные с другими датасетами, которые сделают возможной идентификацию субъекта данных?
- Какие меры вы приняли, чтобы этого не допустить?
9.11
У кого из команды есть доступ к ключу шифрования, с помощью которого можно соотнести псевдонимизированные данные с их субъектами?
блок 10
Риски
10.1
К каким негативным последствиям может привести внедрение цифрового решения?
10.2
Перевешивают ли эти негативные последствия те риски, которые возникнут, если проект не будет реализован?
10.3
Может ли цифровое решение усугубить социальное, гендерное или этническое неравенство?
10.3.1
(Если да) Есть ли механизмы, которые помогут вам избежать увеличение неравенства?
10.4
Может ли цифровое решение вызвать возмущение граждан?
10.5
Можно ли с помощью данных, которые вы используете, узнать что-то о частной жизни граждан?
10.6
Есть ли риск, что проект приведет к дискриминации определенных людей или группы людей?
10.7
Все ли группы граждан, которых касается проект, в равной степени представлены в корпусе данных?
10.8
Можете ли вы представить ситуацию, в которой результаты вашего проекта будут использоваться незаконно?
10.9
Что самое плохое может произойти в результате использования (в том числе противоправного) вашего цифрового решения (скандал на местном/региональном/российском/международном уровне)?
Классификация рисков
10.10
Есть ли классификация рисков?
10.11
Сведены ли они в отдельный документ (реестр/карту рисков)?
10.12
Определена ли категория критических рисков?
Стратегии и инструменты управления рисками
10.13
Есть ли стратегия управления рисками?
10.14
Можете ли вы рассказать, какие инструменты управления рисками вы используете?
10.15
Есть ли план мероприятий по снижению рисков?
10.16
Есть ли сотрудник, ответственный за управление рисками?
блок 11
Соблюдение законодательства
11.1
Обсуждали ли вы цифровое решение с юристами вашей организации?
11.2
Обсуждали ли вы цифровое решение с отделом информационной безопасности?
11.3
Какие законы и нормативные акты применимы к вашему проекту?
11.4
Проверили ли вы решение на соответствие:
- Федеральному закону от 27.07.2006 г. № 149-ФЗ «Об информации, информационных технологиях и о защите информации»
- Федеральному закону от 27.07.2006 г. № 152-ФЗ «О персональных данных»?
11.5
Придерживаетесь ли вы стандартов Ethically Aligned design IEEE и ISO/IEC JTC 1/SC 42 Artificial intelligence?
Подробнее о стандартах см. раздел 5.3.