9. ЗАКЛЮЧЕНИЕ. ЭТИКА КАК КОМПАС ЦИФРОВОЙ ТРАНСФОРМАЦИИ

— Решение принимаешь ты один. Но помнить ты должен, что делаешь это также и за других, кто стоит за твоим плечом.
Джуд Уотсон. Ученик джедая. Осажденный Храм
Авторы раздела:
И. Д. Димитров
К. Л. Киселева
Е. Г. Потапова
Время чтения: 9 мин.
Если рассматривать «цифру» не как цель, а как средство, как путь к укреплению общественного благосостояния, то этические вопросы оказываются ключевыми для успешного внедрения любых цифровых решений. Когда эти вопросы не получают ответов, а сервисы, возникающие в ходе такой беспечной цифровизации, не учитывают удобства и безопасность людей, у граждан возникает чувство недоверия к государству и системе в целом. И если представители власти не разъясняют им, каким образом будут гарантированы их права и свободы при появлении цифровых решений, недоверие будет лишь усиливаться.
В этом и предыдущем исследованиях Центра подготовки РКЦТ, посвященных этике, мы описали широкий спектр этических рисков ЦТ. Один из самых критичных — риск цифровой эксклюзии, когда некоторые группы в обществе имеют ограниченный доступ к технологиям. Для этих групп повсеместная цифровизация означает либо полную утрату доступа к государственным и коммерческим сервисам, либо существенное снижение их доступности. Такой эффект противоречит задачам перехода на «цифру»: открывать новые возможности, ускорять и упрощать процессы.
Цитата
В начале 2020 года мы выпустили первый доклад об этике в цифровую эпоху. Мы разобрали в нем этические проблемы, которые возникают в разных отраслях с распространением цифровых технологий. Проблема состоит в том, что этику нельзя нормативно урегулировать. Госслужащие привыкли мыслить так: то, что нормативно урегулировано, мы делаем, а то, что по закону не требуется, — нет. Но этические вопросы нельзя решить таким образом, часто они не имеют единственно правильного решения.

Мария Шклярук, академический директор Центра подготовки руководителей и команд цифровой трансформации
За полтора года, прошедших с момента выхода нашего первого доклада, в мировой цифровой повестке наметилось несколько положительных трендов, связанных с этикой. Среди них — ограничение потенциально опасных технологий, развитие технологических, регуляторных и управленческих решений, способствующих созданию более этичных продуктов.
  • В ряде стран стали запрещать или серьезно ограничивать применение технологий, если потенциальный вред от них превышает потенциальную пользу. Неэтичность обработки данных и внедрения технологий становится достаточным поводом для отказа от их использования, хотя бы временного.

  • Создаются этические кодексы и нормативные документы в области ИИ и данных. Новые роли, такие как руководитель по этике ИИ или Data Protection Officer, появляются в офисах на Западе и (сравнительно редко) в России.

  • Появляются (пока только в Европе) проекты нормативных документов, ограничивающие наиболее критические технологии, например системы социального рейтинга или видеонаблюдение с распознаванием лиц.

  • Вопросы приватности и защиты данных, прежде интересовавшие только узких специалистов, разработчиков и юристов, становятся темой общественных дискуссий. В России появляются первые примеры масштабного удаления данных по окончании срока их использования, создаются более удобные формы отзыва пользовательских данных.

  • Внедряются практики разработки на основании концепции Privacy by Design / by Default, в которых приватность предусматривается по умолчанию и с самого начала разработки продукта. Государства более-менее успешно предпринимают попытки ограничить власть ИТ-гигантов и дата-корпораций.
Однако этих первых сдвигов недостаточно. Для полноценного включения вопросов этики технологий в государственную повестку их обсуждение нужно выводить на более высокий, стратегический уровень.
В последний год обострилась борьба государств и компаний за власть и влияние. Россия должна не только наращивать свою технологическую, интеллектуальную мощь, но и стремиться к цифровому суверенитету, чтобы сохранять за право на собственное мнение и возможность занимать сильную позицию в конструктивном диалоге мировых держав. Однако сохранение цифрового суверенитета невозможно, пока Россия замкнута (научно, технологически, экономически и культурно) в русскоговорящей зоне и ориентируется на копирование успешного опыта других стран вместо создания своего, уникального. Создателям цифровых продуктов нужно задаваться вопросами о перспективах, ставить перед собой более амбициозные цели, заглядывать в будущее. Есть много примеров удачных решений, несколько российских министерств и ведомств (ФНС, ФАС и др.) совершили прорыв, сделали то, чего нет в большинстве стран.
Текущая деятельность — это в основном распоряжения, отчеты, рутина, поэтому у сотрудников госорганов обычно нет времени на обдумывание этических вопросов. Государственные и муниципальные служащие — заложники планов и решений, принятых несколько лет назад, в то время как решения, принимаемые сегодня, определяют развитие страны на ближайшие годы.
Так что же дальше? Что позволит экономике страны вырасти не на 2–3%, а на 10–20%? Какие действия, связанные с социально-экономической политикой и ЦТ, помогут совершить этот скачок? Мы наблюдаем парадокс: чем больше всего оцифровывается, тем сильнее цифровой хаос. Возможно, потомки назовут этот период эпохой цифровой архаики. Метрик новой экономики и нового мира еще нет, их предстоит разработать; если государство хочет определять смыслы, оно должно их предлагать, обосновывать и активно продвигать (см. рисунок 19).

Рисунок 19
Компоненты техноэтики в госуправлении

Цитата
Залог успеха в развитии государства — способность мыслить стратегически, учитывая этические вопросы. Система управления — это не просто сбор и анализ статистических данных, это динамическая система с разными уровнями, возможностью прогнозирования разных вариантов действий. Важным компонентом системы управления является собственный образ будущего, ключевыми элементами системы должны стать образ человека и его этика. Мыслить краткосрочными промежутками — значит заведомо проиграть конкурентам, у которых есть стратегия на десятилетия. У России есть и возможности, и кадры, чтобы сформировать новые смыслы: не план развития на ближайшие три года, а стратегию на 50–100 лет.

Илия Димитров, омбудсмен по вопросам развития цифровой экономики
Невозможно и далее пренебрегать этикой в процессе ЦТ. Этика напрямую связана с доверием, а доверие — с успешностью страны в долгосрочной перспективе. В условиях турбулентности и глобальных потрясений государству критически важно иметь заранее выстроенные и основанные на доверии коммуникации с гражданами, понятные и этичные принципы принятия решений. Укрепление доверия к государственным цифровым сервисам — одна из ключевых задач любой стратегии ЦТ. И при создании стратегии, и при разработке конкретных цифровых решений государственным органам не обойтись без тщательного изучения пользовательского опыта. Механизмы обратной связи должны использоваться уже на этапе проектирования сервиса, так же как и фокус-группы, и тестирование прототипов. Открытый диалог с экспертным сообществом, внимательное отношение к ПДн и надежная защита приватности должны стать для владельцев цифровых продуктов базовыми принципами деятельности.
Кроме открытости, умения строить коммуникации и завоевывать доверие, в практике реализации этических принципов в области «цифры» важны и другие аспекты. В любых цифровых решениях, исходящих от государства, нужно заботиться об этичности систем на основе ИИ, сохранении аналоговых альтернатив цифровым сервисам, о доступности цифровых решений и в социально-экономическом, и в цифровом смысле, что предполагает совершенствование самих сервисов, инклюзивный подход к их дизайну, повышение цифровой грамотности граждан и рост их благосостояния.
В цифровом мире этика — научная дисциплина, которая изучает новые способы взаимодействия людей между собой и людей с машинами и пытается выяснить, что такое хорошо и что такое плохо в новых реалиях. Но этим она не исчерпывается. Этика в области цифровых решений — это еще и этичное поведение людей, принимающих эти решения, практика применения новых инструментов. Для государственного или муниципального служащего, вообще для всех, кто работает «на государство», этика в цифровом мире — это ежедневный выбор в пользу гражданина, защита его безопасности, поиск самого простого, быстрого и удобного способа удовлетворить его потребности, оставаясь почти незаметным. О том, как сделать этот выбор, мы постарались рассказать в докладе.