1. ВВЕДЕНИЕ. ЗАЧЕМ ЭТИКА ГОССЛУЖАЩИМ

Авторы раздела:

Для реализации цифровой трансформации государства необходимо своевременно отвечать на этические вопросы, возникающие при использовании цифровых технологий. По мере того как цифровые технологии становятся основой госуправления, меняется роль госслужащих и государства в целом. В новых условиях служащие должны принимать решения под свою ответственность, в то время как раньше они могли строго следовать регламенту и опираться на многолетние исследования вопроса. В этой ситуации этика в области цифровых технологий критически влияет на степень доверия граждан к государству, а в перспективе — на его стабильность и благополучие.

В течение двух десятилетий человечество с оптимизмом смотрело в цифровое будущее; люди искренне верили, что технический прогресс сделает жизнь лучше. В последние годы этот оптимизм сошел на нет: ИТ-компании собирают персональные данные пользователей и передают сторонним организациям, социальные сети манипулируют пользователями, даже крупные игроки не способны защитить данные клиентов, а алгоритмы, используя непрозрачные метрики, повышают статус одних социальных групп и дискриминируют другие. По мере того как инновационные технологии становятся повседневностью в экономике, обороне, здравоохранении, в наших отношениях с государством и в частной жизни, рисков становится все больше.

«В эпоху больших данных и машинного обучения человеческая индивидуальность испытывает все большее давление», — отмечает профессор гарвардской Школы управления им. Джона Ф. Кеннеди Матиас Риссе. Технологические прорывы последних десятилетий готовили почву для повсеместных масштабных изменений, а пандемия стала их катализатором: услуги и работа онлайн, дистанционная учеба и медицина, государственные цифровые услуги и т. д., вплоть до новой экономической модели — «бесконтактной экономики». Локдаун 2020 года смягчился год спустя, но остается значительным фактором влияния, как и принятые в этот период управленческие решения в области цифровизации.

С одной стороны, использование цифровых технологий во время пандемии принесло огромную пользу. Миллиард учеников и студентов закончили учебный год онлайн, тогда как еще десять лет назад такая ситуация привела бы к коллапсу образования. Медицинские организации собрали огромное количество данных для анализа и обучения систем искусственного интеллекта (ИИ), развития цифровой медицины и медицины в целом. Экологи получили уникальную возможность оценить вклад транспорта и промышленности в загрязнение воздуха.

С другой стороны, непродуманные решения, пренебрежение последствиями потом ради выгоды сейчас наносили и продолжают наносить репутационный вред самой идее цифровизации. Так, неэтичная работа приложения «Социальный мониторинг» и системы цифровых пропусков сделала фразу «цифровой концлагерь» популярным способом обозначения Москвы (см. раздел 2.3). Государствам приходится не столько возвращаться в прошлую жизнь, сколько учиться жить в новой, где нужно быть готовым в любой момент отреагировать на новую волну пандемии или другие острые ситуации. Этические вопросы, которым долгое время не уделяли внимание, оказались слабым местом ускорившейся цифровой трансформации (ЦТ). Технологии, применение которых в 2020—2021 годах вызвало возмущение, отторжение и социальные проблемы, зачастую внедряются бесконтрольно и без каких-либо ограничений. Так что настало время установить правила и принципы для принятия решений, которые влияют на жизнь, здоровье и экономическое положение миллионов людей.

В нынешней ситуации особая ответственность легла на государственных заказчиков цифровых сервисов, что ярко проявилось в период пандемии. Во всем мире ситуативные решения по борьбе с пандемией принимались госслужащими, которым пришлось создавать и адаптировать сервисы в условиях хаоса и неопределенности, бороться не только с распространением болезни, но и с ее социально-экономическими последствиями. Они оказались на передовой, не имея готовой стратегии и тактики, поэтому вынуждены были импровизировать. В новых условиях госслужащие и работники бюджетных организаций обеспечивали:

Директор АНО «Информационная культура» Иван Бегтин обращает внимание на то, что в пандемию Минцифры, которое раньше занималось прокладкой кабелей и компьютеризацией школ, взяло на себя новую роль — массово следить за гражданами. Его беспокоит, что «практика „социального мониторинга“ с легкостью переносится на контроль домашнего ареста, а идеи вроде приложения „Мигрант“ по контролю трудовых мигрантов так же легко транслируются на другие категории граждан: строителей особо важных объектов, людей, работающих под присягой, условно-досрочно освобожденных. <…> Появится ли самограничение государства в этой сфере? Будут ли этические аспекты приватности реальным или имитационным предметом государственной и публичной политики?»

По его словам, важными аспектами новой реальности стали снижение ограничений на доступ к личным данным («если ранее доступ к данным о передвижении человека требовал процедур оперативно-розыскной деятельности и сами данные собирались в инфраструктурных предприятиях, то сейчас данные доступны сразу в государственной системе и сотрудникам гражданских ведомств») и цифровая опека (переход к активной цифровой протекционистской политике, включая мобильные приложения и интернет вещей для защиты детей, пенсионеров и др.). Эти тенденции, безусловно, вызывают вопросы: «будут ли работать органы парламентского контроля, какова здесь роль регуляторов систем безопасности вроде ФСТЭК и защиты персональных данных вроде Роскомнадзора».

Все названные факторы свидетельствуют о том, что этикой ЦТ нельзя пренебрегать. Этика напрямую связана с доверием, а доверие — с успешностью страны в долгосрочной перспективе (см. об этом раздел 3). Пусть не сегодня, но в ближайшее десятилетие в условиях турбулентности и глобальных потрясений государству будет критически важно иметь выстроенные и основанные на доверии коммуникации с гражданами, понятные и этичные принципы принятия решений.

Компании, использующие этически неоднозначные решения при разработке продуктов, ставят под удар репутацию своего бренда. Организаций, имеющих собственный этический подход, пока не так много, но именно их можно назвать наиболее технологически зрелыми. Доверие означает уже не просто хорошую репутацию и общественную поддержку, а возможность в перспективе остаться на рынке, и это актуально не только для компаний, но и для целых стран.

Доверие граждан государству тает, когда технологии используют неэтично, когда их применение вызывает страх и наносит вред гражданам. «В постковидном мире государства, которые ценят доверие граждан, будут работать над тем, чтобы восстановить его, — пишет Тереза Скасса, профессор юридического факультета Оттавского университета (Канада). — Они будут принимать законы о защите персональных данных… чтобы обеспечить соблюдение прав и реальное применение этих законов на практике. Они будут применять к технологии подходы, основанные на этике и правах человека… Государства будут уделять больше внимания этическому и правовому измерению технологий и укреплять доверие граждан, создавая нормы и обеспечивая соблюдение их прав».

Именно поэтому Центр подготовки РКЦТ продолжает исследование этических вопросов цифровизации, начатое в 2020 году двухтомной публикацией «Этика и „цифра“: этические проблемы цифровых технологий». Новый доклад посвящен уже не только проблемным зонам и дилеммам, но и подходам к решению этих проблем: технологическим, управленческим, регуляторным. Как и в предыдущей публикации, упор делается на решениях для государства и госслужащих. Отметим также, что заголовок серии — «Этика и „цифра“» — задает максимально широкую рамку для обсуждения самых разных этических вопросов, так или иначе возникающих при разработке цифровых решений и смежных с ними тем.

Назовем три ключевых момента, определяющих значимость этики для цифровой трансформации государства. Во-первых, создание цифровых услуг и цифровизация госуправления в целом — это не просто переход в онлайн уже существующих форм, а процесс, меняющий принципы взаимоотношений между государством и гражданином. Изменения касаются всех областей жизни: создаются новые законы и НПА, новые формы общения (чат-боты вместо людей) и контроля (видеонаблюдение с распознаванием лиц), новые способы получения медицинской помощи и образования (удаленно). «Мы находимся в том месте в истории, где, наконец, пришло время изобрести законы, институциональные формы, которые позволят нам приблизиться к цифровому будущему, совместимому с демократией», — пишет Шошана Зубофф. В одночасье происходит много быстрых и почти необратимых изменений, рождается новая реальность. Этот процесс не слишком предсказуем и слабо поддается управлению. При отсутствии этических норм и ограничений он может привести к самым неожиданным и неприятным последствиям для общества.

Второе ключевое изменение — стремительный рост ответственности тех, кто создает и внедряет технические решения. В прежней парадигме решения, связанные с «преступлением и наказанием», ограничениями для граждан и т. д., принимались на основании известных законов. Законы составляли юристы, имеющие представление об этических дилеммах, изучавшие эту сферу, знакомые с ее практическим применением. Был отлажен процесс принятия законов с регламентированным взаимодействием участников. Сейчас значимые решения принимают в том числе руководители среднего звена департамента информационных технологий (ИТ). У них может не быть времени, чтобы погружаться в этические нормы, и не всегда хватает компетенций, чтобы разобраться в философских, юридических или социологических аспектах этики, но при этом их власть и ответственность беспрецедентны (см. раздел 7). Нужно осознать тот факт, что сейчас практическое управление, особенно экстренное и кризисное, выполняется с помощью цифровых решений. Даже если эти решения временны, их последствия могут остаться с нами надолго. Именно эти решения и та логика, которая в них заложена, определяют жизнь людей.

Есть и третий, возможно, главный момент: кроме временных решений и экстренно создаваемых продуктов разрабатываются цифровые платформенные решения по масштабному управлению государством, вводятся новые технологии с большим потенциалом, но не до конца проясненными этическими и социальными рисками (например, скоринговые модели на основе технологии ИИ). При этом остается множество нерешенных вопросов, начиная от предвзятости ИИ (AI bias) и заканчивая невозможностью отследить, что именно влияет на его выводы. С одной стороны, цифровые решения разрабатываются более масштабно и качественно, чем быстрые решения эпохи пандемии, с другой, это по прежнему плод работы не столько юристов, философов и экспертов из общественных организаций, сколько чиновников, разработчиков, специалистов по данным и т. д. Ни одна из этих специальностей не предполагает глубокого погружения в тему этики. Эту ситуацию необходимо срочно менять. Подобные решения уже на нынешнем этапе развития технологий должны быть этичными, это позволит избежать серьезных социальных последствий (см. раздел 3). Хотя пандемия была на руку надзорным капиталистам, а усиление государственной слежки создает новые риски, Шошана Зубофф уверена, что еще ничего не решено и будущее в руках граждан: «Нам нужны новые общественные движения, новые формы общественной солидарности. Законодатели должны чувствовать, что мы будем настаивать на своем. <…> Перемены не случатся в одночасье, но сейчас то десятилетие, когда мы должны действовать».

Названные ключевые проблемы не абстрактны. В конечном счете каждый госслужащий работает не для того, чтобы выполнять указания; его задача — улучшать качество жизни людей, их удовлетворенность госуслугами и в целом работой государства. И учитывать этику в принятии повседневных решений — значит предвидеть последствия, которые эти решения могут иметь для разных групп населения.

Авторы доклада хотели бы, чтобы этика была не только модной темой для дискуссий, а этические кодексы систематически применялись бы при разработке технологий. Пока сложно оценить глубину и опасность этического разрыва, в том числе и потому, что нет общественного контроля за процессом разработки цифровых решений. Доклад отражает разные точки зрения на вопросы этики в принятии решений в госсекторе. Когда мы говорим об этике решений, нужен индивидуальный подход к каждому госслужащему: для кого-то важна репутация органа, региона, для кого-то — личная репутация, для кого-то — успешность решения или все названное вместе. Поэтому в этой книге каждый найдет аргументы, которые будут важны для него, и инструменты, которые он сможет использовать в работе. Как это сделать? Рецепт простой: в процессе принятия решения надо понимать, присутствует ли в нем этическая составляющая (она присутствует не всегда, но в большинстве случаев), не рассчитывать только на свою экспертность, а привлекать специалистов для консультаций. Не надо бояться выносить этические проблемы на обсуждение — о них надо постоянно думать, анализировать их, следить за мировой повесткой, смотреть, что делают коллеги.

С самого начала работы Центра слушателей интересовала этика принятия решений, хотя еще не было четкого понимания места этики в работе государственных органов. Преподаватели Центра, читавшие лекции по этой теме с 2018 года, сумели показать, что этические вопросы требуют к себе особого внимания, что они должны быть фундаментом всей работы. Пандемия COVID-19 сделала этику принятия решений трендом, и этим надо воспользоваться — ведь пока тема недостаточно популярна, ее сложнее продвигать, амбассадорам этики труднее отстаивать свое мнение. Например, госслужащий после обучения в Центре проникся значимостью этического подхода, возвращается в свою команду и встречает скепсис: «Нам тут надо работать, показывать результаты, выполнять показатели, а он хочет этику обсуждать». В 2018 и 2019 годах этика была именно такой маргинальной темой. Сейчас ситуация коренным образом изменилась, об этике стали больше говорить и писать, хотя, к сожалению, реальных практических сдвигов в России пока не произошло. Необходимо, чтобы эта тема из сферы обсуждений перешла в сферу ежедневной рутинной работы.

Чтобы убедиться в актуальности заявленных тем не только для слушателей Центра, но и для более широкого круга госслужащих и руководителей ЦТ, авторы доклада обратились к потенциальным читателям. Результаты анонимного опроса специалистов, причастных к разработке или эксплуатации государственных цифровых сервисов или интересующихся этим направлением, представлены на рисунке 1. Главной этической проблемой при создании и использовании цифровых технологий респонденты считают неправильное обращение с персональными данными (ПДн). 83% опрошенных считают наиболее критичной утечку ПДн, также вызывают опасения риск передачи данных третьим лицам (72%) и сбои и поломки инфраструктуры (57%): цифровой мир респонденты воспринимают как во многом непрочный и ненадежный.

Отдельно предлагалось оценить, насколько критичен риск недостаточной защиты ПДн — и 98% опрошенных говорят о той или иной степени критичности этой проблемы. Если говорить о конкретных типах цифровых услуг, то наибольшее беспокойство вызывают сервисы реестрового типа, аккумулирующие все данные о гражданине («цифровой профиль»), использование биометрии и цифровая слежка. В целом респонденты считают тему важной для себя; лишь 4% не интересуются темой и ничего о ней не знают. В публикациях о цифровой этике аудитории интересна прежде всего практическая составляющая: примеры этичных решений, оценка рисков при создании цифровых продуктов, способы сделать эти продукты более этичными, нормативное регулирование. Именно этим темам и посвящен доклад.