2.3 ЭТИЧЕСКИЕ РИСКИ «ЦИФРЫ» ДЛЯ ГОСУДАРСТВА

Авторы раздела:

Использование цифровых технологий создает риски для национальной безопасности и цифрового суверенитета, в частности риск зависимости от иностранных технологий и оборудования. Самым серьезным риском для государства авторы доклада считают потерю доверия граждан и как следствие — дискредитацию будущих усилий и достижений государства в сфере цифровых технологий.

В идеальной картине мира государство — представитель граждан, который защищает их интересы, права и свободы, обеспечивает охрану жизни и здоровья, поддержку слабых, руководствуется ценностями и т. п. Как уже было сказано в разделе 1, доверие собственных граждан — залог успешного существования такого государства. Использование цифровых технологий для ограничений и слежки, внедрение цифровых решений «на всякий случай» наносит вред, влечет финансовые потери, порождает страхи. Рост недоверия к государству может означать в будущем усиление сопротивления цифровым решениям (подробнее о доверии см. раздел 3). К потере доверия приводит ряд причин, в том числе:

• утечки данных граждан из ГИС;
• невозможность гарантировать защиту данных граждан в ИС из-за
• недостаточного уровня ИБ;
• необоснованное длительное хранение данных после достижения цели их сбора;
• применение технологий для несправедливых, сточки зрения граждан, действий (например, автоматическое выписывание штрафов);
• внедрение цифровых услуг, при оказании которых возможны ошибки и сбои, с одновременным удалением аналоговых вариантов.

Удаление данных, которые больше не нужны, — пример этичного обращения с данными. Отношение государства и бизнеса к удалению данных в период пандемии вообще очень показательно.

В целом законодательные органы власти и нормативно-правовое регулирование цифровой экономики не успевают за развитием рынка. В неконтролируемой «серой» зоне создаются благоприятные условия для неэтичных, но формально законных (не запрещенных законом) действий, которые впоследствии могут иметь серьезные последствия для граждан и вызывают у них недовольство. Отсутствие системной работы с этическими рисками приводит к недостаточно продуманным цифровым решениям, в которых делается акцент на будущие положительные эффекты и недостаточно учитываются потенциальные негативные эффекты.

Беспечная цифровизация, отсутствие системной работы по предупреждению этических проблем проявляются в противоречивых действиях разных госорганов, например при выборе места размещения ПДн. Госорганы активно используют мобильные приложения (не только для слежки), в результате чего растет влиятельность владельцев экосистем мобильных приложений: Google, Apple, Huawei и др.

Ярким примером того, как данные, этика и безопасность переплетаются в сложный клубок рисков для личности и для государства, служат утечки данных, собираемых через инфраструктуру «умного» города. Даже отдельные «умные» носимые устройства могут навредить своим владельцам и целым странам из-за непредумышленного раскрытия информации. Но основное звено потерь — люди. Они подписывают бумажные документы и общаются в мессенджерах, работают в засекреченном здании и используют режим геолокации на смартфоне. Технологии социального инжиниринга и обогащения данных позволяют получить много информации и без доступа к сейфу с документами. Недоразумения или беспечность сотрудников приводят к тому, что публичными становятся значимые данные, включая те, которые могут представлять государственную тайну.

В целом аналоговые технологии (бумажный документооборот) устойчивее к утечкам информации, чем электронные: проще обеспечить физический контроль и обнаружить нарушение мер ИБ, компрометацию документов, информации и т. д. Гораздо проще скопировать 1 Тб цифровых данных на флеш-карту, чем незаметно украсть 100 кг секретных документов.

Интегральный подход к обеспечению безопасности предполагает полный отказ от использования цифровых сервисов: только кнопочные телефоны, для коммуникаций с коллегами — защищенные линии видеоконференцсвязи (ВКС) и радиостанции. Однако невозможно представить себе работу современного госоргана в условиях таких ограничений. В современном цифровом мире цифровой и аналоговый подходы неизбежно совмещаются.

Помимо утечки данных и хакерских атак, опасность для государства представляет отсутствие цифрового суверенитета. Растущая зависимость от импорта электроники не позволит ни одной стране мира в ближайшем будущем иметь цифровой суверенитет. К примеру, российские компании могут создать алгоритмы, но техника, на которой они используются, будет произведена в Китае или США.

Другая опасность — копирование передового опыта других стран без учета локальных особенностей или вместо создания собственных уникальных продуктов. Само по себе использование чужого опыта целесообразно, но, чтобы быть лидером рынка, необходимо задавать тренды, а не только следовать им. При этом быть лидерами очень затратно: эксперты отмечают, что например российский аналог YouTube должен иметь мощнейшую инфраструктуру, для него придется построить серверные фермы стоимостью в несколько миллиардов долларов.

В 2020—2021 годах в мире на первый план вышли проблемы техноэтики, связанные с использованием ПДн, слежкой, кибермошенничеством и неравным доступом к технологиям. Принципиально новых этических проблем не возникло, но обострились существовавшие ранее. По-видимому, они и будут самыми актуальными в ближайшие несколько лет.

В то время как данных, используемых для контроля, собирается очень много, у государственных органов все еще недостаточно данных о гражданах и инфраструктуре, которые необходимы для оказания помощи. Они пригодились бы для стабильного обеспечения высокого уровня медицинской помощи там, где она более всего необходима, равного доступа к образовательным услугам онлайн, социальной поддержки малообеспеченных и безработных граждан и т. п.

Опыт внедрения цифровых продуктов и услуг показывает, что продуманные этичные решения сводят риски к минимуму, а непроработанные и поспешные могут быть опасны. Цифровизация разного рода сервисов может приводить к дискриминации отдельных уязвимых групп, если не предпринимаются специальные меры для снижения этого риска. Некорректная работа госорганов с цифровыми технологиями (прежде всего обработка данных граждан) может создать проблемы на стыке этики и самых широких вопросов безопасности: государства, граждан, общества в целом.

Описанные в этом разделе проблемы требуют своевременного решения на всех уровнях — регулирования, правоприменения, создания инфраструктуры, внедрения культуры работы с данными и т. д. В первую очередь следует обращать внимание на следующие факторы.

Подробнее алгоритм оценки этичности цифровых решений описан в разделе 6.2.