2. ЭТИЧЕСКИЕ ПРОБЛЕМЫ И РИСКИ ЦИФРОВЫХ ТЕХНОЛОГИЙ
— Главное, — сказал Форд, — перестань паниковать.
— А кто сказал, что я паникую? — огрызнулся Артур. — Это пока просто шок. Вот подожди, я освоюсь, осмотрюсь. Тогда и начну паниковать!
— А кто сказал, что я паникую? — огрызнулся Артур. — Это пока просто шок. Вот подожди, я освоюсь, осмотрюсь. Тогда и начну паниковать!
Д. Адамс. Автостопом по галактике
2.1 ОТНОШЕНИЕ К ДАННЫМ ГРАЖДАН
Авторы раздела:
С. В. Коршунова
Е. Г. Потапова
О. С. Шепелева
Время чтения: 22 мин.
Пожалуй, не осталось людей, которые не знают, что их данные собирают и используют городские системы видеонаблюдения, органы правопорядка, сотовые операторы, «Госуслуги», производители смартфонов, банки, кибермошенники и многие другие. Параллельно с ростом объемов собираемых данных растет не только количество полезных услуг и продуктов, но и количество утечек, случаев кибермошенничества и злоупотребления данными. Серьезные проблемы цифровых технологий касаются персональных данных и больших данных.
Персональные данные (ПДн) — любая информация, относящаяся к прямо или косвенно определенному или определяемому физическому лицу (субъекту ПДн) (см. ФЗ-152). В частности, это фамилия, имя и отчество человека, дата рождения, пол, место жительства.
Большие данные (big data) — термин, который характеризует накопление и анализ информационных ресурсов, объем которых превышает возможности их хранения и анализа на основе созданных ранее аппаратных и программных средств (п. 31 доклада генерального секретаря ООН «Использование информационно-коммуникационных технологий для инклюзивного социально-экономического развития» / Комиссия ООН по науке и технике в целях развития // ООН.
2.1.1 НАРУШЕНИЕ НЕПРИКОСНОВЕННОСТИ ЧАСТНОЙ ЖИЗНИ
Возможность контролировать распространение информации о себе и своей частной жизни — неотъемлемый элемент приватности. Чаще всего люди хотят, чтобы сведения об их личности и частной жизни оставались тайной. При этом аргумент «я не делаю ничего плохого и мне нечего скрывать» уже не работает: мошенники, которые используют утекшие из государственных или коммерческих баз данные, не делают исключения для законопослушных граждан.
Понятие приватности // Этика и «цифра»: этические проблемы цифровых технологий. В 2 т. М.: РАНХиГС, 2020.
См. подробнее о вопросах восприятия приватности гражданами и госорганами в эссе профессора юридического факультета Университета Джорджа Вашингтона Дэниела Дж. Солова (Daniel J. Solove) 'I've Got Nothing to Hide' and Other Misunderstandings of Privacy.
Проблемы возникают на всех этапах работы с данными. На этапе сбора информации имеют место: избыточность (данные собирают «с запасом», даже те, которые не требуются для достижения заявленной цели); излишняя инвазивность (вторжение в частную жизнь) и сбор данных без уведомления субъекта; обогащение (совмещение разных баз, в результате чего формируется более полный профиль пользователя с его личными предпочтениями, интересами, контактными и иными данными). На этапе хранения и обработки возможны нецелевое использование данных, утечки и кражи. Если данные утекли или были украдены, возникают разнообразные риски их противоправного использования (мошенничества, злоупотреблений и т. д.), причем такое использование может нанести особенно серьезный вред в случае обогащенных данных. Отдельно следует отметить непредсказуемость дальнейшего использования данных: субъект данных в момент сбора данных не знает, что с ними будет происходить в долгосрочной перспективе.
Во время пандемии неприкосновенность частной жизни и право на защиту личной информации были оттеснены главным требованием дня — избежать распространения инфекции, победить болезнь. На первый план вышло выявление тех, кто нарушает ограничения. Государства и ИТ-гиганты и раньше могли получать чувствительную информацию о гражданах, используя данные сотовых операторов, мобильных приложений, сетей Wi-Fi, геолокации, городских систем видеонаблюдения с распознаванием лиц и др. (мы писали о дата-корпорациях, бизнес которых построен на сборе данных пользователей и использовании их в коммерческих целях). Те данные, которые ИТ-компании используют для получения прибыли, в 2020 году многие страны мира, стремясь ограничить распространение COVID-19, стали использовать для отслеживания перемещения людей и их контактов.
Капитализм слежки // Этика и «цифра»: этические проблемы цифровых технологий. В 2 т. М.: РАНХиГС, 2020.
Раньше законы и общественное сопротивление замедляли и ограничивали развитие систем слежки, построенных на сборе данных, но во время пандемии приоритеты сместились от защиты прав и свобод к обеспечению безопасности, ради которого допустимы временные ограничения для граждан (например, ограничение свободы передвижения). В некоторых странах мобильные приложения для трекинга заболевших были обязательными к установке. Существуют вполне обоснованные опасения, что временные ограничения останутся после окончания эпидемии и станут постоянными. В аэропортах до сих пор действуют меры безопасности и ограничения, введенные после терактов 2001 года, и никто не думает их отменять.
Жителям Катара грозил штраф в размере до 55 тыс. долл. или лишение свободы сроком до трех лет за отказ от установки правительственного приложения, разработанного для борьбы с пандемией.
В китайском Ханчжоу в мае 2020 года предложили на постоянной основе использовать приложение для отслеживания больных COVID-19 и после пандемии. Это приложение должно было стать полноценным инструментом отслеживания многих показателей здоровья граждан. Похоже, эта идея не была воплощена в жизнь.
Эпидемиологи в США летом 2020 года заявляли, что защита ПДн затрудняет борьбу с пандемией, а значит, данные следует делать более доступными для государственных и медицинских организаций. Например, из-за требований законодательства сложно или невозможно делиться с другими регионами и тем более государствами такой информацией, которая помогла бы выявлять пути распространения болезни.
Технология распознавания лиц — часть новой системы «Большого брата», которая зарождается в разных странах мира. Государству технология распознавания лиц интересна в первую очередь для обеспечения общественной и национальной безопасности и борьбы с преступностью, в том числе для противодействия терроризму. Сложность заключается в поддержании справедливого баланса общественных и частных интересов, обеспечения безопасности и защиты прав гражданина.
Подробнее об этом см.: Государственная слежка — «Большой брат» // Этика и «цифра»: этические проблемы цифровых технологий. В 2 т. М.: РАНХиГС, 2020.
Проблема слежки проявляется на всех уровнях. При желании многие цифровые решения можно использовать для слежки за людьми.
Компания Apple в 2021 году выпустила устройства-метки AirTags. Энтузиасты быстро доказали, что метки вполне можно использовать не только для поиска своих вещей, как предполагали разработчики, но и для слежки за людьми: достаточно незаметно подбросить метку в сумку или в карман объекта слежки. Разумеется, разработчики задумывались о безопасности использования девайса, поэтому устройство Apple уведомит владельца, если рядом с ним появилась чужая метка. Но вот владелец устройства на Android обнаружить такую метку в своих вещах не сможет. Таким же образом можно использовать GPS-метки, метки для собак и другие устройства, давно существующие на рынке.
Есть и позитивные тенденции. Общепринятое мнение об этичности систем распознавания лиц еще не сформировалась, но их активное использование во время пандемии подстегнуло общество к обсуждению этого вопроса. Общество получает все больше информации о проблеме нарушения приватности. В 2020 году появились заметные проекты, которые занимаются сбором и анализом сведений о цифровой слежке. В России проект Pandemic Big Brother (организаций «Роскомсвобода» и Human Constanta) показывает на интерактивной карте статус ограничений, введенных во время пандемии, и примеры конкретных технологий, которые использует «Большой брат». В базе американского проекта «Атлас слежки» (Atlas of Surveillance), который ведет НКО Electronic Frontier Foundation, собраны тысячи случаев слежки с помощью технологий, включая распознавание лиц на фото и видео, камеры на одежде, автоматическое распознавание номеров машин, локальные партнерства по созданию реестров видеокамер и других устройств слежки, использование дронов, симуляторов базовых станций и многое другое.
Atlas of surveillance. Documenting Police Tech in Our Communities with Open Source Research // Electronic Frontier Foundation.
Международная организация «Европейские цифровые права» (EDRi) запустила кампанию против массового биометрического наблюдения «Верни свое лицо» (Reclaim Your Face). Организаторы утверждают, что «распознавание лиц может и будет использоваться против каждого из нас правительствами и корпорациями», и призывают подписать петицию за принятие закона, запрещающего видеонаблюдение с распознаванием лиц. Активные участники кампании из восьми европейских стран (Германии, Франции, Италии, Нидерландов, Чехии, Словении, Сербии, Греции) отмечают свои победы в борьбе за приватность (см. также раздел 5.3.2):
- итальянское агентство по защите данных (DPA) запретило использование системы распознавания лиц SARI, приобретенной итальянской полицией в 2017 году;
- голландское DPA направило всем отраслевым ассоциациям разъяснения, какие действия являются законными, а какие — незаконными при использовании технологий распознавания лиц и биометрического наблюдения;
- греческое DPA начало официальное расследование по фактам создания полицией централизованной биометрической базы данных и использования интеллектуальных устройств, позволяющих распознавать лица и отпечатки пальцев тех, кого полицейские останавливают на улице.
Эта реакция свидетельствует о другой важной тенденции: в ряде стран стали запрещать или серьезно ограничивать применение технологий, если потенциальный вред превышает потенциальную пользу. Неэтичное использование данных и технологий становится достаточным поводом для отказа от их использования, хотя бы временного.
В разгар движения Black Lives Matter в США цифровые гиганты IBM, Microsoft и Amazon, которые не один год развивали системы распознавания лиц, отказались предоставить эту технологию для городских систем видеонаблюдения. По словам главы компании IBM, пользователи систем, в которых задействован ИИ, должны нести общую ответственность за продукт. Компания Google сообщила, что намерена ввести функцию автоматического удаления истории геолокаций пользователей, а также информации об активности в интернете по истечении 18 месяцев.
IBM CEO’s Letter to Congress on Racial Justice Reform // IBM. Dastin J., Vengattil M. Microsoft bans face-recognition sales to police as Big Tech reacts to protests // Reuters. Fitch A. Amazon Suspends Police Use of Its Facial-Recognition Technology // The Wall Street Journal
Dastin J., Vengattil M. Microsoft bans face-recognition sales to police as Big Tech reacts to protests // Reuters.
Kelion L. Google to auto-delete users' records by default // BBC News.
Летом 2020 года в Бостоне был принят закон о запрете использования технологии распознавания лиц городскими службами (прежде всего полицией). Ранее аналогичные акты приняли Сан-Франциско и Окленд (штат Калифорния), Кембридж (штат Массачусетс).
В Портленде (США) с 1 января 2021 года закон запрещает использование технологий распознавания лиц частными компаниями. Запрет распространяется на общественные места в границах города, в том числе на все типы предприятий, банки, отели, магазины. Гражданин, который сочтет, что в отношении него этот закон был нарушен, может взыскать с виновника компенсацию вреда в размере 1 тыс. долл. США за каждый день нарушения, а также гонорар адвоката.
Компаниям за пределами Портленда рекомендуется соблюдать ряд этических принципов при создании технологий распознавания лиц:
- тестировать программу на точность и отсутствие предвзятости;
- разработать общедоступную политику конфиденциальности, письменно уведомлять пользователей о сборе данных по созданию шаблона лица и о целях создания таких шаблонов;
- получать письменное разрешение от каждого лица, шаблон которого создается;
- предусматривать возможность отказа пользователя от сбора его биометрических данных;
- обеспечивать безопасность данных;
- строго соблюдать запрет на использование технологий в целях дискриминации.
Oberly D. J. Time to comply with the nation’s newest biometric privacy law: Portland’s private sector facial recognition ban // Biometric Update.
2.1.2 ПРОТИВОПРАВНОЕ ИСПОЛЬЗОВАНИЕ ДАННЫХ О ЛЮДЯХ
Утечка данных о клиентах какого-то сервиса или просто учтенных в какой-то информационной системе (ИС) — одна из самых распространенных угроз, связанных с цифровыми технологиями. В России любые данные граждан могут оказаться оказаться в сети или на «черном рынке», где продаются и базы ИС госорганов, и базы коммерческих организаций. В финансовой сфере России число утечек конфиденциальных данных в 2020 году выросло на 36,5%, в то время как в мире снизилось на 7,3%. Особенно часто данные утекают (или их воруют) при использовании мессенджеров и при удаленной работе, когда привычные требования безопасности ослабевают.
Проблемы и коллизии: можно ли «механизмами лечить недуги человечества»? // Этика и «цифра»: этические проблемы цифровых технологий. В 2 т. М.: РАНХиГС, 2020.
Данные, размещенные на досках сервиса Trello сотен тысяч мелких и средних компаний, в 2021 году обнаружили в открытом доступе сотрудники компании Infosecurity. На таких досках часто содержится конфиденциальная информация.
Степанова Ю. Свои в досках // Коммерсантъ.
Технологии развиваются быстро, и нормативная база в части обеспечения информационной безопасности (ИБ) не всегда за ними успевает, поэтому даже полного соблюдения требований может быть недостаточно для обеспечения безопасности. Утечки случаются во всех странах мира, от них никто не застрахован.
Чаще всего причинами утечек становятся:
- ошибки в законодательстве;
- недостаточно продуманная работа регулирующих и контролирующих органов;
- ошибки разработчиков баз данных (например, неправильно настроенные серверы);
- действия недобросовестных сотрудников, которые копируют данные для последующей продажи.
Лукацкий А. Моделирование нарушителей по методике ФСТЭК: теория и реальность // Бизнес без опасности.
В США хакеры скачали базу данных в 250 Гб у городской полиции Вашингтона (США) и требовали выкуп, угрожая в противном случае передать информацию криминальным группировкам. В слитой базе данных были отчеты о расследованиях, досье на сотрудников и преступников и др. В Бразилии в январе 2021 года произошла крупнейшая утечка данных в стране. Из государственной информационной системы утекли конфиденциальные данные 223 млн налогоплательщиков, физических лиц и организаций. Ранее на GitHub попала база личных данных 16 млн бразильцев с диагнозом COVID-19, включая президента Бразилии.
Cimpanu C. Ransomware gang threatens to expose police informants if ransom is not paid // The Record.
Cimpanu C. Personal data of 16 million Brazilian COVID-19 patients exposed online // ZDNet.
Если организация не выполняет требования ИБ, на нее может быть наложен штраф, но штрафы составляют десятки тысяч рублей, а средства информационной защиты стоят миллионы, да и услуги специалистов по ИБ тоже дороги. Поэтому организации порой проще заплатить штраф в случае утечки, чем задумываться об обеспечении безопасности.
Суды по поводу мелких утечек проходят очень часто. Как правило, наказание в виде условного или реального лишения свободы получают сотрудники правоохранительных органов, банков, мобильных операторов за небольшие суммы, однако существенные по сравнению с их зарплатой. Более крупные утечки наносят репутационный ущерб, но редко приводят к штрафам или другим наказаниям. Например, в 2020 году в Москве утекли данные из ИС для выдачи цифровых пропусков во время пандемии.
Даже если компания заплатила штраф государству, тем гражданам, чьи данные утекли, ущерб никак не компенсируется. Этот ущерб может выражаться в дискомфорте от спамзвонков, в попытках (иногда успешных) кибермошенничества, в занижении рейтинга в скоринговых системах (например, при выдаче кредитов).
Более серьезную угрозу создает злоупотребление данными. Несмотря на существующие во многих странах законы о защите ПДн, граждане чаще всего не могут распоряжаться своими данными — негласно закрепилась норма «данные принадлежат тому, кто их собрал». В результате распространено нецелевое использование данных граждан с целью извлечения коммерческой и иной выгоды; скрытое манипулирование с использованием личной информации о пользователях, полученной благодаря анализу больших данных и обогащению данных; злоупотребление служебным положением для доступа к конфиденциальным данным (например, к базам правоохранительных органов).
Коллекторы из новосибирского агентства угрожали сначала женщине, которая не вернула вовремя долг микрофинансовой организации, а затем ее друзьям и работодателю. Разумеется, согласия на такое использование ПДн никто из пострадавших не давал. В суде выяснилось, что коллекторское агентство не впервые нарушает закон подобным образом, поэтому суд назначил повышенный штраф — 300 тыс. руб.
Малинина А. Суд оштрафовал коллекторов, угрожавших жительнице Кузбасса и ее работодателю // А42.ru.
Технологии позволяют извлечь дополнительную информацию о людях из самых разных источников. При этом отдельные наборы данных могут не содержать ПДн, таких как паспортные данные, ФИО, адрес, медицинские, биометрические (включая те, по поводу которых идут споры, признавать ли их персональными). Зато они могут содержать данные геолокации, контент соцсетей, данные о финансовых транзакциях, заказах в интернет-магазинах. Даже данные тепловых счетчиков, уличной системы камер видеонаблюдения и других технических систем могут быть использованы, чтобы узнать периоды пребывания человека дома, его маршруты в городе, бытовые привычки.
См. комментарий правового портала «ГАРАНТ» о неоднозначной судебной практике признания данных биометрическими: Биометрические персональные данные и технологии идентификации: какие правовые проблемы могут возникнуть? // ГАРАНТ.ру
Метаданные, которые можно извлекать из открытых данных, создают отдельную проблему, особенно если это метаданные определенных категорий (студентов, детей). От компаний требуется обезличивание этих метаданных, которые извлекают (прежде всего из соцсетей) для таргетирования рекламы и маркетинговых исследований. Если при анализе метаданных выявляются данные, попадающие в категорию приватности, они должны удаляться автоматически. Однако проследить за выполнением этого условия чаще всего невозможно. В зависимости от того, к кому попадут эти данные, их могут использовать не только в мошеннических целях, но с целью таргетинга рекламы, чтобы повысить вероятность продажи услуги, товара, подписки и т. п.
Бывший азартный игрок в соответствии с законами о защите данных Великобритании запросил информацию о себе у букмекерской конторы, клиентом которой он являлся долгое время. Помимо 34 страниц полной финансовой истории и тысяч полей данных об устройствах, на которых он пользовался сервисом, он увидел подробную информацию о своих личностных характеристиках. Алгоритм букмекерской конторы посчитал его «ценным пользователем» и пытался вернуть его с помощью промо-писем после того, как клиент решил оставить хобби из-за крупных долгов.
Сервисы отслеживания делают всех граждан, независимо от положения, уязвимыми перед киберпреступниками. Большинство современных систем слежения построено на стыке технологий, когда информация о геолокации смартфонов уточняется с помощью данных с камер видеонаблюдения, а система распознавания лиц и видеоаналитики помогает узнать, кто входит в окружение человека. Много информации дают также транзакции и данные транспортных систем. Проанализировав информацию из нескольких источников, можно с большой точностью отслеживать перемещения человека и его контакты, в том числе не имея на это законных оснований.
Новый В. Найти коронавирус: как власти могут развернуть систему слежки за контактами больных COVID-19 // Forbes.ru.
В 2021 году полиция в Москве использовала систему видеонаблюдения с распознаванием лиц для выявления участников несанкционированных акций. К некоторым полицейские приходили домой, другие были задержаны на рабочем месте. Во многих случаях задержанным устно сообщали, что их опознали с помощью камер видеонаблюдения, или к материалам дела прикреплялись распечатанные фотографии.
Позычанюк В., Стогней А. «Нам пришел видеоматериал». Умные камеры подключили к распознаванию лиц протестующих // The Bell
Избыточный сбор данных о людях создает условия для злоупотреблений данными в будущем, порой через годы после их сбора. Распространенная практика подписания «согласия на обработку персональных данных» фактически не защищает данные, а иногда позволяет использовать их против подписавшего. В момент получения согласия на обработку данных не всегда возможно уведомить человека о том, какие его данные и как именно будут обрабатываться и использоваться в будущем, потому что способы и цели обработки могут появиться гораздо позднее.
Вместо общественного обсуждения выгод и рисков переиспользования ранее собранных данных практикуется сбор данных безусловно и «по умолчанию» надолго. Согласие на сбор и обработку ПДн давно превратилось в неудобную для пользователя формальность. Достаточно один раз нажать «Согласен», и собранные сегодня данные могут использоваться даже через 10−20 лет. При этом оператор данных может записать в текст соглашения практически любые требования, ведь никто не читает их, прежде чем поставить свою подпись.
Соглашаясь на обработку ПДн при оформлении цифрового пропуска, москвичи передавали следующие ПДн: «фамилия, имя, отчество; дата рождения; адрес; профессия; место работы, адрес организации, иная информация о трудовой деятельности; должность в организации; данные документа, удостоверяющего личность; гражданство; образование; номера телефонов; адрес электронной почты; технические данные, которые автоматически передаются устройством, с помощью которого используются информационные системы и (или) сайт оператора (в том числе технические характеристики устройства (идентификатор устройства), IP-адрес, файлы cookies, информация о браузере и др.)», и не на время пандемии, а сроком на 10 лет с правом на обработку третьими лицами.
Злоумышленники могут использовать ПДн и иные данные о частной жизни человека, чтобы похитить его имущество, обманом выманить деньги или спланировать нападение на него. Чем больше транзакций происходит онлайн, чем больше через Сеть передается чувствительных данных, тем выше активность мошенников. Рост онлайн-мошенничества идет параллельно со снижением физического насилия по всему миру: украсть деньги с карты проще, чем грабить людей на улице. Поэтому при разработке цифровых проектов необходимо продумывать максимально возможную защиту.
Пинкер С. Лучшее в нас. Почему насилия в мире стало меньше. М.: Альпина нон-фикшн, 2021; Кнорре А., Кудрявцев В. Великое снижение преступности // Ведомости.
Нарастающие объемы кибермошенничества с использованием ПДн, полученных не всегда прозрачно, оставляют граждан один на один с технологиями социального инжиниринга. В основном из-за утечек страдают сами пользователи, чьи данные утекли. Каждая такая история вызывает у них недоверие, а то и открытое презрение к тем организациям, которые гарантируют конфиденциальность и безопасность переданных им данных. Граждане могут повысить свой уровень цифровой грамотности и овладеть приемами «цифровой самообороны», но обеспечение безопасной среды, в которой бы эти навыки были бы не слишком востребованы, остается задачей государства.
В мошеннических целях могут использоваться и подделка копий документов, и банальная кража паролей. Однако наибольшие опасения сейчас вызывают системы идентификации и подтверждения юридически значимых действий, в которых используются биометрические данные. Такие системы создают ряд рисков и для граждан (например, кража денег с банковского счета), и для государства (в случае махинаций с налоговыми вычетами или кражи денег со счетов госорганизаций).
Важно, чтобы новые технологии не оказались в руках злоумышленников. Известно, что когда изобрели ацетиленовую горелку, то первым ее применением была не сварка труб и не предотвращение аварии, а ограбление банка: грабители с ее помощью разрезали сейф. Современные технологии, безусловно, прогрессивны и полезны, но если они окажутся не в тех руках, то будут представлять опасность. Здесь нужно быть аккуратным.
Григорий Ройзензон, член российской Рабочей группы IEEE по тематике «Этика и искусственный интеллект»
Григорий Ройзензон, член российской Рабочей группы IEEE по тематике «Этика и искусственный интеллект»
Как способ защиты биометрическая идентификация надежна только в комбинации с другими средствами (персональными кодами, паролями и т. д.). Использование методов социального инжиниринга создает риск манипулирования и мошенничества, когда человек сам выдает свои данные (голос, видео, пароли, секретное слово, пин-коды и т. д.) мошенникам, тем самым сводя на нет все преимущества сложной системы защиты.
Мошенники, в течение двух лет обманывавшие систему биометрической идентификации личности, украли более 76 млн долл. у налоговой службы Китая. С помощью дипфейк-сервиса они «оживляли» фотографии, загружали их в специально «прошитые» смартфоны и оформляли на несуществующих людей компании-пустышки, которые затем выдавали поддельные налоговые накладные. В Москве уже зафиксированы случаи мошенничества с использованием образцов голоса клиентов банков. Мошенники звонили людям, задавали вопросы, чтобы получить ответы «Да» и «Нет», а затем использовали запись для оформления кредитов.
Chinese government-run facial recognition system hacked by tax fraudsters: report // South China Morning Post.
В Москве мошенники оформляют кредиты с помощью биометрии // SecurityLab.ru.
По-видимому, перечисленные проблемы с данными в ближайшие годы будут только усугубляться — по тем же причинам, что и ранее: избыточный сбор данных о человеке, формальное или недостаточное соблюдение требований информационной защиты государственных баз данных и ГИС, утечки чувствительных данных (ПДн, медицинских, данных о детях, о финансовых транзакциях и т. п.), цифровая слежка со стороны ИТ-гигантов и государств.