2.2 ЦИФРОВОЕ НЕРАВЕНСТВО И ЦИФРОВАЯ ДИСКРИМИНАЦИЯ

Авторы раздела:

Проблемы цифрового неравенства возникают по разным причинам, в том числе из-за отсутствия необходимой инфраструктуры, из-за физических ограничений, низкого уровня цифровой грамотности граждан. Нарушение прав и дискриминация отдельных граждан и групп все чаще происходят из-за применения алгоритмов и ИИ, имеющих скрытые предубеждения, недостаточно продуманные (или вообще необъяснимые, как при работе с нейросетями — черными ящиками) механизмы принятия решений.

Риск ущемления прав может быть связан, например, с тем, что некоторые группы в обществе имеют ограниченный уровень доступа к технологиям или находятся в состоянии цифровой эксклюзии. Например, кто-то живет в местности, где нет современных средств связи, у кого-то не хватает денег, чтобы купить устройство, поддерживающее работу современных приложений, кто-то не имеет навыков, чтобы при помощи цифровых технологий безопасно и эффективно общаться, делать покупки, работать, учиться и пр. Для этих людей повсеместная цифровизация государственных и коммерческих сервисов означает либо полную утрату доступа к ним, либо существенное снижение их доступности, хотя такой эффект противоречит задачам перехода на «цифру»: открывать новые возможности, ускорять, упрощать и удешевлять процессы.

Цифровая дискриминация из-за неравного доступа к технологиям проявляется, как правило, по отношению к уже социально неблагополучным людям, что радикально усиливает риски социальной сегрегации. Исследования показывают, что лица, страдающие от цифровой эксклюзии, не распределяются равномерно по всем социальным стратам, а сконцентрированы в группах, которые и без того относятся к уязвимым и неблагополучным, — пожилых людей, людей с физическими ограничениями и серьезными заболеваниями, малоимущих, мигрантов, представителей этнических и языковых меньшинств.

Фактически цифровизация государственных и коммерческих сервисов приводит к дискриминации указанных групп, если не предпринимаются специальные меры для помощи им, например разработка дизайна сайтов для людей с физическими ограничениями, сохранение аналоговой формы получения услуги (возможности лично обратиться за услугой или позвонить в контактный центр, использовать бумажные документы вместо электронных, привлечь человека-посредника) и т. д.

Аналоговый способ получения услуги должен быть сохранен даже для тех, у кого есть доступ к цифровым решениям. Хотя исключение из процесса человека искореняет коррупцию и (частично) предвзятость, оно усложняет решение проблем в нестандартных и редких ситуациях, при сбоях и отказах системы (в том числе таких банальных, как отключение электричества). Аналоговая альтернатива позволяет в этих ситуациях сохранить гражданам доступ к жизненно важным продуктам и услугам и решить проблемы тех, кто не вписывается в сценарии алгоритмов.

У тотального навязывания «цифры» и отказа от якобы никем не востребованных аналоговых вариантов есть обратная сторона — цифровой луддизм. Есть ли у граждан право на отказ от цифровых технологий вообще? Может ли человек вообще не использовать их и при этом получать все положенные ему услуги, пользоваться всеми своими правами и выполнять свои обязанности? Сейчас в этом вопросе тоже нет этического консенсуса.

Интеллектуальные системы, лежащие в основе онлайн-сервисов, цифровых услуг и продуктов, работают с огромным количеством данных и чаще всего непрозрачны даже для специалистов. Системы И И учатся получать информацию из таких наборов данных, которые раньше не воспринимались как источники информации или вовсе не существовали (например, социальных сетей). Системы на основе нейросетей в принципе не имеют заранее введенного алгоритма с предсказуемыми результатами работы. Это создает принципиально высокую сложность объяснения решений, которые принимает ИИ-система. Человек при желании может изучить работу машины и починить ее, но не может сам проанализировать действия интеллектуальной системы даже на уровне приложения в смартфоне: это технически невозможно для человеческого мозга (см. также раздел 5).

Тем временем распространенная и ранее презумпция безошибочности компьютера стремительно подменяет собой презумпцию невиновности человека. При этом государственные органы и службы иногда склонны доверять компьютеру, интеллектуальной системе, системе принятия решений в сложных ситуациях, будто бы она, в отличие от человека, непременно объективна и не может ошибаться. Системы обучаются на исторических данных (не свободных от предубеждений, искажений, неполноты и других недостатков), а алгоритмы создаются человеком, поэтому могут содержать различные ошибки.

Бремя доказывания ошибок незаметно переложили на самих граждан. Поспешные решения и действия хоть и остаются формально в рамках закона, зачастую неэтичны по смыслу, а человек оказывается самой незащищенной стороной в многостороннем взаимодействии госорганов, коммерческих организаций и граждан.

Алгоритмы все активнее используются для контроля и оценки работников, причем не только удаленных. Проблема заключается в том, что алгоритмы могут приводить к дискриминации и ухудшению условий труда, косвенно причинять ущерб здоровью сотрудников — все дело в принципах, на основе которых сформирован алгоритм. Самое неприятное начинается, когда данные систем контроля становятся основой для управленческих решений: не люди, а алгоритмы подгоняют сотрудников и снижают заработную плату, если те работают слишком медленно, или, например, прослушивают работников кол-центра, добиваясь максимальной загрузки. Алгоритмы, управляющие людьми, усиливают напряжение, делают работу более изнурительной и опасной, приводят к выгоранию и увольнению сотрудников.

ПО для отслеживания активности пользователя в соцсетях, программах и приложениях применяется давно. В последние годы для контроля эффективности сотрудников руководители все чаще используют средства удаленного мониторинга, которые анализируют содержание коммуникаций, файлов и действий сотрудника, движения его глаз, давление тела на сиденье кресла (как доказательство нахождения на рабочем месте). Тотальный мониторинг трафика устройств, на которых работает сотрудник, включая переписку, сложно назвать обоснованным и допустимым. Такие программы контроля при удаленной работе потенциально нарушают право на частную жизнь, поскольку сложно или невозможно разграничить личное, домашнее и рабочее пространство. Часто эти программы необходимо устанавливать на личный или даже семейный компьютер. Это влечет за собой многочисленные этические риски, от уязвимости ПДн сотрудников до массового скоринга. Дата-сеты, собранные компаниями в период пандемии, могут быть в дальнейшем применены для других целей, например для определения производительности каждого специалиста и замены его автоматизированной системой.

Предвзятыми могут быть не только алгоритмы, но и люди, принимающие решения о доступе к конкретным цифровым возможностям. С ростом влияния ИТ-гигантов и в результате монополизации рынка увеличивается риск деплатформинга — отказа в предоставлении услуг на платформе фактически в нарушение существующих правил использования сервиса. Главная опасность деплатформинга — лишение доступа к сервисам и ключевым компонентам ИТ-архитектуры не отдельных людей, а целых групп, сообществ, объединенных по признаку политических взглядов, ценностей, национальности, отношения к определенным событиям и т. п.