#11 Общество и «цифра» с Тимофеем Нестиком


Новый выпуск подкаста приурочен к публикации доклада Центра CDTO «Этика и "цифра"». Мы беседуем с одним из его авторов — Тимофеем Нестиком, доктором психологических наук, профессором РАН, заведующим лабораторией социальной и экономической психологии Института психологии РАН.

Как общество относится к новым технологиям? Почему Россия — страна технооптимистов? Как решать этические проблемы, связанные с внедрением искусственного интеллекта?

Подкаст доступен на платформах:

Google Podcasts
Яндекс Музыка
Apple Podcasts
VK
Spreaker
Summary

Доверие к технологиям искусственного интеллекта

Было проведено исследование, посвященное представлениям российского общества о различных угрозах, как глобальных, так и существующих в нашей стране, в том числе техногенных, которое показало, что неконтролируемое развитие технологий молодежь не очень пугает. Если сравнить с данными по стране, эта угроза внизу списка по значимости, более всего тревожит людей пенсионного возраста.

Но когда вопрос формулируется более точно, когда речь идет о манипулировании мнением общества с использованием технологий и контроль за поведением граждан, то именно более молодая часть респондентов волнуется больше всего. Согласно исследованиям с привлечением городской молодежи, такое доверие к технологиям вызвано в большей степени с недоверием к государству. Чем меньше молодые респонденты уверены в том, что государственные службы справятся с решением задачи, чем больше доверяют стороннему разработчику, тем в большей степени они приветствуют использование подобных технологий.


Почему Россия — страна технооптимистов?

В России очень высокий уровень технооптимизма, сопоставимый с уровнем Китая и США (до кризиса соцсетей), в этом мы опережаем Европу. Одновременно в обществе наблюдается высокий социальный пессимизм, тотальное недоверие государству, СМИ, бизнесу, некоммерческим организациям. В таких условиях форсированное внедрение технологий с участием искусственного интеллекта сопряжено с большими рисками.

Этические вопросы внедрения технологий с использованием искусственного интеллекта в разных странах

Один из ключевых показателей в обществе, озабоченном этическими дилеммами, — доверие государству.

Внедрение искусственного интеллекта происходит быстрее и легче в тех странах, где есть возможность это делать директивно. По данным исследования Edelman Trust Barometer, в рамках которого измеряли доверие людей к социальным институтам, в ОАЭ, Индии, Китае, Индонезии доверие к власти выше, чем в США или Европе. В этом основное различие между условиями, в которых трудятся разработчики в Силиконовой долине, и обстановкой, окружающей их китайских коллег. Все, что делается в Китае, мгновенно распространяется и находит применение в востребованных сервисах, а в США, да и в Европе, больше законодательных и моральных оснований для притормаживания развития технологий.

Россия менее чувствительна к этической проблематике, чем Европа и некоторые штаты США, но при этом наши люди крайне озабочены возможностью манипулирования, вторжения в частную жизнь.


Эффект искусственного интеллекта

Очень часто СМИ пугают аудиторию развитием сильного искусственного интеллекта в ближайшие 25 лет. Эксперты гораздо более сдержанны в оценках, указывая в качестве горизонта 2080-е годы, некоторые даже считают, что это вообще невозможно. Хотя в Сбербанке уже сейчас идет разработка искусственного интеллекта общего уровня, способного мыслить и действовать, как человек. Это та область, где Россия может не только догонять, но и обгонять другие страны при должном уровне вложений.

Есть исследования, показывающие, что наши представления о технологиях, в том числе о роботизации и искусственного интеллекта, на 80% определяются СМИ. Менее 30% складывают свое представление на основе осознания собственного опыта.. Большинство людей пользуется технологиями, но даже не осознает этого. Например, в России, как и в США, примерно 45% молодежи считает, что выдача новостей в поисковике основана на искусственном интеллекте. Как же тогда думают остальные 55%? Чем более привычен сервис, тем в меньшей степень мы склонны полагать, что он основан на технологиях искусственного интеллекта например, онлайн-переводчик, предложение «друзей» в соцсетях не даже не воспринимаются как сервисы, основанные на искусственного интеллекта. Данное явление эксперты назвали эффект искусственного интеллекта. Люди привыкли к некоторым технологиям, какие-то из них могут быть с моральной точки зрения спорными, но из-за того, что этим пользуются практически все, мы фактически игнорируем возможные негативные последствия, до тех порпока нам не откажут в кредите или машина-беспилотник не собьет пешехода.

Технофобия присуща в первую очередь тем, кто чаще всего пользуется технологиями и верит в их быстрое развитие и внедрение.

Большинство участников исследований озабочены не тем, что машины захватят мир, а роботы — рабочие места, а тем, что цифровые технологии окажутся в руках людей, которые будут использовать их против других.

В мире развивается тренд на повышение понятности и прозрачности технологий, основанных на искусственном интеллекте. Вместе с тем, согласно исследованиям, доверие к технологиям определяется в меньшей степени понятностью, скорее доверием к разработчикам.


Социальные и региональные особенности в вопросах этики

Сервисы типа regulation.ru — огромный, но обезличенный канал, который не дает возможность увязать внедрение той или иной системы/технологии со спецификой города или местности, с социальными проблемами региона.

Более перспективный путь — мини-паблики, или общественные советы, создающиеся на локальном уровне для решения конкретной задачи. Например, в Нью-Йорке в прошлом году при правительстве была создана группа экспертов по вопросу использования систем искусственного интеллекта в работе городских служб. Привлекли не только специалистов из ИТ -компаний, университетов, но и людей с самыми разными социальными статусами, вместе они обсуждают последствия внедрения алгоритмов в функционирование городских систем. Для России этот путь более перспективный: страна очень велика, у каждого города есть свои проблемы и особенности, в том числе полиэтничность и многоукладность. Это своеобразие проявляется во всех сферах.


Влияние культурных ценностей на выбор в этических дилеммах

Массачусетский технологический университет провел исследование с участием более 40 млн человек. Респондентам задавали вопрос, похожий на дилемму вагонетки. В результате выяснилось, что респонденты предпочитают спасти большее количество людей, но прослеживаются и культурные различия. Например, если в стране преобладает коллективизм, человек определяет себя через принадлежность к определенной социальной группе, коллективные блага важнее личных, то респонденты оттуда предпочитают жертвовать молодыми ради старых или в меньшей степени предпочитаю жертвовать одним ради множества других. В странах, где хорошо работают социальные институты и подавляющее большинство граждан законопослушны, респонденты отвечают, что самоуправляемое такси должно принять решение в пользу пассажира, если пешеход переходит дорогу в неположенном месте. В странах, где законы работают хуже и доверие к социальным институтам меньше, там, напротив, такого пешехода стараются спасти. Это те особенности морали, которые неизбежно нужно обсуждать, тем более в такой многонациональной стране, как наша.