5.2 СПОСОБЫ ОБЕСПЕЧЕНИЯ ПРИВАТНОСТИ

Доверие к системам искусственного интеллекта является важнейшим условием, определяющим возможность применения этих систем при решении ответственных задач обработки данных. Примерами таких задач являются поддержка принятия врачебных решений, беспилотное управление транспортными средствами и некоторые другие, ошибки при решении которых могут привести к тяжким последствиям, связанным с угрозой жизни и здоровью людей, серьезным экономическим и экологическим ущербом.

Доверие к системе искусственного интеллекта — уверенность потребителя и, при необходимости, организаций, ответственных за регулирование вопросов создания и применения систем искусственного интеллекта, и иных заинтересованных сторон, в том, что система способна выполнять возложенные на нее задачи с требуемым качеством.

Доверенная система искусственного интеллекта — система искусственного интеллекта, в отношении которой потребитель и, при необходимости, организации, ответственные за регулирование вопросов создания и применения систем искусственного интеллекта, проявляют доверие.

Две авиакатастрофы Boeing 737 Max — в Индонезии и Эфиопии — произошли с перерывом всего в пять месяцев и унесли 346 жизней. Причиной катастроф специалисты назвали недостатки ПО системы автоматизированного пилотирования MCAS, которые могли привести к тому, что самолет вскоре после взлета вошел в штопор.

Согласно одной из гипотез, нейросети в принципе работают как черный ящик; это их неотъемлемое свойство, не требующее исправления. Сторонники этой гипотезы проводят аналогию с людьми: мы тоже черные ящики друг для друга, но мы при этом сосуществуем, принимаем решения и т. д., значит, люди и ИАС могут общаться таким же способом, как и люди между собой.

На это можно возразить, что, во-первых, люди не такие уж черные ящики, мы неплохо понимаем друг друга. Второй момент — люди прошли через горнило биологической и социальной эволюции, и в каждом из нас огромное количество механизмов коррекции ошибок, от репарации ДНК каждую миллисекунду до нейропластичности, культурных и прочих аспектов. Другое дело — системы, написанные никому не известными программистами (известно, что хороший программист делает одну ошибку на 200 строк кода). Если мы делегируем важные решения устройствам, в которых заведомо будут ошибки, люди перестанут им доверять, потому что люди не доверяют черному ящику.

И третий момент: технологии продолжают развиваться, исследователи решат проблему черного ящика или найдут другие решения, поэтому смиряться с непрозрачностью алгоритмов нельзя.

Математическая теория катастроф утверждает, что динамическая система устойчива в том случае, если она способна игнорировать малые изменения. Если же изменения нарастают и приводят к качественному скачку (катастрофе), система теряет устойчивость и ее развитие становится труднопредсказуемым. Выделяют несколько признаков неустойчивости системы, в том числе несимметричность, когда один из вариантов развития системы получает преимущество. Чем больше разнообразие внутри системы, тем ниже вероятность катастроф. Сложная экосистема современных цифровых технологий также подчиняется этому правилу.

В 2013 году сильный пожар на заводе в китайском городе Уси, где производили 10% мирового объема чипов DRAM (модулей памяти, широко используемых в компьютерах, смартфонах и т. д.), привел к дефициту чипов и их удорожанию.

В марте 2021 года сошлось несколько факторов, повлиявших на всю автоиндустрию. Пожар на заводе Renesas в Японии привел к временной остановке производства полупроводников для автомобилей, в результате чего пострадал японский автопром, а также полтора десятка европейских автомобильных концернов, таких как BMW, Maybach, Mercedes-Benz, Volkswagen, Skoda, Audi, Lamborghini и т. д.

Из-за локдауна в период пандемии COVID-19 резко возросли продажи бытовой электроники, ноутбуков и смартфонов, для которых используются те же микросхемы. Производители микросхем сделали выбор в пользу домашних гаджетов, а крупнейшим автопроизводителям приходится останавливать конвейеры. Volkswagen и Renault прогнозируют падение производства на 100 тыс. автомобилей в год в каждой компании и рост цен летом 2021 года, а новая модель Peugeot 308 вместо виртуальной приборной панели получит обычную аналоговую.

Почему мы думаем, что наши разработки — это предел мечтаний? В истории были прецеденты, когда в рамках идеологии и достигнутого технического прогресса люди делали совершенно неэтичные вещи и верили, что поступают правильно. А кто гарантирует, что-то, что мы сейчас делаем, нашим потомкам не покажется так же дико, как сейчас нам кажутся устои нацистской Германии? Именно поэтому всегда должен быть простор для маневра, и для этого необходимо оставить аналоговый путь.

Максим Федоров, вице-президент в области ИИ и математического моделирования Сколковского института науки и технологий

Муниципалитеты Амстердама (Нидерланды) и Хельсинки (Финляндия) ведут открытый онлайн-реестр алгоритмов ИИ, которые применяются в этих городах. Любой житель может узнать, где и как используется искусственный интеллект. В реестрах описаны в том числе:

1. сканирование и распознавание номеров автомобилей, чтобы выявить нарушителей правил парковки Амстердама;
   
   
2. выявление случаев незаконной сдачи жилья в аренду в Амстердаме (алгоритм анализирует случаи нарушений правил аренды за последние пять лет и вычисляет вероятность повторных нарушений в текущем периоде по указанному адресу);
   
   
3. медицинский чат-бот, который отвечает на медицинские вопросы и консультирует по поводу работы учреждений здравоохранения Хельсинки.

Каждая технология описана в реестре по разделам: дата-сет (способ сбора и хранения данных), обработка данных (описание модели), защита от дискриминации, контроль со стороны человека, управление рисками.

Сотрудники Университета Палермо (Италия) научили робота Пеппера «думать вслух», чтобы алгоритм принятия им решений был прозрачен и понятен для пользователя. Озвучивание роботом своих действий также помогло исследователям понять, как связаны между собой решения и поступки робота. Кроме того, эта опция может быть особенно полезна в случаях, когда роботы и люди взаимодействуют друг с другом.

Голосовой помощник Николай единого контактного центра при правительстве Тульской области требует специальных формулировок и разговора по особым правилам, описанным на сайте тульского цифрового министерства. В частности, при общении с ботом Николаем следует:

• называть населенный пункт одним словом (не указывая тип населенного пункта, район, область, адрес или номер подразделения);

• отвечать односложно на все вопросы типа «Вы будете подавать документы на услугу или получать готовые?»;
  
  
• в ответ на вопрос «Пожалуйста, уточните услугу, на которую будете подавать документы» называть только наименование услуги, например СНИЛС, пособие на ребенка, субсидия по ЖКХ, паспорт и т. п. Ответ «подать документы» приведет к некорректной записи, поэтому следует исключить это словосочетание при указании услуги;
  
  
• называть свою фамилию одним словом, слитно, избегая произношения по слогам, так как это может затруднить распознавание.
  
  Очевидно, что взаимодействовать с таким помощником и, следовательно, получить услугу пользователю будет весьма затруднительно.

ГИПОТЕЗА «ЗЛОВЕЩЕЙ ДОЛИНЫ»

Гипотезу об эффекте «зловещей долины» (uncanny valley) впервые сформулировал японский ученый-робототехник Масахиро Мори. Согласно гипотезе, робот или другой неживой объект, который выглядит и действует почти как человек, но не полностью идентичен ему, вызывает у наблюдателя отвращение и страх. Мори представил свою гипотезу в виде графика (см. рисунок 16), расположив на нем антропоморфные существа. После плавного подъема по шкале привлекательности для человека на графике виден резкий провал («долина»), в который попадают такие объекты, как зомби, трупы, а также человекоподобные андроиды. По мнению Мори, похожая на человека машина перестает восприниматься как техника. Антропоморфный робот начинает казаться нездоровым или мертвым человеком, ожившим трупом, вызывая у наблюдателя страх смерти (см. рисунок 17).

При разработке концепции доверенного ИИ важно помнить, что ничего мистического и принципиально нового в технологии ИИ нет: это «старые добрые» информационно-коммуникационные технологии, только с учетом выделенных в отдельный стек технологий машинного обучения, сбора и обработки данных и т. д. Поэтому можно и нужно применять все методы (отладки, разработки и так далее), которые существовали раньше; а новое придумывать на базе старого, руководствуясь принципом «созидая, не разрушай».

Максим Федоров, вице-президент в области ИИ и математического моделирования Сколковского института науки и технологий