Материалы

Искусственный интеллект – разумный партнер: итоги дискуссии Центра в Ханты-Мансийске

16 июня на XII Международном IT-форуме с участием стран БРИКС и ШОС эксперты обсудили, какие этические риски возникают при использовании ИИ и как их регулировать. Модератором круглого стола выступила главный редактор Центра Ксения Киселева. 

Переход к цифровой экономике невозможен без развития технологий ИИ в социальной и экономической сфере: госуправлении, здравоохранении, образовании, промышленности и других. В России уже действует национальная стратегия развития искусственного интеллекта до 2030 года, также правительство утвердило концепцию регулирования ИИ и робототехники до 2024 года. Как внедрять решения на базе искусственного интеллекта в отраслевых проектах цифровой трансформации, какие барьеры и перспективы есть на федеральном и региональном уровнях — эти вопросы обсудили участники круглого стола «Искусственный интеллект — разумный партнер».

Дискуссия приурочена к выпуску аналитического доклада «Этика и „цифра“: от проблем к решениям» Центра подготовки руководителей и команд цифровой трансформации ВШГУ РАНХиГС. Директор Центра Ксения Ткачева рассказала, зачем в госуправлении нужна цифровая этика. 

«Внедрение цифровых решений подразумевает риски для определенных групп населения. Поэтому нужно знать, какие риски стоят за каждым внедрением технологии, как их учитывать, какие решения принимать. Для государства критически важно отвечать на этические вопросы своевременно — не постфактум, а на моменте проектирования и внедрения технологий». 

По словам Ксении Ткачевой, цифровые технологии становятся основой госуправления. Это отражено в концепции «Государство как платформа», в разработке которой участвовал Центр подготовки CDTO. В результате меняется роль госслужащих и их функционал. Служащие должны принимать нестандартные решения под свою ответственность, в то время как раньше они могли следовать регламенту. Поэтому важно, чтобы каждый госслужащий понимал, что такое этика, как ее учитывать. Непродуманные решения несут репутационные риски для госслужащих и госоргана, но что еще важнее — они подрывают доверие населения к государству.

«Этика охватывает вопросы от приватности до предвзятости алгоритмов при анализе данных. Но прежде всего этика — это разговор о ценностях. С ускорением цифровой трансформации стало понятно, что это слабое место. Этические вопросы остались без внимания, выросли риски. Этике цифровых технологий нужно уделять внимание, потому что конечная цель внедрения любой технологии — улучшение качества жизни граждан», — считает директор Центра подготовки CDTO.

Центр выпустил второй доклад, посвященный этическим вопросам цифровой трансформации. Первое исследование «Этика и „цифра“: этические проблемы цифровых технологий» было опубликовано в 2020 году. В новой работе авторы от описания основных проблем и рисков цифровых технологий в государственном секторе перешли к поиску возможных вариантов разрешения этических дилемм. Доклад содержит рекомендации экспертов и рабочие инструменты. Например, разработанный фреймворк оценки этичности цифровых решений позволяет выявить риски и зоны роста для информационной системы или другого цифрового решения с точки зрения этики и клиентоцентричности.

С тем, что уже сегодня необходимо разрабатывать инструменты для регулирования этических рисков,согласен Максим Федоров, вице-президент в области ИИ и математического моделирования МШУ «Сколково», представитель РФ в группе по подготовке Рекомендации в области этики ИИ (ЮНЕСКО).

«Сейчас очень важно создать набор инструментов, который позволил бы формировать русло этических подходов к регулированию ИИ и других цифровых технологий. Нормативные документы и этические подходы для будущих технологий зависят от заложенных сегодня базовых концепций».

Безусловный тренд последних двух лет — это создание корпоративных норм, которые регулируют применение ИИ, считает Андрей Незнамов, управляющий директор Центра регулирования ИИ Сбербанка, основатель центра «Робоправо». Более 30 крупных мировых компаний, таких как Microsoft, Google, Abbyy, Сбербанк, «Яндекс», разработали свои принципы ИИ. Наиболее распространенные: справедливость, прозрачность, ответственность, безопасность и конфиденциальность. Также прослеживается постепенный переход от частных исследований и инициатив к корпоративным нормам и далее к прообразу международных актов. Так, ЮНЕСКО последние два года разрабатывает первые в мире глобальные рекомендации по этике искусственного интеллекта. В России уже в 2021 году планируется разработка ряда этических документов. 

Во время дискуссии участники обратили внимание на один из возможных рисков внедрения ИИ — сокращение рабочих мест. Принято считать, что автоматизированные системы заменят собой людей. «Да, это так, но эти технологии открывают ключи к развитию других, которые начинают оттягивать рабочие места, — выразил мнение Павел Готовцев, координатор российской Рабочей группы по этике ИИ, заместитель начальника отдела НИЦ «Курчатовский институт». — Я рекомендую смотреть на проблему комплексно и анализировать, как системы ИИ меняют и трансформируют технологии и целые отрасли, чтобы понимать, куда могут перейти рабочие места и как переподготавливать людей в этой области».

Вторая часть круглого стола была посвящена успешным отраслевым кейсам решений на основе искусственного интеллекта. О том, как проходит цифровизация процессов предупреждения чрезвычайных ситуаций, рассказал заместитель министра МЧС России Виктор Ничипорчук. Ведомство пошло по нестандартному пути — совместно со Сбербанком опубликовали данные и провели хакатон. Лучшие решения легли в основу портала и мобильного приложения «Термические точки МЧС» для мониторинга противопожарной обстановки. Решение уже показало свою эффективность: целостность и достоверность информации о термических точках выросла в два раза, оперативность реагирования повысилась в три раза. Своевременно было обнаружено более 150 тысяч термических точек, сообщил замминистра МЧС.

Директор департамента информационных технологий и цифрового развития ХМАО — Югры Павел Ципорин представил разработанные решения на основе ИИ: робота для экспресс-диагностики простудных заболеваний в дошкольных образовательных учреждениях, автоматизированную систему назначения мер социальной поддержки «Услуга без чиновника».

Однако развитием технологий будет возрастать желание с ними меньше соприкасаться, считает Ксения Ткачева«В то же время использование чат-ботов для сбора оперативной обратной связи после получения услуги — один из примеров того, как не останавливаться на достигнутом, идти дальше, чтобы получать более качественную обратную связь и принимать оперативные решения, чтобы преодолевать пропасть между людьми и гаджетами и восстанавливать доверительный контакт между государством и гражданами».
Новости