«Искусственный интеллект должен делать все, чтобы уважать своих «родителей» и помогать им»
Сегодня искусственный интеллект активно развивается в России, находится в фокусе внимания государственной власти и высокотехнологичных компаний, есть национальная стратегия его развития и отдельный федеральный проект. Что еще необходимо сделать, чтобы он эффективно работал на благо человека, обсудили участники очередной сессии Дискуссионного клуба ВШЭ и Сбера «ИИ-трансформация компаний и государства: Развитие этики ИИ в России и в мире», которая прошла в рамках XXII Апрельской конференции.
Как рассказала Татьяна Матвеева, начальник Управления Президента РФ по развитию информационно-телекоммуникационных технологий и инфраструктуры связи, отечественными экспертами подготовлен проект этического кодекса, с участием Сбера ведется его обсуждение с представителями профессионального сообщества, науки и бизнеса. Принципы «верхнего уровня» предполагается закрепить законодательно, а отраслевые нормы будут приниматься игроками рынка в рамках саморегулирования.
Татьяна Матвеева
Этический кодекс станет защитой не только для потребителей. Специалистов, которые разрабатывают, тестируют и внедряют искусственный интеллект, он защитит от необоснованных обвинений в их адрес со стороны недобросовестных зарубежных конкурентов. В долгосрочной перспективе кодекс повысит наши шансы для «завоевания» мировых рынков. Не нужно ждать решений от других стран – мы должны принять российские этические нормы и представлять их как передовую российскую практику.
Среди принципов работы искусственного интеллекта важны прозрачность, предсказуемость, ответственность, стабильность, надежность, каждый из них не исключает и дополняет другой. «Но самым главным принципом развития, наивысшей ценностью искусственного интеллекта остается человекоцентричность. Он должен быть нацелен на благо человека, развитие его возможностей, созидание и помощь», – полагает Татьяна Матвеева.
По мнению Елены Буниной, генерального директора Яндекса, одна из целей создания этического кодекса – «внутренняя»: он поможет разработчикам принимать решения. Ведь им приходится иметь дело со сложными этическими вопросами, которые не регулируются законодательно. Например, какой результат должна выдавать поисковая система на запрос «Статья о лечении рака содой»? Ведь содержание такой статьи – это не экстремизм и не детская порнография, но само ее название звучит странно. Возможно, разработчику стоит обратиться к этическому кодексу компании, который подскажет, стоит ли давать прямой ответ на запрос.
Елена Бунина
Она полагает, что в ситуациях, когда выбор не очевиден, хорошо бы иметь документ, который дает возможность этот выбор сделать. «Столкнувшись со многими примерами дезинформации в течение ковидного года, мы поняли, что информацию нужно дополнять верификацией экспертов, обеспечивать фактчекинг», – говорит Елена Бунина. В свою очередь, пользователи могли бы прочитать этический кодекс и понять, какими способами мы действуем, перестать волноваться, добавляет она.
Создавать всемирные кодексы в случае с искусственным интеллектом бессмысленно – предупредить и проверить использование искусственного интеллекта в «не самых хороших целях» невозможно, остается только декларировать лозунги, заметил в свою очередь ректор Сколтеха Александр Кулешов. А вот внутрикорпоративные правила обязательно нужны. Он также подчеркнул, что Россия вкладывает в развитие искусственного интеллекта в 350 раз меньше, чем Китай, а из более 200 тыс. самых цитируемых мировых ученых в этой области лишь 9 человек работают в нашей стране.
Александр Кулешов
Очень «опасным и страшно непознаваемым» Александр Кулешов назвал использование искусственного интеллекта в военной области – «оно чревато риском ядерной зимы». «И здесь самый важный вопрос – кто учил искусственный интеллект принимать решения: ястребы или голуби?», – спрашивает он.
Казалось бы, искусственный интеллект должен помочь в сокращении рутинной нагрузки на чиновников – ведь они нередко действуют по тому или иному алгоритму, и искусственный интеллект мог бы принимать рутинные решения за них. Однако, как рассказал проректор, директор Института государственного и муниципального управления ВШЭ Андрей Жулин, пока мы от этого очень далеки, хотя порядка 30% функций федеральной власти могут быть исключены или заменены.
Андрей Жулин
«Речь здесь идет о достаточно простых алгоритмах, о простой работе с данными, а не об искусственном интеллекте. Мы еще долго не подойдем к тому, чтобы использовать искусственный интеллект даже для очень простых решений в государственном управлении. Для этого нужны большие объемы хороших данных, хорошие учетные системы, которые есть в очень небольшом количестве сфер и государственных органов», – считает Андрей Жулин.
Если «загнать» в алгоритм 100 тыс. плохих судебных решений, мы получим решение точно такого же качества от искусственного интеллекта, подчеркивает Александр Кулешов.
По мнению Александра Ведяхина, первого заместителя председателя правления Сбербанка, все зависит от выборки, на которой обучается искусственный интеллект.
Александр Ведяхин
«Искусственный интеллект во многом похож на ребенка – как мы его сейчас научим, так он и будет себя вести в будущем. Помните историю о том, как к мудрецу привели трехлетнего ребенка и попросили обучить его? Мудрец ответил, что уже поздно: все сделано до него, – говорит Александр Ведяхин. – Сейчас же у нас с вами есть уникальная возможность, когда нашему «ребенку» по шкале человеческой жизни всего несколько дней, и он только научился отличать кошек от собак. Поэтому мы должны рассказывать ему, что такое хорошо и что такое плохо. Только тогда мы можем быть уверены, что он все будет делать правильно. Как и в любом воспитании, здесь важен пример «родителей» – тех, кто его обучает, наставляет, отдает данные, пишет алгоритмы, верифицирует. А наш «ребенок» – искусственный интеллект – должен делать все, чтобы уважать своих «родителей» и помогать им».
XXII Апрельская международная научная конференция по проблемам развития экономики и общества (АМНК) пройдет с 13 по 30 апреля этого года. Впервые соорганизаторами конференции выступят Высшая школа экономики и Сбер. В рамках конференции состоится серия научных и экспертных обсуждений в формате Дискуссионного клуба ВШЭ и Сбера – экспертной площадки, где представители науки, бизнеса и государства на базе научного знания обсуждают актуальные вызовы для экономики и общества и делятся лучшими практиками развития бизнеса и институтов, формируя образ будущего.
Вам также может быть интересно:
Запаховый ландшафт: как сформировать правильную атмосферу в районе
Мы видим, слышим, чувствуем город — и вдыхаем его запахи. Благоухание цветущей сирени, аромат кофе, дым от шашлыков, выхлопные газы, выбросы предприятий — вся эта мозаика в воздухе и есть «запаховый ландшафт» или smellscape. Он влияет на восприятие городской среды, комфорт и здоровье горожан. Как улучшить атмосферу своего района, разбираемся с помощью статьи и доклада преподавателя Высшей школы урбанистики имени А.А. Высоковского НИУ ВШЭ Екатерины Шишовой. Доклад состоялся на XXII Апрельской международной научной конференции, организованной совместно НИУ ВШЭ и Сбером.
Как меняется экономика и социальная сфера под влиянием цифровых технологий
Коллектив ученых ИСИЭЗ НИУ ВШЭ проанализировал современные подходы к измерению цифровой трансформации, а также ее характерные особенности на примере достижений ключевых отраслей российской экономики в сравнении с зарубежным опытом. Результаты исследования представлены в докладе «Цифровая трансформация отраслей: стартовые условия и приоритеты» на XXII Апрельской международной научной конференции, организованной совместно НИУ ВШЭ и Сбером.
Деньги, институты, репутация: что стоит на пути инноваций
На развитие инновационной деятельности оказывает влияние не только наличие финансовых средств, большое значение имеют институциональные и организационные факторы. Какие компании могут рассчитывать на господдержку, что мотивирует генерировать и внедрять идеи, играет ли роль научная репутация – эти другие темы обсудили участники ряда сессий XXII Апрельской конференции, организованной НИУ ВШЭ и Сбером.
«Россия должна стать арктическим научным донором»
Арктика становится ареной острого соперничества на международном уровне. Главная задача сегодня – предотвратить ее милитаризацию и усилить меры защиты региона от внешнего воздействия. Об этом говорили участники круглого стола «Арктическая политика России: международный аспект», который состоялся в рамках XXII Апрельской международной научной конференции, организованной НИУ ВШЭ и Сбером.
Вирус перемен: как коронакризис поменял городскую среду
Пандемия привела к изменению облика мегаполисов и серьезно повлияла на жизненные установки горожан. О том, какие тенденции формируются из-за коронавирусного кризиса, говорили участники круглого стола «Город наизнанку: кастомизация города и новая средовая этика», который прошел в рамках XXII Апрельской международной научной конференции, организованной НИУ ВШЭ и Сбером.
Школа после пандемии: «В образовании произошли необратимые изменения»
Переход на дистанционное обучение во время карантина показал необходимость создания системы индивидуальной поддержки учеников, а также более четких механизмов контроля их работы. Эксперты считают, что ни российская, ни мировая системы образования оказались не готовы к жестким вызовам. О том, какие уроки следует извлечь из новой ситуации, говорили участники сессии в рамках XXII Апрельской международной научной конференции, организованной ВШЭ и Сбером.
Сердцевина матрешки: что прояснится, если сравнить материалы Апрельской конференции, Всемирного экономического и Гайдаровского форумов
В этом году Апрельская международная научная конференция по проблемам экономики и общества прошла в двадцать второй раз, а ее соорганизатором вместе с Вышкой стал Сбер. Стажеры проектно-учебной Лаборатории экономической журналистики, которую возглавляет Николай Вардуль, проанализировали повестку «Апрельки» и сравнили ее с другими крупнейшими форумами. Выводы исследования в материале лаборатории.
10 принципов умной специализации регионов
Прилагательное «умный» прочно вошло в практику госуправления. Умная региональная специализация не сводится к внедрению новых технологий и является категорией не технологической, а институциональной. Какие эффективные политики стимулируют развитие территорий, анализирует директор Центра «Российская кластерная обсерватория» ИСИЭЗ НИУ ВШЭ Евгений Куценко, обобщая итоги четырех дискуссий, состоявшихся в рамках XXII Апрельской международной научной конференции, организованной ВШЭ и Сбером.
Онлайн, полторы тысячи участников и Сбер в партнерах: как прошла Апрельская конференция
30 апреля завершается работа XXII Апрельской международной научной конференции по проблемам развития экономики и общества. В этом году она была организована ВШЭ и Сбером и прошла преимущественно в онлайн-формате. Первые итоги работы форума в интервью новостной службе портала подводит вице-президент Высшей школы экономики, заместитель руководителя программного комитета конференции Лев Якобсон.
Нет молодежи NEET!
Несмотря на то, что в России действуют социальные лифты, помогающие молодежи адаптироваться к современной жизни, доля тех, кто относится к категории NEET (не работающие и не учащиеся), находящихся в сложных жизненных условиях — еще достаточно велика. Существует много разнородных факторов, которые ведут к попаданию молодых людей в группы риска. Специфика таких факторов описана в докладе проректора НИУ ВШЭ Валерии Касамары «Застрявшие в социальном лифте: проблема неуспешной молодежи в РФ», представленном на XXII Апрельской международной научной конференции, организованной ВШЭ и Сбером.