• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

«Мы пока далеки от мира, где люди живут в гармонии с машинами»

«Мы пока далеки от мира, где люди живут в гармонии с машинами»

© iStock

Применение цифровых технологий должно сочетаться со строгим выполнением этических и правовых норм, которые еще предстоит выработать. Плата за вход в «дивный новый мир» цифры — согласие на предоставление персональных данных. Институт права цифровой среды (ИПЦС) и Лаборатория права и этики цифровой среды НИУ ВШЭ при поддержке общества «Знание» провели Всероссийскую конференцию «Мир людей и машин: этические и правовые аспекты цифровой трансформации».

Арсений Майоров

Открывая пленарное заседание, заведующий лабораторией, заместитель гендиректора общества «Знание» Арсений Майоров выразил надежду, что конференция станет популярной площадкой обсуждения гуманитарных вопросов цифровой среды. Он зачитал приветствия вице-премьера правительства России Дмитрия Чернышенко и генерального директора общества «Знание» Максима Древаля.

Председатель комитета Госдумы по информационной политике, информтехнологиям и связи Александр Хинштейн отметил необходимость выработки этических норм в условиях дополнения реальности цифровой средой, модернизации права и моральных принципов. Интернет должен упростить взаимодействие граждан с властью, стимулировать рост экономики. Также, по его мнению, необходимо устранить цифровое неравенство и обеспечить подавляющее большинство семей устойчивым доступом в интернет.

Руслан Ибрагимов

Директор по правовым исследованиям ВШЭ, руководитель ИПЦС Руслан Ибрагимов подчеркнул, что анализ правовых аспектов цифровой трансформации приводит к изучению этических проблем применения искусственного интеллекта (ИИ). «Мы пока далеки от мира, где люди живут в гармонии с машинами. Но за машинами стоят не тайные силы, а конкретные люди, которые могут нарушать правила, совершать ошибки, работать на благо человека и в корыстных целях. Все это требует детальной проработки этических проблем», — сказал Руслан Ибрагимов.

Научный руководитель ВШЭ Ярослав Кузьминов отметил важность проблем, возникающих на стыке этики и права, этики и технологий. Человечество, полагает он, переходит к гибридной реальности, в которой нельзя видеть только отрицательные эффекты. Человек в виртуальной реальности может снимать эмоциональное и социальное напряжение, создавать новые сферы деятельности, в том числе экономические.

Ярослав Кузьминов

Уже сейчас в США пытаются ограничить работу технологических гигантов и защитить права простых людей от повсеместного проникновения ИИ. Это, по мнению Кузьминова, не случайно: плата за вход в «дивный новый мир» — согласие на предоставление персональных данных в условиях, когда их владельцы не понимают последствий доступа к ним. «Мы редко понимаем, как их собирают, как хранят, это нередко выглядит нечестным договором на несправедливых условиях», — считает Ярослав Кузьминов. Он назвал высокими риски, связанные с недостаточной защитой персональных данных в частных компаниях и государственных сервисах.

Этика должна стать одной из опор борьбы за цифровые права человека

Пока нельзя утвердительно ответить на вопрос, будет ли мир подчиняться этическим нормам. Ученые должны увидеть вектор развития гуманитарного и этического сопровождения технологического роста. «Предмет работ конференции и института — увидеть эти векторы и дать материал для работы нашим специалистам в сфере больших данных, юристам, психологам», — подчеркнул Ярослав Кузьминов.

Он обратил внимание на то, что, сталкиваясь с выросшим объемом информации, люди часто отказываются от ее анализа и осознанного выбора в пользу случайного поиска: «Мы должны говорить о техзаданиях для поисковиков и новостных сервисов, чтобы они представляли не одну позицию. Это дорого, но нам надо готовиться к этому, развивая в гражданах критическое отношение к новостям, которые им навязывают».

Научный руководитель ВШЭ также отметил выросшую конкуренцию в ряде сфер между IT-корпорациями и государствами, причем лишь немногие из них могут бороться с навязыванием цифровыми гигантами своих правил. России в этой ситуации важно соблюдать баланс между защитой суверенитета и сохранением технологических связей.

Татьяна Матвеева

Начальник управления президента по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева отметила проблему сочетания права и этики с быстрым ростом ИИ. Россия, по ее мнению, — один из лидеров в мире по уровню регулирования цифровой экономики. Государство и дальше намерено совершенствовать нормативное регулирование, двигаясь от стратегических проблем к отраслевым и специальным. «Мы даем возможность бизнесу развиваться в рамках специальных правовых режимов, государство помогает снимать часть правовых барьеров, но приоритетом остаются права граждан, в том числе и защита их персональных данных», — заявила Татьяна Матвеева. Она полагает, что запрос на безопасные технологии ИИ вызван не страхом перед восстанием машин, а конкретными угрозами, связанными с утечкой данных.

Необходимость разработки цифровой этики Татьяна Матвеева подтвердила примером, связанным с созданием цифровых двойников, когда появление образов умерших детей или родителей может повредить психику человека.

При взаимодействии между миром людей и машин приоритет должен сохраняться за людьми, чтобы человек мог отменить решение машины

Декан факультета права ВШЭ Вадим Виноградов отметил, что право и этика должны стать основой цифровой трансформации. Цифровизация в широком ее понимании предполагает преобразование информации в удобную форму, способствующее повышению качества жизни. Важно определить тенденции права, отражающие изменения в экономике и обществе. Появляются новые сферы жизни, требующие правового регулирования: идентификация личности, цифровые финансовые технологии, базы данных и другие реалии цифровой экономики. Необходима также регуляция взаимоотношений, возникающих при применении искусственного интеллекта в частных и государственных сервисах и общественно значимых институтах.

Вадим Виноградов

Цифровая трансформация влечет за собой появление этических проблем, которые трудно разрешить исключительно правовыми методами. Например, они возникают при обработке и анализе персональных данных граждан. Бизнесу они нужны для онлайн-рекламы и торговли, а государству — для принятия управленческих решений и взаимодействия с гражданами. Защита персональных данных важна, но ее чрезмерное регулирование затрудняет работу исследователей с обезличенными данными в таких важных сферах, как здравоохранение или безопасность движения. Этическое регулирование данных пока недостаточно проработано.

По мнению Вадима Виноградова, отсутствие этических обязательств чревато появлением проблем, связанных со скрытой дискриминацией. В России наибольшие риски могут породить автоматизированные системы принятия решений в социальной сфере. Особенно чувствительными будут ошибки вследствие низкого качества инфраструктуры и баз данных. Поэтому, отметил декан факультета права, важно принятие этического кодекса применения ИИ.

В ближайшем будущем, полагает он, повысится влияние общественных институтов, формализующих нормы этики вне госрегулирования.

Частные компании не должны брать на себя роль общественных институтов и подменять их

Ведущий научный сотрудник Центра фундаментальных исследований ВШЭ Сергей Левин отметил, что без философского осмысления ИИ его анализ затруднителен. Он рассказал о нескольких подходах к этике искусственного интеллекта, которые предполагают, что ИИ может быть моральным судьей; агентом, совершающим определенные действия и несущим за них ответственность; и, наконец, «моральным пациентом», о котором должен заботиться человек. Кроме того, если возможности ИИ превзойдут когнитивные способности человека, потребуется особая этика.

Сергей Левин

Сергей Левин подчеркнул, что у ИИ как у морального судьи есть ограничения, вызванные его неспособностью (в отличие от человека) обосновать свой выбор. ИИ основывает свои выводы на агрегировании других суждений и не может сочетать решение с конкретной ситуацией. Поэтому суждение ИИ должно подтверждаться человеком.

Агентность подкрепляется ответственностью за свои решения и возможными санкциями, наказаниями, однако машины и ИИ не могут испытывать боль и страдание и нести ответственность, поэтому могут использоваться как инструмент, но не как автономный субъект.

В пленарном заседании также приняли участие председатель правления Фонда «Сколково» Игорь Дроздов и руководитель секретариата первого заместителя председателя Совета Федерации РФ Алексей Устинов. 

На круглом столе «Кодекс этики в сфере искусственного интеллекта: этико-правовые коллизии в регулировании цифровых технологий» руководитель Центра экспертизы по реализации федерального проекта «Искусственный интеллект» Сергей Наквасин представил доклад «Поиск баланса интересов: соблюдение прав человека в процессе развития технологий ИИ». Заместитель директора ИПЦС факультета права ВШЭ Михаил Якушев выступил с сообщением «Этика технологии и технология этики», а руководитель Школы философии и культурологии факультета гуманитарных наук ВШЭ Анастасия Углева рассказала о национальном этическом кодексе «как отражении реальности и как принципе долженствования». Заведующий Лабораторией нейронных систем и глубокого обучения МФТИ Михаил Бурцев сделал доклад о практике применения этических норм в разговорных ассистентах. 

Модератором круглого стола выступил Руслан Ибрагимов. В его работе также участвовали управляющий директор Центра регулирования ИИ Сбера Андрей Незнамов и председатель комиссии по правовому обеспечению цифровой экономики московского отделения Ассоциации юристов России Александр Журавлев.

Работа конференции продолжилась также в тематических секциях.

Вам также может быть интересно:

Спикеры Вышки выступили на конференции по искусственному интеллекту Artificial Intelligence Journey

Международная онлайн-конференция AI Journey («Путешествие в мир искусственного интеллекта») — крупнейшая площадка для обсуждения вопросов развития технологий ИИ и машинного обучения. В конце ноября AIJ в очередной раз провел Сбер. Участие в ней приняли исследователи факультета компьютерных наук и Центра ИИ Высшей школы экономики.

«ИИ — это инструмент, и преимущества в конкуренции будут у тех, кто его освоит»

В Высшей школе экономики проходит Международный научный форум FIT-M 2022. В его рамках 29–30 ноября в Центре культур Вышки состоялся лекториум. 7–9 декабря гостей форума ожидает три дня практической работы в среде ученых, лидеров IT-индустрии, бизнесменов и промышленных экспертов.

Fall into ML: результаты исследований в области ИИ обсудили в формате школы-конференции ФКН ВШЭ

Международная лаборатория стохастических алгоритмов и анализа многомерных данных факультета компьютерных наук ВШЭ и Научно-учебная лаборатория методов анализа больших данных ФКН ВШЭ при поддержке Центра ИИ НИУ ВШЭ и Российского научного фонда организовали в начале ноября Первую осеннюю школу-конференцию по искусственному интеллекту Fall into ML. Новый формат научного мероприятия начался со школы для студентов и молодых исследователей.

Искусственный интеллект ускорит поиск новых лекарственных препаратов до одного-двух месяцев

Комбинирование методов драг-дизайна и анализа больших данных может заметно ускорить процесс создания новых лекарств. Рекомендации по развитию одного из наиболее перспективных направлений в современной фармакологии разработали исследователи НИУ ВШЭ, Сеченовского университета и Ассоциации фармацевтических производителей ЕАЭС в ходе стратегической сессии «Перспективы технологического развития в области драг-дизайна», прошедшей 8 октября в Парке науки и искусства «Сириус».

Российские ученые научили искусственный интеллект анализировать эмоции участников онлайн-мероприятий

Исследователи НИУ ВШЭ предложили новый нейросетевой метод распознавания эмоций и вовлеченности людей. Алгоритмы строятся на основе анализа видеоизображений лиц и превосходят по точности известные аналоги. Разработанные модели подходят для малопроизводительного оборудования, в том числе для мобильных устройств. Результаты работы могут быть внедрены в системы теле-конференц-связи и онлайн-обучения для анализа вовлеченности и эмоций участников. Итоги исследования опубликованы в IEEE Transactions on Affective Computing.

Искусственный интеллект распознает изображения хуже человека

У компьютерного зрения нет тех физиологических особенностей, которые есть у человека, поэтому оно хуже распознает изображения. К такому выводу пришли ученые из ВШЭ и Московского политехнического университета. Результаты исследования опубликованы в сборнике Proceedings of Seventh International Congress on Information and Communication Technology.

Ученые усомнились в том, что искусственный интеллект DeepMind понимает физику молекул с нецелым зарядом

В журнале Science, одном из самых авторитетных научных изданий, команда исследователей из Высшей школы экономики, Сколтеха, Института органической химии им. Н.Д. Зелинского и Kyungpook National University (Южная Корея) опубликовала комментарий к статье DeepMind, говорится на сайте Сколтеха. В нем ученые показали, что приведенные аргументы в пользу достижения поставленной DeepMind цели не настолько надежны, как кажется, и требуют дополнительного исследования.

Искусственный интеллект обнаружил новые космические аномалии

Международная команда проекта SNAD, куда входит доцент факультета физики НИУ ВШЭ Матвей Корнилов, обнаружила 11 аномалий, 7 из которых — кандидаты в сверхновые. Исследования проводились на цифровых снимках северного неба за 2018 год, для поиска использовался метод ближайших соседей на основе K-мерных деревьев. Автоматизировать поиск аномалий позволили методы машинного обучения. Исследование опубликовано в журнале New Astronomy.

От искусственного интеллекта до культуры отмены: эксперты ВШЭ обсудили правовые вопросы на ПМЮФ

Эксперты Высшей школы экономики приняли участие в дискуссиях состоявшегося на днях X Петербургского международного юридического форума (ПМЮФ). Представители НИУ ВШЭ обсудили вопросы юридического образования, правового регулирования в сфере искусственного интеллекта, а также рассказали о феномене культуры отмены.

НИУ ВШЭ и АГУ договорились о сотрудничестве в сфере ИИ

Ректор Высшей школы экономики Никита Анисимов подписал соглашение о сотрудничестве в научно-исследовательской и образовательной сфере с ректором Адыгейского государственного университета (АГУ) Даудом Мамием. Стороны договорились участвовать в проектах Центра искусственного интеллекта НИУ ВШЭ, направленных на разработку новых технологий в этой сфере.