• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

«Мы пока далеки от мира, где люди живут в гармонии с машинами»

«Мы пока далеки от мира, где люди живут в гармонии с машинами»

© iStock

Применение цифровых технологий должно сочетаться со строгим выполнением этических и правовых норм, которые еще предстоит выработать. Плата за вход в «дивный новый мир» цифры — согласие на предоставление персональных данных. Институт права цифровой среды (ИПЦС) и Лаборатория права и этики цифровой среды НИУ ВШЭ при поддержке общества «Знание» провели Всероссийскую конференцию «Мир людей и машин: этические и правовые аспекты цифровой трансформации».

Арсений Майоров

Открывая пленарное заседание, заведующий лабораторией, заместитель гендиректора общества «Знание» Арсений Майоров выразил надежду, что конференция станет популярной площадкой обсуждения гуманитарных вопросов цифровой среды. Он зачитал приветствия вице-премьера правительства России Дмитрия Чернышенко и генерального директора общества «Знание» Максима Древаля.

Председатель комитета Госдумы по информационной политике, информтехнологиям и связи Александр Хинштейн отметил необходимость выработки этических норм в условиях дополнения реальности цифровой средой, модернизации права и моральных принципов. Интернет должен упростить взаимодействие граждан с властью, стимулировать рост экономики. Также, по его мнению, необходимо устранить цифровое неравенство и обеспечить подавляющее большинство семей устойчивым доступом в интернет.

Руслан Ибрагимов

Директор по правовым исследованиям ВШЭ, руководитель ИПЦС Руслан Ибрагимов подчеркнул, что анализ правовых аспектов цифровой трансформации приводит к изучению этических проблем применения искусственного интеллекта (ИИ). «Мы пока далеки от мира, где люди живут в гармонии с машинами. Но за машинами стоят не тайные силы, а конкретные люди, которые могут нарушать правила, совершать ошибки, работать на благо человека и в корыстных целях. Все это требует детальной проработки этических проблем», — сказал Руслан Ибрагимов.

Научный руководитель ВШЭ Ярослав Кузьминов отметил важность проблем, возникающих на стыке этики и права, этики и технологий. Человечество, полагает он, переходит к гибридной реальности, в которой нельзя видеть только отрицательные эффекты. Человек в виртуальной реальности может снимать эмоциональное и социальное напряжение, создавать новые сферы деятельности, в том числе экономические.

Ярослав Кузьминов

Уже сейчас в США пытаются ограничить работу технологических гигантов и защитить права простых людей от повсеместного проникновения ИИ. Это, по мнению Кузьминова, не случайно: плата за вход в «дивный новый мир» — согласие на предоставление персональных данных в условиях, когда их владельцы не понимают последствий доступа к ним. «Мы редко понимаем, как их собирают, как хранят, это нередко выглядит нечестным договором на несправедливых условиях», — считает Ярослав Кузьминов. Он назвал высокими риски, связанные с недостаточной защитой персональных данных в частных компаниях и государственных сервисах.

Этика должна стать одной из опор борьбы за цифровые права человека

Пока нельзя утвердительно ответить на вопрос, будет ли мир подчиняться этическим нормам. Ученые должны увидеть вектор развития гуманитарного и этического сопровождения технологического роста. «Предмет работ конференции и института — увидеть эти векторы и дать материал для работы нашим специалистам в сфере больших данных, юристам, психологам», — подчеркнул Ярослав Кузьминов.

Он обратил внимание на то, что, сталкиваясь с выросшим объемом информации, люди часто отказываются от ее анализа и осознанного выбора в пользу случайного поиска: «Мы должны говорить о техзаданиях для поисковиков и новостных сервисов, чтобы они представляли не одну позицию. Это дорого, но нам надо готовиться к этому, развивая в гражданах критическое отношение к новостям, которые им навязывают».

Научный руководитель ВШЭ также отметил выросшую конкуренцию в ряде сфер между IT-корпорациями и государствами, причем лишь немногие из них могут бороться с навязыванием цифровыми гигантами своих правил. России в этой ситуации важно соблюдать баланс между защитой суверенитета и сохранением технологических связей.

Татьяна Матвеева

Начальник управления президента по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева отметила проблему сочетания права и этики с быстрым ростом ИИ. Россия, по ее мнению, — один из лидеров в мире по уровню регулирования цифровой экономики. Государство и дальше намерено совершенствовать нормативное регулирование, двигаясь от стратегических проблем к отраслевым и специальным. «Мы даем возможность бизнесу развиваться в рамках специальных правовых режимов, государство помогает снимать часть правовых барьеров, но приоритетом остаются права граждан, в том числе и защита их персональных данных», — заявила Татьяна Матвеева. Она полагает, что запрос на безопасные технологии ИИ вызван не страхом перед восстанием машин, а конкретными угрозами, связанными с утечкой данных.

Необходимость разработки цифровой этики Татьяна Матвеева подтвердила примером, связанным с созданием цифровых двойников, когда появление образов умерших детей или родителей может повредить психику человека.

При взаимодействии между миром людей и машин приоритет должен сохраняться за людьми, чтобы человек мог отменить решение машины

Декан факультета права ВШЭ Вадим Виноградов отметил, что право и этика должны стать основой цифровой трансформации. Цифровизация в широком ее понимании предполагает преобразование информации в удобную форму, способствующее повышению качества жизни. Важно определить тенденции права, отражающие изменения в экономике и обществе. Появляются новые сферы жизни, требующие правового регулирования: идентификация личности, цифровые финансовые технологии, базы данных и другие реалии цифровой экономики. Необходима также регуляция взаимоотношений, возникающих при применении искусственного интеллекта в частных и государственных сервисах и общественно значимых институтах.

Вадим Виноградов

Цифровая трансформация влечет за собой появление этических проблем, которые трудно разрешить исключительно правовыми методами. Например, они возникают при обработке и анализе персональных данных граждан. Бизнесу они нужны для онлайн-рекламы и торговли, а государству — для принятия управленческих решений и взаимодействия с гражданами. Защита персональных данных важна, но ее чрезмерное регулирование затрудняет работу исследователей с обезличенными данными в таких важных сферах, как здравоохранение или безопасность движения. Этическое регулирование данных пока недостаточно проработано.

По мнению Вадима Виноградова, отсутствие этических обязательств чревато появлением проблем, связанных со скрытой дискриминацией. В России наибольшие риски могут породить автоматизированные системы принятия решений в социальной сфере. Особенно чувствительными будут ошибки вследствие низкого качества инфраструктуры и баз данных. Поэтому, отметил декан факультета права, важно принятие этического кодекса применения ИИ.

В ближайшем будущем, полагает он, повысится влияние общественных институтов, формализующих нормы этики вне госрегулирования.

Частные компании не должны брать на себя роль общественных институтов и подменять их

Ведущий научный сотрудник Центра фундаментальных исследований ВШЭ Сергей Левин отметил, что без философского осмысления ИИ его анализ затруднителен. Он рассказал о нескольких подходах к этике искусственного интеллекта, которые предполагают, что ИИ может быть моральным судьей; агентом, совершающим определенные действия и несущим за них ответственность; и, наконец, «моральным пациентом», о котором должен заботиться человек. Кроме того, если возможности ИИ превзойдут когнитивные способности человека, потребуется особая этика.

Сергей Левин

Сергей Левин подчеркнул, что у ИИ как у морального судьи есть ограничения, вызванные его неспособностью (в отличие от человека) обосновать свой выбор. ИИ основывает свои выводы на агрегировании других суждений и не может сочетать решение с конкретной ситуацией. Поэтому суждение ИИ должно подтверждаться человеком.

Агентность подкрепляется ответственностью за свои решения и возможными санкциями, наказаниями, однако машины и ИИ не могут испытывать боль и страдание и нести ответственность, поэтому могут использоваться как инструмент, но не как автономный субъект.

В пленарном заседании также приняли участие председатель правления Фонда «Сколково» Игорь Дроздов и руководитель секретариата первого заместителя председателя Совета Федерации РФ Алексей Устинов. 

На круглом столе «Кодекс этики в сфере искусственного интеллекта: этико-правовые коллизии в регулировании цифровых технологий» руководитель Центра экспертизы по реализации федерального проекта «Искусственный интеллект» Сергей Наквасин представил доклад «Поиск баланса интересов: соблюдение прав человека в процессе развития технологий ИИ». Заместитель директора ИПЦС факультета права ВШЭ Михаил Якушев выступил с сообщением «Этика технологии и технология этики», а руководитель Школы философии и культурологии факультета гуманитарных наук ВШЭ Анастасия Углева рассказала о национальном этическом кодексе «как отражении реальности и как принципе долженствования». Заведующий Лабораторией нейронных систем и глубокого обучения МФТИ Михаил Бурцев сделал доклад о практике применения этических норм в разговорных ассистентах. 

Модератором круглого стола выступил Руслан Ибрагимов. В его работе также участвовали управляющий директор Центра регулирования ИИ Сбера Андрей Незнамов и председатель комиссии по правовому обеспечению цифровой экономики московского отделения Ассоциации юристов России Александр Журавлев.

Работа конференции продолжилась также в тематических секциях.

Вам также может быть интересно:

ФКН ВШЭ и Яндекс расширят сотрудничество в сфере подготовки специалистов по ИИ

В следующие 10 лет партнерство Яндекса и факультета компьютерных наук НИУ ВШЭ расширится по трем направлениям: создание новых образовательных программ, развитие исследований в области ИИ и применение генеративных нейросетей в учебном процессе. ФКН был основан Вышкой и Яндексом 10 лет назад и стал одним из лидеров в подготовке разработчиков и специалистов по ИИ и машинному обучению. За это время выпускниками факультета стали 3385 человек.

Нижегородская Вышка запускает программу ДПО в сфере интеллектуальной собственности и ИИ

Сегодня тема искусственного интеллекта выходит за пределы IT. Нейросети развиваются с огромной скоростью, и это порождает целый ряд правовых споров. Юристам необходимо обладать достаточной компетентностью в этой области. НИУ ВШЭ реагирует на запрос современности и запускает новую актуальную программу профессиональной переподготовки.

Центр ИИ Вышки помогает стране и Сберу развивать AI-технологии

Сбер оценил экономический эффект от сотрудничества с исследовательскими центрами в сфере искусственного интеллекта в 1,1 млрд рублей. Одним из партнеров Сбера с 2021 года является Центр ИИ Высшей школы экономики. Всего в рамках этого партнерства успешно реализовано 19 проектов.

Вышка приняла участие в Дне ИИ на выставке-форуме «Россия»

13 марта на ВДНХ в рамках Международной выставки-форума «Россия» прошел День искусственного интеллекта. НИУ ВШЭ — один из ведущих отечественных исследовательских и образовательных центров в сфере ИИ — принял участие в этом событии. Исследователи университета выступили в экспертных дискуссиях. Кроме того, проректор Вышки Сергей Рощин подписал Декларацию об ответственной разработке и использовании больших генеративных моделей.

ВШЭ помогает разрабатывать систему статистического мониторинга ИИ

Отслеживать внедрение технологий искусственного интеллекта (ИИ) в России, оперативно оценивать их распространение в отраслях экономики и социальной сфере позволит новая программа статистического наблюдения. Правительство РФ поставило задачу разработать комплексную систему мониторинга развития ИИ. Формирование ее статистического ядра поручено Минэкономразвития России и Росстату совместно с НИУ ВШЭ. Непосредственным исполнителем от университета выступает Институт статистических исследований и экономики знаний (ИСИЭЗ).

«Цель школы Spring into ML — объединить молодых ученых, занимающихся математикой ИИ»

Институт искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ и Университет Иннополис провели для студентов, аспирантов и молодых ученых недельную школу, посвященную применению математики в машинном обучении и искусственном интеллекте. 50 участников Spring into ML прослушали 24 доклада о машинном обучении, участвовали в тематических питч-сессиях и прошли два мини-курса по диффузионным моделям — развивающейся области ИИ для генерации данных.

Сотрудники духовных учебных заведений повысили квалификацию в области ИИ

Завершился трехдневный курс повышения квалификации «Принципы, методы и этические аспекты использования искусственного интеллекта», организованный НИУ ВШЭ и Общецерковной аспирантурой и докторантурой имени святых равноапостольных Кирилла и Мефодия (ОЦАД) для представителей духовных учебных заведений. Итогом курса стала презентация слушателями идей проектов по применению искусственного интеллекта.

Студенты со всей России пройдут интенсив по компьютерным наукам от ВШЭ и «Яндекса»

С 1 по 13 апреля в Москве на базе факультета компьютерных наук НИУ ВШЭ пройдет бесплатный студкемп по машинному обучению, организованный в рамках программы «Яндекса» для студентов IT-специальностей. За две недели студенты изучат материал, на освоение которого в рамках традиционных программ уходит от пары месяцев до нескольких семестров. Они получат фундаментальные знания в области искусственного интеллекта, а также познакомятся с практиками применения нейросетей в сервисах «Яндекса».

Ученые Вышки вошли в Научный совет Альянса в сфере ИИ

Альянс в сфере искусственного интеллекта создал Научный совет, в который вошли ведущие представители российской науки в области искусственного интеллекта. Высшая школа экономики представлена в совете четырьмя учеными.

«Терминатор не придет»: каким будет образование будущего в эпоху ИИ

Как применение искусственного интеллекта повлияет на образование, какие этические вопросы есть сейчас и готово ли человечество к тому, чтобы людей учили роботы, — об этом и многом другом говорили участники дискуссии «DebAIte: Революция ИИ в образовании», состоявшейся на фестивале «НОЧЬ Студента».