День основания ЮНЕСКО отметили дискуссией об этике ИИ

16 ноября состоялся «Форум этики в сфере искусственного интеллекта: Поколение GPT. Красные линии», в котором приняла участие Кафедра ЮНЕСКО НИУ ВШЭ

Форум был посвящен обсуждению вопросов внедрения Кодекса этики в сфере искусственного интеллекта (ИИ), принятого в 2021 году. В 2022 году была создана специальная Комиссия по этике ИИ, состоящая из 5 рабочих групп, которые отвечают за этическое регулирование ИИ в различных отраслях. 

В рамках Форума, помимо прочего, состоялось заседание круглого стола на тему «Межкультурный взгляд на глобальные вызовы развития искусственного интеллекта». В дискуссии, которую модерировали директор Национального центра развития искусственного интеллекта при Правительстве РФ Сергей Наквасин и председатель Комиссии по этике в сфере ИИ, управляющий директор Центра регулирования ИИ ПАО «Сбербанк» Андрей Незнамов, приняли участие прежде всего представители традиционных религиозных конфессий. Светское общество было представлено в выступлениях директора по развитию технологий ИИ компании «Яндекс» Александра Крайнова и руководителя Кафедры ЮНЕСКО НИУ ВШЭ Михаила Федотова.  

Отметив, что дата Форума совпадает с днем основания ЮНЕСКО, профессор Федотов отразил в своем выступлении роль этого специализированного агентства системы ООН в формировании этических основ использования технологий ИИ. В ноябре 2021 года Генеральная конференция ЮНЕСКО одобрила документ, который называется «Рекомендация об этических аспектах искусственного интеллекта». Во многих вопросах Рекомендация ЮНЕСКО и российский Кодекс этики в сфере искусственного интеллекта перекликаются. А это значит, что Рекомендация достигла своей цели: она воспринята в государствах-членах, а не осталась пустой декларацией в архиве международной организации. Оба документа – и Рекомендация ЮНЕСКО, и национальный Кодекс проникнуты пониманием того, что технологии ИИ способны принести человечеству огромную пользу и их преимуществами могут воспользоваться все страны, но при этом такие технологии поднимают фундаментальные вопросы этического, а следовательно, и юридического порядка.

В Рекомендации ЮНЕСКО, в частности, отмечается, что технологии искусственного интеллекта могут порождать и усугублять предвзятость, например, когда робот используется для отбраковки резюме кандидатов при приеме на работу. В свою очередь, предвзятость может вести к дискриминации, неравенству, цифровому разрыву и маргинализации, ставить под угрозу культурное разнообразие, усугублять социальное и экономическое расслоение. Известно, например, что робот-кадровик, обученный на массиве данных о приеме на работу, сложившихся за последние полвека, будет воспроизводить старую практику, отдавая предпочтение более молодым перед более возрастными кандидатами, мужчинам – перед женщинами, членам КПСС и ВЛКСМ перед беспартийными и т. д. Вот почему в Рекомендации ЮНЕСКО подчеркивается, что взаимодействие человека с ИИ «никогда не должно вести к обезличиванию человека, к унижению его достоинства в какой-либо форме, к нарушению прав человека и основных свобод.

Докладчик проинформировал собравшихся, что вместе с профессором Виктором Наумовым на сайте Кафедры ЮНЕСКО в настоящее время проводится экспертный опрос на тему: нужно ли законодательно гарантировать человеку право на выбор при использовании технологии ИИ. «Мы спрашиваем, например, должно ли быть у гражданина право выбора в вопросе использования беспилотного транспорта? Или: нужно ли законодательно закрепить право кандидата требовать, чтобы его кандидатура рассматривалась сотрудником кадровой службы, а не ИИ? Или такой вопрос: нередко, когда вы звоните по телефону в какую-нибудь организацию, вы не всегда можете определить, разговариваете ли вы с человеком или с роботом - голосовым помощником. Нужно ли законодательно регулировать такие ситуации?» - задался вопросами профессор Федотов.

В спонтанно возникшей дискуссии председатель Комиссии по этике в сфере ИИ Андрей Незнамов пригласил присутствующих принять участие не только в экспертном опросе, но и в конференции «Медиаправо-2023, на которой будут подведены итоги опроса, отметив полезность этой инициативы Кафедры ЮНЕСКО.  

Профессор Федотов подчеркнул, что в настоящее время мир стоит перед необходимостью закрепления нового поколения прав человека, в котором не последнее место должны занять право человека на выбор партнера по коммуникации, право на отказ от использования технологии ИИ, право на ментальную неприкосновенность, что особенно важно в случае внедрения в тело человека имплантов с информационно-коммуникационными возможностями. В этой связи он поставил вопрос о необходимости формирования в рамках профессионального сообщества специальной Комиссии по нейроправу. 

Еще одной темой выступления М.Федотова стала опасность роботизации человека. «Главная опасность, - отметил он, - здесь даже не в имплантации средств цифровой коммуникации в тело человека, а в том, что поступательная алгоритмизация производственных процессов в самых разных сферах, включая, например, медицину, среднее и высшее образование, культуру и науку, приводит к подмене реального творчества выполнением стандартных протоколов с последующей строгой и детально регламентированной отчетностью. За этим просматривается стремление шире использовать технологии ИИ в подобных сферах, чтобы в максимальной степени сократить применение человеческого труда, который труднее поддается нормированию и осмечиванию. Но результатом подобного развития событий может стать, с одной стороны, роботизация человека, а с другой – подмена творчества имитацией творчества, врачевания – здравоохранением, науки – наукометрией, культуры – статистикой посадочных мест в театрах и человеко-посещений в музеях».

В работе Форума приняли участие также члены Кафедры ЮНЕСКО Руслан Будник (заместитель директора Центра), Алексей Дейнеко, Астамур Тедеев и другие.

Трансляция мероприятия была организована на сайте: https://www.aiethic.ru/