Красные линии: эксперты обсудили вопросы этики и права в сфере ИИ
Быстрое развитие технологий искусственного интеллекта требует опережающего этико-гуманитарного осмысления вероятных результатов прогресса и сбалансированных регуляторных мер, стимулирующих применение ИИ и ограждающих человека от возможного негативного влияния. Об этом эксперты говорили на Форуме этики в сфере искусственного интеллекта «Поколение GPT. Красные линИИ», который прошел в ТАСС. В его работе приняли участие представители Вышки.
Директор Национального центра развития искусственного интеллекта при Правительстве РФ (действует на базе ВШЭ) Сергей Наквасин, открывая форум, подчеркнул остроту этических вопросов развития и применения искусственного интеллекта и большое внимание общества к моральным проблемам ИИ. «Форум в этом году приобрел всероссийский масштаб: три дня накануне шел марафон в 12 регионах страны. Более тысячи человек приняли участие в открытой, честной, горячей, острой дискуссии. Мы накапливаем и обрабатываем результаты всех этих обсуждений», — сказал он.
По словам Татьяны Матвеевой, начальника Управления по развитию информационно-коммуникационных технологий и инфраструктуры связи Администрации Президента РФ, наша общая задача — обеспечение надежности, безопасности технологий ИИ и доверия к ним. «Все предложения, которые будут высказаны на форуме, помогут ответить нам на основные вопросы, на вызовы, которые стоят перед нами, и будут способствовать повышению доверия общества к технологиям искусственного интеллекта, формированию подлинного технологического суверенитета нашей страны», — подчеркнула она.
Заместитель министра экономического развития РФ Максим Колесников обратил внимание, что в мире нет единого понимания регулирования ИИ: в Европе приняты жесткие меры, а США и Китай придерживаются более мягких рамок. Россия выступает за гибридный подход, где отдельные элементы ИИ будут контролироваться законодательно, но в основном он будет регулироваться Кодексом этики в сфере ИИ и принципами, разработанными в диалоге с технологическим сообществом. «Более 270 компаний и органов государственной власти уже согласились соблюдать установленные кодексом принципы. Ожидаем, что сегодня к ним присоединится еще порядка 20 организаций», — заявил Максим Колесников.
В ходе круглого стола «Межкультурный взгляд на глобальные вызовы развития искусственного интеллекта» руководитель Международного научно-образовательного центра «Кафедра ЮНЕСКО по авторскому праву, смежным, культурным и информационным правам» НИУ ВШЭ профессор Михаил Федотов отметил, что российский Кодекс этики в сфере ИИ близок к рекомендациям, разработанным ЮНЕСКО. «Это хорошо, значит, позиции совпадают и мировой опыт перенимается Россией», — сказал он. По его мнению, кодекс следует дополнить комиссией по нейроправу, «потому что искусственный интеллект связан и с нашим естественным интеллектом». Эта комиссия займется ментальной и физической неприкосновенностью человека при вероятном вживлении имплантов в мозг и его защитой от возможной когнитивной цензуры. Необходима и комиссия, которая будет следить за исполнением требований Кодекса ИИ. В противном случае, считает Михаил Федотов, высок риск невыполнения его ключевых положений.
Он также предостерег от роботизации человека, вызванной алгоритмизацией производства и иных процессов. Возникает вероятность подмены лечения здравоохранением, творчества — имитацией, науки — наукометрией.
В треке, посвященном применению этических принципов в работе ученых и центров развития ИИ, руководитель проектов Центра экспертизы по реализации федерального проекта «Искусственный интеллект» Аналитического центра при Правительстве РФ Сергей Астахов отметил: чем масштабнее технология, тем острее встают этические вопросы ее применения. «Можем ли мы надеяться на развитие технологий в гармонии с этикой?» — поинтересовался он.
Руководитель Центра искусственного интеллекта НИУ ВШЭ Алексей Масютин подчеркнул: следует осмыслить этичность не самого искусственного интеллекта, а его применения. Например, его использование при генерации лекарств кратно сокращает время их разработки, что особенно важно при необходимости быстрого запуска их производства, однако аналогичные принципы можно применить и при разработке опасных материалов, в том числе химического оружия. Нейросети позволяют более качественно и быстро реставрировать, но с их помощью можно создавать и дипфейки, манипулирующие людьми.
Чтобы управлять этическими принципами использования ИИ, нужна работа ученых многих специальностей. В Центре искусственного интеллекта НИУ ВШЭ проект «Этическая экспертиза в сфере ИИ» возглавляет доцент Школы философии и культурологии университета Анастасия Углева.
Это, полагает эксперт НИУ ВШЭ, не снимает ответственности с разработчиков ИИ. В ходе подготовки программ следует тестировать их на возможность неэтичного применения, в том числе вероятной дискриминации отдельных групп людей. Ответственную задачу выполняют те, кто готовит данные для разработки, именно от качества их работы во многом зависит правильность алгоритмов работы искусственного интеллекта. Важно также совершенствовать инструменты детекции возможных недостатков программ, отметил Алексей Масютин.
Он также сообщил, что группа по этике Центра искусственного интеллекта регулярно оценивает качество баз и программ, в том числе и с индустриальными партнерами Вышки.
В рамках форума «Поколение GPT. Красные линИИ» были вручены награды за вклад в развитие этики в сфере искусственного интеллекта. За исследования по этической экспертизе в сфере ИИ и проведение регулярного научного семинара по гуманистическим и этическим аспектам развития цифровых технологий была отмечена доцент Школы философии и культурологии факультета гуманитарных наук НИУ ВШЭ Анастасия Углева.
Вам также может быть интересно:
«Каждая статья на NeurIPS — значительный результат»
Сотрудники факультета компьютерных наук НИУ ВШЭ представят 12 своих работ на 37-й конференции NeurIPS. Conference and Workshop on Neural Information Processing Systems — одно из самых значительных событий в сфере искусственного интеллекта и машинного обучения. В этом году она пройдет с 10 по 16 декабря в Новом Орлеане (США).
Проект Центра ИИ ВШЭ получил премию Customer eXperience Awards
«РБК Петербург» подвел итоги проекта-исследования Customer eXperience 2023. В числе победителей отмечен совместный проект Центра искусственного интеллекта НИУ ВШЭ и АО «Новое сервисное бюро» по созданию платформы предиктивной маркетинговой аналитики для индустрии гостеприимства на базе технологий ИИ.
«Внедрение технологий ИИ уже приводит к революционным переменам»
Президент России Владимир Путин, выступая на конференции по искусственному интеллекту AI Journey 2023, подчеркнул, что нужно существенно расширить подготовку кадров ученых-разработчиков. Такую задачу он поставил перед университетами — лидерами первого рейтинга вузов по качеству подготовки специалистов в сфере ИИ, составленного Альянсом в сфере искусственного интеллекта. Напомним, что ВШЭ вошла в лидерскую группу А+ рейтинга. О том, как готовят в Вышке ИИ-специалистов и какие планы у университета в этой области, «Вышке.Главное» рассказал декан факультета компьютерных наук ВШЭ Иван Аржанцев.
«Сегодня сделать большую языковую модель — это гигантский труд»
С 22 по 24 ноября проходит международная онлайн-конференция в сфере технологий искусственного интеллекта AI Journey 2023. В ее работе приняли участие эксперты НИУ ВШЭ. В фокусе обсуждения — языковые модели и методы, которые применяются сегодня для обучения искусственного интеллекта.
Студенты НИУ ВШЭ стали победителями в конкурсе научных статей по ИИ AIJ Science на конференции AI Journey 2023
В Москве проходит Международная конференция по искусственному интеллекту и машинному обучению AI Journey 2023, организованная Сбером. В рамках мероприятия состоялся конкурс научных статей по теме искусственного интеллекта AIJ Science, победу в котором одержали аспирант факультета компьютерных наук Вышки Александр Рогачев и студент 4-го курса бакалавриата ФКН ВШЭ Егор Егоров. Исследование было выполнено в рамках Научно-учебной лаборатории методов анализа больших данных (LAMBDA) ВШЭ.
ВШЭ — в лидерах рейтинга вузов по качеству подготовки специалистов в области ИИ
Альянс в сфере искусственного интеллекта опубликовал рейтинг вузов России, где готовят лучших специалистов по ИИ. Лидерами стали НИУ ВШЭ, МФТИ и ИТМО. В рейтинг вошли 180 университетов из 64 регионов — в 2023 году на программы в области искусственного интеллекта этих вузов были приняты более 5 тыс. студентов.
Победителей и призеров Всероссийской олимпиады по ИИ примут в НИУ ВШЭ без вступительных испытаний
Всероссийская олимпиада по искусственному интеллекту включена в перечень олимпиад школьников Министерства науки и высшего образования на 2023/24 учебный год. В этом году на олимпиаду зарегистрировались почти 16 тысяч школьников со всей России. В финальный этап прошли 50 участников. Из них 4 школьника стали победителями, а 8 — призерами.
В НИУ ВШЭ состоялась конференция по машинному обучению Fall into ML 2023
В течение трех дней более 300 участников конференции посетили тематические воркшопы, семинары, секции и постерную сессию. В ходе панельных дискуссий эксперты обсудили регулирование технологий искусственного интеллекта (ИИ) и то, какие мегапроекты могут делать университеты совместно с индустрией для развития ИИ.
ВШЭ, «Яндекс» и «Сириус» запустили бесплатный курс по ИИ для школьников
Факультет компьютерных наук НИУ ВШЭ, «Яндекс» и «Сириус.Курсы» запустили бесплатный курс по искусственному интеллекту для школьников «Глубокое обучение». Старшеклассники узнают, как работают и обучаются нейросети, и познакомятся с востребованными IT-профессиями. Записаться на осенний поток можно до 15 ноября.
От лаборатории к рынку: ключевые моменты продвижения разработок Центра ИИ НИУ ВШЭ
Центр искусственного интеллекта НИУ ВШЭ сосредотачивает свои усилия на достижении прикладных результатов, стремясь не только к разработке инновационных алгоритмов и моделей, но и к их практическому использованию для решения реальных проблем и задач. Об особенностях внедрения технологий искусственного интеллекта в различные сферы общества рассказал руководитель Центра искусственного интеллекта Алексей Масютин.