• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

«Плохо обученный искусственный интеллект опаснее восстания машин»

«Плохо обученный искусственный интеллект опаснее восстания машин»

© iStock

При нынешнем уровне развития искусственного интеллекта (ИИ) человечеству не грозит восстание машин. Более актуальной угрозой представляется применение недостаточно обученного ИИ в жизненно важных сферах, а также попытки его использования для того, чтобы поставить под контроль жизнь человека. Об этом шла речь на семинаре «Угрозы, которых мы не ожидали от искусственного интеллекта», проведенном Научно-учебной лаборатории трансцендентальной философии ВШЭ.

Заведующая лабораторией Светлана Климова поинтересовалась у автора доклада — приглашенного исследователя Александра Хомякова, какие опасности могут сопровождать широкое применение искусственного интеллекта. По его оценке, вероятность скорого порабощения человечества машинами сильно преувеличена, при нынешнем состоянии искусственного интеллекта это невозможно. «Можно, конечно, бояться мятежа утюгов, которые восстанут и нас всех зажарят», — иронизирует он.

Пока искусственный интеллект остается программой, а угроза заключается в человеке, который им пользуется. «Неправильное применение его человеком гораздо важнее и опаснее, чем гипотетическое восстание машин», — уверен автор исследования. Однако не все угрозы, которые может нести искусственный интеллект, нам сейчас известны, и мы можем его применять, не всегда понимая последствия, как, например, в начале XX века в косметических целях использовали радиевые маски.

Александр Хомяков напомнил, что в Европе обсуждают зоны ограничения использования ИИ. Отечественные законодатели спешат запретить его применение, но эксперт уверен, что это может привести к отставанию в развитии. И поэтому важно соблюдать баланс между развитием и предупреждением негативных последствий внедрения ИИ. Выход, по его мнению, в упреждающих действиях.

Другой проблемой становится способность искусственного интеллекта создавать и публиковать в соцсетях тексты, которые трудно отличить от написанных человеком. Так, бот, созданный одной из версий программы GPT, выдавал себя за человека в течение нескольких недель. Иногда тексты ИИ невозможно распознать как искусственные. Получается, машина может управлять даже эмоциями своего собеседника-человека. Эти боты могут писать в вашей ленте комментарии, создавать тот или иной информационный фон и даже подталкивать своего собеседника к тем или иным действиям, способствовать формированию мнения, объясняет Александр Хомяков.

Самое страшное, что тысячами сообщений в секунду может руководить какой-нибудь гениальный свихнувшийся программист с неясными целями. Это реальная угроза, когда кто-то может пытаться манипулировать людьми через искусственный интеллект

Еще одной проблемой может стать передача принятия части решений искусственному интеллекту как помощнику без адекватной оценки его возможностей. Если, например, врач полностью доверит ИИ расшифровку рентгеновских снимков, ошибочные выводы могут иметь серьезные последствия. Установка ИИ в качестве фильтра на вызовах «скорой помощи» также небезопасна. «Это может создать угрозу для жизни человека, находящегося в стрессе, речь которого недостаточно обученный искусственный интеллект может неверно интерпретировать», — рассказывает Александр Хомяков.

Однако все это не значит, что ИИ бесперспективно использовать в принципе. Обходиться без него уже невозможно. Искусственный интеллект имеет большую оперативную память и, кроме того, берет на себя рутинную работу, которую человек не хочет выполнять. МВД, например, может следить не только за автомобилями, но и за людьми. Достаточно установить камеры, настроить ИИ, и система дальше работает сама. При этом, разумеется, встают этические вопросы.

© iStock

На Западе уже возникают скандалы, связанные с подбором персонала, когда ИИ обвиняют в расистских наклонностях, поскольку в выборки попало меньше людей с африканской и азиатской внешностью. В ситуациях, когда машина, ведомая автопилотом, совершила аварию с человеческими жертвами, неожиданно выясняется, что в обучающей программе не было предусмотрено перевернутого фургона, кареты «скорой помощи» или остановившейся на обочине пожарной машины.

Важно понимать, говорит Александр Хомяков, что искусственный интеллект — это программа, основанная на статистике, ее точность не превышает 95%, то есть предусмотрена 5-процентная вероятность ошибок. «Готовы ли мы к такой высокой вероятности, если это касается человеческой жизни?» — задается вопросом эксперт.

Еще одной опасностью массового внедрения искусственного интеллекта он назвал уход с рынка труда многих работников, преимущественно низкоквалифицированных, занятых рутинным трудом. Это может привести к резкому росту асоциального поведения и преступности. Есть угроза и для людей творческих профессий: в Индии ИИ разрабатывает дизайн одежды и обуви, который оказывается более привлекательным для потребителей и имеетбо́льшее количество вариантов. Есть также сайты и программы, пишущие стихи (достаточно задать две строки и первую рифму), создающие дизайн-проект интерьера. Творчество уже не всегда требует таланта человека, что таит дополнительную опасность.

Наконец, серьезную угрозу представляет возможность ухода из реальной жизни в виртуальную или дополненную. Человек может создать виртуальное окружение, населить его приятными ему искусственными людьми. «Искусственный интеллект может в вас влюбиться. Какой молодой человек откажется от такого!» — отмечает Александр Хомяков. Ведь созданный персонаж не будет «спорить, просить денег, ругать».

По его словам, уже разработаны шлем и костюмы, в которых есть специальные зоны, дающие небольшие электрические разряды, создающие разные телесные и даже эмоциональные ощущения.

Мы теряем опору в реальности, мы все больше видим собеседников через видео и социальные сети, причем их все сложнее идентифицировать, понять, реальный это человек или виртуальный образ

В будущем может возникнуть и серьезная угроза самостоятельного принятия решений искусственным интеллектом. Это, полагает Александр Хомяков, станет возможным, когда система получит модель самой себя. Тогда у нас появится ИИ, который может отказаться выполнять поставленную ему задачу и будет принимать собственные решения. Чтобы предотвратить эту угрозу, нужно заранее разработать меры, препятствующие выходу ИИ из-под контроля.

Старший научный сотрудник Научно-учебной лаборатории трансцендентальной философии ВШЭ Диана Гаспарян полагает, что описанные докладчиком угрозы неравнозначны. Уход от реальности представляется ей наименее опасным, поскольку человеку скучно общаться с искусственным интеллектом. Возможно, разработчики ИИ будут пытаться обмануть людей, создавая видимость субъектности виртуальных собеседников.

По мнению Александра Хомякова, высокую опасность виртуализации отражает вовлечение миллионов людей в компьютерные игры. Они отдают себе отчет в том, что находятся в вымышленном мире, «но играют до ночи и до красных глаз, потому что там вырабатываются эмоции». Этому, полагает эксперт, способствует качественная проработка персонажей, вызывающих симпатию игроков.

Вам также может быть интересно:

Fall into ML: результаты исследований в области ИИ обсудили в формате школы-конференции ФКН ВШЭ

Международная лаборатория стохастических алгоритмов и анализа многомерных данных факультета компьютерных наук ВШЭ и Научно-учебная лаборатория методов анализа больших данных ФКН ВШЭ при поддержке Центра ИИ НИУ ВШЭ и Российского научного фонда организовали в начале ноября Первую осеннюю школу-конференцию по искусственному интеллекту Fall into ML. Новый формат научного мероприятия начался со школы для студентов и молодых исследователей.

Искусственный интеллект ускорит поиск новых лекарственных препаратов до одного-двух месяцев

Комбинирование методов драг-дизайна и анализа больших данных может заметно ускорить процесс создания новых лекарств. Рекомендации по развитию одного из наиболее перспективных направлений в современной фармакологии разработали исследователи НИУ ВШЭ, Сеченовского университета и Ассоциации фармацевтических производителей ЕАЭС в ходе стратегической сессии «Перспективы технологического развития в области драг-дизайна», прошедшей 8 октября в Парке науки и искусства «Сириус».

Российские ученые научили искусственный интеллект анализировать эмоции участников онлайн-мероприятий

Исследователи НИУ ВШЭ предложили новый нейросетевой метод распознавания эмоций и вовлеченности людей. Алгоритмы строятся на основе анализа видеоизображений лиц и превосходят по точности известные аналоги. Разработанные модели подходят для малопроизводительного оборудования, в том числе для мобильных устройств. Результаты работы могут быть внедрены в системы теле-конференц-связи и онлайн-обучения для анализа вовлеченности и эмоций участников. Итоги исследования опубликованы в IEEE Transactions on Affective Computing.

Искусственный интеллект распознает изображения хуже человека

У компьютерного зрения нет тех физиологических особенностей, которые есть у человека, поэтому оно хуже распознает изображения. К такому выводу пришли ученые из ВШЭ и Московского политехнического университета. Результаты исследования опубликованы в сборнике Proceedings of Seventh International Congress on Information and Communication Technology.

Ученые усомнились в том, что искусственный интеллект DeepMind понимает физику молекул с нецелым зарядом

В журнале Science, одном из самых авторитетных научных изданий, команда исследователей из Высшей школы экономики, Сколтеха, Института органической химии им. Н.Д. Зелинского и Kyungpook National University (Южная Корея) опубликовала комментарий к статье DeepMind, говорится на сайте Сколтеха. В нем ученые показали, что приведенные аргументы в пользу достижения поставленной DeepMind цели не настолько надежны, как кажется, и требуют дополнительного исследования.

Искусственный интеллект обнаружил новые космические аномалии

Международная команда проекта SNAD, куда входит доцент факультета физики НИУ ВШЭ Матвей Корнилов, обнаружила 11 аномалий, 7 из которых — кандидаты в сверхновые. Исследования проводились на цифровых снимках северного неба за 2018 год, для поиска использовался метод ближайших соседей на основе K-мерных деревьев. Автоматизировать поиск аномалий позволили методы машинного обучения. Исследование опубликовано в журнале New Astronomy.

От искусственного интеллекта до культуры отмены: эксперты ВШЭ обсудили правовые вопросы на ПМЮФ

Эксперты Высшей школы экономики приняли участие в дискуссиях состоявшегося на днях X Петербургского международного юридического форума (ПМЮФ). Представители НИУ ВШЭ обсудили вопросы юридического образования, правового регулирования в сфере искусственного интеллекта, а также рассказали о феномене культуры отмены.

НИУ ВШЭ и АГУ договорились о сотрудничестве в сфере ИИ

Ректор Высшей школы экономики Никита Анисимов подписал соглашение о сотрудничестве в научно-исследовательской и образовательной сфере с ректором Адыгейского государственного университета (АГУ) Даудом Мамием. Стороны договорились участвовать в проектах Центра искусственного интеллекта НИУ ВШЭ, направленных на разработку новых технологий в этой сфере.

От беспилотников до диагностики дислексии у детей: чем занимается Центр ИИ Вышки

Центр искусственного интеллекта НИУ ВШЭ вместе с индустриальными партнерами ведет работу над 25 прикладными проектами в сфере телекоммуникаций, финансов, образования, медицины и др. Результаты работы исследователей и разработчиков на днях были представлены на заседании рабочей группы при правительстве РФ, где были подведены первые итоги реализации федерального проекта «Искусственный интеллект» национальной программы «Цифровая экономика».

Технологии искусственного интеллекта помогут реабилитации бездомных

Исследовательская группа Центра искусственного интеллекта ФКН НИУ ВШЭ под руководством Ивана Ямщикова разработала модель для прогнозирования успешности  реабилитации бездомных. Модель с вероятностью около 80% предсказывает эффективность  работы с клиентами организаций для бездомных. Проект представлен на конференции, посвященной деятельности социальных центров.