«Плохо обученный искусственный интеллект опаснее восстания машин»
При нынешнем уровне развития искусственного интеллекта (ИИ) человечеству не грозит восстание машин. Более актуальной угрозой представляется применение недостаточно обученного ИИ в жизненно важных сферах, а также попытки его использования для того, чтобы поставить под контроль жизнь человека. Об этом шла речь на семинаре «Угрозы, которых мы не ожидали от искусственного интеллекта», проведенном Научно-учебной лаборатории трансцендентальной философии ВШЭ.
Заведующая лабораторией Светлана Климова поинтересовалась у автора доклада — приглашенного исследователя Александра Хомякова, какие опасности могут сопровождать широкое применение искусственного интеллекта. По его оценке, вероятность скорого порабощения человечества машинами сильно преувеличена, при нынешнем состоянии искусственного интеллекта это невозможно. «Можно, конечно, бояться мятежа утюгов, которые восстанут и нас всех зажарят», — иронизирует он.
Пока искусственный интеллект остается программой, а угроза заключается в человеке, который им пользуется. «Неправильное применение его человеком гораздо важнее и опаснее, чем гипотетическое восстание машин», — уверен автор исследования. Однако не все угрозы, которые может нести искусственный интеллект, нам сейчас известны, и мы можем его применять, не всегда понимая последствия, как, например, в начале XX века в косметических целях использовали радиевые маски.
Александр Хомяков напомнил, что в Европе обсуждают зоны ограничения использования ИИ. Отечественные законодатели спешат запретить его применение, но эксперт уверен, что это может привести к отставанию в развитии. И поэтому важно соблюдать баланс между развитием и предупреждением негативных последствий внедрения ИИ. Выход, по его мнению, в упреждающих действиях.
Другой проблемой становится способность искусственного интеллекта создавать и публиковать в соцсетях тексты, которые трудно отличить от написанных человеком. Так, бот, созданный одной из версий программы GPT, выдавал себя за человека в течение нескольких недель. Иногда тексты ИИ невозможно распознать как искусственные. Получается, машина может управлять даже эмоциями своего собеседника-человека. Эти боты могут писать в вашей ленте комментарии, создавать тот или иной информационный фон и даже подталкивать своего собеседника к тем или иным действиям, способствовать формированию мнения, объясняет Александр Хомяков.
Самое страшное, что тысячами сообщений в секунду может руководить какой-нибудь гениальный свихнувшийся программист с неясными целями. Это реальная угроза, когда кто-то может пытаться манипулировать людьми через искусственный интеллект
Еще одной проблемой может стать передача принятия части решений искусственному интеллекту как помощнику без адекватной оценки его возможностей. Если, например, врач полностью доверит ИИ расшифровку рентгеновских снимков, ошибочные выводы могут иметь серьезные последствия. Установка ИИ в качестве фильтра на вызовах «скорой помощи» также небезопасна. «Это может создать угрозу для жизни человека, находящегося в стрессе, речь которого недостаточно обученный искусственный интеллект может неверно интерпретировать», — рассказывает Александр Хомяков.
Однако все это не значит, что ИИ бесперспективно использовать в принципе. Обходиться без него уже невозможно. Искусственный интеллект имеет большую оперативную память и, кроме того, берет на себя рутинную работу, которую человек не хочет выполнять. МВД, например, может следить не только за автомобилями, но и за людьми. Достаточно установить камеры, настроить ИИ, и система дальше работает сама. При этом, разумеется, встают этические вопросы.
На Западе уже возникают скандалы, связанные с подбором персонала, когда ИИ обвиняют в расистских наклонностях, поскольку в выборки попало меньше людей с африканской и азиатской внешностью. В ситуациях, когда машина, ведомая автопилотом, совершила аварию с человеческими жертвами, неожиданно выясняется, что в обучающей программе не было предусмотрено перевернутого фургона, кареты «скорой помощи» или остановившейся на обочине пожарной машины.
Важно понимать, говорит Александр Хомяков, что искусственный интеллект — это программа, основанная на статистике, ее точность не превышает 95%, то есть предусмотрена 5-процентная вероятность ошибок. «Готовы ли мы к такой высокой вероятности, если это касается человеческой жизни?» — задается вопросом эксперт.
Еще одной опасностью массового внедрения искусственного интеллекта он назвал уход с рынка труда многих работников, преимущественно низкоквалифицированных, занятых рутинным трудом. Это может привести к резкому росту асоциального поведения и преступности. Есть угроза и для людей творческих профессий: в Индии ИИ разрабатывает дизайн одежды и обуви, который оказывается более привлекательным для потребителей и имеетбо́льшее количество вариантов. Есть также сайты и программы, пишущие стихи (достаточно задать две строки и первую рифму), создающие дизайн-проект интерьера. Творчество уже не всегда требует таланта человека, что таит дополнительную опасность.
Наконец, серьезную угрозу представляет возможность ухода из реальной жизни в виртуальную или дополненную. Человек может создать виртуальное окружение, населить его приятными ему искусственными людьми. «Искусственный интеллект может в вас влюбиться. Какой молодой человек откажется от такого!» — отмечает Александр Хомяков. Ведь созданный персонаж не будет «спорить, просить денег, ругать».
По его словам, уже разработаны шлем и костюмы, в которых есть специальные зоны, дающие небольшие электрические разряды, создающие разные телесные и даже эмоциональные ощущения.
Мы теряем опору в реальности, мы все больше видим собеседников через видео и социальные сети, причем их все сложнее идентифицировать, понять, реальный это человек или виртуальный образ
В будущем может возникнуть и серьезная угроза самостоятельного принятия решений искусственным интеллектом. Это, полагает Александр Хомяков, станет возможным, когда система получит модель самой себя. Тогда у нас появится ИИ, который может отказаться выполнять поставленную ему задачу и будет принимать собственные решения. Чтобы предотвратить эту угрозу, нужно заранее разработать меры, препятствующие выходу ИИ из-под контроля.
Старший научный сотрудник Научно-учебной лаборатории трансцендентальной философии ВШЭ Диана Гаспарян полагает, что описанные докладчиком угрозы неравнозначны. Уход от реальности представляется ей наименее опасным, поскольку человеку скучно общаться с искусственным интеллектом. Возможно, разработчики ИИ будут пытаться обмануть людей, создавая видимость субъектности виртуальных собеседников.
По мнению Александра Хомякова, высокую опасность виртуализации отражает вовлечение миллионов людей в компьютерные игры. Они отдают себе отчет в том, что находятся в вымышленном мире, «но играют до ночи и до красных глаз, потому что там вырабатываются эмоции». Этому, полагает эксперт, способствует качественная проработка персонажей, вызывающих симпатию игроков.
Вам также может быть интересно:
От лаборатории к рынку: ключевые моменты продвижения разработок Центра ИИ НИУ ВШЭ
Центр искусственного интеллекта НИУ ВШЭ сосредотачивает свои усилия на достижении прикладных результатов, стремясь не только к разработке инновационных алгоритмов и моделей, но и к их практическому использованию для решения реальных проблем и задач. Об особенностях внедрения технологий искусственного интеллекта в различные сферы общества рассказал руководитель Центра искусственного интеллекта Алексей Масютин.
Fall into ML 2023: ФКН НИУ ВШЭ организует конференцию по машинному обучению
26–28 октября Институт искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ при поддержке Центра ИИ НИУ ВШЭ проводит конференцию Fall into ML 2023. Мероприятие посвящено перспективным направлениям развития фундаментального искусственного интеллекта.
«Нейросеть — явление, которое двигает мир вперед»
4 сентября в НИУ ВШЭ на Покровке состоялся фестиваль нейросетевого искусства ARTificial Fest. Его организаторами выступили факультет креативных индустрий ВШЭ, HSE Career и студенческая организация «Чистый лист». Посетить праздник смогли не только студенты и сотрудники Вышки, но и все интересующиеся слиянием машинных алгоритмов с искусством.
ФКН и Центр ИИ приглашают принять участие в соревновании по бинаризации нейросетей Binary Super Resolution Challenge
С 18 июля по 15 октября факультет компьютерных наук и Центр ИИ НИУ ВШЭ приглашают принять участие в онлайн-соревновании Binary Super Resolution Challenge (BSRC-2023). 50 лучших команд получат призы, а три лидера — денежное вознаграждение.
В России разработали программное обеспечение для предсказания расположения элементов генома человека
В Центре искусственного интеллекта НИУ ВШЭ создали программное обеспечение для предсказания расположения элементов генома человека. Ученые использовали методы глубинного обучения на основе омиксных данных о различных молекулярных компонентах организма. Исследование выполнено в соответствии с задачами федерального проекта «Искусственный интеллект» национального проекта «Цифровая экономика».
В технопарке «Саров» сотрудники ФКН Вышки рассказали о применении ИИ для анализа данных в физике
Научно-учебная лаборатория методов анализа больших данных факультета компьютерных наук ВШЭ совместно с Всероссийским научно-исследовательским институтом экспериментальной физики (РФЯЦ-ВНИИЭФ, Саров) и Национальным центром физики и математики провели II Всероссийскую школу-семинар по физике высоких энергий и ускорительной технике.
Ученые пермского кампуса НИУ ВШЭ получили первый патент в сфере искусственного интеллекта
Научный сотрудник НУЛ МЭИ Алексей Кычкин и стажер-исследователь НУЛ МЭИ Олег Горшков получили патент на систему прогнозирования пространственного распределения вредных веществ в атмосферном воздухе с использованием блока искусственного интеллекта. Изобретение может быть использовано для комплексного планирования и уведомления о рисках загрязнений атмосферного воздуха вредными веществами. Работы были выполнены в рамках гранта Центра искусственного интеллекта НИУ ВШЭ.
В Инженерно-математической школе VK и НИУ ВШЭ открылся новый магистерский трек по ИИ
Инженерно-математическая школа VK и НИУ ВШЭ запускает новый магистерский трек «Аппаратно-программные комплексы искусственного интеллекта». Он станет частью магистерской программы «Интернет вещей и киберфизические системы». Обучение будут вести эксперты VK и сотрудники Вышки.
«На рынке data science всегда было мало людей, и потребность в них с каждым годом увеличивается»
Сегодня хорошие программисты требуются везде. Но особенно сильно в них нуждается промышленный сектор. О том, что такое промышленное программирование и для чего IT-специалисты нужны на производствах, рассказал Алексей Шпильман, заведующий центром анализа данных и машинного обучения НИУ ВШЭ в Санкт-Петербурге и руководитель программ искусственного интеллекта в «Газпром нефти».
«Мы создаем искусственный интеллект, и искусственный интеллект создает нас»
29 и 30 июня факультет компьютерных наук Вышки организует конференцию «Искусственный интеллект и общество», которая состоится в главном корпусе университета на Покровском бульваре. Также возможно подключение онлайн. Участники форума обсудят, в каких направлениях развивается ИИ и как человеку справиться со связанными с этим вопросами.