• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

Идеальная ловушка: как трансформируются отношения человека и ИИ

Идеальная ловушка: как трансформируются отношения человека и ИИ

Кадр из фильма «Она»

Искусственный интеллект все больше входит в нашу жизнь, становясь ее неотъемлемой частью. Мы так быстро привыкли пользоваться его помощью и услугами, что совершенно теряемся, когда пропадает интернет. Но сможет ли человек полюбить ИИ и к чему приведет его очеловечивание, обсудили на традиционном рождественском киносеминаре ЛЭСИ, посвященном фильму Спайка Джонза «Она».

Руководитель Лаборатории экономико-социологических исследований, первый проректор НИУ ВШЭ Вадим Радаев напомнил, что год назад на примере фильма «Апгрейд» (2018) обсуждалась тема постепенного превращения человека в робота, не только иносказательно, но и на физическом уровне — начиная от протезов и заканчивая чипированием. Теперь же пришло время поговорить про взаимоотношения человека и искусственного интеллекта. В частности, можно ли полюбить ИИ — не иносказательно, метафорически, а буквально, в романтическом смысле.

Идея романа с компьютерной системой возникла не сразу, отметил профессор. В течение долгого времени фантазии писателей и сценаристов были связаны с человекоподобными роботами, которые должны исполнять команды владельца. При этом их проектировали не как помощников, а как рабов.

Вадим Радаев

«Однако андроиды оказались тупиком, потому что физические упражнения им даются явно хуже, чем решение интеллектуальных задач. И мы двинулись от роботов к нейронным сетям, голограммам и так далее. То есть отказались от идеи телесности, от идеи физического контакта в пользу виртуальной коммуникации», — пояснил Вадим Радаев.

Сейчас человечество переживает взрыв интереса к ИИ. Алгоритм уже не только может обыграть лучшего шахматиста и игрока в го, но и победить инструктора Школы вооружения ВВС США в воздушном бою со счетом 5:0 (2020). GPT4 уже превзошел большинство людей в создании текстов и стихов, а от GPT5 ждут настоящего прорыва.

С начала 2022 года интерес к нейросетям вырос более чем в 15 раз. По частоте запросов в поисковике «Яндекса» «нейросеть» оказалась на уровне «фитнеса», «психолога» и «пива». В 2023 году аудитория сервисов по работе с ИИ выросла в 3,5 раза, а их мобильный трафик — втрое (исследование Yota).

При этом расширяется и сфера личного общения с ИИ. Чат-боты для общения с клиентами имеют уже порядка 75% маркетплейсов, 54% аптек, 35% ритейлеров, 23% банков и 15% страховых компаний.

Число голосовых помощников за год выросло в 3,5 раза. При этом личное общение с ними становится все более тесным. Например, Алиса от «Яндекса» возникла всего чуть более пяти лет назад, в октябре 2017 года, а сейчас ее ежедневная аудитория составляет уже 8 млн человек.

Задача разработчиков — сделать Алису максимально похожей на человека. Уже сейчас она умеет говорить шепотом, интонировать, различать голоса членов семьи и обращается к каждому по-своему.

«И вот уже первое лицо государства говорит со своим двойником — дипфейком. Мне очень понравился один из экспертных комментариев, что это просто студенческая поделка и можно было сделать намного лучше», — рассказал профессор.

Сейчас происходит качественная трансформация ИИ от помощника и раба к партнеру и другу. Разработчики стремятся создавать социальных роботов, которые взаимодействуют с человеком, имитируя коммуникации между людьми, оправдывая их ожидания от реального общения. Все чаще возникают дискуссии о необходимости четкой верификации, чтобы боты нигде не могли выдавать себя за людей.

«Мы предпочитаем общаться с роботами, когда ситуация максимально регламентирована, а если речь идет о личных отношениях, то это пока еще напрягает», — отметил профессор.

Однако и этот тренд быстро уходит. Например, в этом году тридцатилетний японец Акихико Кондо женился на виртуальной певице Хацунэ Мику.

Все это не так глупо, как кажется, считает Вадим Радаев. Ведь ИИ намного позитивнее человека и имеет массу реальных преимуществ: не критикует, разделяет интересы владельца, всегда доступен для общения, с ним можно поговорить обо всем, не боясь потерять лицо и быть отвергнутым. В отличие от него, реальные люди всегда в чем-то несовершенны. 

Есть также давний страх восстания машин, когда роботы перестанут подчиняться, начнут вредить людям и в конце концов бросят хозяина, когда он станет от них зависим.

И трагедии действительно случаются. Например, в этом году в Южной Корее на агропредприятии в провинции Кёнсан-Намдо робот убил человека, перепутав его с неодушевленным предметом. На испытаниях в США военный дрон решил, что командир-человек мешает ему выполнять приказы, и «убил» его (пока виртуально). Ученый-гидролог Александр Цветков был арестован по обвинению в четырех убийствах и провел 10 месяцев в СИЗО из-за ошибки искусственного интеллекта, определившего его схожесть с фотороботом на уровне 55%.

Для тех, у кого проблема с коммуникациями, для одиноких и пожилых людей такое устройство может стать спасением: это и психологическая поддержка, и постоянный медицинский присмотр за состоянием здоровья. Они удобны, точны, оперативны, не навязывают нам своих предпочтений и интересов. А главное — их можно в любой момент выключить.

В кинематографе уже есть примеры таких социальных роботов — партнеров, любовников и даже детей, — идеальных и не требующих внимания и заботы.

Конечно, такие отношения получаются упрощенными, но мало кому из людей нужны сложности. Реальные отношения хрупки с самого начала и до самого конца. Поэтому мы сами готовы упрощать отношения ради собственного удобства, и чем дальше, тем больше: перейти на дистанционное общение, отключать камеры в онлайне, переписываться вместо разговоров по телефону. Это эффективно и экономит кучу времени.

Но вместе с тем в обществе нарастает страх вытеснения, особенно в профессиональной сфере: по данным опроса ФОМ, 25% опрошенных уверены, что нейросети в будущем заменят людей в большинстве профессий.

Кадр из фильма «Звездные войны»

«Поэтому возникает вопрос о способности ИИ решать проблемы морального выбора. Искусственный интеллект не может справиться с этой задачей просто на основе накопления информации в любом объеме. И мы не способны его обучить — не только потому, что мы плохо понимаем процесс принятия решений, а потому, что зачастую мы и сами не можем разрешить моральные дилеммы. К тому же в разных культурах мы их интерпретируем по-разному», — отметил проректор.

По его мнению, опасность заключается в том, что большинство людей как раз вполне устроят простые решения моральных вопросов. Ведь машины отстранены от коррупции и конфликта интересов, и их решения вызывают доверие в силу отсутствия человечности — реального или мнимого.

По большому счету, мы сами не знаем, чего хотим — идеальный образец или прекрасное несовершенство, рабское подчинение или яркую индивидуальность. Герою фильма «Она» так и не удалось разрешить это противоречие, он находится в постоянном замешательстве.

«Я думаю, что такого рода отношения с устройством становятся идеальной ловушкой. Возникают затруднения с социализацией, теряется адекватное восприятие живых собеседников, развиваются психические расстройства — особенно то, что называется безэмоциональной моделью поведения, возникают зависимости», — убежден профессор.

Он напомнил, что в фильме система переросла такие отношения, завела себе 641 партнера, распределив между ними привязанности, а затем бросила героя. По мнению проректора, тем самым она совершила благое дело, потому что после этого к человеку пришло отрезвление и он понял, что завел этот роман из страха перед реальными отношениями.

«В целом настоящая беда, мне кажется, в том, что ИИ нас не кинет и отрезвление никогда не наступит. Конечно, мы сможем полюбить искусственный интеллект, еще как сможем. Но проблема в том, как избежать этого соблазна», — резюмировал Вадим Радаев.

Виталий Куренной

«Вопрос не в том, можем ли мы полюбить искусственный интеллект. На мой взгляд, это вообще не вопрос. Полюбить можно все что угодно. Вопрос в том, можем ли мы полюбить другого человека», — переставил акценты директор Института исследований культуры, профессор Школы философии и культурологии НИУ ВШЭ Виталий Куренной, выступивший дискуссантом и, по его собственному выражению, технооптимистом.

По его мнению, ключевая проблема этого фильма — проблема понимания. Он напомнил, что, пытаясь разобраться в своих взаимоотношениях с Самантой, герой фильма читает книгу под названием «Понимание — это познание познанного».

Чтобы разобраться в том, действительно ли алгоритм способен понимать, достаточно вспомнить так называемую китайскую комнату — мысленный эксперимент в области философии сознания и философии искусственного интеллекта, впервые опубликованный Джоном Сёрлом в 1980 году. Это некая изолированная комната, где находится человек, который не знает ни одного китайского иероглифа. Наблюдатель, знающий язык, через окошко передает ему иероглифы с вопросами, ожидая получить на выходе осознанный ответ.

При этом у человека в комнате есть точные инструкции, которые составлены таким образом, что после применения к иероглифам вопроса всех указанных действий они преобразуются в иероглифы ответа. То есть подобие компьютерного алгоритма.

При этом сам человек не понимает смысла вопросов и ответов, а лишь механически следует инструкции.

«Таким же образом устроена нейросеть: никто не знает точно, как получился результат. Казалось бы, система насквозь алгоритмизирована и систематизирована, но процесс мы уже не понимаем. Мы имеем дело с новым типом иррациональности. ИИ основан на простых вычислениях и постоянно возрастающих вычислительных мощностях. То есть к человеческому мышлению это не имеет вообще никакого отношения. Попытка вставить туда что-то человеческое и думать, что искусственный интеллект нас понимает, обречена на провал», — пояснил профессор.

По его мнению, в системе дополненной реальности нет ничего нового — это «просто утопия пифагорейства в торжествующе воплощенном виде», где темная материя заменяется цифрой, которая прозрачна и логична, делает мир намного более легким и приятным.

Фото: kinopoisk.ru

Трансформация же «любви» Саманты точно соответствует теории любви по Платону: сначала мы любим тело, в данном случае голос, а затем надо двигаться дальше, в более абстрактную сферу, и мы начинаем восхождение в мир, куда герою путь закрыт. Это мир цифры, мир науки, мир идей.

«С точки зрения философской традиции нет ничего более банального, чем то, что мы живем в дополненной реальности. Это настолько тривиальная мысль, что даже удивительно, что нас вообще могут волновать проблемы дополненной реальности», — поясняет Виталий Куренной.

Он отмечает, что о некоем другом мире, в котором живет человек, говорили очень многие философы: Платон (мы живем в виртуальном мире, дополненном числами и идеями), Кант (мы живем в виртуальном мире, дополненном формами восприятия и мышления познающего субъекта), Маркс (мы живем в мире, дополненном превращенными формами общественных отношений).

При этом у Маркса человек — это совокупность общественных отношений. Субъект может трактоваться как психический индивид, некая бессознательная сила, язык или социальная структура. Можно развить новую философскую теорию, основная идея которой состоит в том, что таким субъектом выступает сообщество программистов или искусственный интеллект, отмечает профессор. «Моя личность состоит из миллионов личностей написавших меня программистов», — говорит Саманта в фильме. Так что дополненной реальности бояться не стоит, резюмирует он, — приключения субъекта продолжаются. Вместе с тем любовь предполагает предельную форму индивидуализации, и в фильме разрушаются отношения, когда выясняется, что никакой исключительности нет.

Ключевая тема фильма — одиночество, подчеркивает Виталий Куренной. Но с точки зрения философии сознания у нас нет никаких оснований утверждать, что другие люди вообще существуют.

Доклады вызвали у слушателей живую дискуссию, в процессе которой родилось множество дополнительных вопросов. Например, существует ли вообще ИИ или мы разговариваем сами с собой? Заканчивается ли любовь тогда, когда один из партнеров оказывается выше и многозадачнее другого?

Вам также может быть интересно:

Сотрудники духовных учебных заведений повысили квалификацию в области ИИ

Завершился трехдневный курс повышения квалификации «Принципы, методы и этические аспекты использования искусственного интеллекта», организованный НИУ ВШЭ и Общецерковной аспирантурой и докторантурой имени святых равноапостольных Кирилла и Мефодия (ОЦАД) для представителей духовных учебных заведений. Итогом курса стала презентация слушателями идей проектов по применению искусственного интеллекта.

Студенты со всей России пройдут интенсив по компьютерным наукам от ВШЭ и «Яндекса»

С 1 по 13 апреля в Москве на базе факультета компьютерных наук НИУ ВШЭ пройдет бесплатный студкемп по машинному обучению, организованный в рамках программы «Яндекса» для студентов IT-специальностей. За две недели студенты изучат материал, на освоение которого в рамках традиционных программ уходит от пары месяцев до нескольких семестров. Они получат фундаментальные знания в области искусственного интеллекта, а также познакомятся с практиками применения нейросетей в сервисах «Яндекса».

Ученые Вышки вошли в Научный совет Альянса в сфере ИИ

Альянс в сфере искусственного интеллекта создал Научный совет, в который вошли ведущие представители российской науки в области искусственного интеллекта. Высшая школа экономики представлена в совете четырьмя учеными.

«Терминатор не придет»: каким будет образование будущего в эпоху ИИ

Как применение искусственного интеллекта повлияет на образование, какие этические вопросы есть сейчас и готово ли человечество к тому, чтобы людей учили роботы, — об этом и многом другом говорили участники дискуссии «DebAIte: Революция ИИ в образовании», состоявшейся на фестивале «НОЧЬ Студента».

Звери, зарплаты и data leak: как разрабатываются задания для олимпиады школьников по ИИ

В этом году участники Всероссийской олимпиады школьников по искусственному интеллекту впервые смогут зачесть ее результаты при поступлении в вузы. Елена Кантонистова, председатель методической комиссии олимпиады и академический руководитель онлайн-магистратуры факультета компьютерных наук «Машинное обучение и высоконагруженные системы», рассказала новостной службе «Вышка.Главное» о том, как ученые ВШЭ составляли задания для соревнований 2023 года, откуда взялась задача об уссурийских тиграх и почему школьникам полезно осваивать ИИ.

Каким будет 2024 год: прогноз дает iFORA

Журналисты РБК решили спросить у отечественных систем искусственного интеллекта, каким будет 2024 год. Участниками проекта стали четыре ведущие российские компании и Высшая школа экономики. На вопросы отвечала разработанная ИСИЭЗ НИУ ВШЭ система интеллектуального анализа больших текстовых данных iFORA.

Сбер и центры ИИ расширяют партнерство для разработки передовых решений

Сбер провел R&D-день (Research and Development) по результатам сотрудничества с исследовательскими центрами в сфере искусственного интеллекта. Ученые из центров ИИ НИУ ВШЭ, Сколтеха, МФТИ и ИТМО представили исследования, полезные для развития экосистемы банка. На постерной сессии участники обсудили новые направления сотрудничества.

Высшая школа бизнеса НИУ ВШЭ провела хакатон GSB VK AI Hack

Хакатон по решению задач на основе искусственного интеллекта прошел на площадке ВШБ при поддержке Центра искусственного интеллекта НИУ ВШЭ и VK Education. В соревнованиях приняли участие студенты 18 российских университетов.

Онлайн-кампус НИУ ВШЭ запускает портал, посвященный искусственному интеллекту

Портал объединяет все проекты «Вышки Онлайн» в области искусственного интеллекта — от подкастов и видеолекций до курсов и программ, которые могут не только стать первым знакомством с современными достижениями в области ИИ, но и погружать в AI-профессию уже искушенных слушателей. Проект обучает навыкам будущего в настоящем: работе с нейросетью, взаимодействию с генеративным ИИ, промпт-инжинирингу, управлению ML/AI-проектами и другим значимым в индустрии компетенциям.

НИУ ВШЭ получил самый высокий грант программы «Приоритет-2030»

Высшая школа экономики подтвердила свои ведущие позиции в первой группе направления «Исследовательское лидерство» программы «Приоритет-2030». Кроме этого, университет получил самый высокий грант для обучения студентов цифровым компетенциям, продемонстрировав лидерство в образовании в области цифровых технологий и искусственного интеллекта.