Идеальная ловушка: как трансформируются отношения человека и ИИ
Искусственный интеллект все больше входит в нашу жизнь, становясь ее неотъемлемой частью. Мы так быстро привыкли пользоваться его помощью и услугами, что совершенно теряемся, когда пропадает интернет. Но сможет ли человек полюбить ИИ и к чему приведет его очеловечивание, обсудили на традиционном рождественском киносеминаре ЛЭСИ, посвященном фильму Спайка Джонза «Она».
Руководитель Лаборатории экономико-социологических исследований, первый проректор НИУ ВШЭ Вадим Радаев напомнил, что год назад на примере фильма «Апгрейд» (2018) обсуждалась тема постепенного превращения человека в робота, не только иносказательно, но и на физическом уровне — начиная от протезов и заканчивая чипированием. Теперь же пришло время поговорить про взаимоотношения человека и искусственного интеллекта. В частности, можно ли полюбить ИИ — не иносказательно, метафорически, а буквально, в романтическом смысле.
Идея романа с компьютерной системой возникла не сразу, отметил профессор. В течение долгого времени фантазии писателей и сценаристов были связаны с человекоподобными роботами, которые должны исполнять команды владельца. При этом их проектировали не как помощников, а как рабов.
Вадим Радаев
«Однако андроиды оказались тупиком, потому что физические упражнения им даются явно хуже, чем решение интеллектуальных задач. И мы двинулись от роботов к нейронным сетям, голограммам и так далее. То есть отказались от идеи телесности, от идеи физического контакта в пользу виртуальной коммуникации», — пояснил Вадим Радаев.
Сейчас человечество переживает взрыв интереса к ИИ. Алгоритм уже не только может обыграть лучшего шахматиста и игрока в го, но и победить инструктора Школы вооружения ВВС США в воздушном бою со счетом 5:0 (2020). GPT4 уже превзошел большинство людей в создании текстов и стихов, а от GPT5 ждут настоящего прорыва.
С начала 2022 года интерес к нейросетям вырос более чем в 15 раз. По частоте запросов в поисковике «Яндекса» «нейросеть» оказалась на уровне «фитнеса», «психолога» и «пива». В 2023 году аудитория сервисов по работе с ИИ выросла в 3,5 раза, а их мобильный трафик — втрое (исследование Yota).
При этом расширяется и сфера личного общения с ИИ. Чат-боты для общения с клиентами имеют уже порядка 75% маркетплейсов, 54% аптек, 35% ритейлеров, 23% банков и 15% страховых компаний.
Число голосовых помощников за год выросло в 3,5 раза. При этом личное общение с ними становится все более тесным. Например, Алиса от «Яндекса» возникла всего чуть более пяти лет назад, в октябре 2017 года, а сейчас ее ежедневная аудитория составляет уже 8 млн человек.
Задача разработчиков — сделать Алису максимально похожей на человека. Уже сейчас она умеет говорить шепотом, интонировать, различать голоса членов семьи и обращается к каждому по-своему.
«И вот уже первое лицо государства говорит со своим двойником — дипфейком. Мне очень понравился один из экспертных комментариев, что это просто студенческая поделка и можно было сделать намного лучше», — рассказал профессор.
Сейчас происходит качественная трансформация ИИ от помощника и раба к партнеру и другу. Разработчики стремятся создавать социальных роботов, которые взаимодействуют с человеком, имитируя коммуникации между людьми, оправдывая их ожидания от реального общения. Все чаще возникают дискуссии о необходимости четкой верификации, чтобы боты нигде не могли выдавать себя за людей.
«Мы предпочитаем общаться с роботами, когда ситуация максимально регламентирована, а если речь идет о личных отношениях, то это пока еще напрягает», — отметил профессор.
Однако и этот тренд быстро уходит. Например, в этом году тридцатилетний японец Акихико Кондо женился на виртуальной певице Хацунэ Мику.
Все это не так глупо, как кажется, считает Вадим Радаев. Ведь ИИ намного позитивнее человека и имеет массу реальных преимуществ: не критикует, разделяет интересы владельца, всегда доступен для общения, с ним можно поговорить обо всем, не боясь потерять лицо и быть отвергнутым. В отличие от него, реальные люди всегда в чем-то несовершенны.
Есть также давний страх восстания машин, когда роботы перестанут подчиняться, начнут вредить людям и в конце концов бросят хозяина, когда он станет от них зависим.
И трагедии действительно случаются. Например, в этом году в Южной Корее на агропредприятии в провинции Кёнсан-Намдо робот убил человека, перепутав его с неодушевленным предметом. На испытаниях в США военный дрон решил, что командир-человек мешает ему выполнять приказы, и «убил» его (пока виртуально). Ученый-гидролог Александр Цветков был арестован по обвинению в четырех убийствах и провел 10 месяцев в СИЗО из-за ошибки искусственного интеллекта, определившего его схожесть с фотороботом на уровне 55%.
Для тех, у кого проблема с коммуникациями, для одиноких и пожилых людей такое устройство может стать спасением: это и психологическая поддержка, и постоянный медицинский присмотр за состоянием здоровья. Они удобны, точны, оперативны, не навязывают нам своих предпочтений и интересов. А главное — их можно в любой момент выключить.
В кинематографе уже есть примеры таких социальных роботов — партнеров, любовников и даже детей, — идеальных и не требующих внимания и заботы.
Конечно, такие отношения получаются упрощенными, но мало кому из людей нужны сложности. Реальные отношения хрупки с самого начала и до самого конца. Поэтому мы сами готовы упрощать отношения ради собственного удобства, и чем дальше, тем больше: перейти на дистанционное общение, отключать камеры в онлайне, переписываться вместо разговоров по телефону. Это эффективно и экономит кучу времени.
Но вместе с тем в обществе нарастает страх вытеснения, особенно в профессиональной сфере: по данным опроса ФОМ, 25% опрошенных уверены, что нейросети в будущем заменят людей в большинстве профессий.
«Поэтому возникает вопрос о способности ИИ решать проблемы морального выбора. Искусственный интеллект не может справиться с этой задачей просто на основе накопления информации в любом объеме. И мы не способны его обучить — не только потому, что мы плохо понимаем процесс принятия решений, а потому, что зачастую мы и сами не можем разрешить моральные дилеммы. К тому же в разных культурах мы их интерпретируем по-разному», — отметил проректор.
По его мнению, опасность заключается в том, что большинство людей как раз вполне устроят простые решения моральных вопросов. Ведь машины отстранены от коррупции и конфликта интересов, и их решения вызывают доверие в силу отсутствия человечности — реального или мнимого.
По большому счету, мы сами не знаем, чего хотим — идеальный образец или прекрасное несовершенство, рабское подчинение или яркую индивидуальность. Герою фильма «Она» так и не удалось разрешить это противоречие, он находится в постоянном замешательстве.
«Я думаю, что такого рода отношения с устройством становятся идеальной ловушкой. Возникают затруднения с социализацией, теряется адекватное восприятие живых собеседников, развиваются психические расстройства — особенно то, что называется безэмоциональной моделью поведения, возникают зависимости», — убежден профессор.
Он напомнил, что в фильме система переросла такие отношения, завела себе 641 партнера, распределив между ними привязанности, а затем бросила героя. По мнению проректора, тем самым она совершила благое дело, потому что после этого к человеку пришло отрезвление и он понял, что завел этот роман из страха перед реальными отношениями.
«В целом настоящая беда, мне кажется, в том, что ИИ нас не кинет и отрезвление никогда не наступит. Конечно, мы сможем полюбить искусственный интеллект, еще как сможем. Но проблема в том, как избежать этого соблазна», — резюмировал Вадим Радаев.
Виталий Куренной
«Вопрос не в том, можем ли мы полюбить искусственный интеллект. На мой взгляд, это вообще не вопрос. Полюбить можно все что угодно. Вопрос в том, можем ли мы полюбить другого человека», — переставил акценты директор Института исследований культуры, профессор Школы философии и культурологии НИУ ВШЭ Виталий Куренной, выступивший дискуссантом и, по его собственному выражению, технооптимистом.
По его мнению, ключевая проблема этого фильма — проблема понимания. Он напомнил, что, пытаясь разобраться в своих взаимоотношениях с Самантой, герой фильма читает книгу под названием «Понимание — это познание познанного».
Чтобы разобраться в том, действительно ли алгоритм способен понимать, достаточно вспомнить так называемую китайскую комнату — мысленный эксперимент в области философии сознания и философии искусственного интеллекта, впервые опубликованный Джоном Сёрлом в 1980 году. Это некая изолированная комната, где находится человек, который не знает ни одного китайского иероглифа. Наблюдатель, знающий язык, через окошко передает ему иероглифы с вопросами, ожидая получить на выходе осознанный ответ.
При этом у человека в комнате есть точные инструкции, которые составлены таким образом, что после применения к иероглифам вопроса всех указанных действий они преобразуются в иероглифы ответа. То есть подобие компьютерного алгоритма.
При этом сам человек не понимает смысла вопросов и ответов, а лишь механически следует инструкции.
«Таким же образом устроена нейросеть: никто не знает точно, как получился результат. Казалось бы, система насквозь алгоритмизирована и систематизирована, но процесс мы уже не понимаем. Мы имеем дело с новым типом иррациональности. ИИ основан на простых вычислениях и постоянно возрастающих вычислительных мощностях. То есть к человеческому мышлению это не имеет вообще никакого отношения. Попытка вставить туда что-то человеческое и думать, что искусственный интеллект нас понимает, обречена на провал», — пояснил профессор.
По его мнению, в системе дополненной реальности нет ничего нового — это «просто утопия пифагорейства в торжествующе воплощенном виде», где темная материя заменяется цифрой, которая прозрачна и логична, делает мир намного более легким и приятным.
Трансформация же «любви» Саманты точно соответствует теории любви по Платону: сначала мы любим тело, в данном случае голос, а затем надо двигаться дальше, в более абстрактную сферу, и мы начинаем восхождение в мир, куда герою путь закрыт. Это мир цифры, мир науки, мир идей.
«С точки зрения философской традиции нет ничего более банального, чем то, что мы живем в дополненной реальности. Это настолько тривиальная мысль, что даже удивительно, что нас вообще могут волновать проблемы дополненной реальности», — поясняет Виталий Куренной.
Он отмечает, что о некоем другом мире, в котором живет человек, говорили очень многие философы: Платон (мы живем в виртуальном мире, дополненном числами и идеями), Кант (мы живем в виртуальном мире, дополненном формами восприятия и мышления познающего субъекта), Маркс (мы живем в мире, дополненном превращенными формами общественных отношений).
При этом у Маркса человек — это совокупность общественных отношений. Субъект может трактоваться как психический индивид, некая бессознательная сила, язык или социальная структура. Можно развить новую философскую теорию, основная идея которой состоит в том, что таким субъектом выступает сообщество программистов или искусственный интеллект, отмечает профессор. «Моя личность состоит из миллионов личностей написавших меня программистов», — говорит Саманта в фильме. Так что дополненной реальности бояться не стоит, резюмирует он, — приключения субъекта продолжаются. Вместе с тем любовь предполагает предельную форму индивидуализации, и в фильме разрушаются отношения, когда выясняется, что никакой исключительности нет.
Ключевая тема фильма — одиночество, подчеркивает Виталий Куренной. Но с точки зрения философии сознания у нас нет никаких оснований утверждать, что другие люди вообще существуют.
Доклады вызвали у слушателей живую дискуссию, в процессе которой родилось множество дополнительных вопросов. Например, существует ли вообще ИИ или мы разговариваем сами с собой? Заканчивается ли любовь тогда, когда один из партнеров оказывается выше и многозадачнее другого?
Вам также может быть интересно:
Быть, а не казаться: как вырастить из ИИ профессионала
Пока ученые спорят о пользе и вреде искусственного интеллекта, молодежь активно осваивает и интегрирует нейросети в свою жизнь, приспосабливая нашу реальность к новым условиям. О том, как дообучить LLM, чтобы они смогли служить полноценными ассистентами в профессиональной среде, обсудили в Вышке на воркшопе «Большие языковые модели в науке и в жизни».
«Нам нужно учиться общаться с сервисами искусственного интеллекта»
На платформе «Открытое образование» стартовал онлайн-курс «Что такое генеративный ИИ?», который поможет слушателям узнать больше о том, как правильно общаться с нейросетями, чтобы они лучше выполняли задачи. Как работает генеративный ИИ и как с его помощью создавать любой контент, рассказала эксперт Центра непрерывного образования, старший преподаватель департамента больших данных и информационного поиска ФКН Дарья Касьяненко.
«Специалист по Data Science» ВШЭ — первая программа переподготовки с аккредитацией Альянса в сфере ИИ
Согласно итогам экспертизы, программа Высшей школы экономики охватывает современные области анализа данных и машинного обучения и помогает нетехническим специалистам приобрести базовые знания в области больших данных и искусственного интеллекта. Это уже шестая образовательная программа факультета компьютерных наук НИУ ВШЭ, получившая престижную профессионально-общественную аккредитацию.
В Вышке стартует конкурс компетенций в области ИИ и машинного обучения
Дирекция программы развития НИУ ВШЭ объявляет о проведении конкурса компетенций в интересах развития исследований в области искусственного интеллекта и машинного обучения. Заявки принимаются до 2 мая 2024 года.
Что мы знаем о мозге и его возможностях: рассказывают исследователи ВШЭ
Правда ли, что мозг — самый неизученный орган? Как нейротехнологии помогают в лечении сложных заболеваний? Может ли искусственный интеллект соревноваться с естественным? И куда пойти учиться, чтобы стать нейроученым? Эти и другие темы в новом выпуске рубрики «Разговор с экспертом» обсудили ученые из Высшей школы экономики — Ольга Драгой, Андрей Мячиков и Алексей Осадчий.
НИУ ВШЭ планирует до конца года обучить преподавателей работе с ИИ
Высшая школа экономики представила новый комплексный проект по повышению квалификации профессорско-преподавательского состава НИУ ВШЭ в области использования искусственного интеллекта. Входящий в него пакет программ направлен на обеспечение высокого уровня компетенций в области использования ИИ в образовании и исследованиях. Курсы бесплатны и предназначены для штатных преподавателей, а в дальнейшем — научных сотрудников и аспирантов московского кампуса НИУ ВШЭ.
«Нейросети показывают, какие качества действительно делают людей уникальными»
Онлайн-кампус НИУ ВШЭ запустил курс «Прикладные нейросети» на портале «Открытое образование». Теперь разобраться в том, как применять возможности искусственного интеллекта на практике, может любой желающий.
В Вышке наградят студентов, которые напишут диплом с помощью ИИ
Высшая школа экономики запустила конкурс решений, применяющих технологии искусственного интеллекта, при подготовке дипломов. Задача конкурса — оценить использование студентами инструментов на основе генеративных моделей в выпускных квалификационных работах (ВКР), защищаемых в 2024 году.
Определены победители финала НТО по профилю «Искусственный интеллект»
Названы победители и призеры Национальной технологической олимпиады (НТО) по профилю «Искусственный интеллект», который уже второй год оказывается самым популярным по количеству регистраций из 41 направления НТО. В этом сезоне участниками соревнований стали более 6300 человек из 84 регионов России, а также Казахстана, Молдовы и Узбекистана. В финал вышли 104 школьника из 28 регионов России. Среди субъектов РФ по числу финалистов лидируют Москва (26 человек), Санкт-Петербург (16 человек) и Новосибирская область (13 человек).
Производство будущего: Центр ИИ ВШЭ представил разработки в области контроля ручных операций
Исследователи Центра ИИ НИУ ВШЭ выстроили систему автоматизированного контроля ручных операций, которая находит применение в промышленном производстве. Система облегчает процессы наблюдения за объектами и действиями, а также позволяет контролировать качество их исполнения.