«Технологии скорби»: никогда не прощаться с теми, кого мы любим
Смерть и утраты — неотъемлемая часть нашей жизни, мы страдаем от потерь с момента рождения. Но мы живем в мире, где существуют технологии, помогающие справляться с гореванием, примириться с утратой. Это, например, фотографии умерших, видеозаписи с их участием, которые мы храним, пересматриваем, и таким образом поддерживаем с ними связь. Следующим шагом стали гриф-боты — чат-боты, созданные с использованием искусственного интеллекта для имитации общения с умершим человеком. Насколько этичен такой способ проживания горя? Какие психологические риски он несет в себе? Над ответами на эти вопросы размышляет британский психоаналитик Алессандра Лемма в своей статье «Горе, меланхолия и машины: прикладное психоаналитическое исследование горевания в эпоху гриф-ботов». Она опубликована в одном из недавних номеров «Журнала клинического и прикладного психоанализа». Основные тезисы этого исследования читайте в нашем материале.
«Я скоро вернусь»
«Лучший способ успеть сесть на технологический поезд — это не гнаться за ним, а ждать на следующей станции», — говорит итальянский философ Лучано Флориди.
Свою статью о проблемах, связанных с гриф-ботами, Алессандра Лемма называет «попыткой приблизить нас к “следующей станции”». Она подчеркивает: исследование не ставит целью показать, что эти разработки являются «плохими», «жуткими» и потому к ним следует относиться настороженно.
«Это не продвинет наше мышление и не защитит пользователей этих технологий. Технологии могут быть и освободительными, — пишет психоаналитик. — Психоанализ как модель мышления предоставляет бесценную перспективу, помогающую нам задуматься о том, как мы можем использовать потенциал технологий, и когда мы должны обратить внимание на психологические и этические риски, которые они представляют. Это важно не только потому, что наши пациенты всё чаще будут приносить технологически опосредованный опыт горевания в кабинет, но и потому, что, как я предполагаю, эти разработки могут фундаментально повлиять на психическую работу горя. И, следовательно, иметь последствия, выходящие за рамки отдельного пациента и влияющие на общество в целом».
Свои выводы автор делает, опираясь на психоаналитическое прочтение эпизода телесериала «Черное зеркало» «Я скоро вернусь» (Be Right Back — BRB). Главные герои эпизода — Марта и Эш. Они влюблены друг в друга, у них большие планы на совместную жизнь, которые перечеркивает внезапная смерть Эша. На похоронах одна из подруг Марты, которая незадолго до этого тоже пережила потерю любимого человека, рассказывает, что найти утешение ей помог специальный сервис. На основе фотографий, видео, электронных писем умершего человека он создает его точную цифровую копию, с которой можно полноценно общаться. Подруга предлагает Марте создать Эш-бота.
Та сначала отвергает предложение, называя его непристойным и отвратительным. Но затем обнаруживает, что подруга всё-таки зарегистрировала ее в этой системе. Марта начинает переписываться с Эш-ботом и вскоре привязывается к нему. Через какое-то время девушка понимает, что хочет не только переписываться с Эш-ботом, но и слышать его, разговаривать с ним. Современные технологии позволяют это. Марта всё больше времени проводит с Эш-ботом, внешний мир и близкие люди уходят на второй план.
Но Марта снова жаждет большего: она заказывает версию Эш-бота, которая выглядит идеальной копией умершего возлюбленного. Но затем девушка осознает, что это, конечно, не Эш, а всего лишь его эхо. Эш-бот предсказуем, у него нет никаких личных желаний — для героини это невыносимо. Одна из самых болезненных сцен эпизода: Марта бьет Эш-бота, отчаянно надеясь на настоящую эмоциональную реакцию с его стороны, а не машинную, алгоритмически запрограммированную. «В тебе его мало! — рыдает она. — В тебе лишь малая толика его!».
Жизнь после смерти — после физической смерти
«Когда BRB впервые показали на экране, существование Эш-бота казалось далеким от реальности, — пишет Алессандра Лемма. — 10 лет спустя гриф-боты уже продаются, хотя (пока) и не в такой форме, как в сериале. Они могут изменить нашу работу памяти. Когда мы пересматриваем видео, фотографии, электронные письма наших потерянных близких, мы обычно сталкиваемся с пассивными репрезентациями прошлых отношений, в которых нет никаких признаков активной реакции. Нам всё равно надо проделывать психическую работу по запоминанию и образному представлению. В отличие от этого, гриф-боты способны отвечать на вопросы, комментировать текущие события, шутить, давать советы, при этом повторяя уникальные голосовые и языковые особенности человека, которому они подражают. Они могут адекватно реагировать на эмоции пользователей, постоянно развиваться и извлекать уроки не только из поступающих в них данных, но и из предыдущих взаимодействий. Другими словами, они не просто пассивные инструменты для запоминания — они создают возможности для нового повествования в настоящем с использованием копии образа того, кто умер».
В 2020 году Джастин Харрисон, основатель и генеральный директор компании You, Only Virtual («Ты, только виртуальный»), создал гриф-бот, который, по его словам, «позволяет никогда не прощаться с теми, кого мы любим» и помогает продолжать «делиться драгоценными моментами с любимым человеком даже после физической смерти».
«Обратите внимание на выбор слов: “позволяет нам никогда не прощаться”, “воссоздавать уникальную динамику отношений”, “создать подлинную сущность”, — отмечает автор исследования. — Сама смерть теперь также требует уточнения: нам напоминают, что мы говорим о периоде “после физической смерти”, указывая на то, что смерть больше не обязательно должна быть окончательной».
Почему, по мнению Алессандры Леммы, «цифровое увековечивание умерших посредством сборки их цифровых останков» вызывает подозрение? Прежде всего потому, что потенциально попытки справиться с болезненной тоской по другому человеку или вообще обойти ее могут привести к ослаблению связей, которые соединяют нас с умершими, считает психоаналитик.
Она обращается к концепции французского философа Жака Дерриды, который считает горевание нескончаемым процессом, призывающем нас сохранять в себе инаковость утраченного объекта. Философ предполагает: мы такие, какие мы есть, благодаря памяти о тех, кого любили и храним в себе. Обыгрывая одну из фраз Лиотара о страхе «того, что хуже смерти», Деррида предполагает, что «хуже смерти» — это как раз возможность успешно справиться с задачей горевания, то есть забыть умерших раз и навсегда. Любое предположение о том, что мы когда-либо сможем достичь точки, в которой это должно быть успешно достигнуто, — неэтично, считает философ. Он называет это «актом измены».
«В BRB мы наблюдаем, как Марта использует Эш-бота для поддержания нарушающего временное пространство лимба, получая доступ к Эш-боту одним нажатием кнопки. Здесь царит принцип удовольствия, — размышляет психоаналитик. — Гриф-бот создает потенциальные условия для ухода во вневременное психическое пространство, которое погружает скорбящего во всемогущее нарциссическое состояние. Это делает пользователя потенциальным заложником иллюзии постоянства, лишая умершего его уникальности — как “того, кто ушел” и кто никогда не был и никогда не будет под его контролем — ни живым, ни мертвым. В этом отношении гриф-бот может препятствовать или искажать течение горевания, независимо от того, воспринимаем ли мы его как эпизодический процесс или как вызов на всю жизнь».
Но проблема не только и не столько в том, что гриф-боты могут нарушать темп горевания и способствовать погружению во вневременной лимб; или в том, что они способны поддерживать постоянную нереальную связь с умершим, которая может повлиять на текущие отношения. Еще больший риск заключается в том, что гриф-боты создают у скорбящего ложное ощущение взаимодействия с умершим человеком (на самом деле, одностороннее), которое существует исключительно для удовлетворения потребностей пользователя — для заполнения пустоты и отсутствия, которые оставляет после себя смерть.
«В этом отношении гриф-бот не отличается от “порнографического объекта”, — убеждена автор статьи. — Марта безмерно скучает по Эшу, и появление Эш-бота значительно облегчает ей жизнь, он заполняет пустоту, которую Эш оставил после себя. Один из самых поразительных аспектов BRB заключается в том, что бот показывает, что всё это делается для удовлетворения потребностей Марты. Эш — тот, кто умер — не имеет отношения к делу. В конечном счете, Марту больше волнует то “я”, которое пережило смерть другого (Эша), а не “мы” — “он во мне”, которым так озабочен Деррида».
Невозможно игнорировать и тот факт, что присвоение умерших путем личного использования их цифровых данных (на что они, возможно, даже не давали согласия) может в конечном итоге повлиять не только на наше переживание утраты, но и на то, как мы относимся к другим людям и понимаем свою ответственность перед ними. Другими словами, этический риск гриф-бота заключается в том, что он, шифруя уникальность другого человека, уменьшает его неповторимость, поощряет взгляд на других как на полезные вещи, ценность которых измеряется отдачей, которую мы получаем от этих отношений, а не их внутренней ценностью как личности.
Заманить в ловушку
Еще одна существенная проблема, на которую обращает внимание Алессандра Лемма, — это обман. Слово происходит от латинского decipere, что означает «заманивать в ловушку, вводить в заблуждение или жульничать».
«Обман — это своего рода кража. Он предупреждает нас о том, что у нас что-то отнимают. Как психоаналитики мы должны вносить свой вклад в разъяснение того, что дают и что отнимают у нас новые технологии, — поясняет психоаналитик. — В этических дебатах о роботах чаще всего предполагается, что обман возможен только в том случае, если дизайн робота активно вводит людей в заблуждение, заставляя их верить, что это настоящий человек или животное. Это очень ограниченный взгляд на обман. Я предполагаю, если человек верит, что у социального робота есть эмоции и он заботится о нем, то его обманывают, даже если разработчики специально этого не предусматривали».
Сами усилия по созданию гриф-ботов, которые якобы обладают эмоциями, способны понимать нас и заботиться о нас, могут ввести в заблуждение особо уязвимых людей, заставив их поверить, что робот может быть чем-то, с чем они могли бы сформировать отношения.
«В BRB мы можем наблюдать мощное воздействие юмора Эш-бота на Марту: он вызывает у нее сильный эмоциональный отклик. Такой глубокий резонанс с общей историей может привести к завышенной оценке способности гриф-бота понимать, что чувствует пользователь, — продолжает автор статьи. — В таком случае тот может пренебречь отношениями с другими людьми, сосредоточив свои потребности в привязанности на гриф-боте, как это делает Марта, когда перестает отвечать на телефонные звонки сестры, поскольку они разрушают нарциссический кокон, заселенный Эш-ботом»
Помочь пережить утрату
Несмотря на риски использования гриф-бота, о которых психоаналитик пишет в статье, автор предполагает, что новые технологии могут внести и благотворный вклад в сохранение памяти об умершем человеке.
«Можем ли мы предположить, например, что гриф-бот мог бы предоставить ребенку возможность получить (частичное) представление о том, как дедушка с бабушкой взаимодействовали бы с миром, если они умерли до того, как ребенок смог встретиться с ними или вспомнить их? — размышляет Алессандра Лемма. — В этом гипотетическом контексте функция гриф-бота могла бы заключаться в том, чтобы помогать узнавать о другом посредством имитируемого взаимодействия. Это может оказаться современной версией поминовения усопших, передающей в цифровом виде отчетливые следы их поведения в мире, которые передают важные послания из поколения в поколение и позволяют нам пережить утрату».
Задумывается аналитик и о возможном использовании гриф-бота в качестве контролируемого дополнения к аналитическому процессу с некоторыми пациентами:
«Эта мысль пришла мне в голову, когда я размышляла о затруднительном положении двух пациентов, переживших раннюю травматическую потерю родителя в возрасте до трех лет, лишившую их любых автобиографических воспоминаний об умершем родителе и связи с ним. Для этих пациентов смерть родителя, которого они совсем не помнят, остается проблемой и усугубляет трудности в переживании потери. Они глубоко ее переживают, но для них она остается чем-то абстрактным. Их собственный опыт взаимодействия с родителями находится за пределами памяти и усиливает внутреннее переживание депривации — они не только потеряли своих родных, но и чувствуют себя еще более обделенными из-за отсутствия воспоминаний о личных отношениях с ними».
Одна из пациенток Алессандры Леммы рассказала о своем страстном желании поговорить с покойной матерью, услышать ее голос.
«Может ли гриф-бот, имитируя взаимодействие, создать некую основу, которая помогла бы пациентке попытаться представить мать в своем воображении более эмоционально мгновенным образом, чем просто при просмотре неподвижных фотографий или слушании рассказов о ней в чужом изложении?» — пишет психоаналитик.
Она признает, что ответов на эти вопросы сейчас нет, поскольку нет клинических доказательств. Но предполагает, что взаимодействие с гриф-ботом, подобно тому, как просмотр фотографии вызывает эмоционально насыщенные ассоциации, может открыть доступ к доселе недоступным довербальным следам сенсорной памяти, облегчить пациенту переживание потери и стать одним из кирпичиков в работе по восстановлению психики.
___________________________
Полностью статью Алессандры Леммы вы можете почитать в нашем «Журнале клинического и прикладного психоанализа».