ВЗАИМНАЯ ОТКРЫТОСТЬ КАК УСЛОВИЕ МИНИМИЗАЦИИ УГРОЗ (выступление на конференции «Нравственная ответственность ученого», ИМЭМО РАН, 25.02.2021)

М.А. Федотов,

Чрезвычайный и Полномочный посол,

профессор Высшей школы экономики,

Москва

ВЗАИМНАЯ ОТКРЫТОСТЬ 

КАК УСЛОВИЕ МИНИМИЗАЦИИ УГРОЗ

(выступление на конференции 

«Нравственная ответственность ученого»)

Данная конференция была изначально задумана в рамках Оргкомитета по организации юбилея академика Сахарова как широкая дискуссия под эгидой и на базе ЮНЕСКО. Почему мы сделали выбор в пользу ЮНЕСКО? В первую очередь потому, что интеллектуалы конца сороковых годов прошлого века, создававшие Устав ЮНЕСКО, заложили в него уникальную и возвышенную миссию организации – содействовать достижению интеллектуальной и нравственной солидарности человечества. Соединение интеллектуальной солидарности с нравственной солидарностью – это и есть решение проблемы ответственности ученых. Решение, которое по-прежнему остается скорее целью, чем результатом.

К сожалению, пандемия коронавируса и связанные с ней ограничения не позволили организовать нашу конференцию на базе ЮНЕСКО. Но это не помешало собрать за виртуальным столом блистательную команду интеллектуалов мирового уровня, за что большая благодарность организаторам.  

Начну с двух неоспоримых истин: во-первых, Сахаров был великим ученым-физиком, во-вторых, его волновала тема нравственной ответственности человека за судьбу человечества. Причем, его, как ученого, прежде всего, волновала проблема нравственной ответственности ученого.

В своей знаменитой Нобелевской лекции он объяснял, как можно минимизировать те опасности, которые неизбежно порождаются ускоряющимся научно-техническим прогрессом. «Любые попытки замедлить темп научно-технического прогресса, - писал он, - повернуть вспять урбанизацию, призывы к изоляционизму, патриархальности, к возрождению на основе обращения к здоровым национальным традициям прошлых столетий — нереалистичны. Прогресс неизбежен, его прекращение означало бы гибель цивилизации. …Нельзя отказаться от все более широкого применения достижений медицины и от расширения исследований во всех ее отраслях, в том числе и в таких, как бактериология и вирусология, нейрофизиология, генетика человека и генохирургия, несмотря на потенциальные опасности злоупотребления и нежелательных социальных последствий некоторых из этих исследований. То же относится к исследованиям в области создания систем имитации интеллекта, к исследованиям в области управления массовым поведением людей, к созданию единых общемировых систем связи, систем сбора и хранения информации и т.п.» 

Таким образом, Андрей Дмитриевич констатирует: прогресс необходим, но он несет потенциальные угрозы. Как минимизировать опасность этих угроз? Сахаров отвечает: «Совершенно очевидно, что в руках безответственных бюрократических, действующих под покровом секретности учреждений все эти исследования могут оказаться необыкновенно опасными, но в то же время они могут стать крайне важными и необходимыми для человечества, если их осуществлять под контролем гласности, обсуждения, научного социального анализа». 

Отсюда следует несколько важных выводов. Во-первых, опасность злоупотребления научными достижениями усиливается в условиях закрытости, изоляции и, напротив, уменьшается в условиях открытости и гласности. Причем, эти гласность и открытость должны быть взаимными, в условиях биполярного мира – двусторонними, а в современных условиях – универсальными: они должны стать общими правилами жизни всех цивилизованных народов. 

Пока же мы видим движение в прямо противоположном направлении – усиление взаимной закрытости и самоизоляции, которая хороша для борьбы с пандемией коронавируса, но крайне вредна для минимизации объективных вызовов, порождаемых развитием технологий. 

Во-вторых, академик Сахаров рассматривал научный анализ и открытое обсуждение возникающих угроз в качестве средства их минимизации. Но такой анализ и такое обсуждение, в свою очередь, требуют опять-таки взаимной открытости, через которую только и может возникнуть взаимное доверие и готовность к совместным действиям. Напротив, взаимная подозрительность не создает почвы для открытого и плодотворного обсуждения, а следовательно, затрудняет поиск эффективных ответов на вызовы новых технологий.  

Академик Сахаров точно определил те области научного знания и технологий, развитие которых несет наиболее серьезные угрозы человечеству. Он предвосхитил появление интернета, назвав его «всемирной информационной системой (ВИС)», которая, писал он, «сделает доступным для каждого в любую минуту содержание любой книги, когда-либо и где-либо опубликованной, содержание любой статьи, получение любой справки. ВИС должна включать индивидуальные миниатюрные запросные приемники-передатчики, диспетчерские пункты, управляющие потоками информации, каналы связи, включающие тысячи искусственных спутников связи, кабельные и лазерные линии. Даже частичное осуществление ВИС окажет глубокое воздействие на жизнь каждого человека, на его досуг, на его интеллектуальное и художественное развитие. В отличие от телевизора, который является главным источником информации многих из наших современников, ВИС будет предоставлять каждому максимальную свободу в выборе информации и требовать индивидуальной активности». 

Андрей Дмитриевич прозорливо утверждал, что «поистине историческая роль ВИС будет в том, что окончательно исчезнут все барьеры обмена информацией между странами и людьми. Полная доступность информации, в особенности распространенная на произведения искусства, несет в себе опасность их обесценивания. Но я верю, что это противоречие будет как-то преодолено. Искусство и его восприятие всегда настолько индивидуальны, что ценность личного общения с произведением и артистом сохранится. Также сохранит свое значение книга, личная библиотека — именно потому, что они несут в себе результат индивидуального выбора, и в силу их красоты и традиционности в хорошем смысле этого слова. Общение с искусством и с книгой навсегда останется праздником».

С момента написания этих строк прошло полвека, а такое впечатление, что они были написаны вчера, причем, человеком, глубоко вовлеченным в обсуждение насущных проблем современного киберпространства. 

Именно с развитием информационных технологий связаны весьма серьезные опасности, перед которыми сейчас стоит человечество. И дело не только в опасности обесценивания произведений литературы и искусства, хотя именно эта проблема достаточно успешно решается с помощью системы открытых лицензий и новых подходов к охране авторских и смежных прав как стимулов художественного творчества. 

На наших глазах формируется и развивается новая система социальных регуляторов, которая в своем генезисе не имеет ни общественного договора, ни государственной воли, ни международного консенсуса. Я говорю о программном коде, который управляет нашим поведением в киберпространстве, не обнаруживая себя вовне в понятных неспециалисту словах или символах. Какими нравственными принципами руководствуются программисты, мы не знаем. Мы можем только надеяться, что, создавая программное обеспечение искусственного интеллекта, они не забудут законы робототехники, сформулированные еще Айзеком Азимовым. Первый их этих законов гласит: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред». К сожалению, те, кто создает роботизированные образцы военной техники – беспилотные танки, квадрокоптеры и т.д., - видимо, либо не читали книги Азимова, либо сочли сформулированные им законы для себя не обязательными. 

Я благодарен Татьяне Ивановне Янкелевич-Боннэр, которая побеспокоилась о том, чтобы всем участникам сегодняшней конференции прислали статью академика Сахарова «Ответственность ученых». Но Андрей Дмитриевич ставил вопрос о нравственной ответственности не только ученых. В 1973 году он писал: «Я убежден, что в условиях нашей страны нравственная и правовая позиция является самой правильной, соответствующей потребностям и возможностям общества. Нужна планомерная защита человеческих прав и идеалов, а не политическая борьба, неизбежно толкающая на насилие, сектантство и бесовщину».

Нельзя не согласиться с этой позицией, которая, на мой взгляд, в равной мере применима и к Советскому Союзу полувековой давности, и к сегодняшней России, и к другим странам. Именно нравственная и правовая позиция наиболее адекватна имеющимся вызовам и только она в конечном итоге позволит, как писал академик Сахаров, найти «разумное решение сложной задачи осуществления грандиозного, необходимого и неизбежного прогресса с сохранением человеческого в человеке и природного в природе».