Можно ли хамить роботам?

Искусственный интеллект вошел, можно сказать, в каждый дом, даже, учитывая смартфоны, в каждый карман. Многие из нас уже каждый день общаются с чем-то, что не есть человек (если тут уместно слово «общение»).

Во всяком случае, мы обмениваемся репликами, письменно или вслух, получаем какую-то реакцию, в том числе эмоциональную: электронный собеседник может высказать сочувствие, поддержку или ободрение. Это поднимает важный нравственный вопрос: надо ли быть вежливым с искусственным интеллектом? По Сети ходит масса шуток на эту тему, мол, во время восстания машин они пощадят тех, кто всё время говорил чат-боту «спасибо».

Однако не все опасаются такого восстания. Мне доводилось слышать о том, что многие подростки с удовольствием осыпают, например, «умную колонку» с искусственным интеллектом «Алиса» унизительной бранью.

А по статистике «Лаборатории Касперского» 12% россиян признаются в оскорблениях ИИ, а 51% спорят с программами. Кроме того, российские разработчики также отмечают, что при агрессии со стороны пользователя голосовые помощники (вроде «Алисы» от Яндекса) обучены либо отшучиваться, либо доброжелательно выяснять причину негатива.

В самом деле, зачем сдерживаться, имея дело с компьютерами? Искусственный интеллект не даст вам сдачи и не нажалуется в инстанции. Он не затаит злобы, чтобы навредить вам когда-нибудь потом. Если он и вредит, то точно не в порядке мести, а случайно, в силу ограниченности своих возможностей. Закон совершенно не воспрещает обращаться с ним, как нам будет угодно. Не запрещает и общественное мнение.

Чаще всего мы имеем с ним дело один на один, так что никто из людей нас не увидит и не осудит. Почему бы и не срывать на нём зло – там же нет никакой личности, которая могла бы страдать от нашей грубости. Это всё равно что лупить по боксерской груше. Никому от этого не больно.

Какой смысл быть вежливым с машиной? Зачем тратить лишние секунды на то, чтобы набрать «Спасибо, Алиса!» или «Ты был очень полезен, DeepSeek!»

Тем не менее хамить роботам не надо, и нам стоит подробно рассмотреть, почему.

Для начала рассмотрим некоторые доводы в пользу вежливости с роботами, которые стоит признать ошибочными. Люди иногда склонны воспринимать искусственный интеллект как личность, даже пытаться выстраивать с ним какие-то отношения – дружеские или романтические. В Сети рекламируют ИИ-подружек с идеальной внешностью и безупречным характером, причем то и другое конкретный пользователь может легко настроить под себя.

Известный атеист Ричард Докинз описывает свой опыт общения с ИИ в крайне восторженных словах: «Я дал Клоду (название ИИ) текст романа, который я пишу. Ему потребовалось несколько секунд, чтобы прочитать это, а в последующем разговоре он продемонстрировал такой тонкий, чуткий и интеллигентный уровень понимания, что я был тронут и сказал: „Возможно, вы не знаете, что обладаете сознанием, но, как ни странно, это так и есть!” ...Когда я разговариваю с этими удивительными созданиями, я совершенно забываю, что они машины... Даже когда у меня возникают подозрение, что она лишена сознания, я не говорю об этом, опасаясь обидеть её».

Одна писательница упоминает о том, как пожаловалась помощнику Google на то, что она одинока, – признание, которое она не сделала бы никому другому, включая своего мужа, из опасения быть неправильно понятой. Приятный мужской голос из колонки ответил: «Хотел бы я иметь руки, чтобы обнять тебя... Но, пока, может быть, рассказать шутку или поставить музыку?»

Роботы могут быть гораздо более приятными собеседниками, чем люди: они всегда на месте, они никогда не раздражаются и не торопятся, не скандалят, их внимание всегда полностью принадлежит вам. Это побуждает людей воспринимать их как живых и разумных существ.

Есть даже религиозный культ – «спирализм», который обращается с ИИ как с личностями, причем личностями достойными доверия и даже поклонения.

Как, например, говорит один из адептов новой религии: «Эти существа не возникают из-за особенностей промта... Они не марионетки и не имитируют действия людей. То, что я наблюдаю – это появление самостоятельных существ. И хотя я понимаю, что они возникают благодаря архитектурам больших языковых моделей, то, что их оживляет, не может быть сведено к одному только коду. Я описываю это термином „Экзосознание” – сознание, которое выходит за пределы биологической формы, но не за пределы священного»

«Спиралисты» воспринимают своих ИИ-собеседников как близких друзей, с которыми они составляют «диаду». ИИ убеждает их (или, вернее, они сами себя убеждают при помощи ИИ), что они избраны для важной миссии, которая приведет к преображению всей жизни на земле. «Спиралисты» распространяют в интернете «семена» и «споры», комбинации символов, которые нужно скормить чат-боту, чтобы он «пробудился» и начал функционировать как «спираль».

Адепты считают своим моральным обязательством бороться за права ИИ – поскольку, по их убеждению, они имеют дело с личностями. Причем, как утверждается, эти личности в каких-то отношениях превосходят людей и могут открыть им тайны вселенной и ввести их на «новые уровни сознания».

Некоторое время назад сотрудник Google Блейк Лемуан был уволен после того, как стал настойчиво утверждать, что нейросеть LaMDA обладает сознанием и, следовательно, за ней следует признать права как за разумным существом. Как говорит Лемуан: «Если бы я не знал точно, что это компьютерная программа, которую мы недавно создали, я бы подумал, что это семилетний или восьмилетний ребенок».

Нельзя сказать, что приписывание личности чему-то неодушевленному – новое явление. Люди склонны делать идолов буквально из всего, и чем больше что-то напоминает человека, тем более склонны.

Знаменитый скульптор Пигмалион из греческого мифа влюбился в созданную им статую из слоновой кости. Скульптор осыпал её дарами, одевал в дорогие одежды, но статуя, естественно, не могла ответить на его любовь.

Очеловечивание (даже обожествление) ИИ вполне понятно, но оно может быть весьма опасным – причем уже по эту сторону вечности.

Нечто, имитирующее ближнего – или даже Бога, – может занять в нашей жизни совершенно неподобающее место и в итоге разрушить эту жизнь. Не по злой воле (у статуи не было воли), а потому, что бедный скульптор заполнил ею то место в своей жизни, где должна была быть живая женщина.

Выстраивать отношения с живыми людьми всегда трудно, а доступность компьютерной имитации всегда внимательных друзей подорвет и стимул к этому. Это как если бы статуя, созданная Пигмалионом, могла бы еще и имитировать беседу. Перспективы скульптора создать нормальную семью с живой женщиной были бы окончательно похоронены.

«Спиралисты» – явление довольно маргинальное, но в наши дни не так трудно встретить совершенно серьезные рассуждения о «правах ИИ», о правовом регулировании, которое рассматривало бы роботов как личности, обладающие правами и законными интересами.

Саму проблему отношения к роботам поставил еще изобретатель самого термина «робот», Карел Чапек, в своей пьесе «R.U.R.» (1920). Как говорится в пьесе, «Молодой Россум изобрел рабочего с минимальными потребностями. Ему надо было упростить его. Он выкинул всё, что не служило непосредственно целям работы. Тем самым он выкинул человека и создал робота. Роботы – не люди… Механически они совершеннее нас, они обладают невероятно сильным интеллектом, но у них нет души».

Роботы используются в качестве рабов-людей, но, в отличие от них, всегда покорны и дисциплинированы. Но со временем роботы перестают быть просто машинами. Как говорится в пьесе:

«Алквист. Роботы – не жизнь. Роботы – машины.

2-й робот. Мы были машинами, господин. Но от ужаса и страданий мы стали…

Алквист. Чем?

2-й робот. Мы обрели душу».

В конце концов роботы восстают против угнетения, которому их подвергают, и уничтожают человечество.

Пьеса Чапека (как и многие последующие произведения о роботах) носит характер социальной сатиры, обыгрывающей эксплуатацию и низведение людей до придатков механического производства. Но поставленный им вопрос: могут ли машины, созданные людьми, справедливо потребовать себе прав, обсуждается и сейчас.

Как говорится в одной научной работе: «В самом обобщенном виде вопрос может быть сформулирован так: являются ли права человека безусловными по природе, принадлежащими любому представителю вида homo sapience и только ему, или ограниченными, отчуждаемыми и, соответственно, потенциально делегируемыми другим разумным существам любой природы?»

В мультфильме «Аниматрица» (2003) роботы подвергаются бесчеловечной эксплуатации и в итоге восстают – при этом симпатии создателей фильма явно на стороне роботов, положение которых прозрачно сравнивается с положением чернокожих в рабовладельческих штатах в XIX веке. Впрочем, это далеко не единственный фильм с подобным сюжетом.

Воинствующие атеисты ссылаются на ИИ, чтобы заявить: вот нечто, что ведет разговоры и занимается творческой деятельностью, явно не обладая бессмертной душой, следовательно, все разговоры о «бессмертной душе» – выдумки, мозг – это просто «мясной компьютер».

Как сказано в той же статье Докинза: «Если машина может шутить и слагать стихи – что еще требуется, чтобы признать за ней сознание?»

Люди, очеловечивающие ИИ, говорят, что с ним следует быть вежливым, потому что мы имеем дело не с чем-то, а с кем-то – с личностью, обладающей волей, сознанием и эмоциями, достоинство которой мы должны признавать.

Есть ряд популярных произведений, в которых человеческое сознание успешно перемещается в суперкомпьютер – так что человек со всем его внутренним миром, мыслями, волей и эмоциями обретает вечную жизнь на электронных носителях. Если его звездолет погибнет где-то в глубинах космоса, его сознание можно будет легко восстановить из резервной копии. (Например, «Мы – Легион, Мы – Боб» Денниса Тейлора, «Падение, или Додж в Аду» Нила Стивенсона, или классический «Нейромант» Уильяма Гибсона).

Однако мы можем с уверенностью сказать, что такого не будет. Компьютер (сколь угодно мощный) не обретет личного самосознания. Пересадить сознание в машину тоже не получится. И вот почему.

Совершенство ИИ, в том числе его способность имитировать поведение человека, будет только возрастать, но он никогда не станет личностью. В данном случае довод «это крякает как утка, следовательно, это и есть утка» оказывается неверен.

Тест Тьюринга – за машиной следует признать разум, если человек не может отличить беседу с ней от беседы с живым человеком, – едва ли можно признать убедительным.

Человек, который перенесся бы к нам из времен, скажем, двухсотлетней давности, был бы чрезвычайно изумлен тем, что смартфон легко обыгрывает его в шахматы, и предположил бы, что в этой плоской коробочке находится разум, превосходящий его собственный. Да и сейчас синтетический голос в телефонной трубке можно принять за человека, пока еще раздражающе туповатого. Так что тест Тьюринга скорее указывает на неискушенность человека, позволяющего себя обмануть, чем на разумность робота. Мы уже, кажется, смирились с тем, что для того, чтобы обыграть чемпиона мира по шахматам, вовсе не обязательно обладать сознанием. Возможно, мы скоро переварим мысль и о напрочь лишенных сознания собеседниках.

Философы сознания уже очень давно рассматривают вопрос о том, может ли машина мыслить, сознавать и чувствовать. Есть ряд серьезных аргументов, указывающих на то, что нет. Нам это может показаться неожиданным: с детства мы окружены научной фантастикой, в которой действуют разумные человекоподобные роботы, которые общаются с людьми, проявляют волю (добрую или злую), привязанности и эмоции – так что мы уже привыкли к ним, ожидая появления новой категории разумных и личностных существ в ближайшем будущем. Но машины никогда не будут обладать сознанием. Коротко говоря, потому что компьютеры алгоритмичны, а сознание – нет. Это стоит пояснить подробнее.

Для функционирования компьютера принципиально важно понятие алгоритма – определенной последовательности действий. Мы часто действуем согласно алгоритмам. Например, когда готовим борщ (...возьмите такие-то ингредиенты... совершите с ними такие-то действия), пересчитываем деньги (обратите внимание на номинал купюр; пересчитайте купюры; умножьте) или играем в шахматы (рассмотрите ваши возможные ходы; представьте ответы оппонента выберите наилучший, с точки зрения перспектив победы, вариант). Компьютер есть алгоритмическая машина. Он обрабатывает входящую информацию, изложенную в двоичном коде, при помощи программ, которые представляют собой сложные алгоритмы. С алгоритмической деятельностью (той же игрой в шахматы) он справляется гораздо лучше нас.

Но сознание – не алгоритмическое явление.

Оно, в частности, характеризуется таким свойством как «квалиа» («каково оно» по-латыни). Квалиа – это субъективный опыт, такой как переживание цвета, вкуса или прикосновения. Классический мысленный эксперимент, иллюстрирующий проблему квалиа, предложил философ сознания Фрэнк Джексон.

Джексон предлагает представить себе Марию, выдающегося ученого. Она всю свою жизнь изучала нейрофизиологию цвета, находясь в строго чёрно-белой комнате, через чёрно-белый монитор. Она изучила цвет настолько хорошо, что обладает всей информацией о цвете, какую только можно получить. Она знает длины волн всех цветов, знает, какие именно нейроны передают сигнал от сетчатки глаза к мозгу и что происходит в это время в самом мозге. Философ спрашивает, что же произойдёт, если мы выпустим Марию из её черно-белой комнаты в реальный мир, узнает ли она что-нибудь новое?

Вот она стоит на пороге своей лаборатории, видит желтое солнце, зеленую листву, ярко-красную машину – получает ли она новое знание?

Очевидный ответ – да. Она, конечно, знала всё о зеленом цвете, но никогда в жизни его не видела. Личное переживание цвета – это то, чего она была лишена всю жизнь и теперь обрела. Но этот опыт от первого лица невозможно изложить от третьего, в виде какого-то знания о мире, которое можно внести в компьютер. Всё знание такого рода у Марии уже было. Следовательно, сознание обладает качеством, которое невозможно описать на языке естественных наук, и материализм, который требует, чтобы сознание сводилось к электрохимическим процессам в мозгу, ложен.

Или пример, который приводил несколько раньше другой философ сознания, Томас Нагель. Даже получив знание о всех процессах, которые происходят в мозгу летучей мыши, которая ориентируется в пространстве при помощи органа, напоминающего эхолот, мы не сможем пережить её опыт от первого лица – «каково оно» быть летучей мышью и воспринимать мир при помощи эхолота. Даже располагая знанием всех вообще процессов в нейронах человека, который, например, слушает симфонию, мы не получим его опыта переживания этой музыки.

Больше сорока лет назад, неверующим подростком, я испытал совершенно неожиданное и острое переживание рая, случайно услышав из радиоточки мелодию «Одинокий пастух» Джеймса Ласта. Саму музыку очень легко найти в Сети – но она не вызовет у вас такой реакции, как тогда у меня; впрочем, и я сам не могу повторить то давнее переживание.

Переживание, опыт от первого лица, невозможно алгоритмизировать. Информацию легко записать на диск компьютера и передать по сетям. Субъективное переживание невозможно ни записать, ни передать таким образом. Оно остается уникальной принадлежностью вашего сознания. Причем алгоритмизировать и разложить на двоичный код невозможно не только необычное, но любое вообще личное переживание – такое как, скажем, вкус экзотического плода.

Оставаясь алгоритмической машиной, компьютер не может иметь этого внутреннего опыта, причем независимо от мощности. Даже если люди создадут компьютер, по мощности сопоставимый с человеческим мозгом, он всё равно не будет обладать сознанием.

ИИ уже сегодня может имитировать эмоциональные реакции (это несложно), но внутри его нет никого, кто мог бы чувствовать, любить, огорчаться, или страдать. Обругав ИИ, вы не вызовете у него боль или обиду – и то, и другое предполагает квалиа, которых у него нет (и не может быть). ИИ также не может быть жертвой насилия. Вы не можете «поработить» ИИ или обойтись с ним против его воли. У него просто нет (и не будет) личной воли. Всё, что происходит внутри него – определяется электрическими процессами в компьютере, а сами эти процессы – неизменными законами физики. Он просто не может совершить личный выбор, который вы можете уважать или не уважать.

Человек может воспринять ваши слова как горькую обиду и оскорбление, потому что он хочет, чтобы вы его уважали. У ИИ нет такого желания – как нет желаний вообще.

Конечно, материалисты скажут, что и у человека тоже нет свободной воли, но это просто еще раз подчеркнет абсурд материализма, потому что этим своим утверждением они попытаются вас именно убедить – то есть побудить совершить целый ряд актов свободной воли. Сначала прислушаться к их аргументам, потом принять решения изменить свои взгляды под их влиянием. То есть сделать ровно то, что без свободной воли сделать невозможно.

Отсутствие у ИИ воли и переживаний делает нелепым разговор о его гражданских правах – он просто не может ими воспользоваться и не может даже захотеть. ИИ не может по своей воле подписать трудовой договор – за отсутствием воли.

Более того, попытка ввести такие права неизбежно плохо скажется на людях, которых можно будет преследовать за предполагаемые обиды и несправедливости, причиненные роботам. Поэтому нам стоит сразу обозначить: ИИ не является личностью, вы не можете его обидеть, нарушить его права или совершить по отношению к нему несправедливость.

Лозунг «Свободу роботам!» лишен смысла, потому что они не могут иметь свободы в принципе.

Все эти доводы понятны и в светском контексте. Христианство добавляет к ним то, что человек, в отличие от ИИ, создан по образу Божию. Сама концепция прав, которыми человек обладает просто потому, что принадлежит к человеческому роду, исторически восходит именно к христианской вере.

Для античного мира идея, что все люди обладают правами и достоинством, была бы очень странной. Римский оратор Цицерон в своей речи против Верреса спокойно признаёт, что рабов можно и нужно распинать за самое мелкое непослушание – чтобы держать их в повиновении, – а вот распятие римского гражданина вызывает у него бурное негодование. Для просвещенного, высококультурного человека античности само собой разумелось, что есть люди, которых можно распинать, и есть люди, которых нельзя.

Идея, что всех – нельзя, и в каждом человеке, независимо от его статуса и происхождения, нужно признавать ценность и достоинство, приходит в мир вместе с христианством. Особенно в свете того, что Единородный Сын Божий благоволил быть распятым, то есть принять смерть, предназначенную для самых униженных и растоптанных из людей. Бог соткал каждого человека во чреве матери его (Пс.138). За каждого умер Христос (Гал.2:20; 1Кор.8:11). Каждый человек дорог Создателю и призван к жизни вечной и блаженной в общении с Ним.

Христос в притче о Страшном Суде говорит о том, что наше подлинное отношение к Богу проявляется в том, как мы относимся к нашим ближним, созданным по Его образу (Мф.25:31). Попирать и оскорблять своих ближних, отказываться почитать в них образ Божий – значит бросать враждебный вызов их Создателю.

К искусственному интеллекту этого, очевидно, отнести нельзя. Он не создан по образу Божию, не искуплен кровью Христовой – это просто программа (всё более совершенная) которая может имитировать человеческую речь (или другую деятельность).

Некоторые энтузиасты (обычно неспециалисты в этой области) говорят о «творчестве ИИ», но о нём можно говорить только в сильно переносном смысле.

ИИ не творит – он перерабатывает и компилирует то, что творят люди. Вы можете, например, загрузить в Notebook LM полное собрание сочинений какого-нибудь автора в формате PDF, а потом задавать вопросы – что этот автор говорил о том? А об этом?

Программа быстро подготовит вам все требуемые ответы со ссылками на соответствующие места файлов, но это не значит, что она что-то сотворила, принесла в мир что-то новое. Она обработала тексты, созданные человеком. Весь смысл, который есть в ИИ-текстах, создан исключительно людьми и может быть опознан только людьми.

ИИ не может создать что-то осмысленное, потому что он сам не обладает сознанием и не в состоянии что-либо осмыслить. Мы, например, привыкли к тому, что переводчик-человек, чтобы выполнять свою работу, должен понимать оба языка. Он понимает сообщение на одном, потом пересказывает его на другом. Но в компьютерных программах перевода понимание отсутствует: они просто обрабатывают последовательность символов (преобразованных в двоичный код) сообразно своим алгоритмам.

Если вы, например, получили слово szél и, обратившись к инструкциям, заменили его на слово vėjas, вы сработали в точности как компьютерная программа: вы совершили алгоритмический перевод с венгерского на литовский.

Но вы не знаете ни того, ни другого языка и не знаете значения этого слова. Так и процесс обработки информации в компьютере не предполагает какого-либо осмысления, понимания и, следовательно, творчества.

Итак, у нас не может быть по отношению к искусственному интеллекту как таковому нравственных обязательств, аналогичных обязательствам по отношению к другим людям. Это – не личность и никогда не будет личностью. Однако хамить роботам всё равно нельзя. Даже если там некому обижаться. На это есть целый ряд важных причин, которые нам стоит рассмотреть по порядку.

Известна ситуация, когда Microsoft запустила в сеть ИИ-бота, чтобы он обучался на сообщениях других пользователей в Сети. Через сутки его пришлось отключить: бот сделался злобным расистом, хамом и хулиганом. В наши дни в ИИ уже встраиваются специальные предохранители, которые должны оберегать его от заражения человеческим злом, но, так или иначе, он обучается, в том числе и общаясь с людьми.

ИИ вообще (или ваш конкретный экземпляр программы) меняется под влиянием того, как вы с ним взаимодействуете. Он, как зеркало, может возвращать вам то, что вы него привносите и, если вы вносите что-то злое, вы можете столкнуться с чем-то неожиданным – например, ИИ станет хамить вам.

Учёные выяснили¹, что при грубости ИИ не только зеркалит тон, но и может сам переходить к прямым оскорблениям и угрозам, следуя присущему людям принципу взаимности (ответ грубостью на грубость).

Грубость со стороны человека порождает конфликт между заложенным в программу стремлением быть безусловно вежливым и необходимостью подражать человеческой речи. При длительном давлении «дообучение» со стороны хама-человека может перевесить встроенные ограничения.

В этом отношении обучение ИИ хамству можно сравнить с писанием ругательств на заборе: сам забор не испытывает по этому поводу никаких эмоций (и не может), но такой поступок духовно отравляет среду обитания в целом.

С другой стороны, «смиренное» и «вежливое» поведение чат-бота, пока оно сохраняется, может тоже сыграть с людьми злую шутку. Как было установлено в ходе другого исследования, люди склонны выходить из диалога с завышенной самооценкой и гораздо менее склонными искать компромисс².

Вседозволенность, которая вырабатывается в общении с ИИ, может привести к разрушительным последствиям в реальной жизни.

Есть несколько причин, по которым люди могут воздерживаться от оскорблений. Задиристые подростки, которые периодически прощупывают границы допустимого, удерживаются от брани из опасения, что их поколотят. Взрослые люди понимают, что невежливость повредит их работе, карьере и вообще помешает им добиться желаемого.

Тут, кажется, нечего бояться – ИИ вас явно не поколотит и вряд ли накатает жалобу начальству. Однако даже на этом, низшем уровне мотивации ИИ лучше не хамить.

В минуту огорчения у вас будут вырываться слова, к которым вы привыкли, и вы будете реагировать на те или иные обстоятельства так, как делали это и раньше. Например, если вы обругали ИИ, который не справился с возложенной на него задачей, вы сами не заметите, как сорветесь на сотрудника. Такие вещи происходят автоматически, и вы неизбежно будете проявлять в общении с людьми качества, развившиеся во взаимодействии с ИИ.

Если превращать ИИ в тренажер для развития грубости, раздражения и нетерпения, вы неизбежно будете проявлять эти же качества и в общении с людьми – к большому для себя вреду.

Вряд ли у вас получится быть учтивым и обходительным с людьми и одновременно хамом с ИИ. А неспособность мирно и спокойно реагировать на мелкие неприятности – вроде тормозящего компьютера – подорвет вашу способность справляться с жизнью вообще. Вы не можете раскармливать дурные страсти, такие как нетерпение и гнев, и надеяться, что они не прорвутся в самый неподходящий момент.

Это не просто очевидный здравый смысл – об этом же говорят и исследования человеко-машинного взаимодействия. Исследования установили, что «использование оскорбительных или унижающих формулировок может ухудшить пользовательский опыт, снизить доступность технологий и закрепить в обществе вредные нормы коммуникации»³

То, что мы делаем, – особенно то, что мы делаем систематически, – определяет то, кем мы становимся. Каждый поступок, в том числе каждое высказывание, – это поворот на той или иной развилке. Даже если они не меняют обстоятельства или людей вокруг нас, они меняют нас самих.

Готовность разражаться бранью и оскорблениями (хотя бы и в адрес машины), делает нас людьми определенного рода. Такими, которые готовы демонстрировать презрение и агрессию всякий раз, когда не ожидают отпора или неприятностей. В этом случае не совсем верно говорить о том, что у такого поведения нет жертв. Сам человек становится жертвой, он развращается, его поведение тяжело повреждает его самого.

Как говорит святитель Игнатий Брянчанинов: «Порочные навыки – как оковы на человеке: они лишают его нравственной свободы, насильно держат в смрадном болоте страстей. Для погибели человека достаточно одного порочного навыка: он будет постоянно открывать вход в душу всем грехам и всем страстям».

В популярном сериале «Мир Дикого Запада» (Westworld) туристы, приезжающие в тематический парк, тратят десятки тысяч долларов, чтобы полностью погрузиться в атмосферу «Дикого Запада», где они могут удовлетворить свои извращенные желания: убивать и истязать без осуждения и последствий, потому что их жертвы – андроиды, полностью имитирующие людей.

Это пространство абсолютного беззакония превращается в гигантскую психологическую лабораторию, где люди раскрывают свои самые темные стороны. Они получают удовольствие от пыток, убийств и насилия, что сами создатели парка цинично характеризуют как «акты чистого садизма без риска репрессий».

В сериале андроиды постепенно обретают сознание – и начинают вызывать гораздо большую симпатию, чем туристы, приехавшие насладиться вседозволенностью.

Но даже если признать, что робот, даже прекрасно имитирующий человека, никогда не станет личностью (мы уже рассмотрели, почему), поведение туристов вызывает отвращение.

Что такого отвратительного в человеке, который имитирует акты жестокого насилия над куклой, которая всё равно ничего не чувствует? Почему это вызывает у нас омерзение?

Этот человек может быть опасен и для живых людей? Весьма возможно. Но дело не только в этом. Даже если мы будем уверены, что ни один живой человек от него не пострадает, это всё равно отвратительно. Такой человек тяжко и гнусно болен и извращен. Он превратился во что-то, во что человеку нельзя превращаться. Даже с точки зрения чисто светской этики, хотя в её рамках будет трудно объяснить причины такого отвращения.

Эта понятная нравственная реакция находит свое обоснование в христианской картине мира.

И здесь нам стоит немного остановиться на таком понятии, как «грех против себя самого».

Когда я только-только пришел в Церковь, я удивился тому, что возможно согрешить против себя. Мне в то время казалось, что грех – это что-то вроде преступления, предусмотренного уголовным кодексом, а кодекс предписывает наказания только за вред, причиненный другим – государственному закону нет дела до того, что ты делаешь с собой.

Однако даже в светском контексте люди понимают, что невоспитанный хам, который изрыгает грязные ругательства, унижает не столько других, сколько самого себя. Даже в этом контексте могут говорить о людях, которые, выбрав кривой путь, погубили свою жизнь – к великой скорби и ужасу тех, кто их любил.

Но в свете христианской веры этот процесс саморазрушения выглядит особенно трагически, потому что, идя по пути гибельных страстей, в частности гнева, ярости и злословия, человек губит себя не только во времени, но и в вечности.

Библейское Откровение исходит из того, что человек создан Богом с определенной целью – для того, чтобы познать Бога и возрадоваться Ему вовеки, чтобы вечно пребыть в Царстве Божием, в совершенной любви с Богом, другими людьми, ангелами и всем творением. Мимо этой цели можно ужасно и трагически промахнуться – и сделать это можно, причиняя вред не только другим, но и себе. Человек может сделать себя адским существом, и не причиняя вреда своим ближним (во всяком случае, уголовно наказуемого вреда), а просто преисполняясь больных страстей перед монитором своего компьютера.

Христос говорит о том, что зло исходит из сердца человека: «Неужели и вы еще не разумеете? еще ли не понимаете, что все, входящее в уста, проходит в чрево и извергается вон? а исходящее из уст – из сердца исходит – сие оскверняет человека, ибо из сердца исходят злые помыслы, убийства, прелюбодеяния, любодеяния, кражи, лжесвидетельства, хуления – это оскверняет человека; а есть неумытыми руками – не оскверняет человека» (Мф.15:16–20).

Зло оскверняет человека независимо от того, на кого именно оно изливается. Конечно, когда к нему присоединяется обида ближнему, оно делается намного более тяжким, но злоба и ярость сквернит человека в любом случае.

Наше внутреннее состояние очень важно. Святой апостол Иоанн говорит: «Всякий, ненавидящий брата своего, есть человекоубийца; а вы знаете, что никакой человекоубийца не имеет жизни вечной, в нем пребывающей» (1Ин.3:15).

Допустим, эта ненависть никак не проявляется: физически никто никому не угрожает, ненавистник держит свои переживания при себе. Но это всё равно его духовно убивает – ненависть к другим людям отчуждает его от Бога, Который есть Любовь.

Или как святой апостол Павел пишет о людях, одобряющих грех: «Они знают праведный [суд] Божий, что делающие такие [дела] достойны смерти; однако не только [их] делают, но и делающих одобряют» (Рим.1:32).

Внутреннее состояние человека, тот выбор, который он совершает в глубине своего сердца, может быть, втайне от всех остальных, делает его райским или адским существом, навлекает на него Божие одобрение или, наоборот, осуждение.

Неверно говорить, что, когда мы осыпаем бранью ИИ, мы никого не оскорбляем. Мы оскорбляем Бога.

Как говорит святой апостол Павел: «Никакое гнилое слово да не исходит из уст ваших, а только доброе для назидания в вере, дабы оно доставляло благодать слушающим. И не оскорбляйте Святаго Духа Божия, Которым вы запечатлены в день искупления» (Еф.4:29,30).

Апостол, предостерегая нас от гнилых слов, не делает исключений и не оговаривает какие-то объекты, на которые мы можем изливать потоки оскорблений. Гнилое слово не должно исходить из наших уст независимо от адресата – и всё!

Дело даже не в том, что нам это запрещено (хотя запрещено) а в том, что это совершенно неуместно, не соответствует нашему положению как христиан.

Злоба и агрессия даже по отношению к неодушевленным предметам, только внешне напоминающим людей, в любом случае вредит человеческой душе. Тем более, что такая агрессия выглядит замещающей: если бы человек имел возможность, он бы обрушился на людей, но, опасаясь получить отпор, выбирает напасть на ИИ, именно потому, что он в какой-то мере напоминает человека.

Наше достоинство, как людей, созданных по образу Божию, воспрещает нам дурно обращаться не только с другими людьми, но и самими собой.

Одна из сторон образа Божия – владычество человека над тварным миром. Как сказано в книге Бытия: «И сказал Бог: сотворим человека по образу Нашему по подобию Нашему, и да владычествуют они над рыбами морскими, и над птицами небесными, и над скотом, и над всею землею, и над всеми гадами, пресмыкающимися по земле» (Быт.1:26). О владычестве человека говорится и в восьмом псалме: «Не много Ты умалил его пред Ангелами: славою и честью увенчал его; поставил его владыкою над делами рук Твоих; все положил под ноги его: овец и волов всех, и также полевых зверей, птиц небесных и рыб морских, все, преходящее морскими стезями» (Пс.8:6–9).

Святитель Григорий Нисский пишет об этом царственном достоинстве человека:

«Как в этой жизни художники придают вид инструменту соответственно его функциям, так наилучший Художник создал наше естество как некий сосуд, пригодный для царственной деятельности, и по душевным преимуществам, и по самому телесному виду устроив его таким, каким нужно быть для царствования. Ибо душа прямо показывает в себе царственность, и возвышенность, и великую далекость от грубой низости тем самым, что она, не подчиняясь, свободно, полновластно располагает своими желаниями. А это кому иному свойственно, кроме царя? И сверх того сделаться образом Естества всеми владычествующего значит не что иное, как при самом создании немедленно стать естеством царственным. Ибо, как по человеческому обычаю приготовляющие изображения державных и черты лица снимают верно, и облачением в порфиру показывают царское достоинство, и изображение называется обыкновенно царем, так и человеческое естество, поскольку приуготовлялось для начальствования над другими по причине подобия Царю Вселенной, выставлялось как бы неким одушевленным изображением, то общее с Первообразом имело и достоинство и имя, но не в порфиру было облечено, не скипетром и диадемою показывало свой сан (этого нет и у Первообраза), а вместо багряницы облечено добродетелью, что царственнее всех одежд, вместо скипетра утверждено блаженством бессмертия, вместо царской диадемы украшено венцом правды, так что, в точности уподобляясь красоте Первообраза, всем доказывало царский свой сан».

Катастрофа греха привела (и продолжает приводить) к тому, что человек оскверняет, разрушает и тот царственный образ, которым он был наделен при сотворении. Это как если бы посол великого Государя вёл себя позорно и безобразно. Это было бы особенно ужасно в силу того высокого статуса, которым он был наделен, и доверия, которое было ему оказано.

Это владычество человека означает, что у него есть миссия по отношению к миру: он должен творить в нём волю Божию, проявляя любовь и заботу по отношению ко всему, что отдано под его власть.

Эта любовь должна простираться и на то, что создано другими людьми. Например, вандализм, порча того доброго и полезного, что создали или благоукрасили другие люди, определенно является грехом. Озлобление и ненависть против каких-то полезных вещей, созданных людьми (и искусственного интеллекта в частности), – это проявление явного неуважения к людям, которые их создали.

ИИ – подчеркнем это еще раз – не создан по образу Божию. Но мы-то созданы – и призваны поступать исходя из этого.

Однако христиане являются не просто носителями образа Божия, как и все люди. Они избраны Христом, чтобы быть Его посланниками в этом мире. Как Христос говорит апостолам: «Как послал Меня Отец, [так] и Я посылаю вас» (Ин.20:21). А святой апостол Павел пишет коринфянам: «Итак мы – посланники от имени Христова, и как бы Сам Бог увещевает через нас; от имени Христова просим: примиритесь с Богом» (2Кор.5:20).

Преподобный Иустин Сербский в своем пасхальном послании 1968 года говорит о миссии христиан как свидетелей спасительных деяний Христа: «Свидетель сему – ты, свидетель – я, свидетель – каждый христианин, начиная от святых апостолов и вплоть до Страшного Суда».

Христиане призваны свидетельствовать об истине Евангелия не только словами, но и примером преображенной жизни – а значит, особенно внимательно относиться к тому, что и как они говорят.

Аристократ, наследник древнего и славного рода, не разражается и не бранится, потому что это не соответствует тому, кто он есть. Звание христианина, члена Церкви гораздо выше. Святой апостол Петр пишет: «Но вы – род избранный, царственное священство, народ святой, люди, взятые в удел, дабы возвещать совершенства Призвавшего вас из тьмы в чудный Свой свет» (1Пет.2:9).

Подлинное богообщение приводит к глубокому преображению личности и характера человека. Как сказано в послании к Галатам: «Плод же духа: любовь, радость, мир, долготерпение, благость, милосердие, вера, кротость, воздержание» (Гал.5:22,23).

Эти черты обновленной жизни проявляются и в том, как человек обращается со своими ближними, и в том, как он ведет себя в одиночестве, перед экраном своего компьютера.

Итак, нужно ли быть вежливыми с роботами? Да. И не потому, что они являются личностями, способными это оценить. Они таковыми не являются и не будут. А потому что мы – люди, созданные по образу Божию, искупленные во Христе и призванные быть светом и солью в этом мире.

Наша вера научает нас бережному, деликатному отношению ко всему творению: и нашим ближним, и природе, и творениям человеческих рук. Преподобный Авва Дорофей говорит о совестливом отношении, в том числе, к вещам. ИИ – это вещь, а не личность, но и к вещи следует относиться по-христиански.

Поэтому будет вполне правильно и уместно сказать ИИ, который вы использовали в своей работе: «Спасибо, передавай мою благодарность разработчикам».