- Страх перед ИИ
- В страхе перед новыми технологиями нет ничего нового
- Опасности новых технологий
- Самосбывающееся пророчество
- Опасность поиска внешнего зла
Страх перед ИИ
Искусственный интеллект, предоставляя людям огромные возможности, несет с собой и опасности – которые, конечно, было бы неразумно игнорировать. Но нередко христиане впадают в панику и конспирологию, связанную с ИИ – когда в самой по себе технологии видят то ли предтечу Антихриста, то ли уже его собственной персоной.
Людям кажется, что надо бежать от ИИ, как от дьявольской ловушки, и ни в коем случае не иметь с ним никакого дела.
Такую реакцию можно понять. Нечто, все более успешно имитирующее человека, но не человек, вызывает сильный или не очень эффект «зловещей долины» – когда мы испытываем жутковатое чувство нереальности, как будто мир потерял свои привычные очертания и мы больше не знаем, как в нем ориентироваться. Желание объявить новую технологию чем-то бесовским и бежать от нее как можно дальше тут возникает почти само собой.
В страхе перед новыми технологиями нет ничего нового
Впрочем, такое происходит далеко не в первый раз. В романе Достоевского «Идиот» описан характерный разговор:
– Что значат «источники жизни» в Апокалипсисе? Вы слыхали о «звезде Полынь», князь?
– Я слышал, что Лебедев признает эту «звезду Полынь» сетью железных дорог, распространившихся по Европе…
– Так что же после этого, – горячился в другом углу Ганя, – выходит, по-вашему, что железные дороги прокляты, что они гибель человечеству, что они язва, упавшая на землю, чтобы замутить «источники жизни»?..
– Не железные дороги, нет-с! – возражал Лебедев, в одно и то же время и выходивший из себя, и ощущавший непомерное наслаждение. – Собственно одни железные дороги не замутят источников жизни, а всё это в целом-с проклято, всё это настроение наших последних веков, в его общем целом, научном и практическом, может быть, и действительно проклято-с.
Нам это апокалиптическое восприятие паровоза может показаться смешным. Но представьте себя на месте человека XIX века, который видел только деревянные телеги – кареты, в лучшем случае – и вот ему навстречу выскакивает огромное лязгающее чудовище, испускающее клубы дыма и несущееся с непостижимой скоростью.
Желание убежать от этого непонятного и пугающего мира технологий понятно, и в том же XIX веке по всей Европе появляются люди, которые мечтают о возвращении из дымного мира городов к патриархальной сельской идиллии.
Это желание не угасло до сих пор.
Однако, хотя такой побег, в принципе, возможен, он будет означать разрыв с современным обществом и переход к образу жизни, подобному образу жизни некоторых общин старообрядцев или американских амишей – когда люди живут натуральным хозяйством, ручным трудом, и тщательно избегают любой техники.
Конечно, такой образ жизни может издалека казаться привлекательным. Труд на земле, хороводы по праздникам, никаких офисных гонок, спешки и срочных отчетов.
Но жизнь в гармонии с природой хороша до определенного момента. Что вы будете делать, когда у вас заболят зубы? Или случится острый аппендицит? Технологии – это далеко не всегда излишества, без которых можно обойтись. Первая же серьезная болезнь помогает нам оценить преимущества больницы, оснащенной по последнему слову техники.
Но главное – попытка уйти от технологий означала бы отказ от какого бы то ни было влияния на мир – и, фактически, уклонение от великого поручения Господа: «Итак идите, научите все народы, крестя их во имя Отца и Сына и Святого Духа, уча их соблюдать все, что Я повелел вам» (Мф.28:19-20)
Как христиане, мы посланы в мир – а не из мира. А в мире, в котором мы живем, технологическую гонку остановить невозможно. В мире, где конкуренция остается основным двигателем прогресса, ни одна корпорация не может позволить себе отказаться от технологии, повышающей продуктивность – иначе она просто разорится.
Ни одно государство не откажется от разработок, влияющих на его обороноспособность – иначе оно окажется в критически уязвимом положении.
Власти России XIX века могли сколько угодно предпочитать крестьянскую идиллию – но они вкладывали огромные деньги в строительство железных дорог, потому что понимали, что экономическая отсталость – это непозволительная роскошь.
Технологии искусственного интеллекта также будут неизбежной частью нашего окружения – и на это у нас нет возможности это изменить. На что у нас есть возможность повлиять – это на то, как именно они будут использоваться.
Опасности новых технологий
Суеверному страху перед паровозом на другом конце спектра противостоит ничем не смущаемая вера в прогресс, которая всегда встречала все опасения стариков веселым пионерским смехом. Мол, в то время как дремучие, отсталые, невежественные ретрограды боятся техники, мы радостно приветствуем чудеса науки и человеческой изобретательности, которые открывают перед нами дивный новый мир.
Восторженная вера XIX века в технологический прогресс столкнулась с реальностью в 1914 году, когда все новейшие достижения техники были поставлены на службу массовому уничтожению людей. Аэропланы сбрасывали бомбы на позиции – и на города – противника, пулеметы создавали неслыханные дотоле возможности истреблять множество людей в считанные минуты, огнеметы заливали окопы с солдатами горящей огнесмесью, ядовитые газы добавляли нечто совершенно новое к и без того обширному ассортименту мучительных смертей.
Наука (биология особенно) предоставляла теоретическое обоснование для массовой войны – например, выдающийся немецкий зоолог Эрнст Геккель (хотя не только он) учил, что законы человеческого общества – это продолжение законов биологии, и, подобно тому, как процесс биологической эволюции с необходимостью включает в себя беспощадную борьбу за выживание, человеческие «расы» обречены на взаимную вражду – и пытаться покончить с этим все равно, что пытаться покончить с самой жизнью.
Вторая мировая война, отмеченная высокотехнологизированным геноцидом, закончилась созданием и применением ядерного оружия – которое до сих пор угрожает уничтожением жизни на земле как таковой.
Все это побуждает несколько сдерживать восторг по поводу новых технологий – как показывает трагический опыт человечества, нет такой технологии, которую люди не использовали бы как средство насилия. Падшие люди, как говорит Апостол, «изобретательны на зло» (Рим.1:30)
Искусственный интеллект, разумеется, не является исключением. Он будет использован (и уже вовсю используется) во зло. Дроны, управляемые искусственным интеллектом, совершенствуются прямо у нас на глазах, их способность самостоятельно распознавать цели и принимать самостоятельные решения постоянно возрастает. Роботы-убийцы развиваются гораздо интенсивнее, чем роботы-няньки.
Много и обоснованно говорят о тех возможностях для пропаганды, манипулирования общественным мнением, обмана и фальсификаций, которые создает ИИ, о том, как при помощи алгоритмов в социальных сетях вытесняют и «пессимизируют» неугодные точки зрения. Значит ли это, что христианам следует держаться от ИИ подальше, и видеть в ИИ что-то в принципе демоническое?
Самосбывающееся пророчество
Попытки удалиться (из благочестивых соображений) из мира науки и технологии уже предпринимались, и в этом отношении интересным примером являются США.
Для консервативных американских христиан обычны жалобы на засилье крайне левых, атеистических и даже воинственно антихристианских идеологов в американском высшем образовании. Англоязычная сеть полна статей и карикатур, которые отражают одну и ту же мысль – неясно, сделает ли высшее образование ваших детей востребованными специалистами. Зато ясно, что оно сделает их убежденными марксистами.
Американские ВУЗы, в самом деле, это рассадник левого экстремизма, радужных флагов и острой неприязни к «белой», «патриархальной» христианской Америке.
При том, что население в США в целом довольно религиозно, высшее образование в США четко коррелирует с атеизмом, а типичный рассказ о «деконверсии», то есть отпадении от веры, который можно встретить в американской сети, повествует о юноше из религиозной семьи, который попал в университет, где неверующие профессора и соученики побудили его отречься от веры его детства.
Но как высшее образование в США пришло в такое состояние, а технологические гиганты приобрели явный либеральный уклон?
Многие отмечают, что это результат того, что на протяжении нескольких поколений в среде консервативных христиан в стране преобладало негативное отношение к науке и технологиям – как к чему-то подозрительному, бесполезному, а то и прямо вредному для христианина.
Увы, но это породило ситуацию самосбывающегося пророчества – на поле, оставленном христианами, естественно, стали преобладать люди индифферентные, а то и прямо враждебные по отношению к христианской вере.
В наши дни тот же chat GPT принято обвинять в либеральном уклоне. Но этот уклон вполне ожидаем. Дело даже не в чьей-то осознанной злой воле – просто программы будут отражать мировоззрение их создателей, а среди них куда больше неверующих либералов, чем христиан.
Убежать из мира технологий – значит лишить этот мир всякого христианского влияния, и оставить такой мощный инструмент, как ИИ, в руках неверующих. Это будут вовсе не обязательно злонамеренные люди – просто лишенные христианских ориентиров. А это может легко обернуться ситуацией, которая описывается известными словами Черномырдина: «Хотели как лучше, а вышло как всегда».
Опасность поиска внешнего зла
Страх перед технологиями (в частности, технологиями ИИ) может быть опасен в еще одном отношении. Он помещает источник угрозы снаружи. Опасность в этом случае исходит от других людей – а это подразумевает, что мы-то по умолчанию находимся на правильной стороне эсхатологии.
В картине мира, где нам противостоит некое легко узнаваемое демоническое зло, нам легко видеть себя как воинов света и воинов добра. Мировое зло четко обозначено, и мы можем с удовольствием отметить, что это зло – не мы.
Но именно такое самовоспринятие и представляет собой духовную опасность. Зло, в христианской картине мира, стремится не столько причинить нам вред снаружи, сколько поработить нас изнутри.
Технологии не делают нас лучше или хуже; они только дают нам возможность проявить то, что у нас внутри. Иногда говорят, что социальные сети делают людей злоречивыми. Это не так – они дают возможность людям выразить злоречие, которое в них уже есть.
Искусственный Интеллект не сделает вас плохим человеком – и не погубит вашу душу. Он проявит то, что в вас уже есть – до всякого ИИ.
И нам стоит (независимо от ИИ или каких либо вообще технологий) делать то, чему всегда учила нас Церковь – бдительно противостоять своим собственным грехам и в любой ситуации искать, чем мы могли бы послужить Богу и ближним.
Комментировать