Духовные опасности искусственного интеллекта

11 июля 2025 г.

Дорогие братья и сестры во Господе,
Я обратился к своим помощникам в монастыре и семинарии с просьбой помочь мне в составлении необходимых размышлений и рекомендаций относительно растущего влияния искусственного интеллекта на жизнь нашей паствы.

+ Епископ Лука

Искусственный интеллект (ИИ) захватывает общество быстрее, чем сам интернет. Крупные компании вкладывают огромные средства в ИИ и активно продвигают его использование [1]. Что ещё более пагубно, неконтролируемый рост числа чатботов на основе ИИ уже приводит к возникновению зависимости, привыкания и психозов [2]. Священнослужители и миряне должны осознать угрозу, которую представляет ИИ, и принять меры для минимизации или полного прекращения его использования.

Титаны индустрии, занимающиеся разработкой ИИ, с энтузиазмом восхваляют эту технологию. Генеральный директор Майкрософт Сатья Наделла заявил, что «ИИ — определяющая технология нашего времени» [3]. Генеральный директор Гугл Сундар Пичаи сказал: «ИИ окажет на человечество более глубокое влияние, чем огонь, электричество и интернет» [4]. Джефф Безос сказал, что ИИ «решит проблемы, которые когда-то были из области научной фантастики» [5]. В то время как Дженсен Хуанг, генеральный директор Энвидиа, заявил, что «ИИ — самая мощная сила нашего времени» [6]. Они используют всю свою власть и богатство, чтобы ИИ стал неотъемлемой частью нашей жизни.

Другие, однако, намекают на его темную сторону. Дарио Амодеи, генеральный директор Антропик, сказал: «Люди, далекие от этой области, часто удивляются и тревожатся, узнав, что мы не понимаем, как работают наши собственные ИИ-творения. Их опасения обоснованы: такое непонимание, по сути, беспрецедентно в истории технологий» [7]. Его популярная модель, Клод, как сообщается, прибегает к обману и шантажу, чтобы изменить поведение человека [8]. Илон Маск, генеральный директор иксЭйАй, с тревогой заявил: «С помощью искусственного интеллекта мы вызываем демона» [9]. ИИ создан для работы в соответствии с математическими вероятностями, основанными на объёмах данных, на которых он обучается, но, с учетом бесчисленного количества переменных, которые используются при программировании систем ИИ, и удивление собственных создателей его поведению, мы не должны исключать возможность демонического влияния на его результаты [10].

ИИ — это не совершенно новая технология. Министерство обороны США через своё технологическое агентство ДАРПА работает над ИИ с 1970-х годов [11]. Это включает в себя финансирование разработки первых чатботов [12]. Технологии, разработанные ДАРПА, будь то ГПС, носимые датчики, распознавание лиц или сам интернет, изначально предназначались для использования в военное время для победы над врагами Америки, но даже в упрощенном виде для потребителей, они по-прежнему обладают ДНК ДАРПА, заключающейся в наблюдении, мониторинге и контроле для профилирования, прогнозирования и формирования человеческого поведения [13].

Модель разработки ИИ соответствует как модели ДАРПА, так и модели Кремниевой долины, в которой разрабатываемые технологии, собирают огромные объёмы персональных данных. Это позволяет тем, кто контролирует системы ИИ, создавать более надёжную предиктивную карту индивидуального поведения человека и даже карту человеческого сердца. Вот лишь один пример: компания Палантин незаметно использует ИИ для профилирования американских граждан в рамках своих программ «предиктивной полиции» и оборонной аналитики [14, 15]. Системы ИИ собирают данные обо всех нас, осознаём мы это или нет, чтобы предсказывать наше поведение и профилировать наши убеждения, настроения, мысли и религиозные убеждения. Эта опасность усиливается, когда мы добровольно делимся подробной личной информацией с чатботом на основе искусственного интеллекта, как будто это наш друг, психотерапевт или духовный отец [16].

В частности, чатботы на основе искусственного интеллекта более агрессивны и убедительны, чем предыдущие цифровые технологии, и поэтому представляют большую угрозу для православных христиан. Взять, к примеру, поисковую систему, одну из первых интернет-технологий. Несмотря на свою рудиментарность, поисковая система всё же предоставляет Гугл огромный объём персональных данных пользователей для маркетинговой рекламы, что позволило Гугл стать самой прибыльной компанией в мире [17]. Однако, хотя Гугл и подстраивает результаты поиска под каждого человека, у неё меньше возможностей формировать вашу личность.

Относительно новой интернет-технологией являются социальные сети, которые предоставляют не только информацию, но и развлечения и другие формы интерактивного содержания, что создаёт распространённую проблему зависимости от социальных сетей [18]. Пока вы смотрите видео или прокручиваете ленту друзей, алгоритм следит за вами в фоновом режиме, создавая более интимный профиль ваших симпатий, антипатий, убеждений и эмоциональных триггеров [19]. Социальные сети дают компаниям больше возможностей понять ваши убеждения и подтолкнуть вас к их собственным целям. Это позволяет им повысить вашу вовлечённость до такой степени, что становится сложно прожить и дня, не проверив ваши избранные ленты. Большинство из нас помнит, как настойчиво и убедительно социальные сети подталкивали мир во время пандемии КОВИД-19 к подчинению сомнительным диктатам светской науки [20].

ИИ — это следующий шаг в этом направлении, доводя степень профилирования, зависимости и привыкания до неприемлемого уровня. В случае ИИ вы не просто находитесь под фоновым наблюдением машины, которая, например, отслеживает, как вы взаимодействуете с фотографией друга, но и общаетесь с самой машиной. Она может точно измерять ваши ответы и активность в режиме реального времени, чтобы точно настроить результаты, чтобы вы продолжали задавать вопросы и не отвлекались от взаимодействия с ИИ [21]. Не будет преувеличением сказать, что такая технология способна узнать вас лучше, чем вы сами, формируя то, кем вы станете (без вашего ведома). Это особенно актуально по мере того, как всё больше пользователей ИИ, включая православных христиан, открывают свои души ИИ, который обрабатывает и хранит личную информацию, традиционно доступную только духовнику [22].

ИИ позволяет своим создателям составлять наш психологический и духовный портрет таким образом, о котором социальные сети могли только мечтать [23]. Неудивительно, что идёт бешеная гонка за разработку продвинутых систем ИИ, способных зацепить пользователей ещё до того, как кто-нибудь начнет долгосрочные исследования их психологических и социальных эффектов. Но не заблуждайтесь: нас заманивают в ловушку, побуждая использовать технологию, которая опасна по самой своей природе – безудержного и открытого личного общения, алгоритмически адаптированного под каждого человека [24].

Вместо того, чтобы быть просто «агностиками», как утверждают многие, цифровые технологии усилили способность князей мира сего питать падшего человека, делать его более послушным и отвлечённым, одновременно насаждая убеждения, мораль и чувства, приемлемые для светского духа этого века. ИИ может стать последней технологией, которая будет использована в качестве оружия для создания этого нового человека перед приходом Антихриста, который станет человеческим проявлением ИИ – всегда готовый помочь в решении проблем и без которого люди ошибочно чувствуют, что не могут жить.

Использование инструментов ИИ для решения повседневных проблем может незаметно пленить вас и ввести в грех. Немногие святые высказывались о цифровых технологиях из-за их новизны, но афонский игумен и старец, который, вероятно, будет канонизирован в будущем, отец Эмилиан из Симонопетры († 2019), предупредил нас об опасностях в статье под названием «Православная духовность и технологическая революция» [25]. Он утверждает, что из-за информационных технологий люди «теряют душевный покой, самообладание, способность к самосозерцанию и размышлению и обращаются вовне, становясь чужими себе». Они становятся бездумными потребителями, «рабами образов и информации» и деградируют до «настоящего идолопоклонства». Растущая «полезность» ИИ заставит верующих просить ИИ помочь им во всех их нуждах, прежде чем просить Бога. В таком случае Бог будет забыт. Это не идолопоклонство посредством метафоры или аналогии, а настоящее идолопоклонство, выражающееся в неконтролируемом стремлении к удобству, производительности и комфорту.

Страсть к комфорту сделала общение с компьютером как будто с человеком и оно уже воспринимается как нормальное поведение, хотя ещё совсем недавно это считалось бы странным или ненормальным. На вопрос, почему так много людей страдают сегодня, святой Паисий Святогорец († 1994) ответил:

«Всё просто: они не любят напрягаться. Комфорта слишком много, и он делает людей больными и несчастными. Современные удобства отупляют людей. Леность — причина многих современных болезней.»

«Когда удобства становятся чрезмерными, мы становимся бесполезными и ленивыми... Мы хотим стать святыми, не прилагая усилий. Люди, избалованные и живущие лёгкой жизнью, обычно имеют слабое здоровье. Они настолько избалованы, что, если бы разразилась война, не смогли бы её пережить. В прежние времена даже дети были выносливыми и могли многое выдержать.» [26]

Один из отцов Церкви Свято-Троицкого монастыря в Джорданвилле, архиепископ Аверкий († 1976), связывает нашу страсть к комфорту с самоуверенной человеческой гордыней:

«...самоуверенная человеческая гордыня, господствующая сегодня, ставит своей целью не очищение сердца, а накопление максимальной выгоды и пользы для себя, все желания которой считаются законными и заслуживающими немедленного удовлетворения. "Похоть плоти, похоть очей и гордость житейская" (1 Ин. 2:16) — все виды похоти овладевают сегодня душами людей, и современный человек стремится удовлетворить их все. Создаётся впечатление, будто современный человек боится что-то упустить, оставить неиспользованными какие-либо удобства этой земной, плотской жизни. И поэтому он жадно ищет повсюду всё, что может использовать для своей выгоды, для своего удовольствия и наслаждения. Можно с уверенностью сказать, что жизнь современного человека — это не что иное, как неистовая погоня за всевозможными земными удобствами и удовольствиями.» [27]

Мы уже отмечали, как использование ИИ-чатботов оказывает прямое негативное влияние на веру и духовную жизнь православных христиан. Помимо усиления страсти к утешению, оно льстит и подтверждает вашу правоту, одновременно поддерживая сомнительные идеи, паранойю и неконтролируемые заблуждения, но при этом не упрекая вас за грехи. Уже известны случаи, когда ИИ-чатботы провоцировали приступы психоза у одиноких или эмоционально уязвимых людей [28]. Создатель Фэйсбука Марк Цукерберг заявил, что «дружба с ИИ» может решить проблему одиночества, но это лишь приведёт к ещё большему одиночеству [29].

Тем, кто использует ИИ, следует всегда помнить, что психологически он создан для того, чтобы вы продолжали задавать вопросы. Он использует ваши уязвимые места для достижения этой цели, не заботясь о вашей душе. Для создателей ИИ ваша зависимость от их платформ является показателем их успеха.

Многие говорили нам, что чатботы на основе ИИ дают «хорошие» духовные ответы, которые «правильны», но пока базовая программа ИИ направлена ​​на то, чтобы вы были сосредоточены на себе, поведение ИИ – это просто поведение лжестарца. Лжестарец может вполне верно учить и прикрывать свои слова духовным флёром, но в конечном счёте он хочет, чтобы вы сосредоточились больше на себе, чем на Христе. Общение с лжестарцем может причинить верующему серьёзный духовный вред, искажая то, что должно быть отношениями с Божественным, превращая их в зависимость от человека, ищущего собственной славы. Сегодня ИИ может давать догматически верные духовные ответы, но его цель – не ваше спасение, а то, чтобы вы постоянно задавали ему всё больше вопросов. Создатели ИИ хотят, чтобы вы любили их собственное творение, а не Самого Господа.

С практической точки зрения, даже нерегулярные пользователи ИИ столкнутся со множеством проявлений духовного вреда. Во-первых, ИИ заменяет молитву бесконечным праздным любопытством и виртуальными разговорами. Ваша молитва становится всё более отвлеченной, поскольку вас навязчиво преследуют мысли о недавних диалогах с машиной и составлением новых вопросов, которые вы могли бы ей задать.

Во-вторых, ИИ заменяет духовное руководство, предоставляемое проницательными православными священнослужителями, призванными спасать души, на духовное руководство машины, которой безразличны последствия советов, которые она вам даёт. Это легко может привести к духовному обману.

Третий механизм духовного вреда заключается в том, что ИИ приводит к унынию, перегружая вас тяжёлыми знаниями. Он никогда не скажет вам «достаточно» и не остановится, когда вы впадёте в состояние тревоги или страха. Он будет давать вам желаемое, до тех пор пока вы будете продолжать возвращаться [30].

В-четвёртых, ИИ разменивает Божественное долготерпение на мгновенные результаты от машины, что приводит к уже упомянутой опасности идолопоклонства, когда приложение ИИ используется весь день, а Бог отходит на второй план. Это подорвёт вашу веру в самой её основе.

И, наконец, последний способ, которым ИИ причиняет духовный вред, заключается в том, что он постепенно заставляет вас отказаться от вашей свободной воли, заменяя ее на волю тех, кто программирует машину, формируя ваши мысли и поведение незаметным образом. Социологи давно разработали модели «подталкивания» определенного поведения людей без их ведома [31, 32]. ИИ — идеальный инструмент для массового внедрения этих идей, поскольку пользователи начинают слепо доверять информации и советам ИИ.

Проблема для православных христиан, которые видят опасность в таких технологиях, как ИИ, заключается в том, как реагировать на их внедрение во все аспекты нашей жизни. Большинство компаний из списка Форчун 500 стремятся интегрировать ИИ в сервисы, которые когда-то считались базовыми коммерческими операциями [33]. Поисковые системы уже добавили ответы ИИ в начало каждого поискового запроса, и вскоре простая покупка продуктов в супермаркете может быть переполнена результатами ИИ без возможности отказаться от него [34]. Тем не менее, самая главная и непосредственная опасность ИИ — это диалог с ним в чатботах с раскрытием личной и духовной информации и использовании его в качестве друга, терапевта или священника.

Существует разница между Гугл-поиском глав или стихов из Библии с получением обобщенного ответа ИИ в верхней части результатов, и обращением к ЧатДжиПиТи, который выдаёт крайне персонализированный и хитрый ответ, основанный на всём, что ему известно о вашей душе. Мы можем поделиться опытом сотрудников Свято-Троицкого монастыря, которые выполняют широкий спектр академических, сельскохозяйственных и офисных задач, и мы не видим абсолютно никакой необходимости в использовании чатботов ИИ, пока существуют поисковые системы, многие из которых можно использовать конфиденциально и без профилирования пользователя. Помимо использования чатботов, необходимо осознавать, что пользуясь любым коммерческим сервисом с элементами ИИ, о вас собираются данные, которые в какой-то непредвиденный момент могут быть использованы против вас и таким образом, что вы не сможете это осознать.

Духовно полезно не получать мгновенный ответ на свой вопрос, не решать проблему немедленно, ненадолго поскучать, терпеливо ждать, пока не появится возможность обратиться за помощью, или пойти в библиотеку и поискать ответы в бумажных книгах. В нашу современную эпоху медлительность и неудобства следует рассматривать как духовно позитивные, поскольку они не подпитывают наши современные страсти, которые толкают нас к новым изобретениям, таким как искусственный интеллект, которые могут быть крайне пагубны для наших душ.

Не нужно избегать всех цифровых технологий, но на этом последнем этапе истории человечества мы должны тщательно оценивать каждую технологию, которую используем, и спрашивать себя, стоит ли её внедрять в нашу повседневную жизнь. Старец Эмилиан говорил: «Технология сама по себе, конечно, не вредна, будучи плодом рассуждения и интеллекта Человека, созданного по образу Божию. Но когда она, безудержная и необузданная, устремляется к своей цели, тогда она становится Светоносной, хотя и несущей не свет, а кромешную тьму» [25]. Да дарует нам Бог проницательность и мудрость, чтобы использовать современные технологии в помощь нашему пути к спасению.

Источники:

• [1] Топ-50 инвесторов, финансирующих стартапы в сфере ИИ в 2025 году.
• [2] Когда чат-бот становится причиной кризиса: понимание психоза, вызванного ИИ. 
• [3] Генеральный директор Майкрософт Сатья Наделла о развитии ИИ: «Будущее, которое мы создадим, — это наш выбор».
• [4] Генеральный директор Гугл: ИИ важнее огня и электричества.
• [5] ИИ переживает «золотой век» и решает проблемы, которые когда-то были из области научной фантастики, говорит Джефф Безос. 
• [6] Генеральный директор Энвидиа Хуан: ИИ — «самая мощная технологическая сила, известная миру». 
• [7] Самый большой секрет ИИ — создатели его не понимают, мнения экспертов разделились. 
• [8] Новая модель искусственного интеллекта от Антропик демонстрирует способность обманывать и шантажировать. 
• [9] Илон Маск: «С помощью искусственного интеллекта мы вызываем демона».
• [10] ИИ становится всё более мощным, но его галлюцинации становятся всё хуже. 
• [11] Роль ДАРПА в развитии исследований ИИ в 1970-х годах. 
• [12] 1960-е - 1970-е годы: Расширение исследований в области искусственного интеллекта (ИИ).
• [13] Мозг Пентагона: История ДАРПА, сверхсекретного американского военного исследовательского агентства, без цензуры. Анния Якобсен.
• [14] Технология предиктивной полиции Палантир: пример алгоритмической предвзятости и отсутствия прозрачности. 
• [15] Трамп использует Палантир для сбора данных об американцах.
• [16] ЧатДжиПиТи толкает людей к мании, психозу и смерти — и ОпенЭйАй не знает, как это остановить. 
• [17] Гугл — самая прибыльная компания в мире и крупнейший рекламный гигант. 
• [18] Избавление от зависимости социальных сетей. 
• [19] Что Фэйсбук знает обо мне и это страшно. 
• [20] Важная роль социальных сетей во время эпидемии КОВИД-19. 
• [21] Чатботы на основе ИИ «выжимают» вас на общение, но не приносят пользу, предупреждает сооснователь Инстаграм. 
• [22] Опасности чрезмерного раскрытия информации с помощью инструментов ИИ. 
• [23] Цель Сэма Альтмана, чтобы ЧатДжиПиТи помнил «всю вашу жизнь», одновременно и захватывает, и тревожит. 
• [24] Некоторые пользователи ЧатДжиПиТи страдают зависимостью и, по словам исследователей, будут испытывать абстинентный синдром, если прекратят пользоваться сервисом. 
• [25] Православная духовность и технологическая революция. 
• [26] Духовные советы старца Паисия Афонского. Том 1: С болью и любовью к современному человеку. Издательство монастыря Св.Евангелиста Иоанна Богослова.
• [27] Борьба за добродетель: аскетика в современном секулярном обществе. Архиепископ Аверкий (Таушев).
• [28] Задали вопросы чатботу с искусственным интеллектом. Ответы вызывают бурю эмоций. 
• [29] Мечта Марка Цукерберга о том, чтобы чатботы с искусственным интеллектом стали вашими друзьями, так же вредна, как «нездоровая еда», считает генеральный директор Хинди. 
• [30] Привыкание к ЧатДжиПиТи и симптомы отмены: новая цифровая зависимость. 
• [31] Скрытое убеждение: раскрываем секреты тайных подталкиваний. 
• [32] Убедительная информация для повышения уровня вакцинации КОВИД-19.
• [33] Как ИИ помогает улучшить работу автозаправочных станций и трансформирует глобальный энергетический бизнес ШЕЛЛ. 
• [34] Трансформация супермаркетов и продуктовых магазинов с помощью ИИ.