17.11.2022 13:37:21
Евгений Константинович Никифоров
Е.Никифоров: Мы сегодня будем говорить о важных для религиозного сознания темах. Ходят такие страшилки, которые связаны с цифровизацией, новыми технологиями, искусственным интеллектом. Насколько он может поглотить естественный? Стоит ли бояться? Для начала нужно понять и назвать эти страшилки, сделать каталог страхов.
Е.Жуковская: Действительно, церковь связана интеллектуально с этой проблематикой через Межсоборное присутствие. Мы в профильной комиссии под началом митрополита Климента пытаемся сформулировать богословский, теологический, религиозно-общественный ответ на эти страшилки. За те 20 с лишним лет, которые прошли с момента дискуссии вокруг ИНН, мало что изменилось. Значительное число людей по-прежнему боятся различного числа зверя, числа антихриста, всяких шифров, а с другой стороны, наша паства в церквях изменилась, многие прихожане – те, кто занимаются разработкой высоких технологий, искусственного интеллекта, кто имеет в этой части мировое признание, кто спокойно относится к тому, чтобы в одном шифре была заключена вся информация о тебе, твои паспортные данные, сведения в налоговой, сведения о счетах, чтобы облегчить тебе жизнь. Зашел через один клик, посмотрел оценки ребенка, параллельно что-то купил себе в интернете, в этот же момент оплатил поездку в общественном транспорте. Это все буквально в 10 секунд происходит. Эти люди спокойно относятся к развитию технологий. Так в одном приходе встречаются те, кто категорически против установки видеокамер в храмах, хотя это и наша безопасность, и благодаря этим камерам следят за порядком, ловят воров, а также и те, кто в этом же приходе, и от одной Чаши причащаются люди, которые занимаются созданием этих высоких технологий. Церковь всегда современна через тех, кто ходит в храмы. Она не может оставаться в стороне от всех этих страшилок, которые формируются нашим незнанием. От незнания мы себя начинаем загонять в рамки опасности, нагнетать что-то. В Межсоборном присутствии, в рамках одного проекта, который мы будем еще обсуждать, и который посвящен религиозной оценке этических проблем искусственного интеллекта, мы пытаемся обозначить сложности, которые возникают при развитии этих технологий, с другой стороны, снять излишнюю опасливость, которая есть у людей только потому, что они чего-то не знают.
Е.Никифоров: Мы сейчас многое узнали, а страхи остались. Одни развеялись, появились другие, аналогичные. Мы угроз не знаем, от этого еще страшнее становится, как в голливудском кино. Боимся до тех пор, пока зло себя не обнаружило. Когда увидели, уже не так страшно, но угроза остается. Цифровизация… А я не хочу, чтобы за мной следили, я имею право на какую-то свою закрытость. Нам предлагают другое. Будь открыт, что тебе скрывать. Вы, наверное, знаете, что когда протестантизм победил на севере Европы, нарочито не покупали шторы, потому что настоящему протестанту, честному кальвинисту, нечего скрывать. И они до сих пор не имеют даже магазинов, где шторы продают.
Митр. Иоанн: Это так, сохраняется до сих пор в разных странах, не только в северной Европе. В США если вы вечером проезжаете по хайвею и видите квартиры в небоскребах, то большинство из них просто не зашторены. Это психологическая особенность отношений к соседям своим – желание показать, что скрывать нечего. Они прозрачны и доверяют окружающим. В Европе это зависит от страны. Что касается страхов, то нам, как православным христианам, бояться нечего. Было уже явление Христа, который пришел, победил смерть. Самый большой страх для человека - смерть. Если она побеждена, что может быть страшнее, что может угрожать? Все страхи наносные, в основном сформированы масс культурой. Кого ни спроси, все будут ссылаться на то, что они видели в фильмах Голливуда или других, и это будет влиять на восприятие. Для верующего православного есть задача - смотреть в корень. Если проблема искусственного интеллекта, то надо учесть, что это продукт, созданный человеком. Такой же продукт, как нож, который сделал первый человек. Он может убивать, а может служить ко благу. Все отношение пользы будет зависеть от волеизъявления человека, который будет его использовать. И в этом проблема любого технического продукта. Стиральная машина может стать орудием страшного случая, а может приносить пользу. Цифровизация, искусственный интеллект и многие продукты из этой среды непонятны. Даже в среде специалистов, которые нарочито занимаются созданием таких продуктов, существуют споры. Если взглянуть на историю самого искусственного интеллекта, то изначально он формировался как алгоритм. Раньше для человека искусственный интеллект был важен как машина, которая собирает информацию и дает результат, но с недавнего времени этот алгоритм поменялся. Машина запрограммирована на то, чтобы обучаться самостоятельно. Они создаются не как некий сборник файлов, которые можно просто быстро выдавать. И здесь встает вопрос этики. Чему и у кого научатся они? У нас. Замечательный есть пример. Майкрософт создал чат-бот два-три года назад. В Твиттер был запущен робот, который также общался наравне со всеми, обладая определенным программным обеспечением, которое позволяет реагировать или поддерживать беседу.
Любопытно было посмотреть, чему будет учиться в общении с другими пользователями Твиттера этот искусственный интеллект. Через какое-то время его прикрыли, потому что он начал обучаться языку ненависти, осуждению, ложным сведениям, а брал он это из общения с другими людьми, которые в своих сетях публиковали свои твитты, замечания и прочее.
Е.Никифоров: Это напоминает «Одиссею 2001» Кубрика, где все начинается с очень услужливого робота, который развлекает и песенку споет, приготовит, спать уложит, должен служить человеку и защищать его, но в итоге робот становится убийцей, выталкивает космонавта и тот погибает. Этот интеллект, который должен был бы любить человека, холить и лелеять его, в конечном счете именно это заложено, но чуть перепрограммируй, и это станет убийственной машиной.
Митр. Иоанн: Опять-таки, это страхи, основанные на фантастике. Если мы будем говорить о технических спецификациях машин, роботов, программ, которые сейчас есть, сами специалисты говорят, что такое развитие событий маловероятно даже с точки зрения технического исполнения. Если оно будет когда-то, то неизвестно, доживем ли мы.
Е.Никифоров: Так все быстро развивается сейчас. Многие пророчества из прочитанных мной в священных книгах, сбываются. Никогда не думал, что в мою личную жизнь войдет коготок антихриста. Ладно шестерки, саму цифру боятся. Это мы разоблачили, что оно как любое начертание ничего не значит. Но цифровизация! Речь о ней. Она может привести к таким последствиям, когда без разрешения этой цифры вы не можете ни покупать, ни продавать. Это касается любого человека, потому что программа сочтет его неблагонадежным по каким-то параметрам.
Е.Жуковская: Я хотела бы продолжить мысль. Пандемия, совсем недавняя история, которую мы еще не преодолели до конца, вывела цифровизацию на другой бытовой уровень. До этого конечно мы как-то соприкасались, но персонального отношения не имели. Именно в пандемию нам показали, что цифровизация может быть опасна, когда нас заключили в домах, разрешили выходить по определенным разрешениям. Россия, кстати, в этом смысле интересное государство. Мы пошли дальше, чем развитые страны. Там развитые, а мы вроде как не развитые, но, например, во Франции можно было выходить в магазин или с собакой, написав от руки расписку другому человеку. А у нас начали создавать цифровой концлагерь для граждан, когда ты должен на госуслугах вводить данные, получить или не получить разрешение, и только с куаркодом ты можешь выйти, и вообще ты человек, только если у тебя есть код. Буквально за полгода до пандемии мы слышали, что в Китае вводится социальный рейтинг при помощи того же искусственного интеллекта. Если ты хороший гражданин, выполняешь все правила, законы, покупаешь нужную одежду, то есть у тебя хорошая кредитная история по всем фронтам и в отношениях с людьми, государством, системами, то тебе условно присуждается зеленый уровень. Если ты пообщался с человеком из желтого уровня, то начинаются вопросы. Мы могли читать об этом, но не думали, что это так легко внедряется в нашу жизнь. Вот мы, например, вызываем Яндекс-такси…
Митр. Иоанн: Яндекс-такси это тоже искусственный интеллект.
Е.Жуковская: Да, а тебе, говорят, что рейтинг у тебя не очень хороший. Откуда же? Ты вроде всегда вежлив.
Е.Никифоров: Там посчитали алгоритмами. Машина запускает тексты, назовем текстом всю вашу известную жизнь, и там прослеживается все. Ваш психотип, кто вы, что вы. Предположить, как вы поступите в тех или иных ситуациях можно – человек достаточно предсказуем. Можно вполне учесть, что будет.
Е.Жуковская: При этом мы начали сильно нагнетать. Я во всей этой ситуации думаю о максиме, что любую негативную ситуацию Господь преображает в добро, благо. Вспомните пандемию. Мы уже знаем, к чему готовиться. Мы увидели, что все не так однозначно – кто-то принимает, кто-то отвергает. Когда-то люди просили татуировки с куаркодом. Или помните, когда в Москве ввели оплату по лицу в метро, так посыл был, что бесконтактный способ служит меньшему распространению микробов. На самом деле это хорошая история – мы увидели, с чем мы, как Церковь, можем столкнуться. Сейчас важно Церкви, не боясь этой темы, начинать миссионерски с ней работать, с паствой своей. Это хороший вызов нашему миссионерству и проповеди.
Е.Никифоров: Владыка, а Вы как думаете? Это чтобы замазать всю правду, успокоить, примирить народ с этим или рассказать всю правду?
Митр. Иоанн: Естественно, предупрежден - значит вооружен. Как говорили в Советском Союзе, знание – сила. Человек, который понимает, что происходит, а он имеет право понимать и знать, какие технические средства к нему применяются. Упоминали же мы о проблемах, которые стали столь актуальными в период пандемии именно с точки зрения цифровизации. Мало кто знает, что вы подходите к подъезду и видите камеру. Зачем она? Сканирует лицо ваше. Вся Москва этими камерами пронизана. Этот искусственный интеллект уже работал задолго до пандемии. Не думаю, что открою секрет, у нас полиция сейчас на кражу машин почти не выезжает, потому что камер столько, что движение каждой машины они могут проследить, не выходя из кабинета. Это тоже искусственный интеллект, который использовался задолго до пандемии. Есть и много других аспектов, но пугать не хочется.
Е.Никифоров: Наша задача как раз немножечко напугать, рассказать, какие вызовы существуют, и как с ними быть.
Митр. Иоанн: А быть с ними просто. Главный вопрос здесь – кто регулирует использование этих технических средств. Какие у меня права? С одной стороны, я могу согласиться использовать искусственный интеллект. Распознавание лица, переводчики – все это искусственный интеллект. Алгоритм этот используется уже везде. Уверен, что и у вас на радиостанции есть программы, которые используют искусственный интеллект. Вопрос, есть ли у меня доступ к этому знанию. Упоминали мы Китай. Там рядовому человеку не дают возможности узнать, куда это идет. Мы, как люди, обязаны и имеем право понимать, куда наши данные уходят, кто несет за это ответственность.
Е.Никифоров: Китай - громадный человековейник. Отношения между людьми очень регламентированы. Каждый человек – высокоразвитый биоробот.
Митр. Иоанн: И да, и нет. Проблемы, которые встают перед обществом, требуют определённого решения. Количество людей, проживающих в Китае, требует от государственного руководства, муниципальных органов решения, как регламентировать или осуществлять управление таким большим аппаратом. В нашей стране проживает не так много людей. Вопросы остаются: кто и как будет использовать эту информацию. Создается огромное количество программ на западе, конечно, которые могут представлять мир, отличным от того, какой он есть. Будет это все выглядеть, как настоящее. То есть это вопрос нравственного выбора.
Е.Никифоров: В конечном счете, это политическая воля?
Митр. Иоанн: Естественно. Как она будет реализована, никто никаких гарантий не даст.
Е.Никифоров: У нас не ввели обязательные куаркоды только благодаря личному решению президента, который счел, что это преждевременно, не нужно и вредно для нашей страны. И тут все расслабились. Одно дело вакцина – чисто медицинская проблема, а другое дело – политика. Какая связь между вакциной и куаркодом? Обязательность куаркодов – нарушение того, за что мы боролись – свободы. А пришёл бы Байден к нам сюда? Диаметрально противоположная идеология той, которую мы так смутно нащупываем у себя. Кто мы, что мы? Христианство это даже артикулирует, что мы все же православная страна, а не какая-то другая. У Байдена - пожалуйста, принимай ценности, а их срамно и называть ценностями.
Е.Жуковская: Мы живем в этом моменте, когда нас в мире пытаются отменить, как что-то ненормальное, как то, что не укладывается в определённую парадигму. А отменять так: теми же технологиями учета людей пользоваться, проезда, свободы перемещения. Нам пытаются сказать, что россияне этого не получат, здесь не проедут, здесь будут ограничены. Ряд небольших государств на европейском континенте уже начали говорить, что будут задавать определенные вопросы и решать, въезжать или нет. Это абсолютная манипуляция цифровизацией и технологией.
Е.Никифоров: Наступление на совесть человека – вот что предлагает несчастный эстонский таможенник. Приходит наш владелец маленького места под солнцем в Испании, хочет туда, а ему бумажечку дают, где написана мерзкая хула на Россию, президента и т.д. Подпиши и ты будешь иметь возможность отправиться туда. Это массово происходит на наших глазах. И также незатейливо бизнесмены мелкого порядка, которые мелко мыслят и мелко проживают, вообще могут и посмеяться над этим. Для них это не важно.
Е.Жуковская: Если говорим про опасности, то как раз эта опасность одна из самых больших. Технологии ставят перед нами вопрос выбора, но здесь это вызов для нас, Церкви, воспитать по-настоящему религиозное сознание в человеке. И человек это должен решать сам, это его персональный выбор. Важно Церкви с людьми работать, разъяснять, что такое ценности, идеалы, что заложено в нас Богом.
Митр. Иоанн: Я согласен. Мы упускаем из виду, что технические средства настолько далеко зашли, что мало кто вообще может себе это представить. Вы говорите о бумажке, о которой спрашивают на границе – это прошлый век. Сейчас разработаны программы, которые, просто сканируя ваше лицо, могут по вашим чувствам и ответам определить ваше внутреннее расположение к тому или иному явлению. То есть вы даже не скроете ничего. Напишете одно, а думать будете другое – технические средства это уже могут. У вас исчезает возможность на кухне обсуждать какие-то вещи – кухня становится открытой.
Е.Жуковская: А может быть это хорошая история для христианина – мы же призваны всегда прямо стоять перед Богом. Везде быть одинаковыми. В этом смысле всегда меня раздражало, когда в СМИ или сетях человек себя презентует одним образом, а на самом деле он совсем другой. Или опять же человек высказывал и показывал себя как благонадежного гражданина, а, в конечном счете, не готов быть не только гражданином, но и человеком. Технологии нас заставляют трезвиться в каждом моменте. При этом нести ответственность за каждое свое слово и действие. Мне не должно быть стыдно ни на кухне, ни в публичном пространстве.
Е.Никифоров: Быть исповедником веры трудно.
Митр. Иоанн: А у нас уже выбора нет в техническом плане. Я вам даже больше скажу - есть другая подоплека этих технических возможностей. Есть программа, которую как только создали в Великобритании, так сразу и остановили. До сих пор не просчитаны все последствия от работы этой программы. «Дип фейк» называется. Если переводить – глубокая подделка. Это устоявшийся термин в технологическом сообществе, который происходит от двух словосочетаний, которые используются в среде искусственного интеллекта. Это deep learning - глубокое изучение, которое является частью алгоритма любого искусственного интеллекта. И fake - подделка. Этот Deep fake дает возможность создать образ любого политика, религиозного деятеля, вложить в его уста любую информацию. В медийном пространстве появятся изображения Евгения Константиновича, которые ничего общего не будут иметь с ним самим, и говорить он будет нечто запрограммированное. По двум первым словам программа может составить связный текст очень хорошего качества. Сейчас до конца ее не изучили, сами создатели испугались. Представьте, программа изображает президента ядерной державы. В эфир любого ТВ ее можно пустить с определенным текстом. Кто разберется, это он или нет. Говоря о Байдене. Я с ним лично встречался, тогда он был более живой, чем сейчас. Он католик и не плохо на личном уровне разбирается в православном богословии. Но конечно, как политический деятель, он должен следовать руслу партии. Членам демократической партии известны постулаты и о сексуальных меньшинствах, абортах, прочем. Не знаю, как это уживается с его религиозной совестью. Он продвигает повестку своей партии, а на личном уровне он прекрасно понимает, что происходит с духовной точки зрения, и это феномен. Мы должны, как православные верующие, давать оценку и вообще стараться участвовать в этом процессе. В процессе создания технических средств должны участвовать как можно более широкие слои общества. Чем больше вопросов будет задано на стадии создания такого алгоритма, чем больше они получат ответы в дополнение работы программ, тем сложнее будет манипулировать этой программой. Если мы всё отдаем на откуп техническим исполнителям, то это странно – они отключены от мира. Любой компьютерщик редко задается вопросами этическими, ему интересно достичь результата.
Е.Жуковская: В рамках Межсоборного присутствия наш фонд «Соработничество» и программа «Православная инициатива» поддержали, и мы в этом году под эгидой нашей комиссии начали небольшой исследовательский проект, посвящённый именно религиозному отношению измерения этических моментов создания искусственного интеллекта. Мне довелось пообщаться с разными специалистами в самых разных регионах нашей страны. Как раз когда мы были в Якутии в одном инновационном центре, мы общались с ректоратом. Выяснилось, что направление, где обучают айтишников, самое популярное, туда идут массово. Журналисты, юристы более открыты, мы считываем даже без технических средств, что они чувствуют и говорят. Но этот блок студентов айти, которые пополнят армию работающих людей нашей страны, для нас терра инкогнита. Мы не понимаем, что в голове этого студента и впоследствии специалиста. Это человек, с ним надо работать, ему надо наши идеалы, ценности, этичность передать. Это могут сделать только традиционные религии, потому что обладают корпусом нравственных ценностей и инструментами их передачи. В сообществе айтишников и тех, кто их готовит, как раз есть запрос на формирование этического кода с участием религиозных институтов. Я бы призвала и мусульманское сообщество, и буддистское, иудейское – мы все носители древних и главных ценностей. Какие программы человек создаст, какие алгоритмы туда зашьет – это во многом зависит от того, как мы с человеком пообщаемся. Мы ведь не делим общество на сегменты и профессии, но я бы сегодня отдельно поставила вопрос о том, что нам нужно выстраивать с корпорациями айтишников контакты, представлять свою позицию, как в России, так и за рубежом. И важно, чтобы как можно больше людей из разных слоев общества участвовало в этих проектах, чтобы наша позиция была там тоже представлена. В наших духовных академиях, семинариях всячески пытаемся проводить богословские и иные исследования, заряжать современных студентов, которые завтра-послезавтра будут священнослужителями, которые понесут слово Божие. Они напрямую будут состыковываться с этими айтишниками и с их технологиями. В социологии есть метод «снежного кома». Нам нужно как можно больше этот ком накатывать, чтобы выработались реальные и адекватные ответы на страхи, возможные прогнозы развития ситуации, чтобы мы к этому были как-то готовы. Общество потенциально ждет нашего ответа и реакции.
Е.Никифоров: Это вопрос воспитания совести. Но как войти к людям? Как им показать, что совестливость это важно, что это голос Бога в человеке.
Митр. Иоанн: Человек должен увидеть людей, которые разговаривают на этом языке. А это члены наших приходов, в конце концов. Это проблема постковидного посещения храмов. Большая часть людей перестала приходить в храмы. А сейчас они не испытывают внутреннего движения, чтобы участвовать в общинной жизни. Я за скобками оставляю глубинные причины всего этого. Если человек не увидит, не поймет, зачем ему это нужно, то тогда мы не достигнем успехов. Процесс скукоживания будет таким же, как в Европе. Храмы пустеют, превращаются в какие угодно здания, но не церкви. Для нас так вопрос пока не стоит, но все может случиться в ближайшем будущем. Мы все члены одного общества - глобализационного, как бы этому не противились. Мы там будем общаться посредством соцсетей, блогов. Если говорить о технической составляющей, то я бы пошел еще дальше. Скорее всего, Церкви надо инициировать собственные школы, которые будут заниматься айти проблемами, чтобы верующие изначально приходили туда, чтобы Церковь давала им возможность проводить такие исследования. В этом нет ничего противозаконного для Церкви, потому ее членом может быть как священник, так и человек любой профессии, если он верит в Иисуса Христа. На западе католики создают и учреждают огромное количество университетов, которые занимаются не только богословскими проблемами, но и социологическими, философскими, юридическими, техническими, инженерными.
Е.Никифоров: Но для этого нужны большие деньги?
Митр. Иоанн: Это хороший вопрос. Деньги - вопрос менеджмента. Те возможности, которые имеет Русская православная церковь, позволят ей реально заработать, если будет поставлена такая задача. Возможности есть и люди есть.
Е.Никифоров: Беда в том, что церковных нет. В начале перестройки, когда святейший Патриарх Алексий пытался реализовать механизмы по консолидации финансовых потоков, которые были, создавать банки, фонды. К нему приходили бизнесмены и предлагали своё участие, но оказалось, что все непросто - вопрос с совестью у этих ребят не был решен. Тем более, если говорить о церковности.
Е.Жуковская: От мирянского крыла я бы добавила, что огромное количество церковных людей заинтересовано в том, чтобы работать на Церковь. Нам тоже нужны грамотные программисты, юристы, социологи, экономисты. Задачи наши разные, их много. Соглашусь с владыкой, что финансы это проблема менеджмента. Всегда можно найти возможности, особенно если есть люди, которые хотят этим заниматься. Если мы будем идти по пути собирания церковных людей разных профессий и формировать их в активные сообщества, то они уже начнут быть этими провозвестниками совести и наших идей. Основная масса айтишников, разрабатывающих искусственный интеллект, не приходит в храм, священников не слушает. Более того, их поисковые алгоритмы так работают, что вряд ли они попадут на «Радонеж» массово.
Е.Никифоров: Мы говорим халва, халва, а сладко от этого не становится. Нужно показать, что такое христианин. Как говорил один батюшка: встретить христианина уже громадная радость. Мы грешные люди и не изображаем из себя велие благочестие. Мы особенно не декларируем, откуда мы, хотя всё и так понятно, но когда по работе сталкиваемся с молодыми ребятами айтишниками, из общения и бытовых вещей постепенно выливается, что вон и в храм кто-то пошел, исповедовался… процесс длинный. Это то, что зависит от каждого из нас - давать миру пример христианского поведения. Бескомпромиссно, не боясь байденов и его троглодитов, вести себя по-христиански, называть вещи своими именами, говорить нашим православным аскетическим языком совести. Это и был бы наш ответ на эти вызовы.
В конце ноября откроется XXVII фестиваль «Радонеж». Участвует 300 компаний. Это крупнейший в мире фестиваль религиозного документального кино. Минкульт нам, конечно, отказал в финансировании, это вне сферы их интересов. Неважно. Мы его проведем. Программа собрана потрясающая. Что за фильмы!? Не про колокольный звон, это не пошлые ходульные фильмецы, не хоум видео, таких давно уже нет, но это фильмы о христианах, захватывающее зрелище, душа радуется мысли, что столько христиан рядом с нами, не декларирующих, а созидающих вокруг себя благочестивый мир. Наша задача, чтобы эти фильмы нашли своего зрителя. Путин издал закон, чтобы сделали кинотеатр документального кино, мы может могли бы попасть в программу, чтобы и наши фильмы находили зрителя не только в рамках фестиваля. Три зала с 9 утра до 21 вечера. Все равно не хватает.
Е.Жуковская: Знаю ваш фестиваль. Огорчение всегда, что нельзя вне фестиваля посмотреть уже ничего. Нужны технологии искусственного интеллекта, чтобы они подхватывали и разносили это как можно шире. Технологии эти иногда позволяют экономить средства, всё зависит от того, как мы будем это внедрять, с какими намерениями. Сегодня много возможностей дает цифровизация.
Митр. Иоанн: Я бы пошел по другому пути. Нам хочется в Церкви иметь специалистов. Я бы на месте Церкви дал возможность создавать специалистов для себя и для кого угодно еще. Они априори будут верующими, этически подкованными для создания продукта, который будет востребован обществом и будет отвечать на те вопросы, которые сегодня мы здесь обсуждаем. Мы уже опаздываем с этим. Если не начать сейчас, то через 20-30 лет с нами и разговаривать никто не будет.
Е.Никифоров: Мы ставим задачу перед выпускниками нашей гимназии. Не делать их миссионерами хотим, но говорим о том, что они должны быть готовы дать ответ о их уповании. Они серьезно своим одногодкам говорят, что можно, а что нельзя, это хорошо, а это плохо, и будет стыдно когда-то за то, что ты сейчас делаешь. Это плоды нашего образования. Их мало таких. Нашей школе никогда не давали финансирования. Но подобным школам по 30 лет и они существуют сами. Значит, это востребовано. Похвастаюсь, в одной школе у нас было 9 золотых медалистов.
Е.Жуковская: Знаю, что многие в светских ВУЗах становятся провозвестниками правды и истины...
Е.Никифоров: Ну вот мы и описали проблемы, ответы на которые не нашли, конечно.
Митр. Иоанн: Главное понять, что страха быть не должно! Все зависит от нас. Либо мы, христиане, идем в этот мир и действуем в соответствии в нашими убеждениями и нашей верой, или мы замыкаемся, и тогда все окружающее поглощает нас больше и больше.
Е.Никифоров: Спасибо за разговор о серьезных вещах! До следующих встреч!
Добавить комментарий