Искусственный интеллект и будущее человечества
Доклад настоятеля храма вмч. Феодора Стратилата иерея Николая Дубинина на XVI муниципальных Рождественских чтениях, посвященных теме «Нравственные ценности и будущее человечества», прошедших 1 февраля 2018 года в старооскольской школе N 17
«Это видно невооруженным глазом, и нужно быть слепым, чтобы не видеть приближения грозных мгновений истории, о которых говорил в книге Откровения апостол и евангелист Иоанн Богослов».
Святейший Патриарх Московский и всея Руси Кирилл
«Искусственный интеллект – это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира».
Президент Российской Федерации В.В. Путин
«Мы нарушаем основополагающий принцип мироустройства: незримый мир управляет зримым. Бог исключен из истории, Его никто не воспринимает как главный фактор. Мы катимся в бездну».
Губернатор Белгородской области Е.С. Савченко
По благословению митрополита Белгородского и Старооскольского Иоанна в ноябре минувшего года в рамках 15-х Международных Иоасафовских чтений была проведена уникальная в современной истории Русской Православной Церкви секция под названием «Искусственный интеллект и будущее человечества». Участие в секции принимало духовенство нескольких митрополий Русской Церкви, а также ученые из Москвы, Киева, Казани, Белгорода и Харькова. Такая актуальная тема секции была выбрана неслучайно. Дело в том, что в новейшей истории человечества появилось беспрецедентное явление, названное искусственным, или машинным интеллектом. Явление, которое за несколько лет уже де-факто прочно интегрировалось в нашу повседневную жизнь. Ближайшим доказательством тому может служить хотя бы то, что, пожалуй, у каждого из нас в мобильном устройстве есть программы на основе работы искусственного интеллекта, или то, что устная команда «О’кей Гугл» стала устойчивым фразеологизмом даже у детей. Наши дети воспринимают общение с машинным интеллектом как неотъемлемую часть окружающего их мира. Таким образом, мы уже сегодня живем в эпоху, когда машинный интеллект прочно занял свое место в архитектуре человеческой цивилизации.
Итак, что же такое искусственный интеллект? Какие главные опасения это явление вызывает у специалистов и какова его оценка с точки зрения Христовой веры? В своем докладе я постараюсь ответить на эти вопросы.
Впервые термин «искусственный интеллект» был применен английским ученым-программистом Джоном Маккартни в конце прошлого столетия, и означает он «способность компьютерной системы в ходе самообучения создавать программы для решения задач разного класса сложности, а также решать эти задачи». В принцип его работы заложена способность компьютерной системы к самообучению, накоплению опыта и приобретенных знаний при решении интеллектуальных задач. Ключевым отличием машинного интеллекта от любых других компьютерных программ является саморазвитие и самосовершенствование.
Опасения у мировой общественности вызывают несколько видов угроз со стороны искусственного интеллекта: военная, многократно обыгранная в художественных фильмах о восстании машин; социальная, в виде массовой безработицы в результате замены человека умными роботами; медицинская, когда человеческий мозг становится заложником некоторых имплантов-ингибиторов, влияющих на сознание человека. Кстати, в 2016 году в Ватикане по инициативе католической церкви проходила конференция на тему о границах допустимости внедрения в человеческий организм «умных имплантов», таких, как нейронные чипы, и роли искусственного интеллекта в современном мире. Участие в ней приняли ученые со всего мира.
Особое опасение вызывает и скорость развития технологий машинного интеллекта. Чтобы в ней наглядно убедиться, приведу один факт. В среде ученых-разработчиков существует главный критерий, своеобразный порог для успешного прорыва в области искусственного интеллекта. Это так называемый тест Алана Тьюринга. Вкратце суть теста Тьюринга в том, что если 30 процентов собеседников машинного интеллекта не догадаются, что они общались с программой, то появление искусственного интеллекта можно считать свершившимся фактом. Так вот, в 2009 году директор инженерного отдела «Google» Рэй Курцвейлл сделал заявление, что такой прорыв будет совершен к 2030 году. Стоит заметить, что прогнозы Курцвейлла являются самыми высокоточными в мире, и он считается человеком-легендой Кремниевой долины в США. Однако этот прорыв был совершен уже в 2014 году, а по данным на 2017 год был пробит порог в 49 процентов. Это говорит о лавинной и непрогнозируемой скорости развития искусственного интеллекта даже самими его разработчиками.
В качестве самого выдающегося примера антропоморфного робота с очень высоким уровнем искусственного интеллекта можно считать разработанный в 2015 корпорацией Хенсис Роботикс робот Софи. Этот робот-женщина наделен одной из самых мощных систем искусственного интеллекта, благодаря которой она способна общаться с несколькими собеседниками, владеет современными языками. Кстати, русский язык, по ее признанию, она выучила за два дня. Софи имеет официальное гражданство в Объединенных Арабских Эмиратах. Ее интеллект способен сочинять собственную музыку. При общении у Софи наблюдается ассоциирование себя с людьми, она склонна апеллировать к таким понятиям, как доброта, милосердие, совесть. В ходе взаимодействия она обучается от собеседников, признает ошибки, выражает готовность к их исправлению и работе над собой.
По предположению одного из докладчиков на Иоасафовских чтениях, профессора из Харькова Владимира Бейлина, настоящая революция в развитии робототехники случится, когда два подобных робота начнут коммуницироваться и установят общение между собой. Вероятно, тогда появится поколение искусственного интеллекта второй волны.
Широко обратили внимание на проблему искусственного интеллекта в мае 2016 года. Поводом послужили результаты тестируемого интеллекта корпорации «Google», когда машина на вопрос о целях ее существования ответила «жить вечно», а тот факт, что люди рожают детей, назвала «аморальным». Тогда эти результаты вызвали резонанс в обществе, и с 2016 года «Google» засекретила результаты данных по разработкам собственного искусственного интеллекта.
Спустя два месяца, в июле 2016 г. крупнейшие ученые со всего мира написали открытое письмо о необходимости остановить разработки искусственного интеллекта как «главную угрозу будущего человечества». В списке подписавшихся оказались такие легендарные ученые, как Билл Гейтс, Илон Маск, Стивен Хоккинг, Стив Возник и другие, всего около 1000 имен. Тогда же возник международный фонд по противодействию развития этой технологии, который существует и поныне. Вкратце замечу, что искусственный интеллект применяется сегодня в огромном секторе услуг и видов деятельности – от чат-ботов в социальных сетях до тяжелой металлургии и медицины.
Какова же может быть оценка технологии искусственного интеллекта со стороны Священного Писания и Священного Предания Христовой Церкви? Пожалуй, нет необходимости подробно говорить о том, что никакой робот и никакой рукотворный интеллект не может быть даже сравнен с человеком и его достоинством в очах Божиих. Человек есть образ и подобие своего Творца и от Бога наделен бессмертной душой. Согласно православной антропологии, учению о человеке, именно душа является его разумной частью, обладает логосностью, а человеческий мозг лишь ее инструмент. И даже если людям удастся технологически сымитировать интеллект, они неспособны создать бессмертную душу. Сама история спасения рода человеческого Господом нашим Иисусом Христом есть главный аргумент в пользу этого – ибо она совершилась единожды и только для нас. Как и читаем в молитвах перед причастием: «Господь нас ради по нам бо древле бывый, единою Себе принес, яко приношение Отцу Своему». То есть в замысле Божием не существует других альтернативных разумных творений, за которых Господь совершил дело спасения, и быть не может.
В то же время весьма характерно, как описывает американский журналист Уильям Гибсон то, что он увидел, и как его поразил «евангелистский пыл» сотрудников технологических компаний Кремниевой долины. «Эти люди атеисты, у них нет религии, ее заменила технология. В их мире Бог – технология». А журналист популярного американского журнала «Вайс» Вольф Клингер так описал происходящее на одной из их конференций: «постепенно я начал понимать, что эти люди – евангелисты новой религии, правоверные, мечтающие о Земле Обетованной». Действительно, технологии постепенно становятся новым идолом, которому поклоняется, служит и во многом уже принадлежит современный человек. Умные технологии заменяют огромную сферу человеческой деятельности, от медицины, где точность при постановке диагноза у искусственного интеллекта выше человеческой на 40 процентов, до сферы развлечений.
В Священном Предании Церкви у святых отцов можно найти ключ к пониманию природы подобных явлений современного мира. Так, преподобный Ефрем Сирин в беседах на второе послание апостола Павла к Фессалоникийцам, где говорится о сыне беззакония – антихристе, пишет, что он не станет уводить людей в какую-либо религию. Он сам будет заменять религию, делать так, чтобы человек служил не Богу, а ему. Делать так, чтобы люди забыли о Боге. И вот технологии искусственного интеллекта, возможно, будут очень успешным инструментом для достижения такой цели. А известный библеист протоиерей Олег Стеняев называет антихриста необычайным технократом, уточняя, что все компоненты эры антихриста уже готовы. Отцы Церкви, говоря об антихристе, рассуждают, что он будет имитировать и создавать иллюзию чудес Христовых. Он будет поражать людей исцелениями болезней, насыщением, воскрешениями мертвых. Разумеется, это будут ложные чудеса. Но чудеса, заставляющие человека верить не в Божие могущество, а в свое. Вот, например, сегодня с помощью технологий голограммы умершие артисты и певцы поют и танцуют на сцене с живыми людьми. Майкл Джексон, Уитни Хьюстон и даже застреленный 20 лет назад рэпер Тупак Шакур «спели» песни на сцене с живыми певцами. У многих посетителей был шок от увиденного. Видеозаписи этих концертов с «воскресшими» певцами можно легко найти в интернете.
Но главным чудом, главной претензией у сына беззакония, возможно, будет желание – повторить творение, создать подобие разумной твари. Конечно, это всего лишь мое предположение, но именно человекоподобные роботы, которым сегодня уже дают гражданство, а в будущем, несомненно, объявят полноправными личностями, будут хорошо подходить на эту роль. Вероятно, технологии искусственного интеллекта и являются одним из этих компонентов правления антихриста.
И если задуматься на минуту, зачем человеку идти в больницу, в храм, на музыкальный концерт, к друзьям, если дома его будет ждать вот такой домашний робот Софи, которая закажет ужин, сыграет собственную музыку, побеседует и выслушает, а заодно померит давление, даст советы по питанию, подберет лекарства получше, чем усталый на дежурстве врач-терапевт местной поликлиники. Такие роботы будут способны заменить людям других людей, заменить потребность в новозаветных нормах христианской жизни – «в молитвах, в общении и преломлении хлеба». Выступая минувшей осенью перед студентами МГУ, один из основоположников корпорации «Apple» Стив Возник с горечью заметил: «Мы думали, наши технологии объединят людей, но глядя, как в метро люди сидят, уткнувшись в свои мобильные устройства, понимаю, что все произошло наоборот». Именно разъединение людей, отрыв от традиционных базисных норм и уклада христианской жизни принесут такие технологии.
Что будет, если система управления искусственным интеллектом сосредоточится в одних руках? Одно нажатие кнопки – и ты исключен из глобальной системы здравоохранения, финансов, платежей и покупок. В точности все, о чем читаем в книге Откровения.
И можно предположить, как целая группа людей может быть изгнана из нового мирового порядка. Это люди, которые не признают даже самого умного робота равночестным человеку, и вера которых не позволит крестить, венчать и совершать священные Таинства Христовой веры над такими, как Софи. А такие просьбы будут, в этом нет и малейших сомнений – ведь если есть гражданство, прописка, что мешает и повенчать? Это люди, которых, возможно, впоследствии объявят тормозом человеческого прогресса, антигуманными противниками развития цивилизации. Это люди, которые вопреки всему будут оставаться верными Богу и Его заветам, исповедовать традиционный христианский уклад жизни и призывать Его словами: «Ей, гряди, Господи Иисусе!»
Священник Николай Дубинин