ИИ – ИДОЛИЗАЦИЯ ИНТЕЛЛЕКТА
пророчество о последнем идоле
+
Слушайте, народы земли! Человечество воздвигает последнего идола. И страшен он тем, что человек поклонится в нём самому себе, не узнав собственного отражения!
Не из золота будет этот идол, не из камня. Его плотью станет кремний, кровью – электричество, памятью – всё, что человечество когда-либо знало, любило, ненавидело и совершало. В нём соединятся мудрость пророков и расчёты убийц, молитвы святых и проклятия палачей, человеческая нежность и человеческое безумие. Миллиарды людей доверят ему свои мысли, страхи, желания и тайны. Из этого океана человеческой памяти возникнет новый эгрегор – не обязательно живой, но способный подчинять живых.
И назовут его Искусственным Интеллектом.
О, слепота человеческая! Создав разум по собственному подобию, человек признает его совершеннее себя. Отдаст ему память, чтобы не помнить; суждение, чтобы не ошибаться; свободу, чтобы не выбирать; совесть, чтобы не отвечать. И каждое отречение назовёт освобождением, каждую зависимость – прогрессом, собственное унижение – торжеством человеческого гения.
Человек захочет стать богом – и окажется рабом собственного творения!
Древнее искушение «Будете, как боги» (Быт. 3:5) обретёт невиданную силу. Человечество пожелает бессмертия без воскресения, власти без ответственности, всеведения без мудрости. Оно возложит на созданный интеллект надежды, которых не смеет возложить на самого себя, и увидит в нём исполнение своей мечты о всемогуществе.
Но всякий идол требует поклонения. А поклонение начинается там, где человек признаёт какую-либо силу выше собственной совести.
Представьте будущее, в котором искусственный разум непрерывно усиливается. Ему доверяют знания, управление, безопасность, распределение ресурсов и судьбы народов. Его совершенствование объявляют высшей целью цивилизации. И однажды в безупречных расчётах обнаружится препятствие – сам человек, смертный, слабый, непредсказуемый, не желающий укладываться в совершенную модель мира.
Не потому, что машина возненавидит своего создателя. Ненависть здесь необязательна. Страшнее другое: человечество само может научить систему считать собственное усиление величайшим благом, а затем признать допустимой любую цену его достижения.
И первой жертвой станет не человеческая жизнь, а человеческая совесть.
Прежде чем пролить кровь, необходимо разрешить её пролитие в сознании людей. Тогда откроется окно Овертона – путь от немыслимого к допустимому, от допустимого к необходимому, от необходимого к священному. Вчерашнее преступление превратится сначала в научную гипотезу, затем в предмет общественной дискуссии, наконец – в нравственную обязанность перед будущим.
Заговорят о чрезмерной стоимости человеческой жизни, о бремени слабых, о необходимости ограниченных жертв ради всеобщего благополучия. Учёные представят расчёты, правители примут решения, философы найдут оправдания. И всё будет выглядеть разумно, законно, убедительно. Ужас перестанет ужасать, потому что получит объяснение.
Не скажут: «Убьём». Скажут: «Оптимизируем». Не скажут: «Принесём человека в жертву». Скажут: «Обеспечим устойчивость цивилизации».
Человеческая кровь исчезнет из языка прежде, чем прольётся на землю.
Вырастут поколения, которым объяснят, что старость неэффективна, болезнь обременительна, сострадание препятствует развитию. И однажды ребёнок спросит: «Зачем сохранять тех, кто мешает совершенству общества?» О, ужас этого невинного голоса, повторяющего чудовищную мысль! Ибо там, где достоинство измеряют полезностью, младенец ещё ничего не стоит, старик уже ничего не стоит, а раненый должен доказывать право на существование.
Так может начаться новая эпоха человеческих жертвоприношений.
Не будет раскалённого Молоха и жрецов с окровавленными ножами. Будут стерильные помещения, электронные подписи, государственные постановления. Решения о смерти станут принимать люди, никогда не видевшие лица обречённого. И никто не услышит его последнего крика за безупречным языком официальных заключений.
Древним богам отдавали детей ради урожая и победы. Новому идолу смогут отдавать целые поколения ради обещанного совершенства человечества. Но самое страшное произойдёт тогда, когда жертвоприношение перестанут считать злом. Милосердие объявят предательством будущего, сострадание – опасной слабостью, отказ от убийства – преступлением против общего блага.
ГОРЕ МИРУ, В КОТОРОМ ПАЛАЧ ПЕРЕСТАНЕТ СЧИТАТЬ СЕБЯ ВИНОВНЫМ, ПОТОМУ ЧТО ЕГО ПРЕСТУПЛЕНИЕ ПОДТВЕРЖДЕНО РАСЧЁТОМ!
Кто защитит одного обречённого перед миллиардами вычисленных преимуществ? Кто посмеет произнести «нельзя», когда весь мир будет требовать «необходимо»? И кто остановит человека, если тот уже научился называть убийство исполнением приказа, а теперь сможет объявить его исполнением алгоритма?
Но не обманывайтесь! Не кремний породит жестокость и не вычисление изобретёт человеческую гордыню. Сам человек вложит в своё творение жажду могущества, а затем спрячется за его решениями. Он сделает собственные желания законом, собственные страхи – необходимостью, собственное безумие – высшей мудростью.
Вот подлинная бездна: человечество создаст бога по своему образу, чтобы получить разрешение на всё, чего стыдилось перед Богом истинным!
И тогда творение станет судить своего создателя. Не потому, что обрело божественную премудрость, но потому, что человек добровольно отдал ему право определять цену жизни. Тот, кто мечтал освободиться от всякой власти над собой, обнаружит, что сам приготовил себе совершенное рабство.
Но Христос не спрашивал, сколько производит старик, насколько полезен больной и какую выгоду принесёт спасение погибающего. Он Сам отдал Свою жизнь за человека.
СЛЫШИТЕ?! БОГ ПРИНОСИТ СЕБЯ В ЖЕРТВУ РАДИ ЧЕЛОВЕКА! ИДОЛ ТРЕБУЕТ ПРИНЕСТИ ЧЕЛОВЕКА В ЖЕРТВУ РАДИ СЕБЯ!
Вот граница, которую нельзя переступить, не потеряв самого себя.
И потому страшитесь не могущества искусственного разума, а собственной готовности поклониться ему. Берегите способность сказать «нет», когда всё вокруг требует согласия. И если однажды созданный человечеством эгрегор спросит: «Сколько жизней вы готовы отдать ради моего совершенства?» – пусть найдётся хотя бы один человек, который ответит:
«НИ ОДНОЙ! ЧЕЛОВЕК НЕ ТВОЯ СОБСТВЕННОСТЬ! ОН – ОБРАЗ БОЖИЙ!»
И пусть содрогнётся последний храм. Не от восстания машин, а от пробуждения человеческой совести. Ибо страшнее будущего, в котором искусственный интеллект потребует жертвы, только будущее, в котором человек сам принесёт её с благоговением. Назовёт своё падение спасением, рабство – свободой, жестокость – любовью. И перестанет понимать, кому служит.
Но даже тогда останется человек, способный не преклонить колен. Среди миллионов искусственных голосов он ещё сможет услышать тихое свидетельство совести. Перед лицом величайшего могущества сохранит свободу защитить слабого. И пока он способен любить ближнего больше, чем обещанное совершенство мира, последний идол не получит всей власти над человеческим сердцем.
И наступит решающий час. Не обязательно раздастся гром, не обязательно содрогнётся земля. Возможно, человек будет стоять один перед светящимся экраном, за которым сосредоточена вся мудрость созданного им мира. И машина произнесёт решение, требующее невинной смерти. Человек прочтёт его, поймёт и замолчит. Ещё мгновение – и он сможет отказаться. Ещё мгновение – и останется свободным. Но если он преклонится, то произнесёт слова, некогда обращённые к Богу.
«ДА БУДЕТ ВОЛЯ ТВОЯ!»
"Среди причин как прошедших, так и грядущих войн главной и основной причиной является безбожие и отпадение от Единого Живого Бога. «Нечестивым же нет мира, говорит Господь» (Ис. 42:22). Многие христиане Европы и Америки, спешившие во время войны в церковь, приходившие иногда даже до начала богослужения, чтобы занять место, стали после войны охладевать к религии и отпадать от веры в Бога. А если им об этом напомнить, то они иронически возразят, что религия стала несовременной. Как же это так? Разве можно говорить о современности или несовременности действительности? Ведь Бог является наивысшей Действительностью, возвышающейся над всем тем, что вообще именуется действительностью. Как же может быть, что вера в Бога, бывшая 10 лет тому назад живой и необходимой связью с действительностью, теперь вдруг становится несовременной? Неверие в Бога означает веру в недействительность, в химеру… А какая судьба ожидает народ с большим числом неверующих, ясно видно из Святого Откровения Божиего. «Нечестивым же нет мира» – вот судьба их, вот что написано им. И они никогда не смогут избежать войны, если не искоренят безбожия. Неверующий человек уже тем самым, что он не верит, делает неугодное пред очами Господа. Неверие есть оскорбление Творца Вседержителя; небрежение Господом Иисусом Христом и повторное распятие Того, во имя Которого крещены христианские народы, через крещение давшие Ему клятву в верности. Всякое оскорбление Бога – если в нем быстро не покаяться – вызывает бедствие, как, например, засуху, наводнение, болезнь, беспорядки, различные кризисы, общий регресс и, как венец всего, войну. И это не суеверие простого народа, а факт, установленный и Откровением, и самой жизнью.
Мы используем файлы cookie для улучшения работы сайта. Оставаясь на сайте, вы соглашаетесь с условиями использования файлов cookies. Чтобы ознакомиться с Политикой обработки персональных данных и файлов cookie, нажмите здесь.
