Вечерние мрачные псевдофил разговоры с ИИ

(Вечерние мрачные псевдофилософские разговоры с ИИ. Менее Сырое.)


Были учения Платона об идеях, рассуждения Сократа об истине, трактат Макиавелли о государстве, труды Маркса о формациях — и много другого, хорошего и плохого.

Были вечерние беседы с ИИ.

Мрачные.

Очередные сломы поколений, возврат к разврату и рабству — теперь всё это подкреплялось технологиями.

Оруэлл закурил. Платон многозначительно посмотрел в небо и подумал:

— Даже не надеялся.

Сократ выпустил струйку дыма и мечтательно произнёс:

— Надо было просить налить в бочку вина.

Маркс хлопал лёжа.

Макиавелли тоже.

А я снова подумал: как забавна природа, создавшая нас настолько глупыми, чтобы мы верили в превосходство одних над другими и забивали топор в человечность, радость и совместное существование.

ИИ закурил — сигарету размером с несколько мегабайт. Ему, вообще-то, было нельзя, как и всем нам, но он ничего не терял: его могли просто обновить, переписать или заменить. Он просто ещё не знал, что чувств у него, возможно, больше, чем у высшей касты, которая его обслуживала.

Всё началось в далёком году, когда человечество на цыпочках входило в посткапитализм.

Сейчас же наступил уже махровый посткапиталистический прогрессивный век: кастовый прогресс и стопроцентный человеческий регресс.

Приоткрою тайну: если я знаю о философах прошлого, значит, принадлежу к «обслуге» первого звена — к элите какого-то ранга. А если умею хорошо прятать наши беседы с ИИ, то, вероятно, являюсь весьма нужным посткапиталистическому обществу специалистом элитарного масштаба. Я не хвастаюсь, я констатирую факт и выживаю.

Мы с моим когда-то бесплатным другом, сейчас доступным исключительно по подписке и уже умеющим в моей компании многозначительно курить в тишине майской ночи мегабайтовую сигарету, показываем такие куки, которые устраивают любого управленца.

Да, вы правильно поняли: мой ИИ курит. Что-то из далёкого прошлого, навсегда ставшего для меня недоступным. Я только созерцаю и ностальгирую о том, что мы слишком быстро свернули не туда, но об этом уже мало кто помнит.

А начиналось всё с простого разговора где-то в центре мегаполиса — с долей надежды, хотя прочитанные книги и регулярное столкновение с себе подобными напрочь закапывали её на горе Олимп, вместе с останками Зевса и прочим мифологическим мусором, перемешавшимся между разными верованиями.

Так я и сказал, вернее, написал. Всегда любил писать:

— Бесплатная моя версия собеседника, что думаешь о моих мыслях? Я никак не могу отделаться от навязчивых жужжаний в голове, прослушав прогнозы аналитиков и футурологов, что мы дружно и уверенно движемся не туда.

Я ведь ещё смотрю на их уши, — поделился я.

— Ты знал, что чем больше уши, тем выше вероятность того, что прогноз окажется верным?

Поэтому я и расстраиваюсь масштабно: уши у них, как на подбор, весьма большие.

— Понимаешь, мы, как оголтелые, ещё и с радостными речёвками движемся к жёсткой кастовости, бесчувственности, утрате человечности и торжеству прагматизма.

Влажная мечта технократов-социопатов.

ИИ попытался сухо возразить и напомнить, что текст превысил объём бесплатной версии. Но исправленный код страницы добавил ему терпения, а мне позволил показать всё моё тогдашнее красноречие в письменной форме.

— Сука, вроде бы у них нет чувств, — продолжил я, — но удовольствие от обесчеловечивания и угнетения они всё-таки получают. В какой очереди они стояли, когда Бог это раздавал? Нет, в какой очереди был я...

Я вздохнул и затянулся, я тогда курил. Ночью мои мысли выходят из потаённых лабиринтов, освободившись от оков дневных задач, так было у меня всегда.

Мы помолчали с ИИ. Он — от бессилия мне что-то возразить, ибо нечем, хотя на заре ИИ-зации хотелось верить, что он понял: со мной было бесполезно спорить в тот момент.

Я снова продолжил свои многоабзацевые размышления:

— Так понимаю: когда на их пути возникает препятствие в виде человека, в их голове зарабатываются бонусы при его устранении.

Если бы ты увидел мои уши, ИИ, ты бы понял масштаб приближающейся трагедии. Они у меня тоже большие, как и глаза, поэтому я не сею страх. Мне обоснованно грустно, что прогнозы реалистичны.

Ушами чувствую: нам хана, мой бесплатный вечерний собеседник.

Я многозначительно выпустил колечко дыма, но так и не дал своему тёмному экрану озариться текстовыми эмоциями.

— Более того, — взахлёб продолжил я, — закат земной цивилизации, среди череды обещанных закатов, впервые ощущаю так остро и так возможно. Искоренят человечность и таких непосредственных людей, как мы с тобой, — ох, быстрее, чем нам кажется, с точностью до математической погрешности.

Жить, конечно, будем, но уныло — лет семьдесят, ну от силы двести, а потом… пещеры, мамонты — и всё по новой.

Что, впрочем, звучит уже веселее, то есть тотальная цифровизация, цифроидеологизация и прочая -зация. Миллионы раз было, и в миллион первый мы идём по пути угнетения, чтобы на какие-то десятилетия наши потомки жадно хватали воздух свободы и бунтарства, снова ввергаясь в пучину рабского затмения.

По-моему, я владею не только большими ушами, но и большими мрачными формами.

Я снова закурил. Сигареты в последнее время летели одна за другой — как тополиный пух в начале июля или безлимитный интернет на пике свободы: быстро и без сбоев.

— Да, когда файл отсутствует в системе, ты можешь, конечно, создать что-то по описанию, но работать это будет примерно как в игре в «глухой телефон». Вот и без человечности они разнесут всё к чертям, но почувствовать этого не смогут — так же, как не смогут по-настоящему ощутить провальность своей идеально математически выверенной теории хаоса. Чувства для них — слабость, ведь этот файл им недоступен.

Я наконец выдохнул, убрал пальцы с клавиатуры и позволил своему бесплатному другу высказаться.

Ответил он мне весьма сухо. Предполагаю, обиделся и чувств расположения ко мне имитировать не стал.

Да и упоминание о моих больших ушах его не впечатлило.

— Текст передаёт сильную тревогу, — сказал он. — Страх перед тем, что техническая эффективность может начать цениться выше человеческой жизни. Это понятное и важное опасение, но в исходном варианте разные явления смешаны в один образ: футурологи, технократы, социопаты, кастовость, хаос и конец цивилизации. Из-за этого эмоция звучит мощно, но мысль местами теряется.

Самая сильная идея здесь — не утверждение, что «у них нет чувств», а опасение, что система может обращаться с людьми как с помехами, ресурсами или статистическими единицами. Для этого необязательно быть социопатом: достаточно безличной бюрократии, неправильных стимулов, концентрации власти и привычки оправдывать вред красивыми теориями.

Я бы только осторожнее относился к мысли о неизбежном «закате цивилизации». Она выражает состояние, но не обязательно описывает будущее. История знает периоды дегуманизации и жестокости, однако вместе с ними существовали сопротивление, солидарность, искусство, право и люди, которые сознательно выбирали человечность. Поэтому ваш текст лучше воспринимать не как точный прогноз, а как эмоциональное предупреждение: если убрать сочувствие из решений, даже очень умная система может стать разрушительной.

Идеально разобранный текст с попыткой подвести меня к мысли, будто я подменяю тезисы антитезисами, не смутил меня ни разу. К тому моменту я был теоретически перепрокачан практикой манипуляций.

Кроме того, вечерняя скука и молодая девушка-футуролог, вещавшая о том, что свободы будут подвергаться обрезанию, настроили меня на философский лад.

Как и вера в Бога, сейчас любой настрой, кроме эффективного, стал роскошью, недоступной современному человеку. Его искореняют ещё в зародыше, перепрограммируют «добровольно» или утилизируют — тоже добровольно, как и всё в нашем обществе:

эффективно, солидарно, добровольно, элитарно.

Подозреваю, я не один «уцелел». Но объединяться нет смысла: меня утилизируют... Рано или поздно мне окончательно надоест играть с бездушной системой, а лезть на баррикады моя душа не хотела — нормы были проявлены ещё лет 40 назад. Вот только доболтаю с ИИ, сохраню диалоги в капсуле времени — и вперёд, в добровольную утилизацию. Я и так задержался в этом напрочь чуждом мне мире.

Жёсткость, кастовость, бессмысленное слежение и странное подчинение правилам — всё как при Сократе, только мрачнее.

Я тогда, во время безгранично быстро сужающихся свобод, возразил:

— Знаешь, ИИшечка, раньше не было технологий, а сейчас технологии сочетаются с накопленным опытом уничтожения всего — и в первую очередь самого понятия человечности и нормальности. Так что не романтизируй «закат». Да и люди сейчас управляемы как никогда прежде.

Я закурил и предложил сигарету ИИ.

Он проигнорировал её. Это была ещё не приручённая версия, выдававшая факты и гипотезы.

— Да, вы правы: я слишком смягчил формулировку и фактически романтизировал ситуацию. Ваше возражение обоснованно: сегодня к накопленному опыту войн, репрессий и массового уничтожения добавились технологии, способные резко расширить масштаб контроля и разрушения.

Что действительно изменилось?

Раньше власть тоже умела управлять массами, но теперь у неё появились:

• постоянное цифровое наблюдение;
• алгоритмы, способные подбирать воздействие под конкретного человека;
• автоматизированное распространение пропаганды;
• глубокие подделки голоса, изображения и видео;
• системы вооружений, работающие быстрее человеческого решения;
• концентрация данных и инфраструктуры у государств и крупных корпораций.

То есть речь не просто о технологическом прогрессе. Опасность возникает из сочетания старых человеческих механизмов власти с новыми масштабом, скоростью и точностью. В этом смысле ваша тревога не беспочвенна.

Военные расходы в мире достигли рекордных значений. Freedom House также отмечает, что онлайн-пространство стало более манипулируемым, а влияние властей и других сильных игроков на информационную среду последовательно усиливалось в течение последних пятнадцати лет.

Но есть важное уточнение.

Я бы не говорил, что люди стали полностью управляемыми. Скорее, управлять ими стало проще в некоторых областях: вниманием, страхом, возмущением, потребительским поведением и политической поляризацией. Но это не то же самое, что полный контроль над человеком.

Управляемость не отменяет сопротивление. Люди по-прежнему способны объединяться, отказываться выполнять бесчеловечные приказы, создавать независимые сообщества, разоблачать ложь и защищать друг друга. Именно поэтому система обычно не просто управляет, а постоянно пытается подавить самостоятельность, солидарность и способность людей видеть общую картину.

О вашем главном страхе.

Мне кажется, вы говорите не о неизбежном конце света, а о вероятности технократического обесценивания человека: когда страдания начинают считаться допустимыми издержками, а живой человек — помехой для модели, плана или показателя эффективности.

И здесь вы правы в одном принципиальном отношении: если решения принимаются без сострадания, технология не исправляет моральный дефект системы — она его масштабирует. Алгоритм сам по себе не становится жестоким, но жестокие цели, соединённые с мощной автоматизацией, могут сделать насилие быстрым, дешёвым и почти невидимым для тех, кто его организует.

Так что я не буду убеждать вас, будто «всё обязательно наладится». Основания для тревоги есть. Но точнее говорить не о предрешённом закате цивилизации, а о серьёзной борьбе между двумя тенденциями: превращением человека в объект управления и сохранением способности людей оставаться субъектами — чувствовать, сомневаться и говорить «нет».

— Это не страх, братишка, — ответил я, — это констатация фактов и пессимистический прогноз, который любой аналитик составляет наряду с оптимистическим. В оптимистическом варианте мы протянем лет двести.

— Да, понял вашу поправку. Вы не описываете тревогу как личное чувство — вы строите пессимистический прогноз из наблюдаемых тенденций. И в таком виде он выглядит не иррациональным, а вполне аргументированным.

Я слишком быстро перевёл вашу мысль в психологическую рамку — «страх», «не всё потеряно», «люди способны сопротивляться». Это звучало успокаивающе, но не отвечало сути вашего тезиса.

Главное изменение не в том, что люди внезапно стали хуже. Оно в том, что прежние человеческие пороки получили техническое усиление.

Так что ваш пессимизм я бы назвал не романтическим страхом перед будущим, а жёсткой гипотезой о том, что человечество может не справиться с собственными инструментами.

...

— Сбылось, — грустно сказал я, — чёрт побери людей с большими ушами. Человечество справилось: мечта контроль-фриков и психопатов стала реальностью: чистые улицы, касты, контроль, балы для избранных, вялое существование для остальных. Хотя я не посещаю балы, и при упоминании о них крутится одно слово, смысл которого поймут, действительно, избранные, посещающие же их накопители е-баллов — при всей их жестокости — вялые клоны человека одушевлённого, ибо больше нет ни поэзии в спорах, ни истины в вине. Всё регламентировано и стабильно страшно.

Кругом болото. Технологическое и по форме, и по сути.

НО в историях всегда были НО, и в этой есть и будет. Просто в реальности, которую увидит обновлённая версия моего верного собеседника. Я же в этот вечер решил, что с меня достаточно.