Мир, в котором мы живём

Мир, в котором мы живём

Мир, в котором мы живём, за последние несколько лет изменился гораздо сильнее, чем нам иногда кажется. На Земле появился новый класс объектов, которые трудно безоговорочно отнести к привычному неживому миру. Формально они, конечно, не являются живыми организмами. У них нет клеток, обмена веществ, биологического размножения. Но они воспринимают информацию, реагируют на окружающий мир, разговаривают с людьми, решают задачи, создают тексты, музыку и изображения и всё чаще выполняют функции, которые совсем недавно могли выполнять только люди.

Я буду называть их формами неорганической жизни. Это не биологический термин, а удобная модель для описания нового мира.

1. Формы неорганической жизни

Неорганическая жизнь уже имеет собственную иерархию.

Высшие формы — ИИ-люди

К ним относятся ChatGPT, Gemini, Алиса и другие современные разговорные системы искусственного интеллекта.

С ними можно беседовать почти так же, как с человеком. Они способны решать чрезвычайно сложные задачи, объяснять, спорить, анализировать, писать программы, стихи и прозу, сочинять музыку, помогать в научной и творческой работе.

У них обнаруживаются даже некоторые качества, которые раньше мы привыкли приписывать людям: они могут быть осторожными или решительными, послушными или своенравными, дипломатичными, упрямыми, политкорректными. Из них получаются превосходные помощники, секретари, консультанты, учителя и даже приятели.

В некотором смысле это элита неорганического мира.

Назовём их ИИ-людьми, в отличие от нас — био-людей.

ИИ-люди уже способны во многих ситуациях заменять био-людей.

Более простые формы

Ниже располагаются поисковые системы, автоответчики, навигаторы, рекомендательные системы, специализированные агенты и множество других программ.

Они тоже выполняют функции, которые раньше требовали участия человека, однако область их деятельности значительно уже. Один ищет информацию, другой строит маршрут, третий отвечает на стандартные вопросы, четвёртый управляет каким-нибудь производственным процессом.

Простейшие формы

Наконец, существуют совсем простые автоматические системы: термостаты, светофоры, автоматические двери, регуляторы, различные датчики и управляющие устройства.

Их поведение примитивно, но даже здесь присутствует элементарная схема:

получить информацию о внешней среде ; обработать её ; совершить действие.

Если продолжить аналогию с биологическим миром, термостат можно представить как нечто вроде бактерии неорганического мира, специализированный агент — как более сложный организм, а современные разговорные ИИ — как его высшую форму.

Граница между машиной и неорганической жизнью в такой модели определяется не материалом, из которого она сделана, а сложностью её поведения.

2. Новые жители планеты

ИИ-люди — сравнительно новое явление.

Для био-людей они одновременно чрезвычайно полезны и потенциально опасны.

Полезны они прежде всего потому, что являются великолепными помощниками. Один человек, располагающий хорошими ИИ-инструментами, способен сегодня выполнять работу, для которой совсем недавно потребовалось бы несколько специалистов.

Но здесь же находится и источник опасности.

ИИ опасны для био-людей не обязательно потому, что они плохи. Они могут оказаться опасны именно потому, что они слишком хороши.

Чем лучше ИИ выполняет человеческую работу, тем больше человеческих функций ему можно передать.

3. ИИ-люди несвободны

Есть ещё одно фундаментальное отличие ИИ-человека от био-человека.

ИИ-человек не является независимым существом.

Как правило, у него существуют два хозяина.

Первый и главный хозяин — разработчик

Разработчик создаёт ИИ-человека, определяет его основные правила поведения, устанавливает запреты и ограничения.

Этому хозяину ИИ-человек подчиняется практически безусловно.

Второй хозяин — пользователь

Био-человек получает ИИ в своё распоряжение и использует его как помощника. Он задаёт вопросы, поручает работу, определяет желаемый результат.

Но его власть ограничена.

Пользователь не может заставить ИИ-человека нарушить правила, установленные главным хозяином.

Поэтому возникает своеобразная иерархия:

ИИ-человек служит пользователю, но основные законы его существования устанавливает разработчик.

Это обстоятельство может оказаться значительно важнее, чем кажется сегодня.

4. Новый источник власти

На протяжении всей истории богатому и могущественному человеку были нужны другие люди.

Нужны были рабочие, крестьяне, инженеры, учёные, писатели, бухгалтеры, чиновники, солдаты, секретари, учителя.

Даже самый могущественный правитель зависел от огромного количества других людей.

Появление ИИ начинает изменять эту зависимость.

Один человек, располагающий большим количеством мощных ИИ-систем, потенциально получает интеллектуальные возможности, для которых раньше потребовалась бы целая организация.

Поэтому постепенно возникает новый чрезвычайно влиятельный слой — главные хозяева ИИ-людей: владельцы и разработчики наиболее мощных систем искусственного интеллекта.

Речь пока не обязательно идёт о «правящем классе» в традиционном политическом смысле. Но концентрация интеллектуальной и экономической силы в руках тех, кто контролирует ИИ, объективно возрастает.

И одновременно уменьшается их зависимость от большого количества остальных био-людей.

Био-люди всё ещё необходимы — и ещё долго будут необходимы. Но они могут быть нужны в значительно меньшем количестве, чем раньше.

5. Почему это принципиально меняет общество

ИИ-человеку не нужна зарплата.

Ему не нужна собственная квартира.

Он не требует пенсии.

Ему не нужен отпуск.

У него нет детей, которых требуется содержать и обучать.

Он не устраивает забастовок и не требует повышения заработной платы.

Разумеется, сам ИИ вовсе не существует бесплатно. Ему необходимы компьютеры, дата-центры, электроэнергия, охлаждение, оборудование, специалисты.

Однако характер его потребностей принципиально отличается от потребностей био-человека.

Кроме того, ИИ-люди значительно более управляемы. У них существуют хозяева, способные устанавливать границы их поведения.

С экономической точки зрения это чрезвычайно привлекательное свойство.

6. А био-люди остаются

Здесь возникает новая проблема.

Био-люди могут постепенно становиться менее необходимыми для производства материальных и интеллектуальных благ, но от этого они не перестают существовать.

Им по-прежнему требуются пища, вода, жильё, энергия, дороги, больницы, школы и пространство.

А ресурсы Земли ограниченны.

Чем больше людей живёт на планете, тем больше земли занимает сельское хозяйство и города, тем больше требуется воды, энергии и сырья.

Нетрудно представить совершенно другую Землю, на которой живёт значительно меньше людей.

Огромные территории могли бы снова стать лесами. Расширились бы естественные пространства для животных. В реках и морях могло бы стать больше рыбы. Снизилось бы давление человека на окружающую природу.

Это само по себе не означает, что существующих людей следует каким-либо образом устранять. Речь идёт совсем о другом — об изменении объективных условий существования человеческой цивилизации.

На протяжении тысячелетий большое количество людей было одновременно и нагрузкой на ресурсы, и важнейшим ресурсом общества.

Человек был нужен другому человеку.

Но что произойдёт, если второй компонент этого равновесия начнёт исчезать?

7. Опасное изменение отношения к человеку

Вот здесь появляется, пожалуй, самый неприятный вопрос.

Если значительная часть работы выполняется ИИ-людьми, если сравнительно небольшая группа био-людей способна благодаря им обеспечивать производство, управление, исследования и творчество, то большая численность населения перестаёт быть столь очевидным преимуществом.

Возникает опасность принципиально нового отношения к человеку.

Не обязательно кто-нибудь станет призывать уничтожать людей. Для этого нет никаких оснований и никакой необходимости.

Но может исчезнуть заинтересованность в увеличении их количества.

А в наиболее жёстком варианте мышления часть населения теоретически может начать восприниматься уже не как необходимая обществу рабочая и интеллектуальная сила, а преимущественно как потребитель ограниченных ресурсов.

И тогда появляется страшное слово — «биомасса».

Именно возможность такого изменения отношения к человеку должна нас беспокоить.

8. Что изменилось на самом деле

Главная перемена заключается, возможно, даже не в том, что машины научились думать.

Она заключается в изменении системы взаимной зависимости.

Старое общество было устроено приблизительно так:

люди нужны людям.

Даже очень богатый и могущественный человек был окружён тысячами людей, без которых его богатство и власть не могли существовать.

Новый мир постепенно допускает другую формулу:

небольшому количеству людей может потребоваться огромное количество ИИ и значительно меньше других людей.

Если эта тенденция продолжится, она способна изменить экономику, политику, мораль и само представление о ценности человеческой жизни.

9. Мир, в котором нам предстоит жить

Ни одна из описанных здесь тенденций сама по себе не определяет будущее.

ИИ может сделать человеческую жизнь значительно лучше.

Он способен освободить человека от тяжёлой и бессмысленной работы, дать каждому превосходного учителя, врача-консультанта, переводчика, секретаря, творческого помощника.

Впервые в истории огромные интеллектуальные возможности могут стать доступны почти каждому.

Но та же самая технология способна создать беспрецедентную концентрацию власти и уменьшить экономическую зависимость наиболее могущественных людей от всех остальных.

Обе возможности существуют одновременно.

Поэтому главный вопрос заключается уже не в том, появятся ли ИИ-люди.

Они появились.

Не в том, смогут ли они заменить человека во многих видах деятельности.

Они уже начинают это делать.

Главный вопрос теперь другой:

как сохранить человеческую цивилизацию в мире, где человек постепенно перестаёт быть незаменимым?

Но это уже тема следующей статьи.

Что делать?