Парадигма умной власти

      Знание может дать власть, а власть может дать знание. В зависимости от своей природы и своих целей, продвинутые системы ИИ могли бы накопить достаточно знания и власти, чтобы отстранить нас от управления самой жизнью, если мы не подготовимся должным образом. И также как с репликаторами, простое эволюционное превосходство не обязательно сделает победителей лучшими. Кроме грубой способности конкурировать грубой силой. Эта угроза делает одну вещь совершенно очевидной: нам необходимо найти способы жить с мыслящими машинами так, чтобы сделать их послушными помощниками.

      В футуристической литературе описано многое из того, что будут делать для нас продвинутые системы ИИ, если мы будет правильно с ними обращаться. В конечном счете они будут воплощать структуры идеальной мысли и заставлять их течь со скоростью, с которой не может сравняться ни один мозг млекопитающего.

      Системы ИИ, которые работают совместно, так же как это делают люди, будут способны думать как разумные сообщества. Эволюция генов живого мира оставила субстанцию "жизнь" в подвешенном состоянии. Опять же, эволюция мимов человеческими существами (и в конечном счете машинами) будет и дальше продвигать искусственные аппаратные средства и продвинутые программы далеко за пределы границ естественной жизни. С точки зрения эволюции это создает угрозу.

      Сегодняшние организмы имеют способности, пока ещё далекие от пределов возможного, но микробы и машины эволюционируют значительно быстрее нас. Поэтому в пределах нескольких десятилетий представляется вероятным, что они нас превзойдут. Если мы не научимся жить с ними в безопасности, наше будущее, вероятно, будет насколько восхитительным, настолько и коротким.

      Да, мы пока не можем предвидеть все проблемы наперед, однако, уделяя внимание принципиальным моментам, мы в состоянии предвидеть наиболее важные задачи и получить некоторое превентивное представление о том, как их решать.

      Без сомнения, будут написаны новые тома футуристических книг о грядущих социальных сдвигах. Например, что может случиться с глобальным порядком, когда ассемблеры, интернет и автоматический инжиниринг исключат необходимость международной торговли? Как общество изменится, когда люди будут жить независимо? Что мы будем делать, когда размножающиеся ассемблеры смогут производить почти всё что угодно без применения человеческого труда? Что мы будем делать, когда системы ИИ смогут думать быстрее, чем люди?

     Но до того, как они придут к печальному заключению и люди отчаются что-либо делать или творчески создавать, мы можем хотя бы иллюзорно рассмотреть, как сегодня бегуны относятся к автомашинам, или как художники относятся к фотокамерам.

     В действительности многие ученые уже многое предвидели и многое описали из этих возможных моментов будущего. Каждый из них - это дело необычайной важности. Но более фундаментальным является дело сохранения жизни и свободы человека. В конце концов, если жизнь или свобода исчезнут, то наши идеи о социальных проблемах вообще не будут иметь никакого значения.

    "Я не сомневаюсь, что самыми грозными из всех армий, о которых когда-либо слышали на земле, является тот вид солдат, которые за их малостью не видимы" - так метко выразился сэр Уильям Перри о микробах ещё в 1640 г.

    Определенные виды репликаторов и систем ИИ могут столкнуть нас с формами технических средств, способных к быстрому и эффективному независимому действию. Но новизна этой угрозы, происходящей от самих машин, не должна скрывать от нас  более явную опасность. Репликаторы и системы ИИ могут также служить как великолепные машины власти, если ими завладеют суверенные государства.

     На всем протяжении истории государства разрабатывали технологии для того, чтобы расширить свою военную мощь. И государства несомненно будут играть доминирующую роль в разработке репликаторов и систем ИИ. Государства могли бы использовать воспроизводящиеся ассемблеры, чтобы строить и с помощью 3-D принтеров копировать арсеналы совершенного оружия - быстро, легко и в огромных количествах. Государства могли бы использовать специальные репликаторы, чтобы вести биологическую войну - войну, которая становится намного более эффективной и практичной с помощью программно управляемыми компьютерами "микробов".

       В зависимости от возможностей и способностей, системы ИИ могут служить грозным оружием разработчиков, стратегов и военных. Военное финансирование уже мощно поддерживает и молекулярные технологии, и искусственный интеллект.

      Государства могли бы использовать ассемблеры или продвинутые системы ИИ, чтобы по своему усмотрению достигать неожиданных, дестабилизирующих прорывов. Причины, почему нужно ожидать, что появление воспроизводящихся ассемблеров принесет сравнительно неожиданные изменения очевидны - они способны быстро размножаться и их может образоваться беспредельно большое количество буквально за считанные дни.

      Они способны делать почти все что угодно, их можно запрограммировать так, чтобы скопировать чужое оружие, но из более совершенных материалов. Способные работать со стандартными, хорошо понятными компонентами (атомами), они могут строить вещи, разработанные в период романтического ожидания ассемблерной революции. Эти результаты проектирования с опережением могут включать программируемые микробы и другие жуткие новшества. По всем этим причинам государство, которое совершит ассемблерную революцию, сможет быстро создать мощную военную силу - если не буквально за ночь, то, по крайней мере, с беспрецедентной скоростью.

      Государства могли бы использовать продвинутые системы ИИ для аналогичных целей. Системы автоматического проектирования будут ускорять разработку ассемблеров. Системы автоматического проектирования, способные строить лучшие системы ИИ, сделают возможным взрыв новых возможностей с последствиями, которые трудно предвидеть. И системы ИИ, и воспроизводящиеся ассемблеры дадут государствам возможность увеличивать свои военные возможности на порядок за короткое время.

      Репликаторы могут быть более действенны, чем ядерное оружие. Чтобы опустошить Землю бомбами потребовались бы массы экзотических технических средств и редких изотопов, но чтобы уничтожить жизнь с помощью репликаторов потребовалось бы лишь одно пятнышко, состоящее из простых элементов. Репликаторы составляют ядерной войне что-то вроде компании как потенциальная помощь вымиранию, придавая более широкий контекст моральной обеспокоенности.

     Вопреки своему потенциалу, наномашины разрушения, нанотехнология и системы ИИ  пригодны для более тонких способов использования, чем ядерное оружие. Бомба может только взрывать, но наномашины и системы ИИ могут проникать, захватывать, изменять и управлять территорией или даже всем миром. Даже самая безжалостная полиция беспомощна для сдерживания ядерного оружия, но она имеет смысл для сдерживания безумных идей, наркотиков, убийц или других гибких машин власти. Вместе с продвинутой технологией государства будут способны консолидировать свою власть над людьми.

     Также как гены, мимы, организмы и технические средства, государства эволюционируют. Их институты распространились (с вариациями) на рост, деление, подражание и завоевание. Государства на войне дерутся как дикие звери, используя граждан как свои кости, мозг и мускулы. Грядущие технологические прорывы поставят государства перед новыми видами давления и возможностей, благоприятствуя резким изменениям в том, как государства мира себя ведут. Это, естественно, дает основание для озабоченности.

     Исторически государства проявляли себя исключительно в кровопролитии и в угнетении. В некотором смысле, государство - это просто сумма людей, образующих организационный аппарат: их инициативы складываются и образуют действия. Но то же самое можно сказать о собаке и ее биологических клетках, хотя собака очевидно нечто большее, чем просто группа клеток. И собаки, и государства - это эволюционирующие системы со структурами, которые влияют на то, как ведут себя их части.

      На протяжении тысяч лет собаки во многом эволюционировали так, чтобы служить людям, само их существование зависело от их способности быть использованными людьми, будь то поводыри, ищейки или солдаты. Может показаться парадоксальным, но люди имеют ограниченную власть над государствами. В конце концов, не люди ли стоят за каждым действием государства? Но в демократических странах главы государств жалуются на недостаток власти, её представители обслуживают интересы коррумпированных групп, бюрократы ограничены законами, а избиратели, которые якобы ответственны за все это, всех их просто посылают к черту.

     Государство действует и люди влияют на него, однако никто не может заявить, что контролирует его. В тоталитарных странах аппарат власти имеет традиции, структуру и внутреннюю логику, которая никого не оставляет свободным -  ни правителей, ни тех, кем управляют. Даже короли вынуждены действовать методами, ограниченными традициями монархии и прагматикой власти, если они хотят оставаться королями и не попасть под гильотину.

      Государства - это не люди, хотя они состоят из людей. Вопреки всему история показывает, что изменение возможно, даже изменение к лучшему. Но изменения всегда движутся из одной полуавтоматической, нечеловеческой системы к другой - такой же искусственной, нечеловеческой, но, возможно, более гуманной и справедливой.

      В нашей надежде на улучшения, мы не должны смешивать государства с  человеческим лицом с государствами, которые имеют развитую систему гуманистических институтов. Описание государств, как квази-организмов, охватывает только один аспект нашей сложной объективной реальности. Однако он подсказывает, как они могут эволюционировать в ответ на грядущие вызовы. Усиление власти, наиболее хорошо заметное в тоталитарных странах, предлагает только одно направление - насилие.

      Государства могли бы стать в большей степени подобными живым организмам, имея более сильное влияние на свои части. Используя воспроизводящиеся ассемблеры, государства могли бы заполнить среду людей с имплантируемыми чипами - миниатюрными устройствами надзора и контроля. Используя изобилие понимающих речь систем ИИ, органы власти будут видеть и слышать каждого, не используя для этого чуть ли не половину населения в качестве стукачей, шпионов и доносчиков.

      Используя нанотехнологию, как это было предложено для машин ремонта клеток, они смогут с минимальными издержками успокоить, провести эмбриотомию, или еще как-то модифицировать целые народы. Это могло бы просто расширить уже известную картину мира. Миру уже известны правительства, которые шпионят, пытают, кормят народ отравой и наркотиками. Усовершенствованная технология просто расширит новые возможности. Парадоксально, но с усовершенствованной технологией контроля и управления людьми государствам не нужно будет контролировать. Они смогут вообще отказаться от управления людьми, как самоорганизующейся биосистемы. Так, например, живут в муравейнике муравьи.

      Большинство людей в большинстве государств живут и действуют в качестве рабочих муравьев, часть которых заботится о личинках, охраняет их, а большая часть из этих работников что-то двигает, переносит, строит и делает какие-то полезные вещи. Но продвинутое государство с воспроизводящимися ассемблерами не нуждалось бы в такой работе. Что более важно, продвинутые системы ИИ могли бы заменить инженеров, ученых, администраторов, и даже бесполезных политиков и чиновников, которые заняты только тем, что врут и воруют.

      Комбинация нанотехнологии и продвинутого ИИ сделает возможным наличие  разумных и эффективных роботов. С такими роботами, государство могло бы процветать, уволив кого угодно, или даже (в принципе) всех. И никаких профсоюзов!

       Реализация этой возможности зависит от того, существует ли государство для того, чтобы служить людям, или люди существуют для того, чтобы служить государству. В первом случае мы имеем государство, сформированное людьми, чтобы служить общечеловеческим целям. Демократии декларируют тенденцию стать, по крайней мере, грубым приближением к этому идеалу.

       Если демократически управляемое правительство теряет свою необходимость в людях, то это по сути означает, что ему не нужно больше использовать людей как чиновников и налогоплательщиков. Это откроет новые возможности, некоторые из которых могут оказаться весьма желательными. Во втором случае, мы имеем государство, которое развилось, чтобы эксплуатировать людей по тоталитарному принципу. Эти государства нуждаются в людях как в работниках только потому, что человеческий труд является необходимым основанием для создания привилегий и безбедного существования власти. И что более важно, геноцид был бы слишком дорогим и сложным инструментом для исполнения этого зловещего проекта.

        Большинство людей хотело бы иметь возможность жить без указаний власти, быть свободными выбирать, как им хочется жить. А не всегда так, как это надо политикам и правительству. Основная проблема очевидна: в будущем, также как и в прошлом, новые технологии будут использоваться для учинения катастроф и злоупотреблений. Поскольку репликаторы и думающие машины будут давать огромную власть, эта возможность искусственной организации катаклизмов и злоупотреблений будет также огромна. Эти возможности создают реальные угрозы нашей жизни.

        Современная стратегия государственного управления и сохранения легитимности власти включает в себя не только управление материальными ресурсами, информацией, коммуникациями, принципами, институтами и т.д. Современная парадигма умной власти, главным образом, строится на коррупции и злоупотреблении административными ресурсами, на одурачивании электората путем использования т.н. "е-технологий" проведения выборов. При этом голоса избирателей можно и не считать, там всё наперед сосчитано.      

        Разработчики ИИ бесконтрольно обслуживают любых заказчиков, которые способны оплатить их услуги. Системы ИИ могут служить грозным оружием в борьбе за власть. Новые возможности ИИ опасны не только распространением "серой слизи" в окружающей биологической среде. Куда опаснее её проникновение в среду социальную - через "серую слизь" во власти. 

        История свидетельствует, что тоталитарные государства и коррумпированные правительства склонны уничтожать людей. Они до сих пор, так или иначе, прямо или косвенно убивают своих граждан миллионами. Усовершенствованная "умная парадигма власти" на основе достижений науки сделает ненужных работников ненужными, а всемирный геноцид легко исполнимым. Возможность - в этом их главное "утешение".

        Кажется невероятным, но государства, способные поработить нас биологически с помощью молекулярных нанотехнологий и ассемблеров, вместо усовершенствования людей будут их массово уничтожать. Угроза совершенной технологии в руках правительств "серой слизи" делает вывод совершенно очевидным: человечество не должно позволить деспотическим государствам и коррумпированным правительствам "серой слизи" с помощью технологий искусственного интеллекта присваивать себе абсолютное первенство в грядущих прорывах.