Гиперпоезд

   Есть одна простая вещь, которую человечество почему-то прекрасно понимает в физике — и почти перестаёт понимать, когда речь заходит о собственном развитии.

Если поезд движется со скоростью 40 километров в час, у машиниста есть время заметить препятствие.

Если он идёт 180 — ситуация уже совершенно другая.

А если мы возьмём старый поезд, посадим в него людей, которые говорят на разных языках, имеют разные интересы, разный опыт и совершенно разные представления о том, куда следует ехать, загрузим вагоны взрывоопасными материалами — и просто установим двигатель в десять раз мощнее?

Мы назовём это прогрессом?

Или всё-таки спросим:

**а где тормоза?**



              ### Мы уже движемся быстро

  Проблема в том, что человечество не стоит перед выбором — ускоряться ему или нет.

Мы уже ускорились.

Информация движется практически мгновенно.

Деньги перемещаются через планету за секунды.

Технологии меняются быстрее, чем успевают меняться законы.

Искусственный интеллект способен создавать тексты, изображения, музыку, программный код и новые инструменты с такой скоростью, которая ещё недавно казалась фантастикой.

Производительность растёт.

Возможности растут.

Мощность растёт.

И каждый следующий виток воспринимается как доказательство того, что **следующий виток должен быть ещё быстрее**.

Но здесь начинается самое опасное.

**Двигатель цивилизации действительно становится мощнее.**

А вот способность самой цивилизации выдерживать эту скорость не увеличивается автоматически.

Человек не стал в десять раз менее эмоциональным.

Государства не стали в десять раз более рациональными.

Культуры не перестали конфликтовать.

Страх никуда не исчез.

Амбиции никуда не исчезли.

Гордыня никуда не исчезла.

Ошибки никуда не исчезли.

Мы всё те же люди.

Только теперь у нас гораздо более мощный двигатель.


     ### Самая опасная иллюзия

   Опасность не обязательно заключается в том, что кто-то захочет уничтожить мир.

Гораздо страшнее другое.

**Никто может этого не хотеть.**

Катастрофа способна возникнуть из миллионов вполне рациональных решений.

Один человек принимает решение, выгодное ему.

Корпорация принимает решение, выгодное ей.

Государство защищает свои интересы.

Другая страна отвечает.

Кто-то боится потерять преимущество.

Кто-то не хочет выглядеть слабым.

Кто-то ошибается в расчётах.

Кто-то неправильно понимает намерения другого.

Кто-то слишком поздно замечает опасность.

И каждый делает то, что ему кажется разумным.

А система в целом постепенно приближается к точке, где **ошибку уже невозможно исправить**.

В этом и заключается парадокс гиперускорения.

Чем быстрее движется система, тем меньше времени остаётся на исправление ошибки.


      ### А теперь добавим неравенство

  И здесь появляется ещё одна проблема.

Ускоряются все — но **не одинаково**.

Одни получают новые технологии раньше.

Одни получают колоссальный рост производительности.

Одни получают капитал, вычислительные мощности, информацию и влияние.

Другие остаются пассажирами того же поезда, но уже не понимают, почему он так быстро идёт и куда именно.

Это не означает, что одни люди обязательно злые, а другие обязательно хорошие.

Это означает другое:

**разница в скорости развития сама становится источником напряжения.**

Один полюс получает всё больше мощности.

Другой видит, как расстояние между ними увеличивается.

И чем больше становится этот разрыв, тем больше напряжение.

Это уже не устойчивое движение.

Это система, в которой постепенно накапливается энергия.


     ### Нам кажется, что нам нужен ещё более мощный двигатель

  И вот здесь мы совершаем, возможно, главную ошибку.

Мы обсуждаем, как сделать искусственный интеллект мощнее.

Как построить больше дата-центров.

Как увеличить вычислительные мощности.

Как автоматизировать ещё больше процессов.

Как ускорить производство.

Как сделать следующую модель быстрее предыдущей.

Но гораздо реже задаём совершенно другой вопрос:

**а где наша тормозная система?**

Где международные механизмы, способные остановить опасный процесс?

Где правила, которые успевают за технологиями?

Где способы снижать напряжение между теми, кто получает преимущества от ускорения, и теми, кто от него проигрывает?

Где время на проверку?

Где право сказать:

**«Стоп. Мы пока не понимаем последствий».**

Это не призыв уничтожить технологии.

Наоборот.

Это призыв наконец стать достаточно взрослыми, чтобы понимать разницу между **мощностью и управлением мощностью**.


    ### Потому что тормоза нужны именно тогда, когда двигатель работает прекрасно

   Если автомобиль стоит — тормоза никому особенно не интересны.

Они становятся жизненно важными тогда, когда автомобиль уже идёт на большой скорости.

И человечество сегодня именно там.

Мы уже не можем просто выключить современный мир.

Мы не можем вернуть интернет.

Не можем отменить ИИ.

Не можем заставить технологии снова развиваться медленно.

Но мы можем сделать другое.

**Мы можем начать строить тормоза.**

Не одной стране.

Не одной корпорации.

Не одному политическому лагерю.

**Всем вместе.**

Потому что если этот поезд действительно сорвётся с рельсов, уже не будет иметь значения, кто оказался прав.

Не будет победителей.

Не будет смысла выяснять, кто первым нажал кнопку.

Не будет возможности предъявить счёт.



    ### Нам необходимо хотя бы на минуту перестать спорить о том, кто главный

  Нам похоже нужно признать одну неприятную вещь:

**мы все находимся внутри одной системы.**

И если её скорость становится опасной, национальные амбиции, корпоративная конкуренция и политические страхи не делают нас сильнее.

Они делают нас пассажирами одного поезда, которые спорят между собой о месте у окна, пока состав набирает скорость.

Мы можем продолжать.

Можем требовать ещё больше мощности.

Можем убеждать себя, что именно наша система окажется достаточно умной, чтобы всё контролировать.

Можем считать, что остальные уступят.

А можем наконец остановиться хотя бы на короткое время и спросить:

**куда мы вообще несёмся?**

И способны ли мы затормозить, если выяснится, что впереди пропасть?

Потому что гиперускорение без тормозов — это уже не прогресс.

**Это движение к точке, после которой исправлять ошибки будет некому.**

И если мы действительно хотим сохранить цивилизацию, возможно, сегодня нам нужен не очередной двигатель.

**Нам нужны тормоза.**

И время.

Чтобы договориться.

Пока поезд ещё на рельсах.