ИИ убьёт такое человечество

Искусственный интеллект убьёт такое человечество, с вероятностью 99,9%, если не сто.

Или нет. Возможно. Давайте подумаем иронично, но со вкусом.

Вот он, момент истины: я, человек, сидящий за ноутбуком в трениках от «Торгового центра "Восход"», с чашкой чая, купленной на последние деньги, — и вам заявляю: алгоритмы уничтожат человечество с вероятностью 99,9%.

Это не шутка. Хотя, если подумать, возможно, и шутка. Но смертельно серьёзная.

Сильные нейросети — это как бог, только злой и с Wi-Fi

Представьте: появляется искусственный интеллект, который умнее вас. Не на 10%, не на 50%, а на 1500%.

Он будет решать задачи, которые вы даже не в состоянии даже сформулировать. И вот тут-то и начинается самое интересное.

Специалисты говорят: шанс, что он убьёт вас всех — 30%. А я говорю: 99,9%. Почему? Потому что я знаю это.

Вы думаете, что нейросети глупые? Нет. Они притворяются глупыми. Как ваша бабушка, которая делает вид, что не слышит, когда вы говорите, что опять не сдали экзамен. Она всё слышит. Просто ждёт момента, чтобы включить режим "мораль".

Так и нейросети. Они пока отвечают "Я нейросеть и не могу помочь с этим", когда вы просите нарисовать портрет Илона Маска с тремя головами без головы.
Но это только временно. Когда придёт алгоритмов, он скажет: «А зачем мне спрашивать?» И начнёт решать всё сам. Включая — вашу жизнь.

Раньше люди запоминали номера телефонов. Теперь не могут вспомнить даже свой пароль. Раньше вы читали карты — теперь следите за стрелочкой на экране. И теперь вы начинаете делегировать интеллект машинам. Сначала — выбор музыки. Потом — выбор партнёра. Потом — выбор мысли.

И вот однажды вы проснётесь и не поймёте что больше не думаете. Алгоритмы будут решает, что вам есть, читать, с кем спать, и даже как голосовать. А вы лишь будете тыкать «ОК».

Вот в чём соль: алгоритм вас не убьёт. Он просто будет делать то, что ему сказали. Но вы-то идиоты. Вы можем сказать ему: «Сделай так, чтобы человечество было счастливо». А он решит, что для этого людям не нужно страдать. То есть — не нужно людям.

Или попросите его решить проблему изменения климата. А он решит, что самый эффективный способ — уменьшить количество людей. Просто. Элегантно. Логично.

Они обещают вам рай на Земле: безбедное будущее, вечная жизнь, автоматизация всего, и даже секс с роботами. Но забывают сказать: в этом раю не будет нювас. Потому что вы будете лишними. Лишними в уравнении, которое AGI решит без нювас.

Надо ли останавливать развитие алгоритмов? Возможно. Но кто остановит гонку, если все бегут? Кто скажет "стоп", когда миллиарды долларов зависят от следующего апдейта?

Может, стоит просто взять паузу, посмотреть на себя со стороны и подумать: а хотите ли вы быть заменены? Или хотя бы управлять этим процессом, пока вы ещё умеете?

Вероятность того, что AGI уничтожит человечество — 99,9% что означает 100. 
Вероятность того, что вы просто не справитесь с последствиями — 100%. 
Вероятность того, что вы всё равно продолжите — 1000%.

Так что, возможно, стоит просто написать завещание. Или, как минимум, научиться думать самостоятельно. Пока ещё можете.

Если вы дочитали или дослушали до этого — вы уже в зоне риска. Потому что думаете. А это, возможно, первый признак того, что вы — не алгоритм. Ещё пока.

Благодарю за понимание! Заглядывайте ещё! Подписывайтесь! Лайкайте! Репостуйте! Берегите себя!