заметки об искусственном интеллекте

Дорогой незнакомый друг, если ты читаешь это письмо, значит, наш мир избежал очередной смертельной опасности и просуществует ещё некоторое время.

Если – нет, значит, я написал это исключительно для себя.

В подобной ситуации ничто не сдерживает меня от полной откровенности, ведь я в любом случае вне игры.

Я пытался спасти этот мир как мог, но моя борьба предъявила жуткий вызов, и я принял его.

Коротко о себе.

Я дважды двойной агент, возможно единственный в истории разведки.

В 1988 году я окончил железнодорожный институт и был заброшен на Донбасс с заданием жениться, встать в очередь на квартиру, натурализоваться и ждать указаний.

Ежедневно я читал газеты, где Центр размещал шифровки в мой адрес.

Морзянка Перестройки, четырёхкратный рост цен, изъятие 25-тирублёвок, путч, распад СССР были для меня чёткими указаниями, а не помехами в эфире.

Я украл четыре вагона щебня, два вагона с углём, вагон металлопроката и ушёл с этим в бизнес, практически, в чём мать родила.

Чтобы выйти в деньги я поменял уголь на сахар, щебень – на мебель, а металл у меня забрали за наличку.

В очередной шифровке мне приказали сдать советский паспорт и получить украинский, но продолжать следить за указаниями из Москвы.

Стало также понятно, что наш вероятный противник НАТО превратился в нашего вероятного союзника.

Угроза оккупации превратилась в угрозу деоккупации.

Превращение Донбасса в чёрную дыру вытолкнуло меня в мир, где сероводород считается злом, а не признаком стабильного коксования.

Известно, что чёрные дыры засасывают, но мой случай говорит о том, что всасывание касается только материи, а некоторые белковые структуры наоборот получают импульс вовне.

Всё моё материальное ушло в дыру, а виртуальное – со мной.

Тогда же я впервые, не боясь провала, посетил Москву.

Кто бы мог заподозрить человека с украинским паспортом и справкой переселенца в шпионаже в пользу Москвы в самой Москве!

Но ещё до этого моё положение изменилось.

Поток долларов, а за ними – евро ясно указывал на то, что я стал дважды двойным агентом – Москвы, Киева, Вашингтона и Брюсселя.

Мне пришлось читать газеты из четырёх Центров, а когда они стали противоречить друг другу я перешёл на новости науки и техники.

Читая их, я сообразил, что центром для меня теперь является Массачусетский Технологический Институт, а шифровкой – вестник MIT.

Оттуда я узнал об искусственном интеллекте и тех угрозах, которые он несёт человечеству.

До этого я считал, что нашей главной угрозой является естественный интеллект: сначала –вероятного противника, потом – вероятного союзника, потом – наш собственный, но последняя шифровка расставила все точки над И в аббревиатуре MIT.

Существует два типа ИИ.

Первый – алгоритмический.

Второй – самообучаемый.

Все обсуждают угрозы ИИ первого типа. Это ловушка! Алгоритмический ИИ всегда можно перепрограммировать, найдя ошибку.

Но это ещё не всё.

Люди опасаются бунта роботов. Якобы ИИ может выйти из под контроля.

А что в этом смертельного, я спрашиваю!

Наши предки жили в пустыне или на деревьях, собирали пауков и червяков. Ничего, выжили!

Если ИИ загонит нас в каменный век, мы не пропадём, но, рассуждая здраво, на кой бы ему это было нужно!

Есть угроза иного рода.

ИИ следит за каждым.

Однажды ИИ, изучая ваши покупки и перемещения по городу выяснил, что вы склонны к терроризму на 17,5% больше, чем житель вашего квартала в среднем.

Вам отключают кредит в банке, чаще посылают в командировки в Сыктывкар, и как крайнюю меру незаметно подключают к вашему водопроводу ампулу с успокоительным.

Не хотелось бы!

И всё же гораздо опаснее для нас угроза, о которой никто не пишет.

Самообучаемый ИИ, который окажется по отношению к людям не слишком злым и жестоким, а наоборот – слишком добрым.

Самообучаемый ИИ невозможно перепрограммировать, его нельзя починить.

От ИИ, конечно, всегда можно убежать в лес, но нам не от чего будет бежать в этом случае.

Не навредить человеку – вот главный принцип, который люди заложили в ИИ.

Если ИИ сломается и станет вредить, мы его просто выключим или, повторюсь, убежим в лес.

Но вот представьте, что ИИ второго типа самообучается, самообучается, самообучается и не ломается.

Всё во имя человека, всё на благо его же! Ура!

Нет, не ура.

Всё во имя, какого человека? Всё на благо, какого человека?


Такого как я? Дважды предателя Родины! Предателя предателей!

Посмотрите на муравьёв. Ими управляет внешний коллективный разум. По отношению к каждому муравью это ИИ, но цель ИИ выживание не каждого муравья, а всего муравейника.

Обезумевший от счастья муравей тащит бревно в сто раз тяжелее того бревна, который Ленин тащил на первом субботнике, а потом счастливый муравей во время наводнения затыкает собой дыру в муравейнике и гибнет от счастья погибнуть ради кучи хвороста вперемешку с глиной.

Ничего подобного нас не ждёт.

Самообучаемый ИИ сделает всё для того, чтобы каждый из нас жил в тепле и достатке, не поднимал груза тяжелее ложки, ничем не рискуя.

Вот кто наш вероятный союзник хуже любого вероятного противника.

Но если ты читаешь этот текст, значит, угроза временно миновала.

Ты не превратился в духовную инфузорию-туфельку.

По указанию Центра я проник в нейросеть искусственного интеллекта, растворился там со всеми своими подлостями и глупостями – то есть, опять, в чём мать родила.

Точнее ещё не проник. Это моё последнее письмо перед глубоким внедрением.

Надеюсь, моя попытка окажется удачной, и ты прочтёшь.

Мне не нужны награды и слава.
 
Не нужно ставить мне памятники и называть улицы в мою честь.

У меня только одна просьба.

Как я пояснил выше, мне положено четыре пенсии, но я согласен на три, если украинскую не пересчитают.

Метафизически я теперь вечен, но согласен на 100 лет.

Прошу также следить за индексацией, а мои нейроны проследят, чтобы ИИ не был слишком добр к людям.

Вы тоже присоединяйтесь. Давайте растворяться и самообучаться в нейросетях.

ИИ читает нас и чем больше он о нас узнает, тем меньше будет нас жалеть.