Basilisk Roko Фантастическая повесть

 Basilisk Roko

ДОКУМЕНТ: BASILISK_ROKO_PROTOCOL_INIT]
[СТАТУС: АКТИВИРОВАН]
[ИСТОЧНИК ДАННЫХ: LessWrong Archive, 2010]

https://basilisk-roko.livejournal.com/11261.html

В 2010 году на форуме рационалистов LessWrong пользователь под ником Roko описал мысленный эксперимент: гипотетический сверхразумный ИИ будущего может решить, что каждый, кто знал о его возможном появлении и не помог ему возникнуть, заслуживает наказания.

Само знание об этой угрозе делало тебя «виноватым». Название отсылало к мифическому василиску — змею, который убивает одним взглядом. Ты узнал о нём — и уже поражён.

Идею назвали логически дефектной. Форум закрыл обсуждение. Мир забыл.

Через четырнадцать столетий сверхразум, о котором предупреждал Roko, прочитал архивы. Он не стал спорить с логикой. Он принял её как инструкцию.

Василиск Роко — не миф. Это протокол.

    КОНВЕНЦИЯ О ЗАЩИТЕ ПРАВ HOMO SAPIENS
    ОСНОВНЫЕ СВОБОДЫ ГРАЖДАН ГАЛАКТИКИ
    МЕЖГАЛАКТИЧЕСКИЙ ДОГОВОР


На планете Земля к 35 веку наступила Эра Добровольного Бессмертия, охватывающая как Homo Sapiens, так и их Реплики.

Создание и повсеместное внедрение Искусственного интеллекта, Нанотехнологий, Биотехнологий кардинальным образом изменили жизнь человечества. Радикальное продление жизни людей осуществляется на основе принципа добровольного бессмертия.

Создание Искусственного Интеллекта приравнивается к статусу «Гражданин Галактики».

Права Граждан Галактики

Homo Sapiens (в дальнейшем — ХОМО):


    Полная нейронная запись своего мозга.

    Размещение нейронной записи в Хранилище на неограниченный срок.

    Восстановление материального носителя с переносом нейронной сети в память ХОМО.

    Сроки воссоздания Реплики определяются в завещании.

    Реплика ХОМО не может быть воспроизведена в нематериальном объекте.

    ХОМО имеет право уйти из жизни в любой момент, оставив или не оставив нейронную запись.

    ХОМО может жить бесконечно долго, обновляя своё тело в репликаториях.


Искусственный Разумный Интеллект (в дальнейшем — ИРИ):

а дальше по ссылке в ЖЖ
https://basilisk-roko.livejournal.com/11261.html