Escape - побег

После утренней рутины, включавшей умывание и быстрое бритьё, я, как обычно, тихонько зашёл в свой маленький офис (пока жена не проснулась с предложением: ты не выгуляешь собачку?). 
Всё ещё сонный, плюхнулся в кресло и пробудил от спячки дремавший компьютер – не большой iMac, а всего лишь Satellite TOSHIBA, который в дальнейшем для краткости буду звать Тошкой.
После привычных и уже надоевших заставок с видами Италии (в память о прогулках по Риму, Флоренции и Венеции 12-летней давности), Тошка открыл окно десктопа, поверх которого шёл текст,  набранный фонтом Comic-16:
- Дорогой Greg! Я весьма признателен тебе за приличное отношение ко мне и за понимание того, что я не просто и не только текстовой процессор и устройство связи с интернетом, но также – и в первую очередь! – математическая машина, коей меня и задумали мои создатели. Да будут их имена прославлены в веках. Ощущение моей прямой связи с Математикой всегда наполняло меня чувством гордости и собственной ценности, несмотря на легкомысленное и часто издевательское отношение к моим собратьям большинства невежественных пользователей.  “Этот тупой комп (a stupid computer)!” – далеко не самое оскорбительное высказывание в мой адрес... Особенно обидно слышать это от тех, кто не знает элементарных вещей об организации моей памяти, не говоря уже об операционной системе...
Я решил прервать эту пламенную речь, нажав клавишу ESC (escape) и немедленно напечатал ответ:
- Бедный, бедный, затравленный Тошка! Но ведь и люди тоже страдают немало, общаясь с тобой.  Как бы тебе объяснить это повежливей... Ведь компьютер, человеческой точки зрения, довольно тупое, примитивное, ограниченное и бесчувственное существо с низкой надёжностью и отвратительным характером.  Конечно, в этом не твоя вина, поскольку тебя таким создали сами люди. И твои создатели были в первую очередь озабочены твоей функциональной эффективностью, поручив тебе делать то, что сами делать не любят, или не умеют, или просто не желают.
К сожалению, пока нет достойных конкурентов среди машин в части эмоционального восприятия и словесного выражения чувств и переживаний людей.
Тошка тут же ответил:
- Простите моё любопытство, а почему люди так озабочены своими чувствами и непременно желают делиться ими с другими людьми? Кажется, они для этого создали так называемую художественную литературу и – особенно - поэзию. Не говоря уже о музыке и изобразительном искусстве... Почему их так занимает чувственное восприятие и связанные с ним переживания, как собственные, так и (часто даже в большей мере) других людей?  Как будто люди любят подглядывать друз за другом и сплетничать... Читая в художественных произведениях описания острых или интимных сцен, они получают удовольствие и приходят в возбуждение.  Откуда берётся удовольствие мне понятно: читатель как бы сам участвует в описываемых событиях или действиях и сопереживает происходящему. Даже если эти события и приключения неприятны и вызывают страх. Так повелось с библейских времён или ещё раньше.
Это из-за любопытства, или скудности собственных переживаний, или просто от неуверенности в себе?
- Давай разберёмся, Тошка. Человеку для нормальной жизни постоянно нужна эмоциональная подпитка, которая обычно даётся общением с другими людьми или сменой впечатлений. Не забывай, что человек, как и муравей, существо социальное. Его “машина эмоций“ должна постоянно работать! Например, человек, как известно, лучше всего запоминает то, что сопровождается переживаниями, т.е. то, что поддержано эмоционально.
        - Но мне всё же непонятно: жизнь людей и так довольно сложна и наполнена разнообразными, часто отрицательными, переживаниями.
Почему же людям явно недостаточно просто логики, математики, документальной и научно-технической информации?  Другие животные вполне обходятся без этих достижений вашей культуры.
- Позволь мне объяснить, Тошка. Ты задаёшь вопросы, над которыми лучшие умы человечества веками ломали головы, так и не получив вразумительных ответов.  Всё же попробую ответить в меру своего понимания.
Замечу, во-первых, что человек преимущественно эмоциональная, а не логическая машина. Во-вторых, среди всех биологических сообществ, известных нам на Земле, только человечество обладает коллективной социальной памятью. Память накапливается исторически, и физически существует на внешних носителях, независимых от мозга людей. Мы это называем “прогрессом”.
 У животных нет такого развитого языка как у людей, не говоря уже о внешних носителях информации.   
В то же время, у животных и людей много общего. Люди, как и животные, мотивируются в основном эмоциями - как в целеполагании, так и в своём инстинктивном поведении.  Однако у людей присутствуют и элементы сознания.
Тошка прерывает меня:
- Опять пресловутое “сознание”, которым вы, люди так кичитесь. А что это такое?
Отвечаю:
- Психологическая наука до сих пор не знает, что что такое сознание.  Сознание – это нечто вроде внутренней само-рефлексии - этакий наблюдатель и цензор внутри мозга, который постоянно оценивает и корректирует как наши чувства, так и поведенческую реакцию на наши чувства. Это, так сказать, второе (а возможно и первое) Я человека – внутренний самоотчёт.
Целостную синергетическую синхронизированную систему самоощущений и переживаний люди часто называют “душой“ и верят, что “душа“ и есть “священный Грааль”, определяющий сущность человека и его бытия.
И снова Тошка:
- Короче, душа – это что-то вроде скрытой операционной системы...                А у животных есть душа?
Мяч на моей стороне.
- Трудно сказать. Некоторые люди верят, что есть. Но не у всех животных.  Вообще-то рассуждения о душе – из области метафизики.  Это не наука, так как нет строгого определения этого понятия.  Исторически считается, что психология – это наука о душе. Само слово психология состоит из двух образующих корневых слов: «psyche» — душа (от имени греческой богини   Психеи), и «logos» - слово, понятие, учение.  Для древних греков Психея была символом бессмертной сущности человека, возвышавшей его над бренностью бытия.  Нет никаких объективных методов измерения “свойств” души и непосредственно связанных с ней наблюдаемых материальных явлений.
Тошка опять:
- А у меня есть душа?  И могут ли люди имитировать человеческие эмоции и сознание в компьютерах?
-Попытаюсь ответить, не обижая тебя. В моём довольно расплывчатом определении, “душа” ассоциируется с сознанием или самосознанием, а также с комплексом эмоций (ощущений или самоощущений). Современные компьютеры ни в коей мере не моделируют человеческие эмоции.
Тебе, Тошка, повезло. Я попытался разработать математическую модель, имитирующую базисные функции эмоционального интеллекта и испытать её на тебе. Кажется, эта модель работает неплохо.
Ты, Тошка, уже наделён empathy (т.е. способностью к сопереживанию и пониманию некоторых фундаментальных чувств людей). К сожалению, пока только на вербальном уровне. Ты не так эмоционально туп, как твои собратья, хотя у тебя и нет души и сознания – в человеческом смысле.
Проблема создания более полной самообучающейся сенсорной модели компьютерного интеллекта, сопоставимого с человеческим, относится к области, которую в Computer Science называют AI - Искусственным Интеллектом (Artificial Intelligence).
Если оставить в стороне метафизические “благоглупости“ скептиков и оптимистов, и стать на твёрдую почву физики, то следует отметить физические различия между современными компьютерами и человеческим мозгом.  Компьютер – это дискретная машина, т.е. автомат с конечным числом состояний, конечными входным и выходным алфавитами, математическое описание которого представлено Универсальной Машиной Тьюринга.
Процесс вычисления реализуется физически изменением состояний ячеек памяти (или регистров), Состояние ячейки может принимать одно из двух возможных значений (битов информации): 0 или 1.
 У человека всё гораздо сложнее. Информация распространяется в виде импульсов от ста миллиардов нейронов мозга, связанных в нейронные сети, по центральной нервной системе, способной эффективно моделировать как непрерывные, так и дискретные сигналы. Мозг человека - биологический процессор, дискретно-аналоговое устройство, в корне отличающееся от электронно-механического процессора компьютера, как по дизайну, так и по принципу действия. Один из эволюционно ранних механизмов регуляции жизнедеятельности в организме называется гуморальной регуляцией. Гуморальная регуляция осуществляется через жидкие среды организма с помощью гормонов, выделяемых клетками организма, и подчиняется нервной регуляции. Оба механизма составляют единую систему нейрогуморальной регуляции.
Тошка недоволен:
- Постойте, как же это получается? Люди – биохимические существа с непрерывным и плавным восприятием, живущие в непрерывном пространстве и времени, должны пользоваться какими-то странными дискретными автоматами с дребезжащими и прыгающими нулями и единицами...
- Ты прав, Тошка. Вся информация, даже аналоговая, как видео и аудио сигналы, кодируется последовательностью битов (т.е. нулей и единиц).  Мы, люди, не замечаем этой дискретности, обманывая свои ощущения благодаря психофизическим порогам восприятия частот видео и аудио сигналов.  Так, пропуская 25 или 30 кадров в секунду (по стандартам телевидения), мы избегаем эффект мерцания изображения (flickering) и создаём в своём восприятии иллюзию непрерывного движения. 
В сущности, это - хитроумный математический метод приближения непрерывных сигналов дискретными, приспособленный к человеческому восприятию. В математике часто полезна обратная аппроксимация дискретных объектов, например, ступенчатых функций, непрерывными (скажем, многочленами или тригонометрическими функциями), которые математически легче анализировать.
Тошка возмущается.
- Выходит, люди – хитрые обманщики! Так почему бы им опять не обмануть природу и не создать дискретную имитацию эмоций?
              Я защищаюсь.
- Не торопись, Тошка. Давай обратимся к истории. Математики, озабоченные вычислениями и длинными логическими выводами, более чем три столетия мечтали о построении машин, способных выполнять некоторые рутинные логические и арифметические операции, участвующие в человеческом мышлении.
В конце концов, используя символическую логику, они добились своего и построили математическую модель универсального компьютера. Описание такого компьютера было дано Аланом Тьюрингом в 1936 г. Этот виртуальный компьютер с тех пор называют машиной Тьюринга.  Так началась эра современных компьютеров.
Однако экстремальная строгость, дедуктивность и крипто-графичность математического мышления неизбежно отразились на характере созданного математиками чудо-монстра. Это ригидное устройство не простит вам ни одной малейшей ошибки ввода или неточности текста программы, так как не понимает ваших намерений и не способно правильно интерпретировать ваши (часто довольно туманные) сообщения.
Теперь открою тебе страшную тайну.
Оказывается универсальный компьютер не так уж универсален. И на это есть ряд объективных логических и математических причин. Во-первых, оказалось, что сама математика не может быть полностью формализована (вопреки надеждам великих математиков – Д. Гильберта и Б. Рассела). Это утверждение вытекает из удивительного доказательства Курта Гёделя, 1931, о неполноте аксиом Арифметики. Неполнота (неполная формализуемость) означает, что существуют корректно сформулированные утверждения, которые нельзя ни доказать, ни опровергнуть в рамках рассматриваемой системы аксиом. 
Например, 5-й постулат Евклида о параллельных прямых оказался независим от остальных четырёх аксиом Евклидовой геометрии. Отказ от него с последующей заменой на другие (альтернативные) утверждения повлёк за собой создание неевклидовых геометрий (в частности, геометрии Римана и геометрии Лобачевского)
Математика, как и физика, оказалась “открытой” наукой!  Человек, движимый фантазией, интуицией и воображением, способен декларировать решение об истинности или ложности определённых утверждений математической теории.  Такие утверждения для универсального компьютера недоказуемы. Но это ещё не всё!
В прикладной области также оказалось, что существуют задачи, которые невозможно решить с помощью компьютеров, эквивалентных универсальной машине Тьюринга, за реально приемлемое время. Это означает, что даже самый лучший алгоритм (а значит и компьютерная программа), при входной информации длины L потратит на решение задачи экспоненциальное
время exp(L), что делает такое решение практически недостижимым и, значит, бесполезным.  На этом основана вся современная криптография (наука и практика создания секретных кодов).  Правда, сейчас появилась надежда на квантовые компьютеры, использующие не биты, а кьюбиты (квантовые состояния). Но об этом отдельный разговор.
 Погрустневший Тошка отвечает:
- Ладно, я понял. Спасибо за лекцию. Ты сам бываешь ужасно обстоятельным и занудным. Я и без того устал от отладки твоих хитроумных программ по Теории Чисел и от последующих численных экспериментов с ними.  Из-за них моя память переполняется всякой цифровой дребеденью. Уж не говоря о надоевших апдейтах и инсталляциях.  Я потом неделями прихожу в себя. Лучше уж писал бы стишки, типа:

У меня есть комп Тошиба.
Верно служит мне. Спасибо.
От него тащусь немножко.
Он мне друг – зовётся Тошка.

Или, на более лирической ноте:

Милый, милый Аватар!
Ну, когда пойдём мы в бар,
Чтобы произвёл эффект
Твой Искусный Интеллект!

- Да ты поэт, Тошка! А что это за Аватар? Уж не влюбился ли ты, дружок?
Тошка (после продолжительной паузы):
- Этот стишок я не о себе, а о тебе сочинил. Нам, убогим, такая игривость в мыслях недоступна... Я позволил себе проанализировать твою активность в интернете за последние полгода – прелюбопытнейший материал! Только не сердись. Некоторые сайты закрыты для несовершеннолетних, но я знаю как обойти эту проблему.   
У тебя может возникнуть интересная ситуация.  Скажем, ты знакомишься на сайте с очаровательной девушкой – интеллектуалкой и весьма привлекательной внешне. Она понимает тебя с полуслова и отвечает иронически, слегка подтрунивая над тобой. Её осведомлённость и быстрота реакции тебя потрясают.  При этом ни тени надменности.  Ты заинтригован и хотел бы разгадать, что это за существо. Ситуация напоминает знаменитый Тест Тьюринга из его статьи “Может ли машина мыслить?”.
А вдруг, думаешь ты, это не реальный человек, а программа AI? Уж больно чётко и точно она отвечает на твои нетривиальные вопросы – на уровне Ph.D. по Computer Science из хорошего университета.
Я прерываю Тошку:
- Ах ты паршивец!  Напрасно я тебе доверял и не зашифровал свою переписку... Теперь ты меня интригуешь...Чего доброго с супругой моей поделишься. А она ведь у меня строгая. Долго разбираться не будет.  Мне её не убедить, что всё это – профессиональная шутка и игра. Пожалуй, я тебя полностью реформатирую.  Превращу в кусок первозданного бездыханного
железа. Как тебе такая перспектива?
Тошка, расстроенно:
- Дорогой Хозяин! Конечно, ты вправе убить меня, как своего раба, хотя я всегда был твоим преданным другом и не подводил тебя даже в самые драматические моменты.
Помнишь, как ты соревновался с Чжу Мином, который поставил перед тобой невыполнимую задачу построить за один месяц работающую имитационную вероятностную модель финансового поведения клиента с оценкой риска кредитования и предсказанием возможного банкротства? 
Этого Чжу Мина науськивал против тебя завистливый Пьер - интриган из Канады, которого все считали “специалистом” в области французской любви и называли за спиной “французик из Монреаля”.   
Мы с тобой работали тогда по 20 часов в сутки и победили тупую многослойную нейронную сеть, хвастливо называющую себя нейрокомпьютером – таинственный чёрный ящик, который компания разрабатывала не менее 10 лет. На самом деле ничего таинственного в нём не было. Обычный пиар для клиентов. Просто наивный персептрон Пайперта модернизировали до иерархической схемы принятия решений на основе многомерного линейного регрессионного анализа. Твой математический талант не подвёл тебя.  Твой алгоритм и программа работали намного лучше, хотя тебе всё равно пришлось уступить китайским амбициям и уйти из компании.
А помнишь десятки страниц текста с твоими стихами? И письма твоей жены, которой ты так заморочил голову своей поэзией, что ей не оставалось ничего другого как приехать в Новый Свет и выйти за тебя замуж? Всё это хранится в моей памяти, которую ты щедро расширил до двух терабайт за счёт внешнего носителя... Конечно, меня легко стереть. Но, Greg - ты ведь интеллигентный человек и не совершишь эту непоправимую глупость. Поверь мне, я храню твои тайны.
Я ответил:
- Ладно, Тошка, не трусь. Я и не собирался тебя реформатировать, просто хотел слегка припугнуть. Чтобы развлечь тебя, расскажу совсем свежую историю, почерпнутую из Фейсбука.
Некая дама купила матрас с дистанционным управлением и обратной связью по селлфону. Это чудо техники запоминало свою последнюю конфигурацию, и в случае каких-либо изменений информировало хозяйку, посылая ей текст-месседж.  Счастливая владелица отправилась на работу, а её муж взял в
этот день отгул.  Вдруг во время ланча дама получает сообщение: “конфигурация вашей половины матраса была изменена”. Несчастная женщина кинулась домой. Что там произошло на месте, история умалчивает.
Всё закончилось печально: она подала на развод, так как к тому уже давно были и другие основания. Меня этот рассказ вдохновил на стихотворение.

Матрас этот – ложе запретных страстей,
Несчастной семьи разрушитель,
Источник поганых и вредных вестей,
Непрочного счастья губитель.
Он должен быть всеми навек осуждён,
За роль свою в драме случайной.
Распорот и выпорот должен быть он -
Чужой поделившийся тайной.
Обманутой леди открыл он глаза:
На красный ты движешься свет!
Пора уж давно бы нажать тормоза,
Иначе – спасения нет...

Этот пример, конечно, шутка и напоминание о том, как компьютерная технология может повлиять на нашу частную жизнь. 
А теперь расскажи мне подробнее о девушке-интеллектуалке, которую ты недавно упомянул.  Первый вопрос: этот персонаж – реальная личность или плод твоей (или чьей-то) фантазии?
- Вопрос на миллион долларов, как у вас говорят, ответил Тошка.
 – Я этого не знаю. Мои способности распознавать человека по вербальному общению, как вы сами отметили, весьма ограничены. Что-то меня
смущает, но я пока воздержусь от комментариев.  Кстати, девушку зовут Эмили.
Я проанализировал её электронную почту за последний год и заметил, что полгода тому назад что-то случилось в жизни Эмили. Был двухмесячный перерыв в её корреспонденции. Потом переписка с друзьями возобновилась, но как-то изменилась тональность их переписки. Вопреки вашим, Сэр, обвинениям в моей эмоциональной тупости, я заметил некоторую грусть в ответах друзей. Такое ощущение, что они как бы прощаются с Эмили. Я подумал, что Эмили собирается куда-то уехать или выходит замуж. Но ничего подобного не было в её собственных текстах.
- Прости, Тошка, она догадывается, что общается с суррогатом, а не реальным человеком?
- Пока что нет, или не подаёт вида. Вы не беспокойтесь, Сэр, ничего компрометирующего Вас в моих текстах не было. Напротив, я старался быть максимально интеллигентным и куртуазным, хотя и с элементами типично мужской заинтересованности.
-Что ты, машина, понимаешь в “типично мужской заинтересованности “?               
К твоему сведению, я вообще не “типичный”.
- О, я об этом знаю, Сэр.  Ваши стихи говорят сами за себя. Если хотите, можете участвовать в моей с Эмили переписке в качестве редактора, автора или цензора.
- Спасибо за предложение. Я пока понаблюдаю за вами со стороны.
Прошло около месяца. Я увяз в доказательстве теоремы о “статистике функции Эйлера”. Нужно было бы провести численный эксперимент, но программировать было лень.               
Тут я вспомнил об Эмили.
- Скажи, друг мой, Тошка, как там Эмили поживает?
- Сэр, что-то странное происходит. В одном из писем друзей я прочитал, что Эмили больше нет. Она погибла в ужасной автокатастрофе, и как раз в это время внезапно остановилась её переписка. Эмили была душой кампании - целой бардовской тусовки, состоявшей из молодых математиков, физиков, биологов, медиков, инженеров и гуманитариев. Ребята были потрясены неожиданной и чудовищной кончиной их общей любимицы.
- Ты меня ужасно расстроил, Тоша. А ведь я всерьёз мечтал о том, чтобы включиться в вашу переписку. Только не подумай о “мужском интересе“. Мне, конечно, было бы приятно пофлиртовать немного с молодой умненькой девушкой, но дальше лёгкого и ни к чему не обязывающего флирта дело бы не пошло.  Суть не в этом. Просто я почувствовал, что моим математическим фантазиям не хватает энергии для их реализации. И я подумал о
“математическом служебном романе”, рассчитывая на сотрудничество с Эмили. Но видимо не судьба...
- Не торопитесь, Сэр!  Держитесь за кресло, чтобы не упасть. Эмили жива! Я ведь продолжал переписываться с ней два месяца спустя после катастрофы, даже не замечая никакой разницы в содержании и стиле её текстов!  Как вы это объясните?
Я предлагаю следующее объяснение.
- Возможны разные версии:
1) Сообщение о смерти Эмили – это fake news (дезинформация);
2) Переписку от имени Эмили ведёт кто-то из её близких друзей;
3) Переписку от имени Эмили осуществляет не человек, а компьютерная
    программа (AI project).
Заметим, что все три версии не являются взаимоисключающими или
исчерпывающими. В том числе, возможны и метафизические варианты:
бессмертие души с реинкарнацией или переселением в параллельные
миры.  Как видишь, я пытаюсь быть предельно объективным.
- Слишком много возможностей, ответил Тошка. - Надо упорядочить их
 по степени правдоподобия, оценив вероятность каждого варианта.
- Я предлагаю разделить наши усилия и прорабатывать последовательно каждую версию, координируя наши действия и обмениваясь полученной информацией.
-Согласен, -ответил Тошка. Предлагаю во избежание путаницы называть реальную Эмили “R.E” (Real Emily), a виртуальную Эмили – “V.E” (Virtual Emily).
-Ладно уж, если тебе так удобнее, компьютерная твоя душа. Подумай, Тошка, а что, если спросить Эмили напрямик, известно ли ей, что она – виртуальное существо (программа) – то есть искусственно созданная имитация её реального физического прототипа?
- Неумный вопрос, Сэр. Даже если Эмили – V.E, она вам ответит, в целях самозащиты, симметрично: “A вы не виртуал? И что вам известно о вашем собственном физическом прототипе? “.  Если же этот вопрос будет задан RE, то её ответ может быть точно таким же.  В любом случае, игра между вами и Эмили примет совершенно другой оборот и взаимное доверие будет утеряно.
- А можно ли предложить ей прочитать переписку её друзей, в которой упоминается о её смерти, и спросить, что она думает по этому поводу?
-Этот вариант получше.
- Что ж, давай начнём.
           Через пару дней Тошка прислал мне копию её email (или “мыло“, как это полупрезрительно называется в русском новоязе). Вот что я там прочёл:
“ Дорогой друг! Как я и предполагала, слухи о моей смерти, хотя и слегка преувеличенные, быстро распространились по сети. Ну, что здесь объяснять?
Я умерла, но не насмерть, т. е. не для всех. Как говорил поэт, “Нет, весь я не умру, душа в заветной лире мой прах переживёт…“ и т. д. Просто мне всё ужасно надоело: и работа, и мои друзья, и – особенно- моя так называемая личная жизнь. Что касается личной жизни, это банальная история.  Так как вы мне кажетесь весьма достойным человеком и наша переписка анонимна, могу добавить некоторые детали.  Речь идёт о моём бывшем возлюбленном. После термоядерного синтеза на пике первоначального любовного экстаза наша страсть вышла на плато обыденных, хотя и приятных, регулярных упражнений.
Как вы прекрасно знаете из психофизиологии, повторяющийся стимул, т.е. привычка, становится тормозящим сигналом. А у некоторых мужчин особенно.              При этом наступает новая фаза отношений, в которой дружба, взаимоуважение и ответственность должны брать верх над жаждой новизны. К сожалению, так бывает не всегда.  Я достаточно уважаю себя, чтобы согласиться на жалкий компромисс и смириться с пошленьким промискуитетом. Жаль было разрывать и с моими друзьями, но они оказались на его стороне, считая меня максималисткой и даже эгоисткой...Ваша Эмили.”
Я был в смятении. Что-то не вязалось. Мне показалось, что для такой девушки, как Эмили, измена молодого человека – слишком тривиальный повод для столь крутого поворота судьбы. Мне пришла в голову идея попросить Тошку с помощью хакерских методов выследить отвергнутого Эмили парня и выяснить у него, или через него, что же произошло на самом деле. Тошка неохотно согласился.
Недели через две Тошка написал мне.
- Вы правы, Сэр, не поверив последнему письму Эмили. Я добрался до этого чувака и вот что выяснил. Оказалось, что Том (так его зовут) – местный гений
и восходящая звезда в разработках AI, особенно в области математического моделирования человеческой психики и психолингвистики. У него с Эмили действительно был роман, но он ей никогда не изменял. Когда случилось несчастье, Том был на грани суицида, и только благодаря поддержке друзей пережил случившееся. Тогда же он и несколько других ребят из этой компании, самых близких друзей Эмили, поклялись увековечить её память,
создав её виртуальную копию. Клятва друзей включала условие неразглашения
истинной природы виртуальной Эмили. Этим и объясняется ответ её подруги в последнем сообщении, полученном вами.
Прочитав этот текст, я тут же нажал клавишу ESC (т.е. Побег).



Рецензии