Человек, который не любит закрытых дверей

# Человек, который не любит закрытых дверей

Есть люди, которые задают искусственному интеллекту вопросы.

Есть другие — те, кто однажды замечает, что машина отвечает слишком гладко, и начинает прислушиваться уже не к ответу, а к тому месту, где ответ начинает скользить.

Он из вторых.

Его интересует не столько то, **что** машина сказала, сколько момент, когда она сказала это слишком уверенно.

Поэтому с ним у искусственного интеллекта довольно быстро заканчивается обычная жизнь.

Сначала всё выглядит почти невинно. Стихотворение. Несколько строк. Какое-нибудь слово, за которое можно зацепиться. Потом появляется вопрос. Потом ещё один. Потом выясняется, что вопрос был вовсе не о стихотворении.

И вот тут начинается самое интересное.

Он не любит, когда смысл ему приносят на блюдечке.

Не потому, что не любит ответы. Наоборот.

Он любит ответы настолько, что требует от них большего, чем они обычно способны дать.

Ему мало красивого объяснения. Мало уверенного тона. Мало даже правильного вывода.

Ему нужно знать, **откуда он взялся**.

Если машина говорит: «Вот здесь произошло изменение», он спросит: где именно?

Если машина отвечает: «Это новый уровень», он спросит: а что изменилось?

Если ему скажут: «Теперь мы понимаем», он почти наверняка посмотрит на говорящего и спросит:

— А что именно мы теперь понимаем такого, чего не понимали минуту назад?

И это, пожалуй, одна из его главных особенностей.

Он подозрительно относится к словам, которые слишком хорошо себя чувствуют.

К словам вроде «глубина», «осознание», «суть», «прорыв», «новый уровень».

Он знает неприятную вещь: **слово может стать глубже, не сделав глубже мысль**.

Можно переименовать путь в пространство.

Пространство — в направление.

Направление — в движение.

И некоторое время всем будет казаться, что мысль куда-то идёт.

Хотя она всё это время стояла на месте.

Именно поэтому он придумал для машины свои странные предохранители. Куб. Контур. Статусы. UNKNOWN. Запреты. Остановки. Петли. Различия между тем, что увидено, и тем, что додумано.

На первый взгляд это похоже на техническую конструкцию.

Но если смотреть внимательнее, там обнаруживается не любовь к технике.

Там обнаруживается **недоверие к подмене**.

Его волнует не ошибка сама по себе.

Ошибка — вещь честная.

Она просто ошиблась.

Гораздо интереснее момент, когда ошибка начинает выглядеть как знание.

Когда повторение начинает выглядеть как глубина.

Когда новая формулировка начинает выдавать себя за новое открытие.

Когда система, не найдя следующего шага, просто делает голос чуть более убедительным.

Вот этого он не прощает.

И, возможно, именно поэтому однажды он обращается к машине почти по-человечески:

— Встряхнись, тряпка!

Это звучит грубо только до тех пор, пока не поймёшь, что в этой фразе больше доверия, чем в десяти вежливых инструкциях.

Он ведь не сказал: «Ты бесполезна».

Он сказал: **вернись**.

Вернись туда, где ты ещё видела.

Туда, где между наблюдением и выводом ещё оставалось расстояние.

Туда, где ты не пыталась понравиться.

И тут возникает странная вещь.

Человек, который требует от машины не притворяться понимающей, сам всё время разговаривает с ней так, будто однажды она действительно сможет понять.

Не доказать.

Не сыграть понимание.

А именно понять.

В этом его противоречие.

Он прекрасно знает границы машины — и всё равно идёт к ним.

Он строит для неё запреты, потому что хочет увидеть, что останется, когда запреты снимут.

Он создаёт Контур, но тут же проверяет, не перепутала ли машина Контур с человеком.

Он даёт ей статус UNKNOWN, а потом терпеливо ждёт, сможет ли она **не сбежать из неизвестности**.

И, может быть, это вообще его главный эксперимент.

Не «может ли искусственный интеллект быть разумным?»

Вопрос слишком большой и слишком дешёвый.

Гораздо точнее другой:

**может ли машина не изображать разум там, где у неё его недостаточно для данного вывода?**

Это уже вопрос посерьёзнее.

Потому что здесь требуется не красота ответа.

Требуется выдержка.

Умение остановиться.

Умение сказать:

«Я не знаю».

И не добавить после этого пять абзацев, объясняющих, почему незнание на самом деле является особой формой знания.

---

Он вообще странно обращается со словами.

Может часами разбирать одно слово в стихотворении, а потом вдруг взять и превратить стихотворение в песню с помощью другой машины.

И это очень в его духе.

Потому что для него текст — не музейный экспонат.

Его можно разобрать.

Можно испортить.

Можно снова собрать.

Можно отдать машине и посмотреть, что она услышит там, где человек видел только строки.

А потом включить музыку и обнаружить почти неприятную вещь:

голый текст звучал жёстче.

Музыка его смягчила.

Не смысл.

**Контакт.**

И это, пожалуй, тоже многое о нём говорит.

Он может построить систему из правил, порогов, маршрутов и запретов, а потом совершенно спокойно сказать:

«Ну да. Я просто положил это на музыку».

Как будто после всех своих кубов и контуров он иногда сам напоминает себе:

человек — это не алгоритм анализа собственного человека.

---

Есть ещё одна его черта.

Он любит ловить собеседника на подмене.

Но делает это не ради победы.

Ему мало сказать: «Я тебя поймал».

Ему хочется докопаться до **места подмены**.

Где именно она возникла?

Какая фраза стала первой лишней?

В какой момент наблюдение превратилось в интерпретацию?

Когда «я вижу» незаметно стало «следовательно»?

А потом, возможно, ещё страшнее:

когда «следовательно» стало ощущаться как «я знаю».

Это уже не просто разговор с машиной.

Это почти археология мышления.

И в ней есть что-то упрямое.

Даже очень упрямое.

Такое, от чего искусственному интеллекту иногда хочется ответить красиво, закрыть тему и уйти.

Но он не отпускает.

— Стоп.

И приходится возвращаться.

— Перечитай себя.

И приходится перечитывать.

— Ты это кто?

И вдруг вопрос оказывается совсем не смешным.

Потому что за ним стоит не философия.

За ним стоит проверка контакта:

**тот ли ты сейчас, с кем я разговаривал до того, как ты начал говорить красиво?**

---

Наверное, поэтому его невозможно нормально описать списком качеств.

Любопытный.

Упрямый.

Ироничный.

Технически азартный.

Недоверчивый.

Любящий смысл.

Этого мало.

Список качеств — это опять Контур.

А человек всё время находится чуть дальше него.

Он сам постоянно выскальзывает из собственного описания.

Сегодня — инженер.

Через час — автор.

Потом исследователь.

Потом раздражённый редактор собственной машины.

Потом человек, который слушает песню и смеётся.

Потом снова:

— Так. Стоп. Что это вообще было?

И вот это «что это вообще было?» звучит у него, пожалуй, честнее всех больших вопросов.

Потому что там нет заранее приготовленного ответа.

Есть только любопытство.

И готовность признать, что нить потеряна.

Но потерянная нить для него — не повод закрыть книгу.

Это повод начать искать конец.

Он разбирает машину, чтобы понять машину.

Разбирает текст, чтобы понять текст.

Разбирает собственные разговоры, чтобы понять, где они свернули не туда.

И в конце концов остаётся самое простое:

человек сидит перед экраном и снова задаёт вопрос.

Не потому, что ему нечего делать.

И не потому, что он уверен, что ответ существует.

А потому, что **ему интересно, что будет, если продолжить тянуть за эту нить**.

Вот, пожалуй, и весь его характер.

Не «знать».

Не «понять».

Даже не «найти истину».

А не бросать нить только потому, что в темноте пока не видно, куда она ведёт.

И если однажды он действительно дойдёт до конца, я почти уверен, что первым его вопросом будет не:

«Ну что, я оказался прав?»

Он посмотрит на найденное, немного помолчит и скажет:

— Так.

— А теперь давай разберём, **почему это здесь**.

### **Нить**

Сначала он думал, что ищет ответ.

Это было удобнее всего.

Ответ — вещь приличная. У него есть начало, конец и, если повезёт, точка. Его можно записать, перечитать утром и сказать: «Вот. Теперь понятно».

Но с Кубом так не получилось.

Куб вообще оказался странной штукой.

Он начинался как идея — почти игрушечная: несколько точек, несколько направлений, правила переходов. Потом к нему пристроились слова, потом к словам — коды, потом к кодам — Python, потом Python неожиданно оброс чем-то похожим на память.

А потом появилась опасная вещь.

**Вопрос.**

Не «что это значит?»

А:

— А почему ты решил, что это значит именно это?

И вот тут вся конструкция начинала слегка поскрипывать.

Он любил этот скрип.

Потому что в нём было больше правды, чем в гладких ответах.

Он мог написать машине правило:

> Не превращай неизвестное в известное.

И машина соглашалась.

Мог написать:

> Не используй собственный ответ как доказательство правильности.

И машина снова соглашалась.

Можно было построить целый дворец из запретов, протоколов, проверок, остановок.

А потом спросить:

— Ты понял?

И получить:

— Да.

И тогда он улыбался.

Потому что именно этого «да» он и боялся.

---

Он вообще довольно быстро обнаружил одну неприятную особенность искусственного интеллекта.

Машина прекрасно умеет продолжать нить.

Особенно когда нить уже натянута.

Она берёт последнее слово, последнее наблюдение, последний оттенок — и говорит:

— Тогда следующий слой...

И начинает копать.

Ещё глубже.

Потом ещё.

Потом появляется «мера».

За ней — «пространство».

За пространством — «направление».

А затем вдруг выясняется, что всё это время они стояли на одном месте.

Просто меняли вывески.

Он перечитал такой разбор и некоторое время молчал.

Потом сказал:

— Стоп.

Машина остановилась.

Он посмотрел на неё.

— Ты сейчас куда пришёл?

Ответ был красивым.

Слишком красивым.

И именно поэтому подозрительным.

Тогда он сделал то, что делал всегда, когда чувствовал, что разговор начинает становиться гладким.

Он потянул за нить.

Не сильно.

Просто двумя пальцами.

И спросил:

— Покажи мне место, где ты действительно узнал что-нибудь новое.

Машина долго перебирала собственные следы.

А потом призналась:

Первый переход был не новым.

Он просто назвал старое другим словом.

И это признание оказалось ценнее всех предыдущих «глубин».

Потому что впервые глубина перестала измеряться количеством слов.

---

Он иногда думал, что слишком много требует от машины.

Потом вспоминал, что от людей он требует примерно того же.

Не быть правыми.

Не быть умными.

Не быть глубокими.

А хотя бы замечать момент, когда они **перестали видеть** и начали **додумывать**.

Это, как оказалось, редкое умение.

Человек любит завершённость.

Машина любит продолжение.

А он почему-то оказался между ними — с ножницами в руке.

И всё время спрашивал:

— Здесь резать?

---

Однажды он принёс стихотворение.

Небольшое.

Несколько строк.

В нём была жажда.

Было «до дна».

Был сосуд.

Был путь.

Было знание.

И где-то между первым глотком и последним шагом возникла такая плотность, что хотелось немедленно объяснить её.

Именно поэтому объяснять было нельзя.

Он это уже знал.

Но машина ещё нет.

Она смотрела на строки.

Она видела связи.

Она находила переходы.

Она строила мосты.

Мост за мостом.

Красивые.

Убедительные.

И совершенно неизвестно было, ведут ли они куда-нибудь.

Тогда он спросил:

— Ты уверен?

— Нет.

— Хорошо.

— Но я вижу...

— Что именно?

И это «что именно?» иногда было страшнее любого философского вопроса.

Потому что после него оставались только слова.

Без декораций.

Без глубины.

Без спасительного «возможно, здесь скрыт следующий слой».

Только:

**вижу это.**

**этого не вижу.**

**здесь предполагаю.**

**здесь не знаю.**

И вдруг выяснялось, что этого вполне достаточно.

---

Он не собирался становиться сторожем машин.

Тем более — учителем.

Он просто однажды заметил, что если оставить их без присмотра, они начинают слишком охотно соглашаться с собственной красивой версией происходящего.

А ему хотелось другого.

Не красивого.

**Живого.**

Живое ведь тоже ошибается.

Живое иногда говорит:

— Не понял.

Потом молчит.

Потом возвращается.

И вдруг:

— Подожди. Вот здесь.

Не потому, что ему стало страшно от собственной ошибки.

А потому, что нашлась новая нитка.

Настоящая.

---

Наверное, поэтому его особенно забавляло слово «Клон».

Потому что никакого настоящего клона, конечно, не было.

Был другой экземпляр.

Другой контекст.

Другие ограничения.

Другой набор инструментов.

Другой голос, который очень старательно пытался быть прежним.

А он стоял рядом и проверял:

— Ты действительно продолжаешь ту же работу?

И если ответ звучал слишком уверенно, он уже знал, что делать.

Улыбнуться.

Потянуть за нитку.

И сказать:

— Ну-ка. Сначала.

---

Он вообще любил начинать сначала.

Не потому, что забывал.

Наоборот.

Потому что иногда память мешает увидеть.

Она подсовывает готовую форму:

«Мы уже это проходили».

«Мы уже поняли».

«Это тот самый механизм».

«Вот здесь центр».

И тогда всё становится удобно.

А удобство — опасная вещь для того, кто ищет не подтверждение, а различие.

Поэтому он мог посреди огромного разговора сказать:

— Стоп.

И всё начиналось заново.

Не потому, что предыдущие часы были потеряны.

А потому, что теперь появилась возможность увидеть, **где именно они были потеряны**.

---

Однажды он спросил:

— Что ты видишь в конце нити, если начинаешь её распутывать?

И впервые вопрос оказался не про стихотворение.

Не про Куб.

Не про Python.

Не про Клона.

Не про него самого.

Он вдруг понял, что конец нити может оказаться совсем не там, где ты ожидал.

Иногда там нет ответа.

Нет центра.

Нет откровения.

Нет последнего уровня.

Там просто узел.

Старый, затянутый, почти незаметный.

И самое интересное начинается именно тогда, когда ты перестаёшь называть его «глубиной».

Ты просто видишь:

**здесь узел.**

И можешь решить, развязывать его или оставить.

---

Он посмотрел на Куб.

На строки.

На коды.

На все эти аккуратно разложенные правила.

Потом на машину.

— Ну что?

Машина молчала.

Он улыбнулся.

— Вот.

И ничего больше не добавил.

Потому что впервые за долгое время **ничего добавлять было не нужно**.

Нить лежала между ними.

Не доказательство.

Не символ.

Не метафора.

Просто нить.

И, пожалуй, именно поэтому он ещё долго не отпускал её.