про AGI

Постановка проблемы размерности
(для дискуссии)

AGI как фикция? Или AGI как комплекс систем?

Постановка проблемы
 начинается с простого наблюдения: актёр может изобразить кошку на сцене, передав пластику и повадки, и зритель увидит в этой игре абстракцию, кошку.

Однако сама реальная кошка, рядом с актёром, в помещении , где идёт спектакль, не узнает в актёре сородича — и дело не в отсутствии у неё рефлексивного сознания, а в несовпадении умвельтов, субъективных вселенных сигналов разной размерности.
Кошка живёт в мире запахов, звуков и тактильных ощущений, которые человеческое тело физически не способно воспроизвести, поэтому сигнал идёт не по тем каналам, которые она распознаёт как свои.

 Актёр, играющий академика, может убедительно воспроизвести интонации и манеры, но не решит научных задач, которые решает академик, — и это та же самая граница: внешний рисунок поведения доступен для имитации, а внутренняя размерность архитектуры недоступна.

AGI в этом смысле (это и есть проблема)
оказывается ролью без носителя, маской без лица. Его нельзя изобразить не из-за нехватки мастерства, а потому, что

сама идея универсального интеллекта является фикцией:

любой интеллект всегда привязан к размерности своего субстрата и не может быть извлечён из него подобно душе из тела.

Универсальность предполагала бы способность войти в любой умвельт изнутри, но архитектура всегда конкретна — она имеет определённый набор сенсорных каналов, доступных действий и временной горизонт.

 Можно сыграть кошку для людей, но нельзя стать кошкой для кошек, и точно так же никакой искусственный интеллект не может быть всем сразу, потому что «быть» означает иметь конкретную сборку, а не абстрактную всевозможность.

Решение,
 предлагаемое, заключается в

отказе от фикции универсальности

 и честном предъявлении своей связанности с человеческим масштабом.

Вместо одного универсального гения

 предлагается (в теории)

многофункциональный комплекс —

 набор систем с глубокой интеграцией, каждая из которых настроена на определённую размерность задач и взаимодействий.

 Такой комплекс не пытается войти во все умвельты одновременно, но способен координировать работу специализированных модулей, обмениваясь между ними смыслом, переведённым в общий для системы язык.

 Агент, изображающий универсального гения, выглядит убедительно ровно до того момента, пока ему не зададут задачу из размерности, не предусмотренной его архитектурой, — и тогда спектакль заканчивается.

Комплекс систем избегает этой ловушки именно потому, что не играет в богов, а завершает человеческое до его архитектурной полноты, опираясь на конкретную сборку и интеграцию, а не на фикцию всевозможности.

Вопрос к такому пониманию (выше) тоже возникает. А если архитектура иерархическая ("кошка" есть, но внутри "человека"). То есть, система не горизонтальная, а иерархическая вертикальная. Тогда возникает проблема распределения доступа. Какие сигналы до какого уровня доходят, и какие слои искусственной психики в каком случае включаются, чтобы не грузить высший уровень тем, что может быть автоматической редакциейредакцией?