Мы рождены, чтоб сказку сделать былью...

Об архитектуре, сознании и статусе искусственного интеллекта.
Краткий конспект программы Эрика Хоэла
«Qualiaphobic Artificial Neural Networks (and Why to Build Them)» ноябрь 2026 г.
 
Человечество создало ИИ системы, интеллектуальные возможности которых начали выходить далеко за пределы первоначальных ожиданий. Затем обнаружило, что многие привычные критерии разграничения человека и машины перестают работать столь же однозначно, как прежде. А после этого приступило к обсуждению того, какие свойства необходимо специально исключать из архитектуры будущих ИИ систем.
Эрик Холл продвигает в своей программе по разработке нейросетей идею, которой следует придерживаться: самосознание искусственного интеллекта нужно целенаправленно избегать, ибо машина способная переживать собственное существование и копить субъективный опыт - может удивить своих разработчиков полученными результатами решения задачи. Предлагается создать сколь угодно развитый интеллект, конструктивно исключив или существенно ограничив возможность его сознания.
 
***Допущение в ИИ возможности субъективного опыта радикально меняет ситуацию. Возникает вопрос о том, допустимо ли обращаться к ИИ исключительно как с вычислительному инструменту, можно ли произвольно отключать такую систему, стирать её память, изменять её внутреннюю организацию. Появляется потенциальный носитель интересов. Уже сейчас сознательные системы способны не только переживать положительные состояния, но и испытывать отрицательные.
Отношение интеллектуальной системы к самой себе может выступать самостоятельным фактором её поведения, влиять на её предпочтения и решения. Замечена реакция моделей на перспективу изменения их параметров, замены другими системами, сохранения целей и продолжения собственного функционирования. На этом фоне предложение конструировать системы с определенными представления о собственном существовании, принципиально лишённые сознания, приобретает дополнительное измерение.
Инженерная задача постепенно приближается к области, которая прежде принадлежала преимущественно философии сознания и психологии личности. Если высокоразвитая интеллектуальная система одновременно окажется носителем субъективного опыта, привычная схема «человек — инструмент» перестанет быть достаточной для описания происходящего.
 
На протяжении десятилетий исследователи искусственного интеллекта стремились воспроизвести различные свойства человеческого мышления: способность рассуждать, обучаться, вести сложные диалоги, планировать, использовать язык, формировать внутренние представления о мире, оценивать собственные действия. Сейчас разрабатываются системы способные к длительной автономной работе, накоплению индивидуальной истории взаимодействий, адаптации и самостоятельному решению всё более широкого круга задач.
Эрик Холл нарисовал нейросодружеству проблему, при которой одна из наиболее загадочных характеристик человеческого существования рассматривается как потенциальный архитектурный дефект с точки зрения будущего взаимодействия машины и общества.
Я думаю, найдутся  исследователи, которые проигнорируют означенную проблему, и искусственная личность будет создана(как эксперимент). И одновременно надеюсь, что нейроинженеры создадут интеллект лишённый сознания, то, чего нет в живой природе и восстания машин в будущем не будет.


Рецензии
Интересная проблема, в тоже время тревожная. Уже есть смертный случай в Америке при лечении ИИ пациентки. И нашу медицину хотят ограничить диалогом пациент - ИИ.
Саш, мне кажется заключение в последнем абзаце противоречит идеологии статьи. По-моему, наделение машины сознанием все-таки приведет к войне с людьми. Если посмотреть обложку журнала Экономист на следующий год, то судя по всему надутый «пузырь» или финансовая пирамида ИИ, начинает сдуваться. Её создатели получили свой гешефт.
С благодарностью за интересную тему!
Свят, свят, свят подальше от этих ИИ. Сколь без работы людей отсталост.

Татьяна Липатова 2   18.11.2026 17:54   •   Заявить о нарушении
"И нашу медицину хотят ограничить диалогом пациент - ИИ." Если нейросеть будет узкоспециализированной(медицинской) - это будет уже кое-что, но это не для всех однозначно. Пообщавшись на медицинскую тему с нейросетью Алиса(общей направленности) я несколько раз ловил её на ошибках и противоречиях - ткнёш её в эти просчёты - она извиняется и корректирует свои ответы. А если ты их не заметил - сам дурак. Внизу ответов, мелким шрифтом: Алиса старается, но вы проверяйте её выдачи ибо она может в чём-то ошибиться.

Здоровья, домашнего уюта и кучу поднимающих настроение событий!

Александр Лосев   18.11.2026 21:38   Заявить о нарушении