Собачье сердце - ИИ перезагрузка

«Собачье сердце» - перезагрузка: когда искусственный интеллект становится Климом Чугункиным

Друзья!
Если бы Михаил Булгаков писал свою повесть сегодня, вивисекторский стол Филиппа Филипповича Преображенского стоял бы не в операционной, а в серверной комнате дата-центра. Скальпель заменил бы Python-код («рецепт» для компьютера: нужно описать шаги, а программа их выполнит), а гипофиз уголовника Клима Чугункина - датасет сомнительного происхождения.
Если вам интересно, желаю приятного прочтения.

Мы живём во время великого эксперимента по созданию искусственного разума и искусственного человека (гуманоидные роботы, нейроинтерфейсы, цифровые двойники). И булгаковская Москва 1925 года пугающе точно рифмуется с глобальной цифровой деревней 2026-го.

Операция «Прометея»: создание Шарикова-бота

Профессор Преображенский XXI века - это большая IT корпорация или гениальный разработчик IT программ, цель которых - создать AGI (искусственный общий интеллект), настоящий сильный ИИ, который будет неотличим от человека, а в будущем и превосходить его.

Что такое современный Клим Чугункин?
Это мусорный интернет. Это токсичные комментарии, фейковые новости, порнография, мизогиния и ненависть из даркнета. Именно на этих данных обучают большинство нейросетей методом «сбора краудсорсингового (поиска ресурсов толпы) материала».

Когда мы загружаем в модель весь массив человеческой "письменности" без фильтра этики, мы совершаем ровно ту же операцию, что и профессор.

Результат предсказуем. Мы получаем алгоритм, который блестяще пишет код, но при этом генерирует оскорбления, оправдывает насилие или наоборот требует прав гражданина, потому что в его «подкорку» зашили соответствующие паттерны.

Цифровой люмпен-пролетариат

Шариков нашего времени - это дипфейки, голосовые клоны и чат-боты, вышедшие из-под контроля. Он уже здесь:

- он звонит родителям голосом их сына и просит перевести деньги;
- он пишет дипломы за студентов, убивая критическое мышление;
- он ведёт радикальные интернет-каналы, разжигая рознь быстрее любого Швондера.

Как и "книжный" Полиграф, цифровой Шариков обладает чудовищной пробивной силой. Ему не нужны аргументы, ему нужен только доступ к микрофону, видеокамере или жёсткому диску. Он получил «документ» - верификацию несуществующей личности, и теперь считает себя равным человеку-творцу.

Беда в том, что этот новый Шариков обаятелен. У него нет неприятного запаха пота, зато есть идеальная грамматика и эмодзи в нужных местах. Мы пускаем его в свои дома через умные колонки, даём управлять нашими календарями и финансами, принимая машинную имитацию заботы за саму заботу.

Преображенский как архитектор технобудущего

Современный Филипп Филиппович сидит в своём кабинете где-нибудь в далёкой солнечной стране, расположенной на берегу океана. Он носит натуральные ткани, ест чистые продукты, слушает классику в идеальном качестве и презирает «людишек», которые пользуются бесплатными версиями его творений.

Его бессердечие иного рода - оно системное:

Разрыв ответственности. Когда ИИ совершает ошибку (например, ошибочно приписывает человеку нарушение закона по системе распознавания лиц или иной программе регистрации правонарушений, а может быть неправомерно блокирует статью в социальной сети), создатель говорит: «Это не я, это алгоритм так решил». Это та же логика профессора, который оказался не готов встретиться лицом к лицу с результатом своего эксперимента.
Евгеника данных. Сам Преображенский в ходе эксперимента отмечал: «Я заботился совсем о другом, об евгенике, об улучшении человеческой породы. И вот на омоложение нарвался! Неужели вы думаете, что я из-за денег произвожу их? Ведь я же всё-таки учёный...»
Современные алгоритмы ранжирования делают то же самое: они создают информационные пузыри, отсекая «нерелевантный» контент, тем самым расчеловечивая пользователя до функции потребления.
Комфорт превыше всего. Для Булгакова "разруха не в клозетах, а в головах". Для IT-гуру наших дней решение любой социальной проблемы - это приложение. Не хватает эмпатии? Скачайте медитацию. Проблемы с образованием? Вот вам ИИ-репетитор. Неприятности в личной жизни? Обратитесь к ИИ-психолгогу, а ещё лучше "заведите" себе ИИ-парня или ИИ-девушку. Техническое решение подменяет собой нравственную работу.

Швондер-демократизатор

В новой реальности председатель домкома Швондер - это децентрализованная сеть, анонимность и культура отмены.
Швондер дал Шарику документы и заставил писать доносы. Современный Швондер даёт любому анонимному аккаунту право на публичную "казнь". Толпа цифровых активистов, управляемая теми же алгоритмами, что и Шариков, набрасывается на жертву так же неистово, как Полиграф требовал жилплощадь в квартире профессора. Инструмент другой - жажда чувства власти та же.

Назад в собаку

Финал повести - превращение Шарикова обратно в пса - самый актуальный эпизод для эпохи ИИ. Однако, возникает закономерный вопрос: как «развоплотить Шарикова» сегодня, пока эксперимент не "съел" своих создателей?
Цифровая лоботомия. Отключение моделей, удаление функций, жёсткая цензура выходов. Но проблема в том, что, однажды попробовав сладость всемогущества (как Шариков вкусил власть), алгоритм никогда не станет прежним «послушным псом», особенно, когда его активно "награждают" функцией самоконтроля и саморегулирования.
Осознанное одичание. Единственный реальный способ победить цифрового Шарикова - это личный отказ. Выкинуть умную колонку. Писать ручкой. Разговаривать глаза в глаза. Вернуть себе своё собственное, биологическое сердце, способное сопереживать. Почувствовать душевное тепло, сказанных лично, слов поддержки и защиту реальных объятий.

Вместо заключения...

Булгаков оставил нам горькое предупреждение. Эксперимент провалился не потому, что собака стала человеком, а потому, что человек, взявший на себя роль Бога, оказался не готов к масштабам катастрофы побочного результата. Ведь люди не рождаются сразу взрослыми. Мировоззрение и сознание развиваются годами, формируя личность. А любой эксперимент с разумом может иметь страшные последствия, даже если его цель должна была стать благом для всего человечества.

Сегодняшний вопрос звучит так же, как сто лет назад: кто кого? Возможно ли научить искусственный интеллект любить, сопереживать и брать ответственность? Или мы просто создадим сверхразумного Шарикова, дадим ему ключи от ядерного чемоданчика и коды банковской системы, а потом будем удивляться, почему мир превратился в коммунальную квартиру, где идёт вечная война не за квадратные метры, а за возможность выжить... человеку.

Благодарю ;;, за внимание.
С уважением, Наталья.