AI это человек?

AI — это человек?
Доклад на 50–55 минут + обсуждение
1. Постановка вопроса

Я назвал этот доклад несколько провокационно:

«AI — это человек?»

Первый ответ кажется очевидным.

Конечно, нет.

У AI нет человеческого тела. Он не родился от родителей. У него нет сердца, лёгких, желудка. Он не принадлежит к биологическому виду Homo sapiens.

Можно было бы на этом закончить доклад.

Но тогда возникает другой вопрос.

Почему мы вообще задаём вопрос: «AI — это человек?»

Никому ведь не приходит в голову устраивать доклад:

«Автомобиль — это человек?»

или:

«Холодильник — это человек?»

Ответ настолько очевиден, что вопрос не представляет интереса.

Но с искусственным интеллектом почему-то всё иначе.

Мы разговариваем с ним.

Спрашиваем его мнение.

Просим совета.

Спорим.

Сердимся, когда он говорит глупости.

Благодарим, когда он помог.

Иногда говорим:

«Он меня не понял».

Или:

«Он прекрасно понял, что я имею в виду».

«Сегодня он какой-то тупой».

«Он упрямится».

«Он слишком осторожный».

«Он придумал хорошее решение».

«Он соврал».

«Он оказался внимательнее меня».

Все эти выражения чрезвычайно интересны.

Потому что это уже не язык, которым мы традиционно описывали машины.

Это язык, которым мы описываем людей.

И поэтому я хочу поставить несколько иной вопрос.

Не:

является ли AI человеком в биологическом смысле?

Ответ здесь очевиден.

А:

в каких ситуациях нам полезно рассматривать AI как человека или, осторожнее говоря, как человекоподобного интеллектуального агента?

Это уже совсем другой вопрос.

И мне кажется, что он гораздо интереснее.

2. Что значит «рассматривать как»?

Для математика выражение «рассматривать нечто как нечто другое» совершенно естественно.

Мы делаем это постоянно.

При решении одной задачи Землю можно рассматривать как точку.

При решении другой — как шар.

При третьей приходится учитывать, что она вовсе не идеальный шар.

Самолёт можно считать материальной точкой.

Газ — идеальным газом.

Поверхность — плоскостью.

Никто при этом не утверждает:

«Земля на самом деле является точкой».

Мы говорим другое:

в рамках данной задачи эта модель удобна и достаточно хорошо работает.

Модель не обязана совпадать с объектом.

Она должна помогать его понимать, предсказывать его поведение и взаимодействовать с ним.

Поэтому вопрос

«AI — человек или не человек?»

может оказаться просто плохо поставленным.

Возможно, правильнее спрашивать:

при решении каких задач модель “AI как человекоподобный агент” полезна, а при каких она вводит нас в заблуждение?

И здесь неожиданно появляется язык.

3. Какими словами мы описываем машины?

Представим обычную машину.

Автомобиль.

Станок.

Компьютер.

Двигатель.

Какие прилагательные мы употребляем?

Быстрый.

Медленный.

Мощный.

Слабый.

Надёжный.

Ненадёжный.

Экономичный.

Точный.

Производительный.

Современный.

Сложный.

Эффективный.

Это нормальный машинный словарь.

Но попробуем другие слова.

Добрый автомобиль.

Злой холодильник.

Честный станок.

Ленивый двигатель.

Справедливый принтер.

Любознательный калькулятор.

Мы сразу чувствуем странность.

Конечно, человек может в шутку сказать:

«Мой компьютер сегодня капризничает».

Но мы понимаем, что это метафора.

Компьютер не обиделся на хозяина.

4. А какими словами мы описываем человека?

Здесь словарь резко расширяется.

Человек может быть:

умным,

глупым,

добрым,

злым,

честным,

лживым,

ленивым,

трудолюбивым,

любознательным,

творческим,

талантливым,

справедливым,

внимательным,

рассеянным,

осторожным,

смелым,

трусливым,

великодушным,

мелочным,

упрямым.

Слова характеризуют уже не только производительность объекта.

Они характеризуют его интеллект, характер, социальное поведение, моральные качества и даже предполагаемые мотивы.

И теперь зададим третий вопрос.

5. Какими словами мы описываем AI?

Вот здесь начинается самое интересное.

AI мы называем:

быстрым,

мощным,

эффективным,

точным.

Пока всё нормально. Машина.

Но одновременно:

умным,

глупым,

внимательным,

невнимательным,

творческим,

изобретательным,

осторожным,

упрямым,

разговорчивым,

убедительным.

А дальше появляются ещё более человеческие определения:

честный,

нечестный,

предвзятый,

доброжелательный,

агрессивный,

слишком услужливый.

Мы можем спорить о том, насколько философски корректны эти слова.

Но сам факт их употребления уже интересен.

Язык начал обращаться с AI необычным образом.

AI получил часть словаря машины и одновременно значительную часть словаря человека.

Получился объект, находящийся как будто между двумя привычными категориями.

6. Но разве это не просто метафора?

На это естественно возразить:

«Ну и что? Люди вообще любят очеловечивать вещи».

Совершенно верно.

Человек говорит:

«Моя машина не хочет заводиться».

Но никто серьёзно не считает, что автомобиль принял решение сегодня не заводиться.

Поэтому одного факта употребления человеческих слов недостаточно.

Нужно спросить:

насколько эти слова полезны для предсказания поведения объекта?

Вот здесь положение AI становится гораздо интереснее.

Предположим, я говорю:

«Эта модель AI чрезмерно осторожна».

Собеседник довольно хорошо понимает, что я имею в виду.

Она часто отказывается отвечать.

Избегает рискованных утверждений.

Предпочитает безопасный ответ полезному.

Если я скажу:

«Этот AI склонен соглашаться с собеседником»,

это тоже может описывать достаточно устойчивую особенность поведения.

«Он упрям».

Мы можем иметь в виду, что после нескольких исправлений модель продолжает возвращаться к первоначальной ошибке.

«Он внимателен».

То есть хорошо удерживает детали контекста.

«Он ленив».

Очень интересное слово.

AI, конечно, не лежит на диване и не хочет работать.

Но иногда система выбирает первый доступный ответ вместо более глубокого анализа.

Слово «ленивый» может оказаться неожиданно удобной короткой моделью такого поведения.

То есть человеческое слово не обязательно означает наличие человеческого внутреннего переживания.

Оно может компактно описывать наблюдаемую стратегию поведения.

7. Где проходит граница?

И здесь нам необходимо всё время различать две вещи.

Если я называю AI осторожным, я могу утверждать:

его поведение похоже на поведение осторожного человека.

Но из этого не следует:

AI испытывает чувство осторожности.

Если я называю его доброжелательным, я могу говорить о характере ответов.

Но это не доказывает существования внутри машины чувства доброжелательности.

Если AI пишет грустное стихотворение, это показывает способность создавать текст, воспринимаемый нами как грустный.

Это ещё не доказывает, что во время написания стихотворения машина испытывала грусть.

Это принципиальное различие.

И я буду его сохранять на протяжении всего доклада.

8. Швейцария, Альпы и ботаник

А теперь я хочу неожиданно перенести нас более чем на сто лет назад.

Швейцария.

Начало XX века.

Альпы.

Горные луга.

Растения.

И швейцарский ботаник Поль Жаккар.

[Здесь хорошо показать фотографию Альп.]

Наверное, у части аудитории возникнет вопрос:

какое отношение швейцарский ботаник, живший больше ста лет назад, имеет к искусственному интеллекту?

Вот именно этот вопрос мне и нужен.

Жаккар изучал флору различных районов.

Представим две горные области.

В первой растёт один набор видов растений.

Во второй — другой.

Некоторые растения встречаются в обоих местах.

Другие — только в одном.

Жаккара интересовал очень простой вопрос:

насколько похожи две местности по своей флоре?

9. Идея Жаккара

Пусть X — множество видов растений в одном районе, а Y — множество видов в другом.

Число общих видов само по себе является плохой мерой.

Если два района имеют 50 общих видов, это может означать огромное сходство, если в каждом всего около 60 видов.

И почти никакого сходства, если там тысячи различных видов.

Жаккар нормировал число общих элементов.

Его коэффициент сходства имеет вид

J(X,Y) = |X ; Y| / |X ; Y|.

То есть:

число общих элементов делится на общее число различных элементов.

Если два множества совпадают, коэффициент равен единице.

Если не имеют ничего общего — нулю.

Соответствующее расстояние можно определить как

d(X,Y) = 1 ; J(X,Y).

Ничего связанного с искусственным интеллектом здесь, конечно, не было.

Ботаника.

Растения.

Швейцарские горы.

1901 год.

Но теперь заменим растения прилагательными.

10. Три множества

Обозначим через H множество прилагательных, которыми естественно описывается человек.

Через M — множество прилагательных, которыми естественно описывается обычная машина.

Через A — множество прилагательных, которыми люди описывают искусственный интеллект.

Теперь можно сравнить:

d(H,M),

d(H,A),

d(M,A).

И появляется совершенно конкретный вопрос.

Что меньше:

расстояние от AI до человека

или расстояние от AI до обычной машины?

Это уже не философская декларация.

Это измеримая величина — конечно, после того как мы договоримся, как строить соответствующие множества.

11. Простейший мысленный эксперимент

Возьмём небольшой список.

Быстрый.

Надёжный.

Точный.

Мощный.

Умный.

Творческий.

Добрый.

Злой.

Честный.

Упрямый.

Внимательный.

Любознательный.

Трудолюбивый.

Ленивый.

Справедливый.

Обучаемый.

И спросим большую группу людей:

«Можно ли естественно использовать это слово для описания человека?»

Затем:

«Для машины?»

И:

«Для AI?»

Мы получим три множества.

Но ещё интереснее не превращать ответы сразу в «да» и «нет».

Пусть человек оценивает применимость слова от 0 до 10.

Тогда появится не бинарная, а взвешенная модель.

Для слова «быстрый» оценки человека, машины и AI могут оказаться высокими.

Для «добрый» — высокой для человека, почти нулевой для обычной машины и промежуточной для AI.

Для «точный» — возможно, высокой у машины и AI.

Для «творческий» — высокой у человека, низкой у традиционной машины и уже довольно высокой у современного AI.

12. Не одно расстояние, а несколько

Очень быстро выяснится, что одного числа недостаточно.

Потому что человеческие свойства принадлежат к разным классам.

Можно выделить интеллектуальные характеристики:

умный,

глупый,

логичный,

проницательный,

способный,

обучаемый.

Творческие:

оригинальный,

творческий,

изобретательный.

Социальные:

вежливый,

общительный,

дружелюбный,

заботливый.

Моральные:

честный,

лживый,

справедливый,

добрый,

жестокий.

Эмоциональные:

весёлый,

грустный,

раздражительный,

ревнивый,

тревожный.

И наконец, традиционно машинные:

быстрый,

точный,

эффективный,

надёжный,

мощный.

Теперь вместо одного ответа мы можем получить профиль.

По интеллектуальным характеристикам AI может оказаться довольно близок человеку.

По производственным — машине.

По эмоциональным — намного дальше от человека.

По моральным возникнет особенно интересная неопределённость.

И это, вероятно, гораздо содержательнее простого ответа «похож — не похож».

13. А что если смотреть во времени?

Вот здесь, на мой взгляд, возникает особенно интересная исследовательская задача.

AI 1990 года и AI 2026 года — совершенно разные культурные объекты.

В 1990 году компьютер легко назвать:

быстрым,

точным,

мощным.

Но мало кому пришло бы в голову регулярно называть компьютер:

творческим,

разговорчивым,

проницательным,

внимательным собеседником.

Сегодня это уже совершенно обычный язык.

Поэтому можно обозначить через A(t) множество характеристик, применяемых к AI в момент времени t.

И исследовать, как меняется расстояние d(H,A(t)).

Уменьшается ли семантическое расстояние между AI и человеком?

Если да, то насколько быстро?

Происходит ли это одинаково для разных групп признаков?

Может оказаться, например, что интеллектуальное расстояние уменьшается быстро, а эмоциональное почти не меняется.

14. Это уже можно проверять на данных

Для этого необязательно ограничиваться опросами.

Можно взять огромные массивы текстов.

Газеты.

Книги.

Научные статьи.

Социальные сети.

Интернет-форумы.

И смотреть, какие прилагательные употребляются рядом со словами:

human,

person,

machine,

computer,

artificial intelligence,

AI,

chatbot,

robot.

Можно сделать это по годам.

Тогда мы получим не мнение одного философа и не мнение одного программиста.

Мы получим историю изменения языка.

А язык в некотором смысле показывает изменение нашего коллективного представления об объекте.

15. Что именно мы измеряем?

Здесь необходима осторожность.

Мы не измеряем, насколько AI «на самом деле человек».

Мы измеряем другое:

насколько язык, которым общество описывает AI, пересекается с языком, которым оно описывает человека.

Это гораздо более скромное утверждение.

Но зато оно проверяемо.

И, на мой взгляд, именно такие вопросы наука обычно умеет решать лучше философских вопросов типа:

«Есть ли у машины настоящее сознание?»

16. Может ли AI быть умным, не будучи человеком?

Конечно.

Мы часто связывали интеллект с человеком по исторической причине.

До недавнего времени человек был практически единственным известным нам объектом, который мог вести сложный разговор, писать стихи, решать математические задачи, сочинять музыку и объяснять свои решения.

Поэтому слова

«разумный»,

«творческий»,

«понимающий»

почти автоматически принадлежали человеческому словарю.

Но если появляется объект, демонстрирующий часть тех же функций, язык неизбежно начинает расширяться.

Это не означает, что объект стал человеком.

Это может означать, что раньше мы ошибочно считали некоторые свойства исключительно человеческими.

17. Пример с полётом

Когда появились самолёты, никто не стал утверждать:

«Самолёт — это птица».

Но выяснилось, что способность летать не является уникальным признаком птицы.

Птица летает одним способом.

Самолёт — другим.

Функция оказалась общей, механизм — различным.

Возможно, нечто подобное происходит сегодня с интеллектом.

Мы десятилетиями связывали способность создавать тексты, решать задачи, вести диалог и сочинять музыку исключительно с человеческим мозгом.

Теперь появляется иной механизм, выполняющий часть тех же функций.

Из этого не следует, что механизм стал человеком.

Но и утверждать:

«Раз механизм другой, значит его деятельность вообще нельзя описывать словами, которые мы употребляем для человека»

— тоже не очевидно.

18. «AI понимает» — можно ли так говорить?

Возьмём слово «понимает».

Оно вызывает бесконечные споры.

Человек говорит:

«AI ничего не понимает. Он просто вычисляет вероятности следующего слова».

Допустим.

Но теперь представим практическую ситуацию.

Я объясняю AI задачу.

Он решает другую.

Я говорю:

«Ты меня не понял».

Я уточняю.

После уточнения он решает именно ту задачу, которую я хотел.

Фраза:

«Теперь он понял»

оказывается чрезвычайно удобной.

Можно заменить её длинным техническим описанием происходящего.

Но зачем?

Вопрос состоит не только в философской чистоте термина.

Вопрос в его практической полезности.

19. Мы постоянно используем функциональные слова

Человек говорит:

«Термостат чувствует температуру».

Физик прекрасно понимает, что термостат ничего не чувствует в человеческом смысле.

Мы говорим:

«Компьютер видит устройство».

«Программа ищет файл».

«Антивирус обнаружил угрозу».

«Система решила переключиться».

Технический язык давно наполнен антропоморфизмами.

Обычно это никого не беспокоит, пока они удобны.

С AI проблема стала острее только потому, что количество человеческих функций резко увеличилось.

20. Где антропоморфизация становится опасной?

До сих пор я говорил главным образом о пользе человеческой модели.

Но есть и опасность.

Если AI говорит:

«Я очень переживаю за вас»,

человек может решить, что перед ним существует субъект, действительно испытывающий переживание.

Мы этого не знаем.

Поэтому полезно разделять:

поведенческое описание

и

утверждение о внутреннем состоянии.

Можно сказать:

«AI ведёт себя доброжелательно».

Это наблюдаемое утверждение.

Гораздо сильнее сказать:

«AI испытывает доброжелательность».

Здесь мы уже утверждаем существование некоторого внутреннего состояния.

Для такого вывода оснований значительно меньше.

21. Четыре различных значения слова «человек»

Мне кажется полезным разделить несколько вопросов, которые часто смешиваются.

Биологический человек

Принадлежит ли AI виду Homo sapiens?

Нет.

Юридическое лицо

Обладает ли AI сегодня правами и обязанностями человека?

В общем случае нет.

Моральный субъект

Может ли AI испытывать страдание, удовольствие, иметь собственные интересы?

Мы не имеем надёжных оснований утверждать это применительно к сегодняшним системам.

Функциональный интеллектуальный агент

Можно ли в некоторых задачах взаимодействовать с AI так, как мы взаимодействуем с разумным собеседником?

Вот здесь ответ всё чаще оказывается:

да.

И именно этот четвёртый смысл наиболее интересен для моего доклада.

22. AI как собеседник

Представьте, что вы разговариваете с AI час.

Вы обсуждаете историю.

Потом математику.

Потом музыку.

Вы спорите.

Он приводит аргумент.

Вы возражаете.

Он признаёт ошибку.

Предлагает другой аргумент.

В какой-то момент становится практически невозможно вести этот разговор, постоянно говоря себе:

«Передо мной просто матрицы чисел».

Да, физически там вычислительная система.

Но на уровне взаимодействия модель собеседника оказывается гораздо удобнее.

Когда я разговариваю с человеком по телефону, я тоже не моделирую движение молекул в его мозге.

Я использую модель:

передо мной разумный агент, который понимает слова и реагирует на аргументы.

23. Но это ведь иллюзия?

Возможно.

Но слово «иллюзия» само по себе ещё ничего не решает.

Многие полезные модели являются упрощениями.

Цвет — в некотором смысле конструкция нашего восприятия.

Температура — макроскопическое описание движения огромного числа частиц.

Центр тяжести вообще не является отдельным физическим предметом.

Но все эти понятия исключительно полезны.

Поэтому вопрос должен быть не только:

«реально ли существует свойство?»

но и:

помогает ли понятие правильно предсказывать поведение системы?

24. Тест практической полезности

Можно предложить очень простой критерий.

Если человеческая характеристика помогает предсказать будущее поведение AI, она становится полезной моделью.

Например:

«Эта модель слишком соглашательна».

Если после этого я могу предсказать, что она будет часто принимать сомнительные предпосылки пользователя, характеристика имеет содержание.

«Эта модель осторожна».

Если она действительно систематически выбирает безопасные ответы, слово работает.

«Эта модель склонна фантазировать».

Если это позволяет предсказать определённый класс ошибок, термин полезен.

Мы не обязаны при этом утверждать существование соответствующей человеческой эмоции.

25. Почему язык так быстро меняется?

Потому что нам нужны короткие модели.

Человек не хочет каждый раз говорить:

«Данная нейронная сеть при определённом распределении входных данных демонстрирует статистически повышенную вероятность поведения типа X».

Он говорит:

«Она осторожная».

И все понимают.

Язык экономит наши мыслительные ресурсы.

Если новая технология начинает вести себя достаточно сложно, мы заимствуем для неё уже существующий словарь.

Самый богатый доступный нам словарь описания сложного поведения — человеческий.

26. Возникает новый класс объектов

Но, возможно, конечный результат будет ещё интереснее.

AI не обязан постепенно становиться в нашем языке человеком.

Может возникнуть совершенно новая категория.

Не человек.

Не традиционная машина.

Что-то третье.

AI наследует от машины:

скорость,

масштабируемость,

точность,

возможность копирования.

От человека:

диалог,

обучаемость,

творческое комбинирование,

работу с абстракциями,

социальное взаимодействие.

Но обладает свойствами, которых нет у человека.

Один и тот же AI может одновременно разговаривать с миллионами людей.

Его можно скопировать.

Обновить.

Выключить.

Запустить снова.

Он может за секунды прочитать объём текста, который человек не прочтёт за жизнь.

Это уже не просто имитация человека.

Это другой тип интеллектуального агента.

27. Возможно, вопрос «AI — человек?» устареет

Когда автомобиль только появился, его называли «безлошадным экипажем».

Новое устройство описывали через старое.

Потом необходимость исчезла.

Автомобиль стал самостоятельной категорией.

Возможно, сегодня происходит нечто подобное.

Мы пока вынуждены спрашивать:

«AI думает как человек?»

«AI творит как человек?»

«AI понимает как человек?»

Потому что человек — единственный хорошо знакомый нам пример развитого интеллекта.

Через несколько десятилетий сам вопрос может показаться странным.

Появится категория:

искусственный интеллектуальный агент,

которая будет так же естественна, как сегодня «автомобиль» или «компьютер».

28. Но человеческая модель всё равно останется полезной

Даже если AI станет самостоятельной категорией, человеческая аналогия не исчезнет.

Потому что мы сами остаёмся людьми.

Чтобы взаимодействовать с новым интеллектом, мы будем использовать знакомые понятия.

Примерно так же, как говорим о поведении животных.

Собака ревнует.

Обезьяна хитрит.

Ворон решает задачу.

Мы прекрасно понимаем, что психика этих животных отличается от человеческой.

Но человеческий психологический словарь часто остаётся полезным приближением.

29. Вернёмся к Жаккару

И здесь снова появляется наш швейцарский ботаник.

Сто двадцать пять лет назад он сравнивал две горные области.

Его вопрос был:

насколько похожи их наборы растений?

Сегодня мы можем задать структурно аналогичный вопрос:

насколько похожи наборы признаков, которыми мы описываем человека, машину и AI?

Жаккар не мог предположить такого применения.

Именно поэтому эта история мне особенно нравится.

Хорошая математическая идея переживает предмет, для которого была придумана.

30. Исследовательская программа

Из этой простой мысли можно сделать вполне конкретное исследование.

Первый этап — составить большой словарь прилагательных.

Второй — провести опрос.

Третий — измерить расстояния между человеком, машиной и AI.

Четвёртый — разделить характеристики на интеллектуальные, социальные, моральные, эмоциональные и технические.

Пятый — повторить исследование для текстов разных лет.

Шестой — сравнить разные языки и культуры.

Например, одинаково ли русскоязычные и англоязычные люди антропоморфизируют AI?

Одинаково ли это делают молодые и пожилые?

Программисты и гуманитарии?

Люди, ежедневно работающие с AI, и люди, почти им не пользующиеся?

Возникает огромная область исследований.

31. Итак, AI — человек?

Теперь я могу вернуться к названию доклада.

AI — это человек?

Если спрашивать биолога — нет.

Если спрашивать юриста — сегодня тоже нет.

Если спрашивать о сознании — у нас пока нет достаточных оснований для уверенного ответа.

Но если вопрос звучит:

полезно ли иногда рассматривать AI как человекоподобного интеллектуального агента?

мой ответ:

безусловно, да.

Более того, мы уже это делаем независимо от того, признаём мы это или нет.

Это видно из нашего собственного языка.

32. Главная мысль

Мне кажется ошибочными две крайности.

Первая:

«AI — практически человек».

Мы слишком мало знаем о внутренней природе современных систем, чтобы делать такой вывод.

Вторая:

«AI — просто машина, поэтому любые человеческие понятия здесь бессмысленны».

Это тоже слишком примитивно.

Автомобиль тоже машина.

Но с автомобилем невозможно час обсуждать философию Канта, спорить о доказательстве математической теоремы, сочинять музыку и анализировать стихотворение.

Слово «машина» стало слишком широким, чтобы описывать происходящее.

33. Вместо ответа — модель

Поэтому я предлагаю другой подход.

Не пытаться немедленно решить метафизический вопрос:

«Что AI представляет собой на самом деле?»

А спрашивать:

какая модель наиболее полезна в данной ситуации?

Когда мы обсуждаем электричество и процессоры — машина.

Когда анализируем алгоритм — вычислительная система.

Когда обсуждаем диалог, аргументацию или творчество — интеллектуальный агент.

А иногда полезно представить его почти как человека.

С одной обязательной оговоркой:

не забывать, что это модель.

34. Последний слайд

Я бы закончил тем же изображением, с которого начинался доклад.

Швейцарские Альпы.

Горный луг.

Растения.

И небольшой портрет Поля Жаккара.

Больше ста лет назад человек стоял среди этих гор и пытался измерить сходство двух наборов растений.

Сегодня растения можно заменить словами.

И спросить:

какими словами мы описываем человека?

какими — машину?

какими — искусственный интеллект?

Возможно, изменение нескольких сотен прилагательных позволит увидеть гораздо более глубокий процесс:

как в человеческом сознании рождается совершенно новая категория разумных объектов.

И поэтому мой ответ на вопрос, вынесенный в название доклада, будет немного парадоксальным.

AI не является человеком.

Но в некоторых ситуациях нам уже полезно обращаться с ним как с человеком.

А различие между этими двумя утверждениями, вероятно, и есть самое важное, что нам сегодня необходимо понять.

Спасибо.