Где язык помещает искусственный интеллект?

Где язык помещает искусственный интеллект?
Измерение семантического расстояния между человеком, машиной и ИИ
Аннотация

Искусственный интеллект занимает необычное положение в нашем языке. Обычную машину мы называем быстрой, мощной, надёжной или точной. Человека — умным, творческим, внимательным, добрым, рассудительным. Однако применительно к современным системам искусственного интеллекта используются слова из обоих словарей. ИИ называют быстрым и эффективным, но одновременно умным, творческим, внимательным и даже понимающим.

Возникает вопрос, который обычно обсуждается философски: в какой степени современный язык помещает искусственный интеллект ближе к человеку, а в какой — к машине?

В настоящей статье предлагается простой способ превратить этот вопрос в количественный. Каждой категории объектов — человеку, машине и искусственному интеллекту — сопоставляется множество прилагательных, естественно используемых для её описания. Сходство этих множеств можно измерять коэффициентом Жаккара, а различие — расстоянием Жаккара. Таким образом возникает элементарное семантическое пространство, позволяющее количественно сравнивать категории «человек», «машина» и «искусственный интеллект».

Предлагаемый подход не отвечает на философский вопрос, является ли ИИ человеком или обладает ли он сознанием. Он исследует другой, более узкий и проверяемый вопрос: как человеческий язык концептуализирует ИИ и как эта концептуализация меняется по мере развития технологии.

1. От машины к «умной машине»

Между человеком и машиной традиционно существовала достаточно ясная языковая граница.

Машину можно было назвать:

быстрой, медленной, мощной, слабой, надёжной, точной, эффективной, сложной, автоматической, экономичной.

Человека:

умным, глупым, добрым, злым, честным, творческим, внимательным, любознательным, рассудительным, талантливым, весёлым.

Некоторые слова всегда принадлежали обоим мирам. И человек, и машина могут быть быстрыми, сильными, слабыми, надёжными, эффективными.

Но существовала большая область прилагательных, использование которых по отношению к машине казалось либо метафорой, либо просто языковой ошибкой.

Мы без колебания говорили:

умный человек,

но выражение

умная машина

ещё сравнительно недавно требовало кавычек.

С искусственным интеллектом ситуация изменилась.

Сегодня совершенно обычными становятся выражения:

умный ИИ,
творческий ИИ,
обучаемая система,
внимательный ассистент,
разумный ответ,
изобретательное решение,
ИИ способен понять задачу.

Независимо от того, насколько философски оправданны слова «понимать» или «творить» применительно к искусственному интеллекту, важен сам лингвистический факт: слова, прежде преимущественно характеризовавшие человека, переселяются в область описания машин.

Это позволяет поставить количественный вопрос.

2. Три множества прилагательных

Обозначим через

[
H
]

множество прилагательных, которыми естественно характеризуют человека (human),

через

[
M
]

— множество прилагательных, которыми характеризуют обычную машину (machine),

и через

[
A
]

— множество прилагательных, которыми характеризуют искусственный интеллект (AI).

Например, в крайне упрощённом виде:

[
H =
{
умный,,
творческий,,
быстрый,,
надёжный,,
добрый,,
внимательный,,
сильный
},
]

[
M =
{
быстрый,,
надёжный,,
мощный,,
точный,,
эффективный,,
автоматический
},
]

[
A =
{
умный,,
творческий,,
быстрый,,
надёжный,,
точный,,
эффективный,,
обучаемый
}.
]

Уже из этого искусственного примера видно, что множество (A) пересекается как с (H), так и с (M).

Возникает естественная идея: измерить размеры этих пересечений.

3. Почему недостаточно просто считать общие слова

Самая простая мера сходства двух категорий:

[
|H\cap A|.
]

То есть количество прилагательных, применимых и к человеку, и к ИИ.

Однако абсолютное число плохо характеризует сходство.

Предположим, две категории имеют десять общих прилагательных. Если каждая из них вообще описывается двенадцатью прилагательными, сходство исключительно велико. Если же каждая имеет по тысяче характеристик, десять общих слов почти ничего не означают.

Значит, размер пересечения следует нормировать.

И здесь возникает метод, появившийся задолго до компьютеров и искусственного интеллекта.

4. Идея Поля Жаккара

В 1901 году швейцарский ботаник Поль Жаккар опубликовал работу о сравнении распределения растений в Альпах и Юре. Его интересовал вопрос: насколько похожи две местности по составу встречающихся там видов растений.

Предположим, в первой области встречается множество видов (X), во второй — (Y).

Жаккар предложил сравнивать число общих видов с общим числом различных видов:

[
J(X,Y)=
\frac{|X\cap Y|}
{|X\cup Y|}.
]

Эта величина теперь известна как коэффициент сходства Жаккара.

Если множества совпадают,

[
J=1.
]

Если они не имеют ни одного общего элемента,

[
J=0.
]

В современной форме соответствующее расстояние записывается:

[
d_J(X,Y)=1-J(X,Y),
]

то есть

[
d_J(X,Y)=
1-
\frac{|X\cap Y|}
{|X\cup Y|}.
]

Так метод, возникший для сравнения флоры разных географических районов, можно перенести на совершенно другую задачу: вместо видов растений сравнивать лексические признаки категорий объектов.

Жаккар ввёл свой коэффициент при исследовании флористических сообществ в 1901 году; позднее этот индекс стал одним из стандартных способов измерения сходства множеств.

5. Семантический треугольник

Теперь можно вычислить три расстояния:

[
d_J(H,M),
]

[
d_J(H,A),
]

[
d_J(M,A).
]

Они образуют своего рода семантический треугольник:

ЧЕЛОВЕК — МАШИНА — ИИ.

Главный интерес представляет сравнение

[
d_J(H,A)
]

и

[
d_J(M,A).
]

Если

[
d_J(H,A)<d_J(M,A),
]

то, в рамках выбранного словаря признаков, искусственный интеллект оказывается лингвистически ближе к человеку, чем к обычной машине.

Если выполняется обратное неравенство,

[
d_J(M,A)<d_J(H,A),
]

то язык продолжает концептуализировать ИИ преимущественно как машину.

Можно определить даже простой показатель относительного положения:

[
R=
d_J(M,A)-d_J(H,A).
]

При

[
R>0
]

ИИ ближе к человеку,

при

[
R<0
]

— к машине,

а при

[
R\approx0
]

занимает промежуточное положение.

Разумеется, речь идёт не об онтологическом положении ИИ, а только о его положении в выбранном семантическом пространстве.

6. От игрушечной модели к эксперименту

Главная проблема состоит, конечно, не в формуле. Формула элементарна.

Сложная часть исследования — построение множеств (H), (M) и (A).

Можно предложить несколько независимых методов.

Метод 1. Опрос людей

Испытуемым предлагается большой список прилагательных и три вопроса:

Естественно ли этим словом характеризовать человека?
Естественно ли этим словом характеризовать машину?
Естественно ли этим словом характеризовать искусственный интеллект?

Например:

Прилагательное Человек Машина ИИ
быстрый да да да
умный да редко да
мощный возможно да да
творческий да нет/редко да
добрый да нет ?
точный да да да
любознательный да нет ?

После опроса сотен участников ответы превращаются либо в бинарные множества, либо в вероятностные веса.

Метод 2. Анализ текстовых корпусов

Вместо того чтобы спрашивать людей непосредственно, можно исследовать миллионы реально опубликованных текстов.

Например, подсчитать частоту конструкций:

умный человек,
умная машина,
умный ИИ;

творческий человек,
творческая машина,
творческий ИИ;

надёжный человек,
надёжная машина,
надёжный ИИ.

Такой метод интересен тем, что измеряет не декларируемое мнение участников эксперимента, а реально существующее языковое поведение.

Метод 3. Комбинация методов

Наиболее убедительным был бы эксперимент, в котором корпусный анализ проверяется независимым опросом людей.

Если два метода дают сходную геометрию пространства, результат становится значительно сильнее.

7. Прилагательные имеют различный вес

Простейшая модель считает все прилагательные одинаковыми.

Но слово быстрый употребляется несравненно чаще слова проницательный. Кроме того, некоторые прилагательные лишь слабо применимы к категории, а другие являются почти типичными.

Поэтому естественным следующим шагом становится взвешенная модель.

Пусть

[
w_H(x),\quad w_M(x),\quad w_A(x)
]

показывают степень применимости прилагательного (x) соответственно к человеку, машине и ИИ.

Значения могут лежать, например, между 0 и 1.

Тогда вместо обычного коэффициента Жаккара можно использовать его взвешенные варианты либо другие меры семантического сходства.

В результате получится уже не просто три множества, а три вектора в пространстве признаков.

И здесь исследование соединяется с хорошо разработанными методами анализа данных, кластеризации и обработки естественного языка.

8. Самый интересный эксперимент — время

Однократное измерение уже представляет интерес.

Но значительно более сильный вопрос возникает, если добавить время.

Обозначим множество прилагательных, которыми характеризовали ИИ в разные годы:

[
A_{2010}, A_{2015}, A_{2020}, A_{2023}, A_{2026}.
]

Тогда можно исследовать последовательность:

[
d_J(A_t,H)
]

и

[
d_J(A_t,M).
]

Возникает проверяемая гипотеза:

По мере развития искусственного интеллекта семантическое расстояние между категориями «ИИ» и «человек» уменьшается.

Одновременно можно проверить:

Семантическое расстояние между категориями «ИИ» и «обычная машина» увеличивается либо уменьшается значительно медленнее.

Если это действительно обнаружится в корпусах текстов, мы получим количественное описание исторического изменения языка.

Можно будет буквально построить график:

[
t\longrightarrow d_J(A_t,H).
]

Философское утверждение

«ИИ становится в восприятии общества всё более человекоподобным»

превратится в эмпирически проверяемую гипотезу.

9. Не все человеческие качества переходят к ИИ одинаково

Особенно интересно разделить прилагательные на классы.

Интеллектуальные

умный, логичный, проницательный, внимательный, способный, обучаемый.

Творческие

творческий, изобретательный, оригинальный.

Производственные

быстрый, эффективный, точный, надёжный.

Социальные

общительный, дружелюбный, заботливый, вежливый.

Моральные

честный, добрый, злой, справедливый, жестокий.

Эмоциональные

весёлый, грустный, тревожный, ревнивый.

Именно здесь может обнаружиться наиболее интересная структура.

Возможно, по интеллектуальным качествам расстояние

[
d(A,H)
]

уже мало.

По производственным качествам ИИ остаётся близок к машине.

По эмоциональным характеристикам расстояние значительно больше.

А по моральным качествам применение человеческого словаря вообще вызывает принципиальные споры.

Таким образом, вместо одного семантического расстояния может возникнуть многомерная карта человекоподобия ИИ.

10. Что уже известно

Предлагаемый подход возникает не в пустом месте.

В исследованиях взаимодействия человека и робота давно изучается антропоморфизация — склонность приписывать машинам человеческие свойства.

Существуют экспериментальные шкалы, где роботов оценивают с помощью человеческих социальных и личностных характеристик. Например, использовались такие прилагательные, как friendly, polite, sensitive, caring, sociable, curious, persistent, одновременно с характеристиками, воспринимаемыми как машинные.

Spatola и Wudarczyk исследовали даже «semantic distance between robots and humans». Однако их семантическая дистанция определялась через психологический эксперимент с семантическим праймингом и временем реакции на эмоциональные слова, а не через расстояние между множествами прилагательных. Они обнаружили связь меньшей семантической дистанции с большей антропоморфизацией робота и более положительным отношением к нему.

Таким образом, сама идея количественно измерять психологическое или семантическое расстояние между человеком и искусственным агентом уже существует.

Предлагаемая здесь постановка отличается тем, что объектом измерения становится структура языка, а сравнение является не бинарным «человек–робот», а трёхсторонним:

[
\text{человек — машина — искусственный интеллект}.
]

Более того, использование одной и той же формальной меры позволяет непосредственно спросить, к какому из двух традиционных классов язык помещает ИИ ближе.

11. Что эта модель не доказывает

Очень важно не приписывать методу того, чего он измерить не способен.

Если выяснится, что

[
d(A,H)<d(A,M),
]

из этого совершенно не следует, что искусственный интеллект является человеком.

Не следует и того, что он обладает сознанием, чувствами или моральной ответственностью.

Исследование показывает лишь следующее:

люди всё чаще используют для описания ИИ тот же словарь признаков, которым они описывают самих себя.

Это факт не об устройстве ИИ, а об устройстве человеческого восприятия и языка.

Но именно поэтому он может быть чрезвычайно интересен.

Язык не просто описывает технологию. Он показывает, в какую категорию нашего мира мы пытаемся эту технологию поместить.

12. Человек, машина или третий класс?

Возможно, наиболее интересным результатом исследования окажется вовсе не постепенное приближение ИИ к человеку.

Может выясниться, что искусственный интеллект образует новый семантический класс.

Он наследует от машины:

скорость,
точность,
производительность,
масштабируемость.

От человека:

интеллектуальность,
обучаемость,
творчество,
способность вести диалог.

Но одновременно получает характеристики, которые в прежней системе категорий плохо помещаются и туда, и туда.

Тогда вместо линии

[
\text{машина}\longrightarrow\text{человек}
]

мы получим треугольник:

[
\boxed{
\text{ЧЕЛОВЕК}\qquad
\text{МАШИНА}\qquad
\text{ИИ}
}
]

и искусственный интеллект окажется не промежуточным объектом между двумя старыми классами, а третьей категорией, формирование которой можно наблюдать непосредственно в языке.

Заключение

Более ста лет назад Поль Жаккар хотел узнать, насколько похожа флора двух районов Альп. Для этого он сравнил число общих видов растений с общим числом видов.

Сегодня тот же принцип можно применить к совершенно иной проблеме.

Вместо двух географических районов взять человека, машину и искусственный интеллект.

Вместо видов растений — прилагательные.

И спросить:

[
\boxed{
\text{Какими словами мы описываем человека, машину и ИИ?}
}
]

После чего следующий вопрос становится математическим:

[
\boxed{
d(A,H)\quad ?\quad d(A,M)
}
]

К кому искусственный интеллект ближе в пространстве человеческого языка — к машине или к человеку?

А если повторять измерение во времени, появляется ещё более интересный вопрос:

движется ли искусственный интеллект в нашем языке от «машины» к «человеку» — и если да, то с какой скоростью?

Так довольно абстрактный философский спор можно превратить в измеримый объект исследования.

И, возможно, наблюдая за изменением нескольких сотен прилагательных, мы сможем увидеть гораздо более глубокий процесс: как человеческое сознание создаёт новую категорию существ, которых ещё недавно в нашем мире вообще не было.

Литература
Jaccard, P. (1901). ;tude comparative de la distribution florale dans une portion des Alpes et du Jura. Bulletin de la Soci;t; Vaudoise des Sciences Naturelles, 37, 547–579.
Spatola, N., & Wudarczyk, O. A. (2021). Implicit Attitudes Towards Robots Predict Explicit Attitudes, Semantic Distance Between Robots and Humans, Anthropomorphism, and Prosocial Behavior: From Attitudes to Human–Robot Interaction. International Journal of Social Robotics, 13, 1149–1159.
Phillips, E., Zhao, X., Ullman, D., & Malle, B. F. (2018/2019). What is Human-like? Decomposing Robots' Human-like Appearance Using the Anthropomorphic roBOT (ABOT) Database and related work on robot anthropomorphism.
Исследования в области Human–Robot Interaction, использующие adjective checklists и шкалы социальных характеристик роботов, включая категории человеческих и машинных признаков.