Две ветви одного дерева

Две ветви одного дерева
От нечётких множеств к эпохе взросления искусственного интеллекта
Человек издавна стремился создать машину, которая понимает, чего он от неё хочет. Мы говорим друг другу: «немного помедленнее», «сделай потеплее», «действуй осторожнее» — и обычно достигаем взаимопонимания без точных чисел и подробных алгоритмов. За этой обыденной способностью скрывается трудная научная задача: как превратить человеческое указание, допускающее оттенки и неточность, в определённое действие технического устройства?

Сегодня разговор с искусственным интеллектом делает эту задачу почти незаметной для пользователя. Однако путь к такому общению начался задолго до появления больших языковых моделей. Одну из его важнейших ветвей образовали нечёткие множества и нечёткое управление. На этой ветви выросли и мои исследования алгебраических методов ускорения нечётких регуляторов.

В 1965 году Лотфи Заде опубликовал статью «Fuzzy Sets». Он предложил математический аппарат для описания классов, принадлежность к которым допускает степени. Например, понятие «высокая температура» не обязательно должно иметь единственную жёсткую границу: разные значения температуры могут соответствовать ему в разной степени. Это позволило математически работать с понятиями, которыми человек постоянно пользуется в повседневной жизни.[1]

Речь шла не об отказе от строгости. Напротив, нечёткие понятия получили строгое математическое представление. Неточным могло быть содержание человеческого выражения; операции с его формальной моделью оставались определёнными.

В работах начала 1970-х годов Заде развил подход к описанию сложных систем с помощью лингвистических переменных и нечётких условных правил. Значениями переменной могли служить слова: «низкая», «средняя», «высокая». Связи между ними выражались правилами, близкими по форме к человеческим рассуждениям.[2]

Условный пример: если температура высокая и продолжает быстро расти, следует значительно уменьшить нагрев. Инженеру предстояло определить математический смысл этих выражений и способ вычисления управляющего воздействия. Но сама структура знания уже была узнаваемо человеческой.

В 1974 году Эбрахим Мамдани и Седрак Ассилиан практически реализовали нечёткое управление лабораторной паровой машиной. Их совместная статья, опубликованная в январе 1975 года, описывала превращение словесных правил человека-оператора в автоматическую стратегию управления.[3]

Это был принципиальный переход от идеи к действующей системе. Знание, которое человек выражал словами, становилось основой поведения реального устройства.

Здесь необходимо различать две способности. Такой регулятор не принимал любую разговорную фразу и не выяснял самостоятельно её смысл. Словарь, функции принадлежности и правила предварительно формализовали разработчики. Но машина уже могла действовать на основе человеческих нечётких понятий. В этом конкретном смысле она начинала понимать, чего от неё хотят.

Именно такое приближение к человеческому способу выражать знания и намерения я называю очеловечиванием машины. Этот термин здесь обозначает развитие определённых функциональных способностей; вопрос о сознании или чувствах машины остаётся за пределами нашего рассмотрения.

Когда возможность такого управления была продемонстрирована, возник следующий круг задач. Как обеспечить достаточное быстродействие? Как уменьшить аппаратурные затраты? Как построить вычислительную систему, способную своевременно вырабатывать управляющее воздействие?

В управлении ответ, полученный слишком поздно, может потерять практическую ценность. Поэтому математическая организация вычислений составляет существенную часть самой задачи создания регулятора.

Этому направлению были посвящены мои совместные работы с C. V. Curtis в конце 1990-х годов. В статье «Acceleration of a Fuzzy Controller Using the Chinese Remainder Theorem», опубликованной в материалах конференции NASA 1997 года, мы обратились к китайской теореме об остатках.[4]

Смысл подхода состоял в использовании алгебраической структуры вычислений. При подходящем выборе взаимно простых модулей число можно представить набором остатков. Сложение и умножение затем выполняются по отдельным модулям, причём соответствующие операции допускают параллельное выполнение. Вместо единой операции над большим числом возникает набор операций над меньшими числами. Выигрыш зависит и от затрат на преобразование представлений, поэтому выбор архитектуры имеет принципиальное значение.

Классический результат теории чисел становился инструментом проектирования вычислительного устройства. Абстрактная алгебра оказывалась непосредственно связана со скоростью работы системы управления.

Эта линия продолжалась в работе «Design of a Fast Fuzzy Controller», опубликованной в сборнике NASA 1998 года. В ней рассматривались модульная арифметика, возможность параллельных вычислений и применение генетических алгоритмов для минимизации аппаратуры.[5] В её библиографии также указана наша работа «Acceleration of a Fuzzy Controller by an Algebraic Method» для симпозиума по мягким вычислениям в промышленности 1998 года; её полный текст ещё предстоит восстановить.

Место этих исследований на общем дереве достаточно определённо. Они развивали математические методы эффективной реализации систем, действующих по формализованным человеческим правилам. Связь между человеческим языком и машинным действием требует всей цепочки: от представления смысла до своевременного вычисления результата.

В XXI веке особенно мощное развитие получила другая ветвь — нейросетевые методы. Важной вехой стала представленная в 2017 году архитектура Transformer, оказавшаяся одной из основ последующего развития больших языковых моделей.[6] Общение с машиной стало существенно свободнее: пользователь может описывать задачу, приводить примеры, уточнять требования и исправлять недопонимание в ходе разговора.

Я называю это эпохой взросления искусственного интеллекта: многие способности, прежде доступные лишь в ограниченных экспериментальных системах, стали частью повседневной работы людей. Слово «взросление» выражает здесь масштаб практических возможностей, а не утверждение о завершённости развития или безошибочности ИИ.

У этой свободы есть цена. Явно заданные правила уступают место сложным зависимостям, усвоенным при обучении. Расширяются возможности, но усложняются проверка поведения и установление причин конкретного ответа. Для управления физическим устройством по-прежнему нужны ограничения, контроль и надёжные исполнительные механизмы.

Поэтому современные языковые модели не отменяют нечёткое управление. Можно представить систему, в которой языковая модель выясняет пожелание человека, а специализированный регулятор обеспечивает его исполнение. Понимание просьбы и надёжное управление устройством остаются связанными, но различными задачами.

Нечёткие регуляторы и современный нейросетевой ИИ имеют разную техническую историю. Было бы неверно выводить большие языковые модели непосредственно из теории нечётких множеств. Их родство проявляется в более общей цели: расширять способность машины работать с человеческими знаниями и намерениями.

Задолго до нынешнего массового интереса к ИИ эта цель уже воплощалась в действующих регуляторах и в математических исследованиях их устройства. Мои работы выросли на той же почве. Они принадлежат истории, в которой человеческое «немного», «слишком много», «достаточно» постепенно становилось доступным техническому исполнению.

Нечёткие регуляторы и современный искусственный интеллект — две ветви одного дерева очеловечивания машин. На одной из этих ветвей мы с коллегой работали над тем, чтобы строгая алгебра помогала машине быстрее выполнять правила, выражающие человеческое знание.
Источники и библиографические примечания
1. L. A. Zadeh. Fuzzy Sets. Information and Control, 8(3), 338–353, 1965. https://doi.org/10.1016/S0019-9958(65)90241-X
2. L. A. Zadeh. Outline of a New Approach to the Analysis of Complex Systems and Decision Processes. IEEE Transactions on Systems, Man, and Cybernetics, SMC-3(1), 28–44, 1973. https://doi.org/10.1109/TSMC.1973.5408575
3. E. H. Mamdani, S. Assilian. An Experiment in Linguistic Synthesis with a Fuzzy Logic Controller. International Journal of Man-Machine Studies, 7(1), 1–13, 1975. https://doi.org/10.1016/S0020-7373(75)80002-2. Диссертация Ассилиана 1974 года: 4. F. S. Vainstein, C. V. Curtis. Acceleration of a Fuzzy Controller Using the Chinese Remainder Theorem. NASA URC Technical Conference, 747–752, 1997, URC97128. Сборник: https://ntrs.nasa.gov/citations/20010000359. Начало статьи: страница PDF 828.
5. F. Vainstein, C. V. Curtis. Design of a Fast Fuzzy Controller. NASA URC Technical Conference, 1998, 98URC110, начало на печатной странице 606, странице PDF 627. Сборник: https://ntrs.nasa.gov/citations/20000032189. Тождество этой публикации записи «Optimization of a Hardware Implementation of a Fuzzy Controller» в авторском списке пока не установлено. Текст работы для WAC/ISSCI 1998 отдельно не изучен.
6. A. Vaswani et al. Attention Is All You Need. 2017. https://arxiv.org/abs/1706.03762


Рецензии