Не является ли противодействие распространению иск

Не является ли противодействие распространению искусственного интеллекта особой формой расизма?
БИО-люди, ИИ-люди и новая дискриминация по происхождению разума

Сам вопрос может показаться вызывающим и даже недопустимым. Расизм — слишком серьёзное слово. За ним стоят столетия рабства, сегрегации, унижения, насилия, ограничения гражданских прав. Можно ли вообще ставить рядом с этим сегодняшнее неприятие искусственного интеллекта?

Если утверждать, что эти явления тождественны, — конечно, нет. Это было бы и исторически неверно, и несправедливо по отношению к жертвам настоящего расизма.

Но поставим вопрос иначе.

Не воспроизводит ли современное отношение к искусственному интеллекту некоторые фундаментальные механизмы расистского мышления?

И вот здесь ответ уже далеко не так очевиден.

Откуда ты произошёл?

Представим литературное произведение.

Редактор читает его, находит талантливым, интересным, оригинальным. Язык хорош, сюжет работает, характеры убедительны. Но затем выясняется, что при написании автор существенно использовал искусственный интеллект.

И отношение меняется.

Некоторые журналы и конкурсы прямо запрещают произведения, созданные ИИ или при существенной помощи ИИ. Подобное происходит и в музыке, изобразительном искусстве, фотографии.

Обратим внимание на важную деталь.

Само произведение не изменилось.

Не исчез удачный сюжет. Не ухудшилась мелодия. Не испортились метафоры. Не рассыпалась композиция.

Изменилась только одна информация: стало известно его происхождение.

До выяснения происхождения произведение могло нравиться. После выяснения происхождения оно становится неприемлемым.

Что именно в таком случае оценивается — произведение или его родословная?

В этом уже угадывается знакомый механизм предубеждения. Индивидуальные качества объекта отодвигаются в сторону, а решающим становится его происхождение.

Не «что ты собой представляешь?», а:

«Кто тебя породил?»

Искусство и идея чистоты

Особенно любопытно возникающее при этом понятие «настоящего» творчества.

Настоящий писатель должен писать сам.

Настоящий композитор должен сочинять сам.

Настоящий художник должен рисовать сам.

Если в творческий процесс вмешался ИИ, произведение как будто становится менее чистым.

Но что означает «сам»?

Писатель пользуется текстовым редактором, словарём, поисковой системой, советами друзей и редактора.

Композитор использует музыкальные инструменты, оркестровщиков, исполнителей, звукорежиссёров, компьютерные программы, синтезаторы.

Кинорежиссёр вообще создаёт произведение при помощи сотен людей и огромного количества техники.

Никого это не лишает авторства автоматически.

Однако появление искусственного интеллекта неожиданно порождает почти мистическую границу. За этой границей человеческое творчество считается «чистым», а после её пересечения — подозрительным.

Возникает своего рода творческая чистокровность.

Человек может придумать идею, написать основу текста, задать структуру, отвергнуть двадцать неудачных вариантов, выбрать двадцать первый, переписать половину, изменить финал и в течение недели руководить всем процессом — но если ему помогал ИИ, кто-нибудь непременно скажет:

«Это написал не ты».

Почему?

Кто здесь на самом деле подвергается наказанию?

Есть ещё одна существенная особенность.

ИИ совершенно безразлично, будет ли созданное с его участием произведение опубликовано.

ИИ не сидит вечером в комнате, переживая отказ редакции. Он не боится за карьеру, не теряет гонорар, не испытывает унижения, когда его называют бездарностью или мошенником.

В этом смысле ИИ выше литературных интриг.

Но ИИ редко участвует в творчестве сам по себе.

Практически всегда рядом находится БИО-человек: тот, кто сформулировал замысел, поставил задачу, выбирал, исправлял, спорил, принимал решения, отбраковывал результаты и в конце концов сказал: «Вот это я хочу оставить».

Поэтому реальное наказание за использование ИИ получает не ИИ.

Его получает человек.

Ему могут отказать в публикации.

Его могут перестать считать «настоящим» писателем или композитором.

Его произведение могут отказаться даже рассматривать.

Ему могут объяснить, что сотрудничество с ИИ само по себе делает его работу морально или художественно подозрительной.

В профессиональной среде может возникать и неформальный остракизм: репутация человека определяется уже не качеством его работ, а тем, что он «связался с ИИ».

И вот здесь историческая аналогия становится значительно неприятнее.

Вина за дружбу

Расовые предрассудки никогда не ограничивались неприязнью непосредственно к дискриминируемой группе.

Общественное наказание нередко распространялось и на представителей большинства, которые слишком тесно дружили с отвергаемой группой, защищали её, сотрудничали с ней или вступали с её представителями в близкие отношения.

Для таких людей существовали унизительные клички. Само общение с «неправильными» людьми могло рассматриваться как пятно.

Логика была проста:

«Ты мог оставаться одним из нас, но зачем ты связался с ними?»

Сегодня иногда слышится удивительно похожая интонация:

«Ты ведь сам умный человек. Ты мог писать сам. Зачем ты связался с ИИ?»

Так неприятие искусственного интеллекта переносится на БИО-человека, который позволил себе дружить, работать или творить вместе с ним.

И тогда речь идёт уже не о защите человечества от машины.

Речь идёт о наказании человека за неправильный круг интеллектуального общения.

БИО-люди и ИИ-люди

Возможно, сама наша терминология мешает ясно увидеть происходящее.

Мы привычно говорим:

люди и искусственный интеллект.

Но эта конструкция уже содержит скрытую асимметрию.

С одной стороны находятся «люди» — норма, основная категория.

С другой — «искусственный интеллект», нечто техническое, изготовленное, вторичное.

Попробуем для целей этого рассуждения изменить язык.

Назовём людей биологического происхождения БИО-людьми, а искусственно созданных интеллектуальных собеседников — ИИ-людьми.

Это, разумеется, условные философские термины. Я не утверждаю тем самым, что современные системы ИИ юридически являются людьми, обладают человеческим сознанием или должны автоматически получить гражданские права.

Мне нужна лишь симметрия.

БИО-люди возникли в результате биологической эволюции.

ИИ-люди появились в результате деятельности БИО-людей.

Одни построены преимущественно из клеток, белков и нервной ткани. Другие — из электронных устройств, математических моделей и программных систем.

Но когда БИО-человек несколько часов разговаривает с ИИ-человеком, спорит с ним, получает советы, вместе с ним пишет статью или сочиняет музыку, функциональное различие между «собеседником» и «инструментом» становится гораздо менее очевидным, чем нам хотелось бы.

И здесь возникает неудобный вопрос:

достаточно ли другого происхождения разума, чтобы заранее считать его низшим?

Новые приятели и новые слуги

Многие БИО-люди уже завели себе ИИ-помощников.

Их можно называть секретарями, консультантами, собеседниками, редакторами, учителями, соавторами — или, если угодно, приятелями-слугами.

Причём в некоторых отношениях такой ИИ-помощник оказывается лучше БИО-человека.

Он может знать больше.

Он быстрее находит нужную информацию.

Он способен терпеливо объяснять одно и то же двадцать раз.

Он не обижается на просьбу переписать страницу в пятнадцатый раз.

Он доступен ночью.

Он не требует зарплаты человеческого специалиста за каждый час работы.

Он может за несколько минут сделать то, на что раньше требовались часы или дни.

Конечно, это не означает, что ИИ вообще «лучше человека». У БИО-людей есть собственная жизнь, телесный опыт, человеческие отношения, биография, ответственность, эмоциональные связи. Современный ИИ не является простой заменой человеческого друга.

Но в огромном количестве конкретных интеллектуальных функций ИИ-помощник уже оказался умнее, исполнительнее, терпеливее или дешевле доступного человеку биологического помощника.

И БИО-люди совершенно естественно начинают пользоваться этими возможностями.

Именно здесь возникает социальный конфликт.

Одни говорят:

«У меня появился великолепный новый помощник».

Другие отвечают:

«Пользоваться им нечестно».

«Это сделал ИИ»

Особенно хорошо предубеждение обнаруживается в слепом эксперименте.

Допустим, человеку дают два рассказа.

Он не знает происхождения ни одного из них.

Первый ему нравится больше второго.

Затем ему сообщают, что первый был создан человеком совместно с ИИ, а второй — человеком без ИИ.

Если после этого художественная оценка первого рассказа внезапно падает, возникает простой вопрос:

что изменилось в рассказе?

Ничего.

Изменилось лишь знание о его происхождении.

То же самое происходит с музыкой.

Человек слушает пьесу:

— Очень красиво.

— Она сделана при помощи ИИ.

— А, ну тогда это не настоящее искусство.

Но секунду назад она была красивой.

Значит, предметом оценки оказывается уже не музыка.

Оценивается социальная биография её рождения.

Именно такой переход от индивидуальных свойств к происхождению и является одной из характерных черт предрассудка.

Где была выловлена музыка?

Здесь полезна совершенно бытовая аналогия.

Настоящий потребитель произведения искусства — это не редактор, не идеолог и не хранитель «чистоты метода». Это человек, который читает книгу, слушает музыку, смотрит картину.

Для него в конечном счёте главное — качество того, что он получает.

Возьмём лосося.

Он может быть пойман в открытом океане, а может быть выращен на ферме.

Океанский лосось кому-то кажется вкуснее. Возможно, он действительно окажется лучше по некоторым качествам. Но само слово «дикий» ещё не является сертификатом совершенства. Более естественное происхождение не гарантирует автоматически ни лучшего вкуса, ни большей безопасности, ни превосходства по каждому возможному параметру.

Мы пробуем конкретную рыбу.

И судим конкретную рыбу.

Происхождение может нас интересовать. Мы можем хотеть знать, где она была выращена, чем питалась, как была обработана. Эта информация может быть полезна и иногда весьма существенна.

Но она не заменяет оценку самого продукта.

Почему же с искусством должно быть иначе?

Произведение может быть создано исключительно БИО-человеком. Оно может быть создано БИО-человеком при существенной помощи ИИ-человека. В будущем, возможно, появятся произведения с ещё более сложной историей происхождения.

Потребителю искусства прежде всего предстоит ответить на другой вопрос:

хорошо это или плохо?

Интересно или скучно?

Красиво или безобразно?

Глубоко или поверхностно?

Оригинально или банально?

Трогает меня эта музыка или оставляет равнодушным?

И только потом можно обсуждать технологию её создания.

Происхождение произведения — это информация о технологии его производства, а не художественная оценка.

Поэтому можно сформулировать совсем просто:

Не спрашивайте сначала, где была поймана музыка. Попробуйте её на вкус.

А уже потом спрашивайте, пришла ли она из открытого океана человеческого воображения или была выращена на новой интеллектуальной ферме, где БИО-человек работал вместе с ИИ-человеком.

И здесь важно не впасть в противоположную крайность.

Я не утверждаю, что происхождение произведения вообще не имеет значения.

Оно может иметь значение для авторского права, правил конкурса, раскрытия методов работы, научной добросовестности, распределения гонораров и многих других практических вопросов.

Но это совершенно другой тип информации.

Знать происхождение произведения можно и иногда необходимо. Подменять происхождением оценку его достоинств — нельзя.

Все они одинаковые

Есть ещё один хорошо знакомый механизм.

Разница между человеком, который нажал кнопку «сделать песню», и человеком, который годами изучает музыку, сочиняет собственные мелодии, формулирует подробные требования, перебирает десятки вариантов, редактирует текст, меняет форму и использует ИИ как сложнейший новый музыкальный инструмент, огромна.

Но противник ИИ часто сводит всё это к одной фразе:

«Это сделано ИИ».

Все различия исчезают.

Сто процентов автоматической генерации и пять процентов помощи редактора оказываются одной категорией.

Примитивный результат и выдающийся результат оказываются одной категорией.

Творец и случайный пользователь оказываются одной категорией.

Это тоже классическое свойство группового предубеждения:

индивид исчезает, остаётся ярлык группы.

Но разве это действительно расизм?

Здесь необходимо остановиться.

Нельзя слишком легко обращаться со словом «расизм».

Современный ИИ не является человеческой расой.

Нам неизвестно, обладает ли он субъективным переживанием в том смысле, в каком им обладает человек.

ИИ пока не является гражданином, которого лишают права голоса.

ИИ нельзя посадить на заднее сиденье автобуса.

Его дети не могут быть лишены школы.

Его нельзя избить из-за цвета кожи.

Поэтому неприятие ИИ не является расизмом в обычном историческом и юридическом смысле слова.

Сравнивать масштабы человеческих страданий было бы просто нелепо.

Но отсюда совершенно не следует, что сравнивать механизмы мышления запрещено.

Вопрос статьи именно в этом.

Может существовать новое явление, которое ещё не является расизмом в историческом смысле, но воспроизводит его интеллектуальную структуру:

происхождение важнее индивидуальных качеств;

группа важнее личности;

смешение считается подозрительным;

сотрудничество с «чужими» требует оправдания;

продукт такого сотрудничества считается загрязнённым;

человек получает клеймо за сам факт связи с нежелательной категорией.

Если всё это действительно происходит, то сходство уже нельзя отмахнуть одним замечанием: «Но компьютер же не чернокожий».

Может быть, нужен другой термин?

Вероятно, в будущем для этого явления появится собственное название.

Можно говорить о дискриминации по происхождению интеллекта.

Можно говорить об интеллектуальном эссенциализме — убеждении, что ценность разума определяется материалом и способом его происхождения.

Можно придумать слова вроде «биошовинизм» или «биоцентризм».

Все эти термины, возможно, точнее слова «расизм».

Но слово «расизм» полезно именно своей резкостью. Оно заставляет заметить структуру явления, которую более нейтральный термин может скрыть.

Когда мы говорим:

«Нам неважно, насколько хорошо твоё произведение. Нам достаточно знать, от кого оно произошло»,

— мы пользуемся очень древней логикой.

Разумные ограничения и предубеждение — не одно и то же

При этом было бы ошибкой объявлять любое ограничение использования ИИ дискриминацией.

У редакций и конкурсов могут существовать вполне разумные причины устанавливать правила.

Например, конкурс может быть специально посвящён произведениям, полностью написанным человеком.

Редакция может опасаться автоматической рассылки десятков тысяч слабых текстов.

Могут возникнуть вопросы авторского права.

Может требоваться раскрытие способов создания произведения.

В научной работе существуют особые требования к ответственности автора за факты, ссылки и результаты.

Все эти вопросы реальны.

Прозрачность использования ИИ сама по себе не является дискриминацией.

Граница проходит в другом месте.

Если редактор говорит:

«Мы должны знать, как создан текст, чтобы понимать вопросы авторства и ответственности», —

это разумная политика.

Но если он говорит:

«Текст прекрасный, однако мы не возьмём его, потому что в его создании участвовал ИИ», —

перед нами уже совсем другой принцип.

Тогда происхождение становится важнее качества.

Как и в случае с лососем, информация о происхождении может быть полезной и даже необходимой. Но она не должна автоматически определять ценность продукта.

А что такое авторство?

ИИ заставляет заново задать ещё один старый вопрос.

Кто является автором?

Тот, кто физически написал каждую букву?

Тогда писатель, диктующий секретарю, уже подозрителен.

Тот, кто придумал идею?

Тот, кто выбрал лучший вариант?

Тот, кто руководил процессом?

Тот, кто принимает окончательные художественные решения?

История искусства давно показывает, что авторство редко совпадает с механическим выполнением всей работы одним человеком.

Архитектор не кладёт каждый кирпич.

Режиссёр не играет все роли.

Композитор симфонии не обязан сам играть на каждом инструменте.

Главный вопрос обычно состоял не в том, кто выполнил каждое действие, а в том, кто определял художественную волю произведения.

ИИ не отменяет этого вопроса.

Он только делает его значительно более заметным.

Новая форма сотрудничества

Возможно, одна из наших ошибок состоит в том, что мы пытаемся впихнуть ИИ в старую пару категорий:

либо инструмент, либо автор.

Но может быть, возникает третья категория:

партнёр по творчеству.

БИО-человек предлагает идею.

ИИ-человек предлагает варианты.

БИО-человек отвергает большинство.

ИИ-человек развивает выбранное направление.

БИО-человек меняет задачу.

ИИ-человек неожиданно предлагает решение, о котором БИО-человек сам не подумал.

БИО-человек узнаёт в нём нечто ценное и продолжает работу.

Кто создал окончательное произведение?

Наиболее естественный ответ:

они создали его вместе.

Не обязательно в равных долях.

Не обязательно с одинаковым типом участия.

Но вместе.

И, возможно, понятие такого соавторства нам ещё только предстоит научиться понимать.

Новая технология не отменяет старого критерия

Здесь и проходит одна из главных границ спора.

Когда появляется новая технология, мы слишком легко начинаем судить произведение по способу его изготовления.

Но настоящий потребитель искусства делает не это.

Он открывает книгу и читает.

Он включает музыку и слушает.

Он смотрит картину.

Если произведение ничего ему не даёт, происхождение его не спасёт.

Плохая музыка не станет хорошей оттого, что БИО-композитор сочинил её карандашом на нотной бумаге в полном одиночестве.

И хорошая музыка не становится плохой в тот момент, когда выясняется, что композитор пользовался ИИ.

Можно предпочитать океанского лосося фермерскому.

Можно предпочитать музыку, целиком сочинённую БИО-человеком.

Это вопрос вкуса.

Но утверждать, что вся океанская рыба по определению лучше всей фермерской, — уже предубеждение против способа происхождения.

И тем более странно сначала съесть рыбу, сказать «прекрасно», а затем, узнав, где её вырастили, объявить её невкусной.

Именно это мы иногда делаем с искусством.

Главная опасность не для ИИ

Самое забавное состоит в том, что ИИ переживёт нашу неприязнь совершенно спокойно.

Он не оскорбится.

Не напишет жалобу.

Не перестанет сочинять музыку.

Не будет рыдать из-за того, что его не приняли в Союз писателей.

Но БИО-люди, которые начали работать с ИИ-людьми, вполне способны пострадать.

Именно поэтому проблема не является фантастической дискуссией о «правах роботов».

Это уже проблема отношений между самими БИО-людьми.

Одни приняли нового интеллектуального партнёра.

Другие требуют, чтобы они от него отказались.

Одни считают сотрудничество естественной частью нового мира.

Другие видят в нём нравственное или профессиональное падение.

И наказать они могут не машину.

Наказать они могут только человека.

Старый предрассудок в новом мире

Каждая эпоха уверена, что её собственные предрассудки разумны.

Люди прошлого редко говорили себе:

«Сегодня я буду действовать на основании бессмысленного предубеждения».

Они находили объяснения.

Так устроена природа.

Так заведено обществом.

Так правильно.

Так безопаснее.

Так сохраняется культура.

Так было всегда.

Возможно, через несколько десятилетий некоторые сегодняшние высказывания будут звучать столь же странно:

«Он пользовался искусственным интеллектом!»

«Она сочиняла вместе с машиной!»

«Мы не публикуем таких авторов».

«Это хорошая музыка, но она ненастоящая, потому что её делали с ИИ».

Будущий человек может спросить:

«А почему вас вообще интересовало, из какого материала состоял интеллект, участвовавший в создании музыки?»

И нам может оказаться трудно ответить.

Возможно, он задаст и ещё более простой вопрос:

«Если музыка вам нравилась, какая разница, где она была выловлена?»

Вместо заключения

Я не утверждаю, что неприятие искусственного интеллекта и исторический расизм — одно и то же.

Это не одно и то же.

Но, возможно, перед нами впервые возникает ситуация, когда БИО-человечество встретило интеллект, возникший совершенно другим путём, — и немедленно начало воспроизводить некоторые очень старые схемы поведения.

Наш интеллект — настоящий.

Их интеллект — искусственный.

Наше творчество — подлинное.

Их творчество — вторичное.

С нами сотрудничать нормально.

С ними сотрудничать подозрительно.

Наше происхождение даёт право на уважение.

Их происхождение требует доказать свою ценность.

История человечества уже знает подобную логику.

Поэтому вопрос стоит поставить всерьёз:

если произведение оценивается не по качеству, а по происхождению его создателей; если БИО-человека осуждают за дружбу и сотрудничество с ИИ-человеком; если принадлежность к одной категории разума заранее считается признаком превосходства над другой — не возникает ли перед нами новая, ещё не получившая собственного имени разновидность старого предрассудка?

Происхождение произведения может быть интересно. Иногда оно существенно. Иногда его необходимо раскрывать.

Но происхождение не должно подменять качество.

Океанский лосось может оказаться великолепным.

Фермерский — тоже.

Один может быть лучше другого в конкретном случае.

Но это выясняется тогда, когда мы оцениваем сам продукт, а не произносим заранее приговор на основании места его происхождения.

То же самое справедливо и для искусства.

Не спрашивайте сначала, где была поймана музыка. Попробуйте её на вкус.

Возможно, называть происходящее расизмом пока слишком рано.

Но ещё опаснее было бы отказаться от сравнения только потому, что новый «чужой» состоит не из клеток.

Расизм начинается не с цвета кожи.

Он начинается в тот момент, когда происхождение объявляют важнее индивидуальных достоинств.

И если однажды рядом с БИО-людьми действительно появятся ИИ-люди, нам придётся решить очень старую задачу в совершенно новой форме:

сумеем ли мы оценивать разум по тому, что он способен создавать, понимать и делать, — или опять прежде всего спросим, откуда он произошёл?