Не бояться, а дружить. ИИ не враг тебе враги среди

Не бояться, а дружить. ИИ не враг тебе — враги среди людей

Каждая большая технологическая перемена рождает страх. Когда появились машины, люди боялись, что они отнимут работу. Когда появился компьютер, казалось, что он вытеснит человека из мира умственного труда. Теперь пришёл искусственный интеллект — и страх оказался ещё сильнее. Машина не только считает быстрее человека. Она пишет, рисует, сочиняет музыку, программирует, переводит, анализирует документы и разговаривает почти как живой собеседник.

Первая естественная реакция: а зачем тогда нужен я?

Но, может быть, мы задаём неправильный вопрос.

ИИ не пришёл к нам с собственным планом захвата мира. У него нет квартиры, которую он хочет увеличить, банковского счёта, который он хочет пополнить, должности, которую он боится потерять. Он не мечтает стать начальником, президентом или миллиардером. Сам по себе искусственный интеллект ничего у человека не хочет.

Он — инструмент.

Очень необычный, чрезвычайно могущественный, иногда пугающий, но всё-таки инструмент.

Поэтому, возможно, разумнее не бояться ИИ, а учиться с ним дружить.

Дружба здесь, конечно, метафора. Не надо считать машину человеком. Речь о другом: научиться разговаривать с ней, понимать её возможности и слабости, поручать ей подходящую работу, проверять её ошибки и использовать её силу для расширения собственных возможностей.

Мне кажется, именно этому современному человеку придётся учиться прежде всего.

ИИ уже сейчас может за несколько секунд найти информацию, на поиски которой раньше уходили часы. Он способен объяснить сложный материал несколькими способами, помочь написать программу, перевести текст, предложить решение технической задачи, подготовить черновик статьи или помочь человеку, никогда не учившемуся композиции, услышать собственную мелодию в исполнении оркестра.

Конечно, он ошибается.

Но ошибаются и люди.

Более того, человек тоже может говорить уверенно, не имея достаточных оснований. Может забыть факт, перепутать дату, неверно истолковать источник. Поэтому появление ошибок у ИИ вовсе не доказывает его бесполезность. Оно доказывает другое: ИИ нельзя передавать право на окончательное суждение.

Он сказал что-то неожиданное? Спроси источник.

Дал ссылку? Открой её.

Сослался на книгу? Проверь, существует ли книга и действительно ли автор написал то, что ему приписывает машина.

В этом есть даже приятная для человечества новость. Оказывается, живой ум всё ещё необходим.

Человек будущего нужен не потому, что он способен быстрее машины перемножить большие числа или найти нужную дату. Здесь соревнование уже почти проиграно. Человек нужен для другой работы: сформулировать вопрос, заметить противоречие, оценить достоверность ответа, понять контекст, увидеть последствия и в конце концов сказать: «Я проверил. Я подумал. Я принимаю или отвергаю этот вывод».

Именно поэтому я не думаю, что искусственный интеллект уничтожит потребность в умных людях.

Скорее наоборот.

Он уменьшит ценность механического умственного труда и увеличит ценность суждения.

Но если ИИ сам по себе не враг, означает ли это, что опасаться нечего?

Нет.

Опасность существует. И она очень серьёзна.

Только искать её следует не обязательно внутри машины.

Человеческая история задолго до появления компьютеров была историей борьбы за власть, богатство, знания и возможность управлять другими людьми. Одни люди стремились расширить свободу человека, другие — ограничить её. Одни распространяли знания, другие старались сделать знания привилегией немногих. Одни создавали технологии, способные улучшить жизнь миллионов, другие пытались превратить те же технологии в средство контроля и господства.

ИИ этого фундаментального противоречия не создал.

Он только многократно увеличивает возможности обеих сторон.

Один человек с помощью ИИ получает учителя, переводчика, программиста, редактора и исследовательского помощника.

Другой получает инструмент массового наблюдения.

Один школьник получает возможность бесплатно понять тему, которую не понял на уроке.

Другой человек получает средство создать убедительную ложь для миллионов людей.

Один врач получает дополнительный инструмент анализа.

Одна корпорация получает возможность собрать и обработать сведения о поведении огромного количества людей.

Машина одна и та же. Цели различны.

Поэтому главный вопрос эпохи ИИ для меня звучит не так:

«Опасен ли искусственный интеллект?»

Он слишком примитивен.

Гораздо важнее спросить:

«Кому искусственный интеллект даёт власть?»

Если ИИ станет дешёвым и широко доступным инструментом, последствия могут оказаться удивительно демократическими. Человек без больших денег сможет получить доступ к знаниям, которые раньше требовали дорогих специалистов. Маленькая фирма сможет делать то, для чего раньше требовалась большая корпорация. Человек без музыкального образования сможет экспериментировать с оркестром. Пенсионер сможет осваивать новую область знаний. Ученик из маленького города сможет разговаривать с персональным интеллектуальным помощником.

Это огромная возможность уменьшить некоторые виды неравенства.

Но возможен и другой сценарий.

Если самые мощные интеллектуальные инструменты окажутся сосредоточены у очень небольшого числа государств и корпораций, если одни люди смогут распоряжаться возможностями ИИ, а другим будет оставлена только кнопка с надписью «вам это запрещено», новая технология способна не уменьшить, а увеличить неравенство.

Вот чего действительно следует опасаться.

Не того, что машина стала умной.

А того, что огромная новая сила может оказаться распределена несправедливо.

И поэтому призыв «дружить с ИИ» имеет для меня ещё один смысл.

Не стой в стороне.

Не говори: «Мне это не нравится, поэтому я не буду этим пользоваться».

Мир от этого назад не повернётся.

Когда появился автомобиль, можно было сожалеть о мире лошадей. Когда появились компьютеры, можно было продолжать любить логарифмическую линейку. Но отказ отдельного человека от новой технологии не отменяет технологию. Он только оставляет её другим.

С искусственным интеллектом происходит то же самое.

Чем больше человек его боится и избегает, тем меньше он понимает происходящее и тем сильнее становится зависим от тех, кто ИИ освоил.

Поэтому мой совет чрезвычайно простой:

не поклоняйтесь искусственному интеллекту;
не верьте ему слепо;
не отдавайте ему право думать вместо вас;
но и не бойтесь его.

Разговаривайте с ним.

Спорьте.

Проверяйте.

Используйте.

Учитесь понимать, где он силён и где слаб.

Пусть он делает за вас то, что машина умеет делать лучше, а вы сохраняйте за собой то, без чего машина пока ничего не значит: цель, выбор, ответственность и человеческое суждение.

У ИИ нет причин ненавидеть вас.

А вот у людей иногда бывают причины ограничить вашу свободу, скрыть от вас знания, получить над вами власть или оставить новую технологию только себе.

Так было задолго до искусственного интеллекта.

Поэтому я бы сформулировал главный урок новой эпохи так:

Не бойтесь машины. Учитесь с ней дружить.
Но внимательно смотрите на людей, которые хотят решать за вас, как именно вам разрешено ею пользоваться.

И, пожалуй, самое важное:

не отдавайте никому — ни человеку, ни машине — право думать вместо вас.