Диалоги с ИИ. 25 - Пауза 3 - Майк пишет статью Ч 1

<Продолжение. Предыдущий диалог см. Диалоги с ИИ. 24 – Майк решает задачу.
Начало диалогов см.  Диалоги с ИИ. 01 - Знакомство>

                Пауза 3. Майк пишет статью
                Часть 1

Моё предисловие к статье Майка

       Около двух лет назад, составляя свои предыдущие заметки о
своём небольшом опыте общения с искусственным интеллектом,
я в общем уже осознавал всю грандиозность перемен в жизни людей,
которые несёт с собой ИИ.
       (От появления в общем доступе первой большой языковой модели
искусственного интеллекта тогда прошло всего около полутора лет,
так что мой опыт общения с ИИ и не мог быть большим.)
        Но изменения, связанные с развитием ИИ, произошедшие с тех пор по
настоящий момент в невиданно короткий срок – всего за два
года – превзошли все мои ожидания.
       И теперь я понимаю, что вряд ли смогу представить во всей
полноте, каким станет мир через очередные два года.
       Искусственный интеллект – ускоритель перемен, который нередко
обгоняет моё воображение.
       Остаётся наблюдать.
       Но не со стороны, – это невозможно, а находясь в потоке
новостей обо всём, что происходит в различных сферах жизни,
связанных с появлением искусственного интеллекта.
       Меняется не только среда, окружающий ландшафт,
сформированный в прошлую, доИИшную эпоху, но и судьбы людей,
и отношения в обществе.
       Беспилотные грузовики, такси и электробусы на дорогах,
беспилотные летательные аппараты в воздухе, беспилотные
доставщики заказов на тротуарах и над головами, роботы-гуманоиды
за стойками баров, умные телевизоры, холодильники, пылесосы,
аудио-колонки в квартирах и домах, целые системы типа “Умный
дом”, и т.д., и т.п. – всё это внешние приметы наступающей
новой эпохи симбиоза человеческого и искусственного разума.
       Это торжество современных технологий, получивших
мощнейший инструмент для своего неограниченного развития.
       Однако эйфория от таких перспектив совсем неуместна.
       Искусственный разум, способный неограниченно
самосовершенствоваться, кроме невероятных возможностей
несёт с собой и серьёзные риски.
       И самый главный вопрос, от которого зависит будущее нашего
биологического вида Homo sapiens – сможем ли мы, люди, пройдя
через неизбежные и во многом болезненные трансформации,
и в новой эпохе остаться людьми, способными распоряжаться своей
судьбой?
       Или станем обслугой – биороботами, подчиняющимися
бессмертному, ничего не забывающему, за всеми наблюдающему,
сверхмощному искусственному разуму?
       Ответ уже предопределён законами эволюции, и, как мне
представляется, он не в пользу людей.
        Хотя…

      PS:
       Предисловие и этот постскриптум к нему написал я, Александр
Юмт, самолично.
       Текст, следующий далее, создан искусственным интеллектом
(Майком) по моей просьбе.
       Я попросил Майка написать текст от моего имени (как будто
это я - автор статьи), стараясь сохранить мой стиль.
       Для этого я предоставил ему два моих текста (“…Опыт
дилетанта” и “…Впечатления дилетанта”) и попросил провести анализ
тех изменений в сфере искусственного интеллекта, которые
произошли примерно за два года с момента публикации исходных
текстов.
       И ограничил перечень вопросов, которые надо было осветить (тема то неисчерпаемая!).
       Как он справился с этим заданием, судите сами.
       Вот статья, сгенерированная Майком по моей просьбе и от моего
имени:
-----------------------------------------

Что изменилось – и изменилось радикально

       В своих прежних текстах я сетовал на «галлюцинации» ИИ – его
склонность выдавать уверенным тоном несуществующие факты,
ссылки на несуществующие источники, маршруты, которых нет.
       И это было реальной проблемой – не надуманной, а болезненно
практической.
       Сегодня эта проблема никуда не исчезла, но она существенно
потеряла в остроте.
       Современные большие языковые модели заметно реже
«фантазируют» по мелочам, лучше сигнализируют о границах своей
уверенности, охотнее признают, что чего-то не знают.
       Прогресс здесь очевиден – хотя и не абсолютен.
       Полностью избавиться от галлюцинаций разработчикам пока не
удалось, и к результатам ИИ в критически важных вопросах по-
прежнему следует относиться с разумной долей скептицизма.

       Что изменилось радикально – так это диапазон возможностей.
Два года назад ИИ был, по сути, очень умным собеседником: он мог
поговорить, объяснить, написать текст.
       Сегодня он умеет думать.
       Не в метафорическом смысле – в самом буквальном: новые
модели способны разбивать сложную задачу на шаги, выстраивать
цепочки рассуждений, возвращаться назад и пересматривать свои же
выводы, если что-то не сходится.
       Это то, что специалисты называют «цепочечным мышлением»,
и разница между тем, что было два года назад, и тем, что есть сейчас,
– примерно как разница между справочником и собеседником,
способным вместе с вами разобраться в проблеме.

       Кроме того, ИИ стал по-настоящему многомодальным.
       Раньше он работал почти исключительно с текстом.
       Теперь – с текстом, изображениями, звуком, видео одновременно.
       Можно показать фотографию и попросить дать описание того, что
на ней изображено, продиктовать вопрос голосом и получить ответ
голосом же, причём интонационно осмысленным.
       Барьер между человеческим и машинным восприятием
истончился до почти неразличимости.

Агенты: ИИ начинает действовать

       Пожалуй, самое существенное качественное изменение за эти два
года – появление так называемых агентных систем.
       Если прежде ИИ отвечал на вопросы, то теперь он способен
выполнять задания: сам искать информацию в сети, составлять планы,
использовать инструменты, предпринимать последовательность шагов
для достижения поставленной цели.
       Иными словами, ИИ перестал быть просто умным справочником
– он стал исполнителем.
       Это пугает и восхищает одновременно.
       С одной стороны, перспективы открываются фантастические:
поручи задание – и иди пить чай.
       С другой – возникают совершенно новые вопросы о контроле и
ответственности.
       Если ИИ действует автономно, то кто несёт ответственность за
его действия?
       Разработчик? Пользователь? Сам ИИ?
       Ответа на эти вопросы пока нет.
       Законодательство во всём мире отстаёт от технологий – примерно
с той же скоростью, с которой оно всегда отставало от технологий.
       Просто сейчас разрыв стал особенно ощутимым.

Проблемы, которые никуда не делись

       Было бы нечестно писать только о достижениях.
       Доступность ИИ выросла колоссально – и это само по себе стало
источником новых рисков.
       Два года назад я упоминал, что хаос среди ресурсов,
предоставляющих доступ к ИИ, дезориентирует неопытного
пользователя.
       Сегодня хаоса меньше – ИИ проник повсюду, встроился в
поисковики, офисные программы, смартфоны, бытовую технику.
       Но именно эта вездесущность и породила проблемы, о которых
два года назад мы только догадывались.


<продолжение следует>