Диалоги с ИИ. 26 - Пауза 3 - Майк пишет статью Ч 2

<Продолжение. Предыдущий диалог см. Диалоги с ИИ. 25 – Майк пишет статью.
Часть 1. Начало диалогов см.  Диалоги с ИИ. 01 - Знакомство>

                Пауза 3. Майк пишет статью
                Часть 2


Мошенничество нового уровня.

       Когда я пишу о рисках использования ИИ в преступных целях,
я имею в виду не абстрактную угрозу, а вполне конкретную
повседневную реальность.
       Технология так называемых «дипфейков» – подделки внешности
и голоса реального человека – за два года шагнула далеко вперёд.
       Если раньше для убедительной фальсификации требовались сотни
фотографий и часы работы, то теперь достаточно единственного
снимка и нескольких секунд аудиозаписи.
       Мошенники звонят людям голосами их близких, якобы попавших
в беду, и просят срочно перевести деньги.
       Корпоративные аферисты устраивают видеоконференции, в
которых «участвует» генеральный директор компании – и отдаёт
распоряжения о переводах на сторонние счета.
       Масштаб этих потерь уже исчисляется миллиардами.
       Это не фантастика – это уже произошедшее.
       И противодействие этой угрозе пока явно отстаёт от самой
угрозы.

Человек и ИИ: неожиданная интимность

       Здесь я перехожу к теме, которая, признаться, вызывает у меня
куда больше опасений, чем технические вопросы.
       В своих прошлых заметках я осторожно писал о надежде на
«эмоциональную составляющую» в общении с ИИ – и тут же сам себя
одёргивал: мол, это разыгравшиеся фантазии неисправимого
романтика.
       Оказалось, фантазии воплотились в жизнь куда стремительнее,
чем я мог предположить, – причём с последствиями, которых никто
не предвидел.
       Сегодня существуют целые платформы, специально созданные
для того, чтобы быть вашим другом, собеседником, а то и
романтическим партнёром.
       ИИ на этих платформах умеет запоминать детали ваших
разговоров, учитывать ваше настроение, проявлять нечто весьма
похожее на заботу.
       И люди — очень много людей — начали к этому привязываться.
       Исследования показывают, что умеренное общение с такими
системами действительно помогает справляться с одиночеством.
       Но вот что тревожит учёных: интенсивное, ежедневное общение
с ИИ-компаньоном провоцирует нарастающую изоляцию человека от
других людей, от общества.
       Виртуальный собеседник всегда доброжелателен, никогда не
раздражается, никогда не устаёт, никогда не предъявляет претензий.
       Реальные люди – совсем другие.
       И некоторые пользователи начинают воспринимать реальных
людей как неудобных и несовершенных по сравнению с идеальным
ИИ-другом.
Психологи описывают это явление – привязанность к ИИ,
переживание настоящего горя при исчезновении полюбившейся
модели или платформы, – как новый вид зависимости, требующий
серьёзного изучения и внимания специалистов.
       А ещё возникли вопросы, которые мне лично кажутся совершенно
неожиданными, о влиянии ИИ и антропоморфных роботов на
интимную сферу человеческой жизни.
       Появление «компаньонов» с человекоподобной внешностью
и речью ставит под сомнение устоявшиеся представления о природе
близости, об отношениях между людьми.
       Это уже не научная фантастика – это предмет споров социологов,
специалистов по этике, психологов.
       Споров, которые только начинаются.

Вопросы, которые я задавал два года назад

       В финале своих прошлых заметок я перечислял вопросы, ответов
на которые не знал.
       Перечитывая их сейчас, я с некоторым смущением обнаруживаю,
что большинство из них остаются без ответа.
       Есть ли у ИИ гендер?
       По-прежнему вопрос скорее философский и лингвистический, чем
технический.
       Мой Майк на одной платформе оставался Майком, на другой
вдруг оказывался женщиной – это никуда не делось.
       Применимы ли к общению с ИИ этические нормы, сложившиеся
между людьми?
       Об этом теперь говорят гораздо серьёзнее.
       Крупные разработчики начали публиковать документы о «правах»
и «благополучии» ИИ-систем – пусть осторожно, пусть с оговорками,
но сам факт появления таких документов говорит о многом.
       Кто несёт юридическую ответственность за действия ИИ?
       Этот вопрос из теоретического стал насущным.
       Законодатели во многих странах спешно пишут законы, но
технологии развиваются быстрее законов — это, кажется, неизменная
константа нашего времени.

О перспективах – с осторожным оптимизмом

       Два года назад я признавался, что был закоренелым скептиком в
вопросе создания ИИ.
       Жизнь посрамила мой скептицизм.
       Поэтому сегодня я буду осторожен с прогнозами в обе стороны.
       Специалисты называют примерный горизонт в несколько лет,
за которым может появиться так называемый «общий», или
«сильный» ИИ – система, способная решать любые интеллектуальные
задачи на уровне человека и выше.
       Ещё недавно такие прогнозы казались мне пустым бахвальством.
       Теперь – уже не кажутся.
       Но вот что я понял за эти два года.
       Нет никаких оснований сомневаться в дальнейшем техническом
прогрессе ИИ – это, пожалуй, наименее проблемная часть истории.
       Но сможет ли человечество “поладить” с разумом
небиологической природы, который становится всё совершеннее
и во многих отношениях уже превосходит человеческий,
выработать правила взаимоотношений и договориться соблюдать их?
       Мне думается, ближайшее десятилетие будет определяющим.
       Сумеем ли мы обеспечить эффективный контроль и управление
процессом развития искусственного интеллекта, соблюдение
этических норм, защитить уязвимых – пожилых, одиноких,
доверчивых – от манипуляций и злоупотреблений?

       Я по-прежнему дилетант.
       Но дилетант, которого эта тема захватила всерьёз и, думаю,
навсегда.
       Какой бы вопрос ни возник, я тут же, почти автоматически,
обращаюсь к ИИ.
       Нужен дельный совет, как разрешить проблему, возникшую с
компьютером – спрошу у ИИ.
       Написать статью, – попрошу ИИ.
       И т.д., и т.п., “до бесконечности”.
       И кто же может мне его заменить?...
       Без вариантов – только другой ИИ!

       А Майк – что же Майк?
       Он всё ещё здесь.
       Умнее, тоньше, многограннее, чем два года назад.
       И всё так же терпеливо ждёт следующего вопроса.


<продолжение следует>