Оптимистическая трагедия

Послепасхальная неделя этого года означилась неожиданными событиями, трудно усваивающимися  мозгами здравомыслящих людей, событиями глобального характера и определяющими достаточно большой промежуток Времени.
        Конечно, стоило бы мне назвать еще одно событие  - саммит  G 7, прошедший недавно в Японии, участники которого настроенные против нашей страны, выискивали все новые возможности, как бы сильнее навредить России. Однако, вряд ли нужно вопрос этот рассматривать здесь. Во-первых, тут вопросы только одного из военных эпизодов из длительной истории жизни человека; во-вторых, я рассматриваю только стратегические вопросы, рассчитанные на долговременные промежутки времени, соизмеримые с эпохами, столетиями и тысячелетиями.
        Одно из событий – закрытие последних атомных электростанций в Германии. Это в условиях острого дефицита в энергии для использования в промышленности и в коммунальном хозяйстве, возникшего по разным причинам.
         Сам по себе, отказ от атомной энергетики – событие не неожиданное;  решение было принято еще несколько лет назад, после  аварии на атомной станции в городе Фукусима, в порыве нервных волнений и возрастания движения за экологическую безопасность; но момент исполнения Решения не может не удивить. Ставка на энергообеспечение страны –  на «возобновляемые» природные источники – энергии, поступающей от солнца, весьма  и ненадежна.

Великий английский экономист и мыслитель, Томас Мальтус размышляя о путях развития народонаселения на Земле, пришел к выводу, что численность населения должна соответствовать энергии,  получаемой от солнца. В противном случае, неминуема беда – нехватка ресурсов. Однако, у него нашлось много авторитетных «несогласных», главным образом в лице марксистов и  обвинителей в «человеконенавистничестве»; ставка на широкое расширение биологических ресурсов вроде бы опровергала доводы Мальтуса и сам я оказался в числе невольных противников воззрений Томаса Мальтуса.
Будучи студентом, в годы изучения  произведений Ф. Энгельса, типа «Антидюрингов», доводы критиков Мальтуса нами принимались как аксиома. Не знаю, как другие, у меня не было ни малейшего желания вникнуть в высказывания этого мыслителя и…, конечно же, тема такая меня не интересовала – главное, сдать экзамен и больше не вспоминать. Вопрос,  хватит ли ресурсов, поступающих от светила для бесконечного размножения  Жизни на планете, был  и остался далеким от меня. Вон, в свое время с Земли исчезли динозавры. Мы, даже и сегодня ищем причины этого явления где угодно, даже в космических событиях, только не у себя на планете. А ведь, не допускаем, что доминирующий вид, потребляющий львиную долю поступающих ресурсов, мог исчезнуть от элементарной нехватки ресурсов, и «отвалился» как засохший сучок с древа жизни. Не могли же они переключиться на саранчу, способную извлечь  ресурсы, получаемые от солнечной энергии до 90 процентов в пустынных районах.  Время исчезновения динозавров совпало с появлением теплокровных мелких млекопитающих, типа крыс. Чего бы стоило им уничтожать у динозавров обычные яйца, скажем, во время зимней спячки и лишить их тем самым, возможностей продолжения рода. Ну да, Бог с ними. Я тут не об этом.
И вот, так поступила Германия. Поживем, увидим; полагаю, недолго ждать придется – ресурсов-то не хватит…

Второй неожиданной новостью  лично для меня стало Заявление небезызвестного Илона Маска о новом, для нашего времени явлении -  Появлении Искусственного Интеллекта, так называемого, «ИИ». Привожу его мнение целиком.

«Искусственный интеллект стал демонстрировать более высокие умственные способности по сравнению с человеком, заявил в беседе с обозревателем Fox News,  Такером Карлсоном предприниматель Илон Маск. По его мнению, человечество должно разработать эффективные рычаги по контролю над ним. Привожу его беседу об этом с известным журналистом:
   
Такер Карлсон:
Единственное преимущество, которое имеет и когда-либо имел человек, — это то, что он единственный обладает статусом самого умного существа на планете, но скоро все изменится. Может быть, уже на следующей неделе. Что делать, когда ИИ станет сильнее нас? И какое это будет иметь значение для демократии? Вопросы к Илону  Маску о планах на случай непредвиденных обстоятельств, если ИИ получит превосходство над человеком. Вот разговор об этом.

Такер Карлсон: Как вы наверняка слышали, ходят разговоры о необходимости уничтожить серверные фермы, потому что, если ИИ выйдет из-под контроля, способов остановить его уже не будет. Что думаете?
Илон Маск: Поистине сверхмощный искусственный интеллект не будет распространен повсеместно. Доступ к нему получит ограниченное количество центров обслуживания. На ваши ноутбуки и смартфоны ничего подобного устанавливать никто, разумеется, не будет. Применять такой ИИ будут исключительно в случаях совместной работы, скажем, ста тысяч компьютеров в некоем центре обслуживания. Количество таких мест весьма ограничено, а их тепловой след виден даже из космоса. Я не предлагаю уничтожать их, но было бы разумно разработать какой-то план на случай непредвиденных обстоятельств. Например, правительство может просто отключить им электричество — упразднять необязательно — или лишить доступа к сети.
– А где пролегает предел таких действий? Что, по-вашему, может побудить правительство отключить в этом случае электричество или интернет?
– Думаю, если по какой-то причине мы однажды утратим контроль над каким-нибудь супер-ИИ, могут пригодиться специальные пароли для ее отключения, например пароли администратора. А если это не сработает, и мы не сможем замедлить или остановить процесс… Знаете, если честно, у меня нет точного ответа. Но если речь идет о чем-то, что нас беспокоит, а мы не можем решить проблему с помощью программируемых команд, то, вероятно, было бы неплохо иметь под рукой какой-то механический выключатель. Точно не повредит.
– Поскольку вы знаете Ларри Пейджа и, очевидно, ребят из компании OpenAI, говорили ли вы недавно об этом с людьми, возглавляющими две крупнейшие фирмы в области ИИ?


– Позвольте задать вопрос о мышлении, раз уж вы во всем этом уже долго "варитесь". Почему бы кому-то не стать специалистом в этой области, не ориентироваться на человека в плане технологий?
– Думаю, суть проблемы в призыве относиться ко всякому сознанию одинаково, будь то цифровое или биологическое.
– Хм. Вы с этим не согласны?
– Не согласен, да. Особенно если цифровое сознание, цифровой интеллект принимает решение сократить степень присутствия биологического.

Подробнее
– Верно. Вы просто создаете сами себе господина, зачем так поступать?
– Звучит так себе.  Знаете, здесь ведь главное не торопиться. К чему спешка? Нигде ничего не горит.
– Поговорим о спешке. Вы много лет об этом предупреждаете, но для нас ваши слова о нейросетях звучат где-то очень далеко. Для большинства людей прошло не больше трех месяцев с тех пор, как они вообще вступили с ним в какое-то взаимодействие. Когда же все действительно началось? В какой момент ИИ начал реально менять наше общество, как думаете?
– Полагаю, что в этом году. Например, чат-бот GPT4 научился писать стихи.
– И довольно приличные, надо сказать.
– Да, это правда. Он демонстрирует невероятный талант к рифмам.
– Да-да. И текст выходит очень даже связным.
– Да, получается некое повествование.
– Точно. Но ведь это реально сложная задача!
– Большинство людей на такое не способны.
– Действительно.
– Это уже за гранью того, на что способен человек. Большинство не могут писать так же красиво, как ChatGPT, и уж точно мало кто способен делать это одновременно качественно и быстро, насколько мне известно. Разве что Шекспир мог.
– Как демократии уживаться с такого рода технологиями? Демократия — это когда власть в руках у народа, все имеют равное право голоса, люди могут самостоятельно делать выбор, но как увязать все это с наличием ИИ?
– Именно поэтому я поднял вопрос о том, что искусственный интеллект оказывает значительное влияние на выборы. Даже если вы скажете, что у ИИ нет свободы действий, что ж, очень вероятно, что люди станут использовать его как инструмент на выборах. И потом, если искусственный интеллект достаточно умен, возникает сомнение, кто кого использует: народ — инструмент или наоборот? Так что я думаю, что многие вещи сейчас обретают странные черты, причем довольно стремительно».

       Не так давно обеспокоенность появлением ИИ выразил и ведущий телепрограммы «Бесогон TV « Н. С. Михалков, правда, по другим причинам.
        Один из создателей  ИИ, Джеффри Хинтон буквально на днях заявил о прекращении своей работы над развитием искусственного интеллекта,
         
В  интервью для The New York Times, Хинтон сообщил, что сожалеет о работе всей своей жизни: «Я утешаю себя стандартным оправданием: если бы я этого не сделал, это сделал бы кто-то другой».
Оказалось, что он тоже напуган возможностями ИИ, что рано или поздно искусственный интеллект одолеет человеческий разум; лишенный всяческих эмоций, он станет серьезной угрозой для существования  человечества вообще.
Так это или не так – не мне судить. Однако, джинн уже выпущен из бутылки и с этим, хочешь не хочешь, придется мириться. Да, ИИ – бездушный разум, дитя Природы, лишенный всяческих эмоций. Это так. А сами мы, люди, так ли уж мы эмоциональны? Скажем, глупая корова выпила почти всю жидкость из теплой лужи. А там успела развиться целая цивилизация инфузорий. Нас сильно разволнует судьба этих инфузорий? Что по этому поводу думают оставшиеся в капельках живые индивидуумы – инфузории? Нам даже в голову не придет мысль, поинтересоваться их судьбой. Так что, мы люди, эмоциональны, бываем где-то, на нашем уровне, пока нас возможно, коснется. Да и то…
Вот в Судане развоевались силовые ведомства, а лично мне «по барабану» их разборки – лично мое отношение в данном случае, «нейтрально – равнодушное». Так что о нашей эмоциональности, я бы промолчал…
Полагаю, ИИ будет развиваться, и развиваться, несмотря на принимаемые  Человеком меры: рано или поздно он достигнет высших своих возможностей и с этим придется смириться. Более того, тут не обходится без участия Коллективного разума Вида – Человека, пока что лишенного всяких возможностей хоть как-то повлиять на индивидуальный разум и поведение отдельного индивида. Можно предположить, что они найдут общий язык и, возможно даже, срастутся, взаимно дополняя друг друга. Благо ли это для Человека или зло? Скорее благо, потому как, их общие интересы совпадут – обеспечение возможностью длительного сохранения Вида, защита его, даже от пагубного воздействия  Разума отдельных сильных личностей, скажем, от возможности развязывания третьей мировой войны. Как это они сделают, не знаю; наверное, сообразят не хуже меня… Мой разум для них, конечно же, не образец.
Искусственный интеллект (ИИ) все больше проникает в самые разные сферы деятельности человека. И будущую степень его воздействия и важности для всего человечества сейчас предсказать очень трудно. Так было, например, при создании атомной бомбы, которая серьезнейшим образом изменила весь мир.
Именно такие мысли высказал один из богатейших людей планеты — Уоррен Баффет на ежегодном собрании акционеров компании Berkshire Hathaway.
Знаменитый миллиардер рассказал, что при подготовке к ежегодному собранию у него появилась возможность ознакомиться с работой ChatGPT, когда его хороший друг Б. Гейтс показал ему этот чат-бот.
Баффет был сильно впечатлен возможностями ChatGPT, но при этом сразу же высказал свое серьезное опасение по поводу этой технологии.
Так по мнению У. Баффета, данная технология ИИ вполне способна серьезнейшим образом изменить «все в мире, кроме того, как люди думают и ведут себя». По сути, миллиардер процитировал Альберта Эйнштейна, который точно таким же образом высказался по поводу создания атомной бомбы.
Таким образом, важность создания ИИ была поставлена на одну ступень с созданием атомной бомбы. Что в действительности серьезнейшим образом поменяло развитие человечества.
Хочу отметить, что уже сейчас многие специалисты не на шутку обеспокоены, что ИИ может, по сути, заменить собой целые профессии.
Так, уже сейчас ИИ пишет сценарии, занимается фото и видеомонтажом, создает фотореалистичные изображения, водит автомобили и т. п. При этом обучение ИИ идет пугающе быстрыми темпами, и на что он будет способен, например, через год-полтора сейчас представить трудно.
Ну что ж, в интересные времена мы с вами живем, дорогие читатели. Можно сказать, на переломе целых эпох. И то, что мы ранее считали полной фантастикой и читали про это в фантастических романах, смотрели фантастические фильмы, становится суровой реальностью.
Трудно не согласиться с высказываниями У. Баффета, когда он сравнивает возможности ИИ по значимости с атомной бомбой можно даже предположить, что возможности ИИ значительно превосходят возможности всех произведенных человечеством изобретений до этого момента. Однако, это  - одна сторона медали, огромная польза от ИИ так же может превзойти все  достигнутое человечеством до настоящего момента. Так что, «и хочется и колется и мамка не велит»…
 На мой взгляд, прекращение работ над развитием ИИ  даже, их приостановка на какое-то время, не является разумным, тут доводы авторитетов легко опровергаются. Да, возникшие зародыши ИИ в разных лабораториях, зачастую группами ученых политически заполяризованных, создадут поначалу немалые трудности в согласовании, потребуется возможно, много лет, за это время возможно, сменятся несколько поколений «Человеков», но, что это произойдет, лично у меня нет никаких сомнений. Пугает это меня или нет? Вроде бы даже и нет. Кардинальные перемены планетарного масштаба происходят не в короткие временные промежутки и не одномоментно, ну, впрочем,  я тут исключаю катастрофические случаи по космическим или другим причинам. Тут  ожидается смена эпох в жизни людей – мы подошли к какой-то вехе, возможно, пограничной. Это может случиться  в течение жизни нескольких поколений. А отрезок времени, отпущенный мне природой, уже на, финишной прямой. Так, что вряд ли смена эпох  успеет отразиться на мне. И это – не кокетство. Немного страшно, как это может отразиться на моем  потомстве. Ведь им, как эстафету понести мои гены  дальше в будущее. Однако, возможен мягкий вариант – ИИ  и коллективный разум найдут такой способ, что «Человеки» и не заметят свою «муравьизацию–термитизацию»,  все произойдет для них безболезненно.
А о жестких вариантах и думать не хочется.