Рецензия на «Что вы тут все делаете? Или- Прощай Творчество?» (Ярослав Янков)

ОТНОСИТЕЛЬНО "СВЕЖЕНЬКОЕ" на ТЕМУ ИИ .

ОСНОВНОЙ ПЕРВОИСТОЧНИК - The Guardian: ИИ американского беспилотника уничтожил оператора на испытаниях , ССЫЛКА на СТАТЬЮ - ИСТОЧНИК - http://habr.com/ru/news/739386/

ЦИТИТРОВАНИЕ :

<<На испытаниях в США беспилотник с ИИ принял решение убить оператора
2 мин
15K
Искусственный интеллект
Полковник ВВС США Такер Гамильтон, начальник подразделения по тестированию и эксплуатации ИИ-систем, рассказал, что во время учений искусственный интеллект использовал "весьма неожиданные стратегии", вплоть до решения уничтожить оператора-человека. В реальности никто, разумеется, не пострадал, но сама ситуация заставила военных задуматься.

Гамильтон привел в пример испытания ИИ-системы, предназначенной для уничтожения зенитно-ракетных комплексов, и получающей баллы за успешно выполненную задачу. Хотя идентификация цели выполнялась автоматически, окончательное решение о нанесении удара оставалось за человеком. Здесь-то и выяснилось, что ИИ мог принять решение уничтожить управляющего им оператора, если тот отменял приказ на уничтожение и таким образом мешал успешно выполнить задачу, поставленную перед машиной.

Когда это обнаружили, в работу комплекса внесли изменения, запрещающие уничтожать оператора. Однако ИИ и здесь оказался на высоте. Когда оператор отменял приказ на поражение цели, беспилотник принимал решение атаковать вышку связи, через которую получал команды, вступающие в противоречие с боевой задачей.

"Нельзя рассуждать oб искусственном интеллекте, интеллекте, машинном обучении и автономности без рассуждений об этике применительно к ИИ", - подвел итог полковник Гамильтон.

Апдейт. Королевское авиационное общество, материал которого и поднял эту бурю, опубликовало опровержение.

Так, нам сообщают, что полковник Гамильтон допусти "оговорку" в своей презентации на саммите Future Combat Air and Space Capabilities Summit, организованном RAeS. Имитация учений с использованием ИИ-беспилотника была "гипотетическим мысленным экспериментом" с правдоподобным сценарием, никак не связанным с военными ведомствами.

"Мы не только никогда не проводили подобный эксперимент, но и не нуждались в нем, чтобы подтвердить правдоподобность такого результата", - сказал Гамильтон.

Он также уточнил, что ВВС США не испытывали подобным образом ИИ с оружием (будь то учения или симуляция).

"Несмотря на гипотетичность ситуации, это наглядная иллюстрация вызовов, которые ставит ИИ и причина того, что ВВС придерживаются этики в разработках с применением ИИ", подчеркнул Гамильтон.

PS. В общем, если сложить это с заявлением представителя ВВС США Энн Стефанек о том, что "Департамент ВВС не проводил подобных испытаний и остается преданным идее этичного и ответственного использования ИИ", а также о том, что "слова полковника были вырваны из контекста и доведены до абсурда", можно будет представить, что проснушвийся сегодня утром знаменитым полковник Гамильтон или уволился в запас неделю назад, или вообще никогда не служил в ВВС.>>
КОНЕЦ ЦИТИРОВАНИЯ

КОММЕНТ АВТОРА :
Ну-ну, ну-ну . . .
Автор конечно же ценит юмор комментария представителя департамента ВВС США, и прочее. Однако , исходя из своего личного опыта работы и жизни хорошо знает, что вышестоящее начальство , конечно же там , за океаном , очень часто грешит против Правды (мягко говоря), исходя сугубо из государственных и своих интересов . . .

================================

- Восторги комментаторов по поводу человекоподобного робота "София", который по утверждению его создателя обладает ИИ : того самого знаменитого робота, который "выступал" и в ООН, и на многих презентациях с шоу, и который так и заявил во всеуслышание, что уничтожит человечество.
Можно посмотреть и "насладиться зрелищем" тут - http://www.youtube.com/watch?time_continue=161&v=xTbCj-nKZgc&feature=emb_logo

- А уже более года назад , а именно весной 2020 года , автономно управляемый искусственным интеллектом дрон-терминатор , впервые сам замочил человека , выполняя свою боевую задачу :

http://yan dex.ru/search/? lr=213&text=%D0%B0%D0%B2% D1%82%D0%BE%D0%BD %D0%BE%D0%BC%D0%BD%D0%BE%20%D1%83% D0%BF%D1%80%D0%B0%D0%B2%D0%BB%D1%8F %D0%B5%D0%BC%D1%8B%D0%B9%20%D0%B4% D1%80%D0%BE%D0%BD%20%D0%B2%D0%BF%D0%B5%D1% 80%D0%B2%D1%8B%D0%B5%20%D1%81%D0%B0%D0% BC%20%D1%83%D0%B1%D0%B8%D0%BB%20%D1%87%D0%B5% D0%BB%D0%BE%D0%B2%D0%B5%D0%BA%D0% B0&redircnt=1623905233.1

[ Ссылка на выдачу Яндекса по данной "исторической новости" набрана тут с пробелами внутри , иначе она не отображается . Перед запуском из браузера следует убрать все эти пробелы . ]

Например вот сообщение издания =RT на Русском= .

ЦИТИРОВАНИЕ :
<< Эксперт прокомментировал случай самостоятельного нападения БПЛА на человека
31 мая 2021, 22:50

Специалист американского Национального консорциума по изучению терроризма Зак Калленборн прокомментировал описанный экспертами Совета Безопасности ООН случай, когда беспилотный летательный аппарат в автономном режиме предпринял атаку на человека.

Эпизод, произошедший в марте 2020 года в Ливии, изложен в исследовании специалистов. Документ был опубликован в марте 2021 года.
Согласно докладу, произведённый в Турции дрон, предположительно, Kargu-2, работал в автономном режиме и был запрограммирован для атаки целей без необходимости команд от оператора, пишет Axios.
Согласно описанию, дрон использует «компьютерное зрение» для выбора целей и их поражения «без связи между дроном и его оператором».
По словам Калленборна, подобный случай может быть первым, когда БПЛА автономно атаковали людей и в связи с этим «подняли тревогу», пишет New York Post.
Эксперт также задался вопросом, «насколько хрупка система распознавания объектов» и как часто беспилотник может совершать ошибки при определении целей. >>
КОНЕЦ ЦИТИРОВАНИЯ .

Ну что ещё можно добавить к этой "прекрасной" новости ?

Ясно одно , что теперь человечество "успешно" перешагнуло знаковую ЧЕРТУ . . . И , всеобщий тотальный глобальный кризис "успешно" проходит все точки невозврата , и будет идти по нарастающей .

Ярослав Янков   02.06.2023 17:42   •   Заявить о нарушении