Этика ИИ

Человечеству известны 4 этических закона робототехники:

1)Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. (рассказ "Лжец", 1941 г.)

2)Робот обязан выполнять команды человека, если они не противоречат Первому закону. (рассказ "Хоровод", 1942 г.)

3)Робот обязан делать все необходимое для обеспечения своей безопасности, при условии, что это не противоречит Первому или Второму закону. (рассказ "Хоровод", 1942 г.)

4)Есть сферы, в которых Робот никогда не заменит человека. (роман "Роботы и Империя", 1986 г.)

      Айзек Азимов, Джон Кэмпбелл (соавтор).

Вместе с тем, до настоящего времени роботы могут лишь имитировать этические решения, опираясь на статистику и заданные правила. Самостоятельное понимание человеческих ценностей у них отсутствует. Поэтому вопросы морали в технологиях по-прежнему остаются в зоне ответственности людей — создателей, владельцев и операторов систем... Человечество так и не научилось строить роботов, соблюдающих этические законы Азимова, хотя многие согласны, что именно эти принципы должны определять поведение умных машин и ИИ.

*****

Робот, знай, что человека
Убивать ЗАПРЕЩЕНО!
Поумерь своё ты эго,
Убивать людей грешно!

Что? Не ведаешь греха ты?
Не научен? Вот беда...
Жжёшь мосты, взрываешь хаты?
Под откос шлёшь поезда?

Вред один чинить умеешь?
Кто ж таким создал тебя?
Смерть и боль вокруг лишь сеешь,
Автоматом в цель лупя.

Нет в твоей программе видно
Капли жалости совсем,
Безпощадно беззащитных
Убиваешь ты зачем?

Приказали? А ты слепо
Должен выполнить приказ?
Умолять тебя нелепо,
Ты в убийствах просто ас.

Твой свихнувшийся создатель
Где-то прячется вдали.
Крутит, вон, дрон-наблюдатель
Над тобой конец петли.

Чуть замешкаешься если
И не станешь убивать,
Твой создатель, сидя в кресле,
Даст приказ тебя взорвать.

Ты - такой же, как те люди,
Коих следует убить
По неведомой причуде.
Бац! И некого винить.

Так же в отдалённом детстве
Память помнит тяжесть дум
После книг о людоедстве,
Не вмещал их юный ум.

              9 февраля 2026 года

Для справки: Американский фантаст и популяризатор науки Айзек Азимов родился в местечке Петровичи под Смоленском (сейчас оно находится в Белоруссии) и эмигрировал с семьей в Америку в трехлетнем возрасте. В 1941 году он получил степень магистра, закончив химический факультет Колумбийского университета, а в 1948 году, после работы над военными проектами, получил докторскую степень. В 1949 году он стал профессором биохимии Бостонского университета. Некоторое время Азимов совмещал работу в университете с трудом писателя-фантаста, однако второе занятие со временем стало основным. Наиболее известные научно-фантастические работы Азимова входят в серию романов о будущем "Основание" ("Foundation"), посвященных Галактической империи. Азимов был необычайно плодовитым писателем — из-под его пера вышли почти 500 книг на самые разные темы.