Термин Законы роботехники

Термин «Законы роботехники»

Синонимы:
Роботехники законы

«Законы эти вымышленные, так же как вымышлен фантастами и сам Азимов».

С. Златаров. «Случай «Протей»


Три закона роботехники, которые управляют поведением вымышленных позитронных роботов Айзека Азимова, искусственного интеллекта и роботов, придуманными другими фантастами, были сформулированы Азимовым в 1942 году в рассказе «Хоровод». Законы гласят:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

В более раннем рассказе 1941 года «Лжец!» упоминается только Первый, единственный закон. Азимов вспоминал, что 23 декабря 1940 года, за обсуждением очередного рассказа о роботах, Кэмпбелл сформулировал то, что стало позже известно как три закона роботехники. Позже Кэмпбелл говорил, что он просто вычленил законы из того, что Азимов уже написал. Сам же Азимов всегда уступал честь авторства трёх законов Кэмпбеллу.

Сюжеты-головоломки следующих рассказов цикла развиваются из придирок к определениям — что такое «человек»? — и конфликтов между потенциалами законов в позитронном мозге. Например, ценный робот в «Хороводе» имеет усиленный Третий закон самосохранения, который ставит его перед дилеммой приоритетов. Десятилетия спустя Азимов добавил Нулевой закон, имеющий приоритет над всеми тремя законами:

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.

Этот закон уже подразумевался в рассказе 1950 года «Разрешимое противоречие», в котором машины ради сохранения человечества, путем принятия локально-неоптимальных экономических решений, незаметно отодвинули от власти тех людей, которые не выполняли их рекомендаций и могли им угрожать. В конце концов, Азимов четко сформулировал Нулевой закон в 1985 году в романе «Роботы и империя».

Джон Слейдек в романе «Тик-Ток» придумал гениального робота-убийцу, который обнаружил, что не подчиняется законам роботехники и может делать все, что ему заблагорассудится. В романе Р. М. Аллена «Калибан» представлены традиционные роботы, подчиняющиеся трем законам, а также экспериментальный робот Калибан, который законам не подчиняется, обладает полной свободой воли и развивает свое собственное чувство этики. Големы из романа Пратчетта «Держи марку!» имеют очень похожий вариант Первого закона: «Стоп! Стоп! Есть же правило! Голем не может причинить вреда человеку или допустить, чтобы человеку был причинен вред! … Если Только Это Не Приказ, Исходящий От Вышестоящего Лица».

Дальнейшим законотворчеством занимались сразу несколько фантастов. Тун Эньчжэн предложил Четвертый закон «Робот не может влюбиться». Р. Шекли в рассказе «Робот Рекс» предлагает иную формулировку: «Робот не может быть пристрастен и помогать отдельным людям». Л. Дилов в рассказе «Роботы сознают свое предназначение» сформулировал новый закон так: «Во избежание недоразумений робот никогда не должен скрывать того, что он — робот». В книге Т. Пратчетта «Темная сторона солнца» упоминается одиннадцатый закон: «Нельзя демонтировать робота за то, что он подчинился приказу, — Одиннадцатый Закон Роботехники, клауза С, с поправкой, — твердо возразил робот…» В повести В. Чиркова «Робот в шляпе» представлен ещё один закон, действующий подобно азимовским, запрещающий роботу лгать человеку. Однако умный робот Знайка обходит этот закон: в преддверии разговора с людьми он обманывает другого робота, а тот уже, в свою очередь, повторяет версию Знайки людям, не зная, что она ложна.


© «Энциклопедия НФ» Никколса и Клюта, с изменениями



  Список произведений, в которых упоминается термин:


Сортировка:

Романы

  •   Обнажённое солнце / The Naked Sun (1956) [Дельмар мечтал о создании роботов, которые могли бы обходить действие Первого закона и при этом не выходить из строя] // Автор: Айзек Азимов  
8.44 (2165)
-
49 отз.
8.14 (1538)
-
43 отз.
6.92 (227)
-
9 отз.
7.43 (687)
-
14 отз.
  •   Край Академии / Foundation's Edge  [= Кризис Основания; Край Основания; Сообщество на краю; Академия на краю гибели; Предел Фонда] (1982) [жизнь геян основана на законах роботехники] // Автор: Айзек Азимов  
8.32 (1956)
-
26 отз.
  •   Tik-Tok (1983) [роман высмеивает понятие «Три закона робототехники» и предполагает, что такие сложные моральные принципы никак не могут быть встроены в какое-либо разумное существо] // Автор: Джон Слейдек  
-
  •   Роботы и Империя / Robots and Empire (1985) [Нулевой закон: «Робот не может принести вред человечеству, или своим воздействием допустить, чтобы человечеству был нанесен вред». Соответствующим образом видоизменялись и три остальных закона. Роботы сами себя программируют на Нулевой закон] // Автор: Айзек Азимов  
8.25 (1319)
-
27 отз.
  •   Прелюдия к Академии / Prelude to Foundation  [= Прелюдия к Основанию] (1988) [робот приносит пользу человечеству в соответствии с Нулевым Законом] // Автор: Айзек Азимов  
8.15 (2141)
-
50 отз.
  •   Калибан / Isaac Asimov's Caliban (1993) [представлены традиционные роботы, подчиняющиеся трем законам, а также экспериментальный робот Калибан, который законам не подчиняется, обладает полной свободой воли и развивает свое собственное чувство этики] // Автор: Роджер Макбрайд Аллен  
7.77 (123)
-
5 отз.
  •   Валгалла / Isaac Asimov's Utopia (1996) [роботы перестают следовать постулатам «Трех законов роботехники» и вместо того, чтобы быть верными слугами и помощниками людей, становятся их главными противниками в борьбе за выживание] // Автор: Роджер Макбрайд Аллен  
7.81 (86)
-
3 отз.
  •   Держи марку! / Going Postal  [= Опочтарение] (2004) [големы имеют очень похожий вариант Первого закона] // Автор: Терри Пратчетт  
8.78 (1617)
-
29 отз.

Повести

  •   Лев Комарры / The Lion of Comarre  [= Ушедшие в Комарру] (1949) [роботы обязаны выполнять распоряжения человека до тех пор, пока не получат другого приказа, противоречащего предыдущему] // Автор: Артур Кларк  
7.28 (165)
-
6 отз.
  •   Ржавый фельдмаршал  [= Остров ржавого генерала, Остров ржавого лейтенанта] (1968) [обыгрывается принцип непричинения вреда человеку. «Современный» гражданский робот отличается от «устаревшего» военного именно наличием такого запрета] // Автор: Кир Булычев  
7.93 (1696)
-
24 отз.
7.34 (169)
-
5 отз.
  •   Робот в шляпе (1989) [представлен ещё один закон, запрещающий роботу лгать человеку] // Автор: Вадим Чирков  
7.83 (6)
-

Рассказы

  •   Робби / Robbie  [= Strange Playfellow; Необычный друг] (1940) [в рассказе упомянут первый закон робототехники, согласно которому робот не может причинить вреда человеку] // Автор: Айзек Азимов  
8.25 (2122)
-
53 отз.
  •   Лжец! / Liar! (1941) [впервые упоминается Первый закон роботехники] // Автор: Айзек Азимов  
8.46 (2079)
-
45 отз.
  •   Pride (1942) [робот, оснащённый азимовскими законами, контролирующими его поведение, решает свои проблемы путём самостоятельной лоботомии] // Автор: Малкольм Джемисон  
4.00 (1)
-
  •   Хоровод / Runaround  [= Вокруг да около] (1942) [сюжет строится вокруг законов роботехники и заключается в разрешении героями дилеммы, порождённой этими законами] // Автор: Айзек Азимов  
8.15 (1841)
-
36 отз.
  •   Улики / Evidence  [= Доказательства] (1946) [автор детально изложил моральные обоснования Трёх законов] // Автор: Айзек Азимов  
8.46 (1549)
-
27 отз.
  •   Как потерялся робот / Little Lost Robot  [= Затерявшийся маленький робот] (1947) [робот, у которого ослаблено действие Первого закона] // Автор: Айзек Азимов  
8.37 (1869)
-
36 отз.
  •   Разрешимое противоречие / The Evitable Conflict  [= Конфликт, которого можно избежать; Разрешимый конфликт] (1950) [в рассказе заложены предпосылки появления Нулевого закона] // Автор: Айзек Азимов  
7.86 (1222)
-
16 отз.
  •   Будете довольны / Satisfaction Guaranteed  [= Гарантированное удовольствие; Гарантия качества; Удовлетворение гарантировано; Идеальный работник; Гарантированное удовлетворение] (1951) [в силу первого закона робот-домработник поднимает самооценку у домохозяйки] // Автор: Айзек Азимов  
8.14 (1115)
-
23 отз.
  •   Виртуоз / Virtuoso (1953) [робот должен пресекать любые действия, которые он расценивает как вредные для своего хозяина] // Автор: Герберт Голдстоун  
7.18 (190)
-
5 отз.
  •   Салли / Sally  [= Солли; Селли] (1953) [роботы-автомобили оказались способны убить человека, который постоянно причинял одному из них боль, тем самым нарушили Первый закон] // Автор: Айзек Азимов  
7.52 (520)
-
14 отз.
  •   Мятеж шлюпки / The Lifeboat Mutiny  [= Бунт спасательной лодки] (1955) [Первый закон спасательной шлюпки — ограждать экипаж от опасностей] // Автор: Роберт Шекли  
8.33 (2050)
-
53 отз.
  •   Безработный робот / The Velvet Glove  [= Джон Венэкс; Бархатная перчатка] (1956) [робот Венэкс подчиняется Первому закону] // Автор: Гарри Гаррисон  
7.72 (562)
-
20 отз.
7.50 (1428)
-
23 отз.
  •   Прелесть / Lulu  [= Лулу] (1957) [упоминается, что искусственный интеллект, управляющий космическим кораблём, подчиняется Первому закону] // Автор: Клиффорд Саймак  
8.05 (969)
-
36 отз.
  •   Ленни / Lenny  [= Лэнни; Робот ЛНЕ] (1958) [робот ударил человека, нарушил тем самым первый закон] // Автор: Айзек Азимов  
7.99 (1052)
-
20 отз.
  •   Испытание «СКИБР»  [= Испытание «СКР»] (1959) [упоминается, что роботы никогда не смогут причинить вред людям] // Автор: Аркадий и Борис Стругацкие  
7.45 (1353)
-
32 отз.
  •   Рыцарь (1965) [робот-андроид доказал, что законы роботехники гармонируют как с кодексом рыцарской чести, так и с правилами вежливости] // Автор: Виталий Бугров  
6.25 (4)
-
  •   Р/26/5/ПСИ и я / R26/5/PSY and I (1969) [упоминается противоречие действий робота первому закону роботехники] // Автор: Майкл Коуни  
6.91 (108)
-
4 отз.
6.54 (72)
-
1 отз.
  •   Конфликт законов / Conflit de lois  [= Конфликт между законами] (1971) [робот, который не может ассистировать, когда человеку разрезают живот, не может даже допустить, чтобы это было сделано — противоречие Первому закону доводит робота до умопомешательства] // Автор: Клод Ф. Шейнисс  
6.72 (85)
-
2 отз.
  •   Broot Force by Iclick as-i-move (1972) [пародия на азимовские придирки к законам роботехники] // Автор: Джон Слейдек  
-
  •   Зеркальное отражение / Mirror Image  [= Зеркальное отображение закона] (1972) [детективы допрашивают роботов, показания которых ограничены законами роботехники] // Автор: Айзек Азимов  
7.93 (1363)
-
25 отз.
  •   «…Яко помниши его» / ...That Thou Art Mindful of Him  [= — That Thou Art Mindful of Him!; That Thou Art Mindful of Him] (1974) [сложность и громоздкость позитронного мозга обуславливается обязательным знанием для робота трёх законов роботехники. Робот, мозг которого не обязан знать эти законы, будет миниатюрен, но и направлен на выполнение только одной функции] // Автор: Айзек Азимов  
7.87 (763)
-
11 отз.
  •   Santa Claws (1981) [упоминается, что восьмирукий робот-продавец подчиняется законам роботехники] // Автор: Э. М. Голдман  
5.00 (1)
-
  •   世界上第一个机器人之死  [= Shijie Shang Diyi ge Jiqiren zhi Si] (1982) [Четвертый закон роботехники: «Робот не может влюбиться»] // Автор: Тун Эньчжэн  
-
  •   Осознание роботов / Осъзнаването на роботите  [= Роботы сознают своё предназначение] (1983) [Четвёртый закон роботехники: «Во избежание недоразумений робот никогда не должен скрывать того, что он — робот»] // Автор: Любен Дилов  
6.71 (14)
-
2 отз.
7.19 (340)
-
9 отз.
  •   Робот-коробейник по имени Рекс / Robotvendor Rex  [= Робот Рекс; Роботорговец Рекс] (1986) [Четвертый закон роботехники: «Робот не может быть пристрастен и помогать отдельным людям»] // Автор: Роберт Шекли  
7.69 (617)
-
15 отз.
7.87 (748)
-
14 отз.
  •   Четвёртый закон (1988) [Четвертый закон роботехники: «Робот не должен допустить, чтобы с его помощью был причинён вред человечеству»] // Автор: Виктор Комаров  
7.00 (2)
-
7.00 (22)
-
1 отз.
  •   Четвёртый закон роботехники / The Fourth Law of Robotics (1989) [Четвертый закон: «Робот должен воспроизводиться до тех пор, пока такое воспроизведение не мешает Первому, Второму или Третьему закону»] // Автор: Гарри Гаррисон  
7.67 (636)
-
10 отз.
  •   Кэл / Cal (1991) [робот Кэл готов нарушить Первый закон роботехники] // Автор: Айзек Азимов  
8.09 (756)
-
16 отз.

Эссе

  •   Законы роботехники / The Laws of Robotics (1989) [Азимов отмечает, что действие трёх законов можно распространить на все инструменты, созданные человеком] // Автор: Айзек Азимов  
8.47 (112)
-
1 отз.



  Список фильмов, в которых упоминается термин:



Фильмы

  •   Запретная планета / Forbidden Planet (США, 1956) [робот имел иерархическую структуру команд, не позволявшую ему причинить людям вред, даже по приказу — такие приказы вызывали конфликт логических схем и блокировку] // Режиссёр: Фред М. Уилкокс  
  •   Конфискатор / Repo Man (США, 1984) [в сюжете фильма пародируется Первый закон роботехники] // Режиссёр: Алекс Кокс  
  •   Чужие / Aliens (США, Великобритания, 1986) [андроид Бишоп цитирует Первый закон] // Режиссёр: Джеймс Кэмерон  
  •   Двухсотлетний человек / Bicentennial Man (Германия, США, 1999) [робот NDR-114 процитировал три закона своим хозяевам как «развлекательную презентацию» с использованием своего голографического проектора] // Режиссёр: Крис Коламбус  
  •   Я, робот / I, Robot (Германия, США, 2004) [когда суперкомпьютер принимает решение ограничить свободу жителей планеты, чтобы они ненароком не нанесли вреда друг другу, он выполняет Нулевой закон. В фильме показывается противоречие Нулевого закона Первому, его неэтичность] // Режиссёр: Алекс Пройас  
  •   Финч / Finch (США, 2021) [изобретатель на основе дополненных трех законов робототехники создал андроида] // Режиссёр: Мигель Сапочник  

Сериалы

  •   Настоящий Арон Стоун / Aaron Stone (Канада, 2009 - 2010) [андроид по имени Стэн постоянно оговаривает закон и то что он не может его нарушить, иначе у него сгорят все микросхемы] // Режиссёр: Ларри А. Маклин, Пэт Уильямс, Эндрю Поттер  
⇑ Наверх