Роман в новеллах «Я, робот» относится к одной из самых важных работ в истории фантастики. Сформулированные Азимовым ТРИ ЗАКОНА РОБОТЕХНИКИ легли в основу науки об Искусственном интеллекте.Что случится, если робот начнет задавать вопросы своему создателю? Какие будут последствия программирования чувства юмора? Или возможности лгать? Где мы тогда сможем провести истинную границу между человеком и машиной?В «Я, робот» Азимов устанавливает свои Три Закона, придуманные для защиты людей от их...
Просто специалисты «Ю. С. Роботс» хотели выловить все недоделки составного робота. Недоделок хватало – и всегда по меньшей мере десяток оставался до полевых испытаний. Поэтому Пауэлл с Донованом беспечно отдыхали в ожидании того момента, когда ребята с логарифмическими
Длинный безвоздушный туннель, уходящий вдаль, напоминал Пауэллу об огромной работе, проделанной Первой экспедицией с ее убогим снаряжением. Да, она окончилась неудачей, но эта неудача стоила иного легкого успеха.
Каждая эпоха в развитии человечества, – начал Координатор, – характеризовалась собственным определенным видом конфликтов – набором проблем, которые, как казалось, могли быть разрешены только путем применения силы. И всякий раз, увы, оказывалось, что применение силы вовсе не приносит решения проблемы. Наоборот, противоречие вызывало еще
Машина продумывает за нас наше будущее не только в плане выдачи корректных ответов на корректно заданные вопросы, но также принимает стратегические для развития человечества решения и учитывает человеческую психологию. Знание об этом может сделать нас несчастными и ранить нашу гордость, а этого Машина допустить не может. Она не должна делать нас несчастными.
Донован услышал напряженный голое Пауэлла:
– Теперь слушай. Начнем с трех основных законов роботехники, – трех правил, которые прочно закреплены в позитронном мозгу. – В темноте он начал загибать пальцы. – Первое. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
– Правильно.
– Второе, – продолжал Пауэлл. – Робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону.
– Верно.
– И третье. Робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму Законам.
Если человек давно и глубоко погружен в свою узкую специальность, он неизбежно начинает считать специалистов во всех других областях волшебниками, причем глубина этого заблуждения прямо пропорциональна глубине его собственного невежества в этих сферах…
Если учесть самоочевидное предположение, что ни одно существо не может создать другое существо, превосходящее его, — это разбивает вдребезги вашу нелепую гипотезу.
– Пятьдесят лет – долгий срок. – Я не придумал ничего лучше этой избитой фразы.
– Ничуть, если это ваше прошлое, – возразила она. – Я думаю, как это они так быстро пролетели.
Я вдруг осознал, какие глупые создания эти люди. Не существовало законов, регулирующих человеческие поступки. Поэтому людям пришлось самим придумывать нужные правила, но даже после этого они не могли заставить себя им следовать.
— А разве психология роботов так отличается от человеческой?
— Огромная разница. — Она позволила себе холодно улыбнуться, — Прежде всего, роботы глубоко порядочны.
Если бы был создан робот, способный стать общественным деятелем, он был бы самым лучшим из них. По законам Роботехники, он не мог бы причинять людям зла, был бы чужд тирании, подкупа, глупости или предрассудков. И прослужив некоторое время, он ушёл бы в отставку, хотя он и бессмертен, — ведь для него было бы невозможно огорчить людей, дав им понять, что ими управляет робот. Это было бы почти идеально.
Всегда старайся сначала подумать, а потом лучше промолчи.
В этом зале утверждалось, что свободным может быть только человек. Но мне кажется, что быть свободным может только тот, кто хочет свободы.