Обложка канала

Толкователь

47108 @tolk_tolk

Канал Блога Толкователя: история, социология и другие гуманитарные науки, аналитика, актуальная повестка дня и размышления. Основатель канала бывший главный редактор "Русской Планеты" Павел Пряников.

Толкователь

3 года назад
Открыть в
У трёх знаменитых правил робототехники Айзека Азимова было и продолжение. Три правила он сформулировал ещё в 1942 году: - Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. - Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. - Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам. Эти правила он придумал, когда не было ни ЭВМ, ни кибернетики, ни самих роботов. Спустя 44 года, в 1986 году, Азимов предложил дополняющий Нулевой закон: - Робот не может причинить вреда человеку, если только он не докажет, что в конечном счёте это будет полезно для всего человечества. Это правило Азимов вывел, когда люди уже имели кибернетический опыт и его практические результаты. Писатель вообще до конца своих дней размышлял о проблемах искусственного интеллекта (ИИ). Например, что робот будет считать вредом? Алкоголик, наркоман, курильщик, преступник с огнестрельным оружием, экстремальщик (например, скалолаз или подводный ныряльщик) - все наносят себе вред сразу или с высокими потенциалом вреда, и обязан ли робот это предотвратить? Также Азимов был уверен, что дарвиновская теория - похожие виды не уживаются в одной экосистеме, и один из них должен уничтожить другого - применима и к сожительству человека и ИИ. Согласно этому постулату Дарвина, например, кроманьонцы истребили неандертальцев. Но Азимов был оптимистом: он верил, что ИИ выработает свою этику, наподобие того, как ранние люди придумывали религию. И в этой этике - новой робо-Религии - люди будут в роли нынешних домашних животных: роботы будут нас держать и заботиться, как это мы сегодня делаем с кошками. Это и будет библейским Раем.