Книга Фрэнка Паскуале «Новые законы робототехники» — очень пафосный, гуманный и т.д. протест против гипотетического будущего засилья ИИ и роботизированных систем, однако мне эта книга в значительной части не показалась убедительной. Прежде всего, автор смешивает недостатки ИИ с недостатками метода, лежащего в его основе и с недостатками целей, в которых этот ИИ используется. Например: ИИ оценивает претендентов на вакансию или потенциальных заемщиков исходя из корреляции с не относящимися к делу вещами, например походкой, а это несправедливо. Но, во-первых, оценка на основе корреляций и вероятностей- не специфична для ИИ, она появилась по меньшей мере тогда, когда была изобретена анкета. Этот метод может использоваться и без ИИ. Во-вторых, в сущности тем самым ставится вопрос о целях и полномочиях организаций, которые проводят обор. Чего мы хотим от них? Должны ли они отбирать самых эффективных работников и самых кредитоспособных заемщиков или нет? У меня иногда складывается впечатление, что в «подсознании» подобной критики лежит левая мечта о равенстве, дошедшая до мысли, что если блага нельзя раздать всем, то они должны распределяться рэндомно и вслепую. Вот это будет справедливо!
Второй серьезный недостаток аргументации Паскуале (и многих других современных критиков ИИ) заключается в том, что они сравнивают реальный несовершенный ИИ с идеализированным человеком – не принимая во внимание тот факт, что человек, которого ИИ заменяет – учитель, судья, генерал, банковский служащий – может быть в той или иной степени ужасным, неквалифицированным, безнравственным или вообще отсутствовать (учителя в районе давно нет). Это не решающий аргумент, но его надо иметь ввиду. Вообще автор (как и многие его единомышленники) не обременяют себя доказательством того, что человек делает работу ИИ лучше хотя бы с точки зрения справедливости и человечности (про эффективность молчим).
Ну а вообще книга интересная именно как демонстрация современного фронтира дискуссий на западе.
Нуи вот сами "Новые законы робототехники":
1. Роботы и ИИ должны дополнять профессионалов, а не заменять их.
2. Роботы и ИИ не должны притворяться людьми.
3. Роботы и ИИ не должны усиливать гонку вооружений с нулевой суммой(речь не только о войне но о любой подобной конкуренции).
4. Роботы и ИИ всегда должны содержать указание на своего создателя, оператора и собственника.
цитировать