Достаточно развитый нечеловеческий разум сможет имитировать гуманистическую мораль для того, чтобы извлекать выгоду для себя. Условный инопланетянин/робот без зеркальных нейронов будет придерживаться принципов морали, если поймёт, что это будет влиять на его благополучие в человеческом обществе и, соответственно, будет выбирать на тестах варианты, наиболее соответствующие человеческому поведению. Это моральная “китайская комната”.
Я бы всё же не был так уверен. Во-первых я слабо могу представить выгоду для ИИ/пришельца, если ему необходимо пожертвовать собой ради человеческого общества. А во-вторых, сам эксперимент на Талосе был секретный, и испытуемый не знал, что за ним наблюдают.
Достаточно развитый нечеловеческий разум сможет имитировать гуманистическую мораль для того, чтобы извлекать выгоду для себя. Условный инопланетянин/робот без зеркальных нейронов будет придерживаться принципов морали, если поймёт, что это будет влиять на его благополучие в человеческом обществе и, соответственно, будет выбирать на тестах варианты, наиболее соответствующие человеческому поведению. Это моральная “китайская комната”.
Я бы всё же не был так уверен. Во-первых я слабо могу представить выгоду для ИИ/пришельца, если ему необходимо пожертвовать собой ради человеческого общества. А во-вторых, сам эксперимент на Талосе был секретный, и испытуемый не знал, что за ним наблюдают.
Для этого не сильно-то нужны инопланетяне — хватит и «классической» психопатии.