Понимание ИскИном ценностей человека и воспитание готовности принять жертву (по мотивам произведений Теда Чана и Иэна Макьюэна)

Abstract

Для того чтобы искусственный интеллект мог полноценно понимать человека и вести себя как человек, он должен разделять эволюционно возникшие человеческие предрасположенности к восприятию мира и других людей, к взаимодействию с ними. Герои повести Т. Чана «Жизненный цикл программных объектов» воспитывают ИИ как человеческих детей и понимают, что ИИ нужно давать задания, с которыми он может и не справиться. В повести это трактуется как воспитание ответственности, но в реальном мире у человеческих детей опыт неудач воспитывает готовность принимать жертвоприношения. Роман И. Макьюэна «Машины как я» можно интерпретировать как историю последовательных тестов ИИ на человечность. Искусственный человек успешно проходит различные варианты тестов Тьюринга и Лавлейс, но не проходит тест на принятие жертвоприношения. Вывод: для того чтобы ИИ разделял ценности человека, он должен, помимо прочего, быть предрасположен к принесению и принятию жертв.