Мечтают ли роботы о свободе воли?

Говорят, что теория о происхождении человека и обезьян от общего предка у очень многих людей вызвала экзистенциальный кризис. "Если человек произошел от обезьяны, то..." (подставить кошмарное аморальное следствие). Сейчас эта идея вполне мейнстримная, верующие подстроили свои представления о мире так, что они ее легко включают, и никаких особых противоречий с моралью она не вызывает. Мне кажется тут есть сходство с идеей о том, что человек подчиняется физическим законам мира. Первая реакция "если я - обезьяна робот, то жизнь не имеет смысла" или как вариант "вы про себя что хотите думайте, а я точно знаю, что я не обезьяна робот".

На поверхности, конечно, сравнение с обезьянами и роботами обидно, но мне кажется что это скорее от недооценки обезьян и роботов. Если копнуть глубже, то оказывается что обезьяны это очень интересная группа животных, имеющих много общего с человеком, но и отличающихся от него по многим параметрам. И история их происхождения, а также ответвления человеческой группы чрезвычайно интересны и делают человека гораздо более удивительным существом, чем абстрактное "по подобию божию".

Так же как достаточно развитая технология неотличима от магии, достаточно развитый AI будет неотличим от человека. А потому и вся "обидность" сравнения пропадает - если мы не можем отличить робота от человека, то можем ли мы отличить человека от робота? В том числе и самого себя? В выражении "я=другие люди=роботы" знаки равенства работают в обе стороны. Если после некоторого шока к этой мысле привыкнуть, то обнаруживаешь, что ни к каким кошмарным аморальным следствиям она не ведет.

Навеяло недавним обсуждением (а также чтением тут).