Рецензия: Ева – искусственный разум

На этих выходных я ездил в Калининград в гости к моим друзьям из БФУ им. Канта читать лекцию студентам. В качестве одного из образовательных вечерних мероприятий организаторы предложили студентам поучаствовать в кино-семинаре: посмотреть и обсудить художественный фильм про искусственный интеллект (ИИ). Поднятая тема сама по себе очень интересная: есть ли разница между человеком и очень похожим на человека роботом? Имеет ли робот право на существование, свободу и на ошибку? Из множества известных мне фильмов про искусственный интеллект, Ева, пожалуй, наглядней остальных иллюстрирует эти проблемы. Это очень трогательный, до слез грустный и неожиданный фильм, после просмотра которого, у нас состоялись бурные дебаты. Всем, кто не смотрел фильм, советую остановиться сейчас, посмотреть кино и вернуться к моему обзору позже, т.к. он содержит спойлеры. Серьезно! Не дайте следующему параграфу испортить удовольствие от просмотра.

Многие, наверно, слышали о знаменитом утином тесте: если нечто выглядит как утка, плавает как утка и крякает как утка, то это, вероятно, утка и есть. Похожий смысл вложен в знаменитый тест Тюринга на искусственный интеллект: если в серии испытаний мы не можем отличить ИИ от живого человека, значит, ИИ достиг уровня человеческого развития. Правда я не знаю, что тест Тюринга говорит о ситуации, когда мы можем отличить ИИ от человека, но только потому, что ИИ слишком умный. Но фильм не совсем об этом. Еще раз предупреждаю про спойлеры!

Итак, вы посмотрели фильм и знаете, что главный герой фильма (назовем его Конструктор) работает над созданием искусственного интеллекта для ребенка-андроида (человекообразного робота). Чтобы наделить его свойствами человеческой личности, Конструктору был нужен некий образец детской психики, и Конструктор выбрал девочку по имени Ева, которая кажется ему интересней остальных детей. После оказывается, что Ева – дочка бывшей возлюбленной Конструктора, с которой он когда-то вместе работал. Десять лет назад по необъясненным причинам Конструктор бросил свою девушку и проект, над которым он работал, и уехал из города. Так или иначе, главный герой много общается с Евой и между ними образуется нежная эмоциональная связь, как между отцом и дочерью. Тем временем девочка сдает различные тесты, а Конструктор пытается перенести психику Евы внутрь своего андроида. По мере развития сюжета у зрителя возникает стойкая уверенность, что Ева – дочка главного героя. Ева как будто осознает это и поэтому пытается воссоединить Конструктора со своей мамой.

Но стоит зрителю сказать себе «ой, как банально: сейчас случится классический поворот сюжета и окажется, что она его дочь», оказывается, что Ева вовсе и не дочь главного героя. Она сама андроид, причем такой андроид, которого на протяжении всего фильма не смог распознать даже главный специалист по ИИ (о чем в фильме говорится прямым текстом с самого начала), который тесно общался с Евой, делал всевозможные тесты для изучения ее личности и так далее. Более того, в основе Евы лежит программа, которую он сам писал вместе со своей бывшей девушкой («мамой» Евы), т.е. в каком-то смысле она, действительно, его дочь.

Что не менее важно, на протяжении фильма зритель тоже не принимал Еву за робота. Таким образом, нам показывают андроида, который прошел «супертест Тюринга». Андроида, которому мы сопереживали и которому мы симпатизировали. Дальше сценаристы устраивают ситуацию, в ходе которой Ева по неосторожности толкает свою «маму» с обрыва, что приводит к гибели последней. Ева раскаивается и просит Конструктора переделать ее, исправить, улучшить, но только не деактивировать. Главный герой обещает помочь, но вместо этого в заключительной очень грустной и эмоциональной сцене произносит ключевую фразу, которая дезактивирует Еву, уничтожая ее эмоциональную память, являющуюся по задумке сценаристов ее «душой». Фраза эта: «что ты видишь, когда закрываешь глаза?» Лично мне Еву очень жалко, а Конструктор вызывал у меня страшную злость и негодование. Как он мог?! Впрочем, снизим уровень эмоций до «шестого уровня».

Посмотрев фильм я еще больше убедился в том, что для меня не важно, какая передо мной форма жизни: углеродная или кремниевая, важно лишь то, обладает ли она мышлением, памятью и эмоциями. Если Ева неотличима от человека, будь она трижды роботом, она все равно человек в моем представлении.

В нашей аудитории две трети студентов были солидарны с позицией, что Конструктор не имел права уничтожать Еву. Да, можно сказать, что Ева была создана подобно игрушке, а значит, ее создатели имели право поступать с ней как со своей собственностью. Но в таком случае, почему мы эту логику не применяем к детям, которые тоже созданы своими родителями? Как говорил Тарас Бульба: «Я тебя породил, я тебя и убью». Человеческое мышление – это передача нервных импульсов от нейронов к нейронам внутри головного мозга. В компьютерном мозге такое же электричество, такие же нейроны, просто из другого вещества. В чем принципиальное отличие?

Треть студентов считала, что Еву правильно уничтожили. Она не человек. Она угроза нашему биологическому виду, небезопасный робот. Был даже такой аргумент: если бы Бог хотел, чтобы существовала искусственная жизнь, он бы сам ее создал. На последнее я возразил тем, что тогда и вязаный свитер на студенте противоречит божественному плану и должен быть немедленно сожжен. Иначе бы Бог сотворил людей вместе со свитерами, и их не пришлось бы вязать.

Еще один очень интересный аспект отношений с ИИ был поднят в сериале «Черное Зеркало». Это необычный сериал про новые проблемы, с которыми общество может столкнуться в век развития информационных технологий. В одной серии женщина, скорбящая по утрате мужа, обращается в специальную контору, которая делает для нее «дубликат». Это робот, который внешне неотличим от человека, с которого он срисован. Робот запрашивает доступ в социальные сети усопшего и, изучая его переписку, интересы, контакты и т.д., воссоздает его личность. Разумеется, получается хоть и очень близкая копия, но не идентичная, что пугает главную героиню. Является ли этот робот способом утешить скорбящего или пугающей карикатурой на некогда живого человека и можно ли его полюбить?

В фильме «Она» тема любви между человеком и ИИ раскрывается в полной мере. Одинокий мужчина влюбляется в свою заботливую остроумную операционную систему, но сталкивается с тем, что компьютер интеллектуально изменяет ему через интернет с огромным количеством других людей. Кто-то скажет, что это абсурд, но уже сейчас люди нередко влюбляются «через интернет» в людей, которых они никогда не видели, с которыми они только общались. Кстати, некоторые люди даже используют чат-боты для заведения реальных знакомств. Сначала чат-боты находят девушек, потенциально заинтересованных в общении, а потом передают списки хозяину, который занимает их место и перехватает разговор в свои руки.

Одна из самых забавных сцен фильма – новая форма сексуальных отношений. Как заняться сексом с компьютером? Обратный виртуальный секс: находится девушка, которая готова стать «телом ИИ», его глазами и ушами с помощью камеры и микрофона. Эта девушка – по сути, актриса, которая подчиняется указанием ИИ, говорит слова, которые ИИ шепчет ей в наушник, выполняет все, что ей говорит ИИ, берущий на себя полный контроль над ее телом. Для девушки это особая форма разнообразить сексуальный досуг, а для компьютера это способ удовлетворить желания возлюбленного. Кстати, уже существует услуга, позволяющая одному человеку дистанционно управлять другим, смотреть на мир его глазами, например, пройти экскурсию по другому городу. Почти как в фильме «Быть Джоном Малковичем», который некогда воспринимался как фантастика, а теперь как технически достижимая реальность. Думаю, и в современной секс индустрии это тоже используется, просто пока без участия ИИ.

В ходе обсуждения фильма Ева был поднят еще один вопрос – зачем вообще создавать искусственную жизнь? В чем мотивация человека? Мне кажется, что ответ прост. Человек был порожден в результате эволюции не абы каким, а любознательным. По-видимому, любознательность была важной особенностью, необходимой для выживания нашим предкам. А наше стремление создавать всякие штуки вроде компьютеров и искусственной жизни есть лишь следствие тех адаптивных принципов мышления, которые в нас заложены от природы. Хотя, конечно, это лишь один из возможных мотивов: у каждого человека он может быть свой. Кто-то хочет понять, как вообще устроено мышление, в том числе его собственное. Кто-то стремится к техническому прогрессу и улучшению качества жизни людей (а роботы тут могут помочь). Кто-то просто хочет создать хорошую игрушку и заработать на этом денег. Мотивы могут быть разными, но я думаю, что искусственный интеллект, качественно неотличимый от нашего, в скором времени создан будет. И тогда нам очень пригодятся все эти фантастические книги и фильмы, чтобы понять, как с ним быть. Чтобы мы были готовы ко всяким этическим дилеммами, юридическим казусам и просто интересным ситуациям описанным выше.