ИИ

Пока мы путешествовали, я продолжал слушать загруженные про запас подкасты и мне в нескольких местах попались упоминания Искуственного Интеллекта. В основном о том, что задача эта интересная, но с потенциально большими проблемами для общества, начиная с того, что в результате разработки ИИ огромное количество людей могут оказаться безработными, до классической войны с роботами, и даже до философских вопросов о том, что нам думать о человечестве, если вдруг окажется, что мы не самый интеллектуально развитый вид на Земле. Я тут запишу пару мыслей, которые мне пришли в голову при прослушивании этих обсуждений. Возможно для энтузиастов и специалистов по ИИ они будут звучать наивно или даже кардинально неверно, ну да ладно.

Как известно, точного определения что такое интеллект и как его измерять, у нас нет, но зато есть некое "встроенное чувство", которое позволяет нам по некоторым признакам судить о сравнительном интеллекте людей, животных, и машин. Я считаю, что к этому чувству надо относиться с большим подозрением - оно является результатом эволюционных и культурных процессов, и поэтому служит в первую очередь удовлетворению определенных требований в рамках этих процессов, но может быть неподходящим (или ненужным) для разработки ИИ.

Наше представление об интеллекте неизбежно антропоморфно и мы автоматически рассматриваем свойства нашего интеллекта как необходимые для любого интеллекта.

Например, в области ИИ очень много внимания уделяется пониманию речевых конструкций. Однако речь является очень неэффективным способом обмена информации. Если взять любое предложение, то оно может иметь самые разные смыслы для чтецов, в зависимости от их жизненного опыта. Мы постоянно в своей речи пытаемся скорректировать возможные ошибки в интерпретации информации, изменяя речь в соответствии с тем, что мы знаем о собеседнике, но все равно искажение неизбежно. Мне кажется, что попытки воссоздать эту несовершенную систему обмена информацией интересны, но не лежат обязательно на пути к созданию ИИ, а может даже и уводят в сторону. Возможно наибольшая польза от них будет в виде разработки способов общения человека с ИИ, который будет создан в какой-то другой области.

Подобных примеров можно привести довольно много. С одной стороны создатели ИИ пытаются воспроизвести некие антропоморфные свойства интеллекта и не очень хорошо с этим справляются, с другой стороны наблюдатели измеряют результаты работы этих прототипов человеческой меркой и остаются недовольными результатами. Хотя результаты сами по себе могут быть вполне впечатляющие.

Вот возьмем, например, такую простую вещь как счет. Способность к счету и простейшим арифметическим действиям часто ищут как показатель интеллекта животных. Развитие способностей к счету - важный показатель интеллектуального развития ребенка. Но калькулятор обычно не считается ИИ, хотя он может считать быстрее и аккуратнее любого человека.

Мне кажется что калькулятор обладает в небольшой степени интеллектом, но в рамках человеческого интеллекта это "тупая машина". Я специально для этого примера выбрал одну из самых простых машин делающую работу, которую легко алгоритмизировать. Но сейчас существуют куда более сложные машины и программы, которые постепенно входят в области, считавшиеся человеческими: перевод, выбор оптимального маршрута, вождение машины. Все это проявления искусственного интеллекта. И по мере того, как растет сложность используемых в них алгоритмов, а также сложность анализируемых ими данных, они будут все ближе и ближе приближаться к интеллекту. На мой взгляд эти проекты имеют не меньшие шансы создать ИИ, чем формальные попытки вроде "Ватсона". Скорее всего даже и большие, потому что их много и за их развитием стоят коммерческие интересы. Но тот факт, что это не антропоморфные интеллекты скорее всего приведет к тому, что у нас займет довольно много времени для того, чтобы распознать созданный ИИ и научиться с ним взаимодействовать.

В вопросе создания ИИ мне еще очень интересным кажется вопрос мотиваций. Мы в своей интерпретации действий других людей всегда исходим из предположений об их мотивациях, которые как правило очень близки к нашим собственным. Без осознания подлежащих мотиваций, действия людей будут загадочными, непонятными и нелогичными. Наши мотивации исходят из биологически-заложенных потребностей наших организмов, которые потом шлифуются или перенаправляются воспитанием в рамках культуры общества в котором мы выросли. Возможен ли ИИ без каких-либо мотиваций? Если мотивации необходимы, то откуда они возмутся и как будут выглядеть? Если мы не сможем распознать мотивации ИИ, то скорее всего мы не сможем распознать сам ИИ, и не сможем с ним общаться.

P.S: Недавний выпуск журнала Science был посвящен ИИ и роботам.