За последний месяц написал эссе об ИИ и космических цивилизациях (даже с новой классификацией). В несколько расширенном виде оно войдет в книжку «13 научных приключений» в качестве приложения. Буду рад услышать ваши мнения и замечания. Нет возражений против перепечатки (с указанием источника).
Искусственный интеллект и космическое будущее человечества
Еще задолго до Нагасаки и до того, как общественности стало известно о существовании атомной бомбы, мне пришла мысль, что мы стоим перед лицом другой социальной силы, несущей неслыханные возможности для добра и для зла.
Норберт Винер
Часть 1. Что такое сознание и возможно ли оно для искусственного интеллекта (ИИ)?
Мы можем надеяться, что машины в конце концов будут успешно соперничать с людьми во всех чисто интеллектуальных областях.
Алан Тьюринг (1950)
Нужно прекратить разговоры о двух сортах разума, независимо от того, идет ли речь о живом мозге или о машине. Существует только один сорт разума. Он проявляет себя тем, что производит подходящий отбор.
Уильям Росс Эшби
В 1944 году Эрвин Шредингер опубликовал книгу «Что такое жизнь? С точки зрения физики», которая подтолкнула развитие генетики и в которой рассматривалась возможность описания биологических систем методами физики и математики, что было очень смело по тем временам. Но скорость развития науки в середине 20 века была такова, что уже через несколько лет стала широко обсуждаться возможность моделирования разума с помощью математики и кибернетических устройств.
Может ли машина мыслить? Этот вопрос был вынесен в название знаменитой статьи Алана Тьюринга, опубликованной в 1950 году. Но как определить понятие «мыслить»? Тьюринг предложил практическое испытание, пройдя которое, машина может считаться «мыслящей». Оно заключается в том, что человек средних способностей задает вопросы в течение пяти минут двум своим собеседникам, один из которых – человек, а другой – цифровая вычислительная машина. И если задающий вопросы не может определить, кто ему отвечает – человек или компьютер, то машина проходит испытание, известное сейчас как «тест Тьюринга».
Может ли компьютер в перспективе получить самосознание, подобное человеческому? Общепринятого ответа на такой вопрос нет. Нобелевский лауреат Роджер Пенроуз в книге «Тени разума» описал четыре существующих (на конец 20 века) мнения на этот счет:
«А. Всякое мышление есть вычисление; в частности, ощущение осмысленного осознания есть не что иное, как результат выполнения соответствующего вычисления.
Б. Осознание представляет собой характерное проявление физической активности мозга; хотя любую физическую активность можно моделировать посредством той или иной совокупности вычислений, численное моделирование как таковое не способно вызвать осознание.
В. Осознание является результатом соответствующей физической активности мозга, однако эту физическую активность невозможно должным образом смоделировать вычислительными средствами.
Г. Осознание невозможно объяснить в физических, математических и вообще научных терминах.»
Что означают эти мнения? Тезис Г соответствует религиозному мировоззрению о душе и ее мистической непостижимости, поэтому в дальнейшем мы не будем рассматривать этот вариант.
Современные компьютеры в недалеком будущем наверняка смогут преодолеть тест Тьюринга, хотя остается вопрос о продолжительности такого теста и количестве (и качестве) задаваемых вопросов – чем больше их, тем сложнее преодолевается тест. Такие компьютеры с точки зрения А могут считаться мыслящими, способными к осознанию. Но с точки зрения определения сознания Б, численное моделирование любого уровня не приводит к появлению сознания, следовательно, современный компьютер, успешно прошедший тест Тьюринга, не приобретает способность мыслить и осознавать себя как мыслящее существо – он лишь успешно имитирует мыслительную деятельность. Станислав Лем писал: «дело не в том, чтобы повторить человеческий мозг, а в том, чтобы его понять».
Сам Пенроуз придерживается мнения В, не приводя конкретных примеров «невычислимых» процессов, которые определяют сознание (не берем случайные процессы, которые тоже легко моделируются), но доказывая с помощью математических аргументов, что такие процессы должны быть.
Действительно, многие процессы, происходящие в мозгу, трудно представить в виде компьютерной программы. Например, концепция «разумного глаза» означает, что в зрении активно участвует мозг и память: глаз видит коричневый четырехугольник, а мозг на основании прошлого обучения, распознает в нем стол, хотя значительная часть деталей стола, например, ноги – не видна. То есть, наше зрение построено как на непосредственных зрительных ощущениях, так и на догадках, которые могут быть не всегда верны. Но как бы не была сложно устроена зрительная память и распознавание наблюдаемых объектов, все равно можно создать компьютерный аналог этих биологических феноменов, следовательно, они будет относиться к разряду вычислимых процессов.
Популярность мнений Б и В понятна. Тьюринг отмечает: «Мы склонны верить, что человек в интеллектуальном отношении стоит выше всей остальной природы».
Безусловно, философский аспект проблемы компьютерного сознания или осознания исключительно сложен. Алан Тьюринг в своей статье детально рассматривает различные возражения против своего критерия «мыслящей машины». Причем сам Тьюринг прекрасно понимает, что проходящий его тест компьютер будет лишь «играть в имитацию» мышления.
Но насколько существенна практическая разница между мышлением (или сознанием) и хорошей имитацией этих феноменов? С точки зрения бихевиористов, каждый субъект может рассматриваться как черный ящик с неизвестным функциональным содержимым: значение имеют лишь его внешние реакции. Если человек всю жизнь провел в качестве добропорядочного гражданина, хорошего семьянина и отличного работника, то существенно ли то, что в глубине души он являлся (или считал себя таковым) злодеем, обманщиком и лентяем? Если человек сумел подавить в себе негативные стороны натуры и не дал им проявиться внешне, то важно ли для окружающих, что они у него есть? Каждый из нас старается держать черный ящик своей души под контролем, потому что его содержимое ужасает нас самих.
В будущем каждый человек получит в свое распоряжение киберсобеседника, который правильно и интересно отвечает на его вопросы, утешает в трудную минуту и развлекает в свободное время. Будет ли человек задумываться над философскими проблемами мышления и сознания в кибернетических системах? Вряд ли. Если ему будет интересно общаться с роботом, то он поневоле будет его «очеловечивать». Да, такой робот может ошибаться в каких-то ответах или эмоциональных реакциях. Вызовут ли отдельные ошибочные ответы машины разочарование у человека и отказ от общения? Нет. Как отмечает Тьюринг: «Мы сами слишком часто даем неверные ответы на вопросы, чтобы то чувство удовлетворения, которое возникает у нас при виде погрешимости машин, имело оправдание».
Академик Колмогоров предсказывал в 60-х годах: «любая материальная система, с которой можно разумно обсуждать проблемы современной науки или литературы, будет признаваться мыслящей…»
К 2023 году искусственный интеллект ChatGPT продемонстрировал выдающееся умение отвечать на вопросы и даже стал автором (или эффективным соавтором) многих художественных книг. Из-за этого сценаристы Голливуда, не вступая в философские дискуссии о сознании машин, устроили забастовку, потребовав, чтобы тексты, созданные искусственным интеллектом, не признавались литературным материалом, на который распространяются авторские права, потому что ИИ ничего самостоятельно не создает: его тексты лишь отрыжка того, чем этот искусственный интеллект кормят. То есть, искусственный интеллект уже сейчас, в 2023 году, выступает серьезным конкурентом даже в такой творческой области, как писательство.
Интересны комментарии об этой забастовке сценаристов, которые опубликовала Алена Солнцева, кандидат искусствоведения и кинокритик, в «газете.ру» от 28 мая 2023 года. Солнцева критично относится к творческим способностям запрограммированного ИИ: она считает, что у него отсутствует чувство юмора, потому что смех – это реакция на неожиданность. Кинокритик пишет, что гениальные прозрения нелогичны, следовательно, недоступны ИИ, потому что «создать нелогичную машину человек вряд ли сможет». Солнцева пишет, что ИИ не способен «создать нечто совсем оригинальное, свежее, новое», но признает: «Но этого не может и 90% работников, так что им есть чего бояться…».
Семьдесят лет назад Алан Тьюринг уже ответил на тезис о том, что машина не способна на неправильность: «Можно сделать так, чтобы машина… не стремилась давать правильные ответы на арифметические задачи». С точки программиста, нет никаких препятствий в создании «нелогичного» компьютера. Конечно, эта «нелогичность» будет имитацией, основанной на сложной логической схеме и датчике случайных чисел, но как мы уже обсуждали, нет никакой практической разницы между оригиналом и его хорошей имитацией. Алгоритм генерации шуток тоже не представляется фантастически сложной проблемой, так что скоро появятся компьютеры, выдающие каждый день новые анекдоты. Может, сначала они будут на уровне Петросяна, но потом дорастут до Райкина и даже пойдут дальше, теряя по пути массовость аудитории. Будет расти и качество литературных текстов (книг и сценариев), которые выдает искусственный интеллект. Нет больших сомнений, что через двадцать-тридцать лет ИИ будет писать лучше, чем 99% сценаристов и писателей. А потом – и 99.9%, что практически полностью удовлетворит потребности массовой аудитории, за исключением горстки интеллектуалов, которые будут творить очень оригинальные произведения для своего очень узкого круга, чем, впрочем, они заняты и в настоящее время.
С развитием техники виртуальной реальности, которая уже становится все больше и больше похожей на обычную реальность, будет расти процент фильмов, для которых реальные съемки уже будут не нужны и где участвуют только виртуальные актеры. Искусственный интеллект будет многолико выступать в таких проектах в качестве сценариста, режиссера и актеров. Никто из кинозрителей, которые будут смотреть эти целиком компьютерные (=имитационные!) фильмы и плакать над любовными и прочими страданиями главных героев, не будет думать над философской проблемой – есть ли сознание или осознание у компьютера, создателя этого фильма. Легко можно предсказать и телевизионные передачи с участием неутомимых виртуальных ведущих, которые будут идти круглосуточно в прямом эфире с приглашением реальных людей в качестве гостей.
Комментарии (0)