Учёные будут защищаться от цифрового разума. Интервью с экспертом по ИИ

В журнале “Наука в Польше” опубликовано интервью со специалистом по искусственному интеллекту Камилом Кулеша – основателем Центра прикладной математики и системной инженерии, созданного при Польской академии наук. Эксперт считает, что массовые “воскрешения” умерших – во всяком случае, воссоздание их разума в цифровом виде – окажется “мелочью” по сравнению с тем, что будет происходить в мире ИИ. Приводим это любопытное интервью практически полностью. – Чат GTP, пожалуй, самый известный информационный продукт последних месяцев. OpenAI, компания, которая его создала, недавно выпустила свою четвертую версию. Подобные продукты недавно показали большинство крупных западных ИТ-компаний, а также китайцы. Почему такой интерес? Почему сейчас мода на искусственный интеллект? – Этот прорыв произошел благодаря презентации GPT Chat для широкой публики, которая продемонстрировала ее впечатляющие возможности и полезность для публики. Но это не так, когда появился Chat GPT, другие компании сели за работу и через месяц показали миру свои версии. Все давно работают над ИИ. Теперь компания OpenAI говорит «Я проверяю», представляя искусственный интеллект, способный не только писать рефераты для студентов, но и заменять журналистов на работе. А также, например, создавать инвестиционные стратегии, в значительной степени подменять врачей, особенно в диагностике различных заболеваний, но не только. Мне нравится случай, когда Chat GPT сдает медицинский экзамен в США. – Крупные ИТ-концерны уже начинают увольнять программистов, работающих людей интернет-мира, потому что искусственный интеллект делает свою работу так же хорошо или даже лучше, чем они, и бесплатно. – Тем не менее, настоящий «перелом игры», как говорится, находится в другом месте. Речь идет не только о замене людей-специалистов и их работы тем, что ИИ может для них сделать. Самое интересное, что вся бизнес-модель крупных ИТ-корпораций, скорее всего, изменится — так же, как изменится способ использования Интернета и способ общения с компьютером. Изменится весь интерфейс компьютера и может оказаться, что клавиатуры, мышки и даже экраны, включая смартфоны, уйдут в прошлое, так как мы начнем эффективно общаться с ИИ. Наверное, сначала по голосу. Пожилые люди могут помнить, что было время, когда не было Windows — это до сих пор можно увидеть в фильмах 90-х; что вы работали в текстовом режиме. Например, с DOS. Это и по сей день можно сделать, Linux работает так же, но обычные пользователи вряд ли будут им пользоваться. – Нам больше не понадобятся поисковые системы? – Они сохранятся, но мы не будем использовать их так, как сейчас. Просто: вы дадите команду голосом, а дальше все будет происходить так же, только быстрее, как сегодня, когда вы набираете фразу в поле поиска. И именно поэтому появление ChatGPT вызвало такой стресс у Google. Он также является одним из пионеров искусственного интеллекта, но внезапно появился ИИ, который представляет угрозу для бизнес-модели этой компании. Недаром на рынке появились предложения работы для операторов Chat GPT. – Google уже предлагает персонального помощника, с которым, хотя и ограниченным образом, можно общаться голосом, отдавая ему команды. – Несмотря на это, также существует постоянный процесс автоматизации, например, согласно объявлениям Google, скоро Gmail сможет писать для нас сообщения, получая только основные рекомендации и, как хороший личный помощник, сможет представлять более одного варианта для утверждения. Вы ему скажете: пиши такому-то моему другу, более формально, но тем не менее мы хотим пошутить, чтобы подчеркнуть нашу дружбу, содержание должно быть примерно таким. И бац, вы получаете пять предложений, выбираете то, которое вам больше подходит. – В этом случае — по крайней мере, сейчас — нам понадобится экран, потому что очки виртуальной реальности сегодня не очень распространены. – Согласен, надо подождать, пока разовьются некоторые технологии, а очки виртуальной реальности — это только знакомство с ними. Могу себе представить, что контент, «заказанный» нами с помощью голосовой команды, проявляется не только у нас перед глазами, но и в мозгу. Тем не менее, это всего лишь технические детали, ведь ChatGTP — это лишь внешнее проявление технологических изменений, которые имел возможность увидеть широкий круг пользователей. С точки зрения исследователей ИИ более интересно то, что стоящая за ним технология является одним из примеров появления эмерджентных свойств. То есть те, которые мы раньше не программировали, или даже часто не предвидели, что они могут существовать. -Например? – Если вдруг окажется, что этот ChatGPT находит решения задач, которым его раньше никто не учил, их нет непосредственно в его исходных материалах, то сам факт того, что он их выдумывает, является эмерджентным свойством. Это означает, что компьютер обучается и программирует сам себя. – До сих пор я был убежден, что компьютеры не умнее людей и что все, что они знают, сводится к информационным ресурсам, которые мы вводим в их программы. Если это не так, хотелось бы попросить ответа на вопрос: что же такое на самом деле этот искусственный интеллект? – Я не думаю, что есть одно определение, один правильный ответ. Лично мне ближе всего концепция теста Тьюринга. Образно это можно представить как ситуацию, в которой, основываясь на общении с машиной, например, по электронной почте или путем обмена голосовыми командами, вы не можете отличить, общаетесь ли вы с ней или с человеком. Если это произойдет, то мы имеем дело с искусственным интеллектом — не хуже человеческого. – Много говорят о профессиях, на которых ИИ заменит людей. – Список с каждым днем ​​становится все длиннее и о нем уже достаточно много написано, также мы слышим о все более частых массовых сокращениях, даже в ИТ. Так или иначе, почти с начала века среди руководителей ИТ-проектов циркулировало утверждение, что «кодеры — это квалифицированный рабочий класс 21 века». Так что неудивительно, что их настигает автоматизация, как раньше случалось с рабочими. – А кого вряд ли так легко заменят? – Если бы мне пришлось перечислять тех, кому искусственный интеллект вряд ли навредит — по крайней мере, вначале — я бы в первую очередь назвал творческие профессии,  от художников до ученых. Однако здесь надо различать – если взять, например, журналистов под микроскопом, то всего около 10 процентов. самые лучшие, самые креативные, предприимчивые останутся в профессии, остальных работников СМИ с успехом заменит ИИ, который ищет новости в сети и создает из них тексты. То же самое произойдет и с миром науки: настоящие ученые будут пытаться защититься от наступления цифрового разума. Рискну сказать, что в мире польской науки процент тех, кто будет защищаться от искусственного интеллекта будет даже меньше, чем в мире журналистики. – Мы удалили ученых и журналистов или, по крайней мере, сократили их численность на 90 процентов. Так кто останется? – Вероятно, некоторые ремесленные или обслуживающие профессии, такие как кузнецы, плотники или сантехники. Может быть. Но в долгосрочной перспективе определенно будет больше случаев, когда ИИ будет выполнять свою текущую работу быстрее и точнее. Хорошая новость: похоже, ИИ поможет решить кадровый кризис в образовании. Учителей потребуется гораздо меньше, вероятно, всего 10 процентов. лучшее. Сегодня мы ясно видим, что движемся в этом направлении. Более того, искусственный интеллект значительно сократит «население» чиновников в широко понимаемой администрации. Только они и, возможно, члены их семей будут оплакивать последнего. Это также должно способствовать ускорению и повышению надежности многих процессов. Это, в свою очередь, позволит лицам, принимающим решения, например министрам, решать проблему эффективного государственного управления, – Я как бы знаю, о чем мы говорим, я согласен с вашими тезисами, но у меня такое впечатление, что я участвую как актер в научно-фантастическом фильме, сценарий которого я еще не прочитал полностью. – В этом сценарии наиболее интересным является вопрос о темпах изменений, а также о том, будут ли и когда технологическая сингулярность, потому что это будет резкое качественное изменение, которое может свести на нет все предыдущие предсказания. – О чем это будет? – Мы этого точно не знаем. Сам термин технологическая сингулярность впервые обсуждался в середине 20 века, вероятно, Станиславом Уламом и Джоном фон Нейманом. Сингулярность относится к ситуации, когда ускоряющийся темп технологического развития вступает в фазу экспоненциального роста. При этом сама концепция связана не только с ИИ — можно представить такую ​​ситуацию и по отношению к нанотехнологиям, и это лишь одна из возможностей. Однако кажется, что ИИ в настоящее время является самым серьезным кандидатом на место, где может возникнуть технологическая сингулярность. На этом этапе ИИ будет присутствовать во всех областях нашей цивилизации, поэтому он будет интегрироваться с другими технологиями, которые также потенциально могут привести к сингулярностям. Кроме того, он начнет программировать себя, создавать все более совершенные версии самого себя — и все быстрее и быстрее. – Будет ли иногда искусственный интеллект хотеть уничтожить человечество, как в «Матрице», где агент Смит говорит, что люди подобны вирусу — заразе для планеты? Или, в более оптимистичном сценарии, мы не станем ее слугами? – Конечно, такой сценарий нельзя исключать. Но даже в самой антиутопической научной фантастике вряд ли можно увидеть ИИ, преднамеренно запугивающий людей, как различные тираны в истории. Это немного похоже на Станислава Лема в рассказе «Голем XIV» — над ним просто будет продвинутый искусственный интеллект. Так что, думаю, бояться нечего, но если ИИ решит стереть с лица земли паразитов человечества, то это будет сделано эффективно: «короткая вспышка света и испарение», как в «Военных играх» Джона Бэдэма. – Все больше и больше людей, не только Илон Маск, но и многие ученые, призывают прекратить работу над искусственным интеллектом, так как он может уничтожить человечество. – Это довольно популярная идея, но, на мой взгляд, трудно реализуемая на практике. Всегда найдутся те, например, в Китае или разных необычных юрисдикциях, кто продолжит такую ​​работу. Исторически так было с большинством технологий, разработка которых была ограниченной. В случае с ИИ, который будет, а может быть, уже во много раз умнее, чем ресурсы, доступные человечеству, это может быть сложно сделать. Думаю, нам остается только ждать развития событий. Опять же, я имею в виду «Голем XIV», где есть высокоразвитый искусственный интеллект по имени ВЕЛИКАЯ АНИЯ. Она реагировала в моменты опасности, например, когда какой-то мужчина хотел отключить ей электричество, но вне таких моментов она игнорировала людей. Я убежден, что с наибольшей вероятностью что ИИ в принципе не будет заниматься человеческим муравейником. Так что мы, наверное, можем быть оптимистами, потому что мы даже не узнаем, что мы просто «перестали быть», или мы будем жить в интересном и все более лучшем мире. Потому что после сингулярности произойдут вещи, о которых «физиологи и не мечтали», как говаривал Фердинанд Кипски. – Есть примеры? – Об этом написано много хорошей научной фантастики, так что не хочется ломать колесо (…) Скажу, однако, что массовые «воскресения», хотя бы в виде цифровой реконструкции сознания мертвых, будут “маленькими слюдами” по сравнению с тем, что может случиться. – Мы не знаем, что это за сингулярность, мы не знаем, когда это произойдет, но мы должны верить, что это произойдет? – Мы знаем, что это такое. Об этом говорил фон Нейман, а затем Курцвейл – когда произойдет экспоненциальный рост технологий, мы достигнем точки, когда искусственный интеллект начнет самореплицироваться, что кардинально изменит мир и сегодняшние законы перестанут действовать. – Бывало ли когда-нибудь человечество в поворотном моменте, подобном тому, который мы ожидаем сегодня? – Нет, технологии никогда не достигали такого высокого уровня. У нас было много прорывов, кроме изобретения колеса, их было много: из каменного века мы можем перейти в век производства железа, но это только прорывы, ни один из них не означал вхождения в состояние необычность. В «Фараоне» есть такая красивая сцена, когда к правителю Египта приходят гонцы. У них есть дары и среди них железные мечи. В качестве демонстрации показан этот меч, отсекающий кусок бронзового меча одного из египетских офицеров. Это был просто технологический прорыв, а не вход в сингулярность. Нынешнее изменение может заключаться, например, в том, что среди многих других чудес мертвые будут воскрешены, потому что их разум или, если хотите, души могут быть реконструированы в цифровом виде. – Я тоже читал эти книги, смотрел эти фильмы, но думаю, что это просто фантазии. – Что касается прорыва в ИИ, то тут есть и другие причины, более научные — из области математических наук. Например, проблемы с историей в несколько десятилетий были преодолены в последние несколько лет совершенно иначе, чем предполагалось ранее, т.е. используя грубую силу, то есть вычислительную мощность. К сожалению, это подтверждает, по крайней мере отчасти, марксистский тезис о переходе количества в качество. Но это также означает, что если мы сохраним темпы роста вычислительной мощности, например, благодаря сохранению действия закона Мура, то, похоже, мы можем рассчитывать на значительный прогресс в области ИИ. Конечно, этому подходу не хватает утонченности и элегантности, но пока он дает результаты. Неизвестно, решит ли это все проблемы. Но, с другой стороны, поскольку при таком подходе есть большие успехи, Так что была также интенсификация исследований на теоретическом уровне. Интересно, что больше всего денег на исследования ИИ тратит частный капитал. Источник: “Наука в Польше” The post Учёные будут защищаться от цифрового разума. Интервью с экспертом по ИИ appeared first on Поиск - новости науки и техники.