«Мы очень быстро разогнались»: Татьяна Черниговская и Дмитрий Волков о перспективах человека и целях ИИ

Что нас может ждать в мире, в котором будет доминировать искусственный интеллект?

16 марта в атриуме петербургского Дома Книги прошла пятая сессия просветительского проекта LAKHTA VIEW: ЧЕЛОВЕК с участием  нейро- и психолингвиста, доктора биологических и филологических наук, профессора СПбГУ Татьяны Черниговской и доктора философских наук, основателя холдинга SDVentures Дмитрия Волкова. Общей темой их выступлений стали проблемы искусственного интеллекта. Мы побывали на мероприятии и выяснили, как нас меняет цифровая реальность и не пора ли нам остановиться, прежде чем мир примет знакомые всем очертания из известных антиутопий. Приводим наиболее интересные выдержки.

 

Дмитрий Волков

Дмитрий Волков (проблемы искусственного интеллекта)

© Lakhta View

Машины, которые сегодня обладают некими зачатками экспертных знаний в некоторых отраслях, со временем научатся мыслить и об общих вещах. И эти машины действительно через некоторое время будут более интеллектуальны, чем люди. Вот об этой возможности все больше и больше стали говорить как философы, так и те, кто занимается технологическими проектами, например, Илон Маск.

И они говорят, что сверхразум возможен, искусственный интеллект – это путь к сверхразуму. Отмечу три возможных пути того, как мы можем прийти к сверхразуму. Первый путь – это эмуляция головного мозга. Мы знаем, что мозг – это колоссально сложная конструкция, состоящая приблизительно из ста миллиарда модулей. При этом эти нейроны соединены между собой гигантским количеством связей. Это сложнейшая структура, которую очень сложно эмулировать. Но сложно – не значит невозможно. И первый способ – мы можем эмулировать работу мозга на машинах с 39 квадриллионами операций в секунду.

Второй способ – создание простой машины, которая сможет самообучаться. Уже сейчас машины самообучаются. И если мы продолжим эту тенденцию, мы сможем прийти к машинам, которые будут жить вместе с нами и продолжать развивать свой интеллект. Сначала нужно попробовать сделать машину с интеллектом, скажем, кузнечика, потом мышки, потом может быть человека. Этот тренд будет развиваться не последовательно, а как хоккейная клюшка, то есть он будет все время ускоряться. И точка, к которой мы можем прийти, – это так называемая точка сингулярности. Когда развитие интеллекта будет бесконечным.


Читайте также Технологическая сингулярность: «прекрасное далеко»?


Но что это означает для нас, если такое будущее вероятно? Связан ли интеллект с конечными целями? Наши критерии интеллектуальности вряд ли применимы к искусственному интеллекту. Он не будет проходить наш эволюционный путь. Возможно, машина, способная мыслить, будет иметь совершенно абсурдные для нас цели. Она, конечно, может заняться произведением универсального, абсолютно идеального произведения искусства. Или она может попробовать рассчитывать число Пи до бесконечности. Или эта машина может попытаться спасти человечество от катастроф. Или она может решить, что необходимо превратить всю вселенную в скрепки. Цели и интеллект не связаны между собой.

И это нас успокаивает. Может, мы повлияем на эти цели, и сделаем так, чтобы эти цели были похожи на наши. Но есть другой тезис, который может заставить нас поволноваться. Это тезис об инструментальной конвергенции. И некоторые философы, в частности Ник Бостром, считают, что у интеллекта могут быть разные конечные цели, но обязательно будут одинаковые инструментальные цели. Какие? Одна из целей – увеличение или сохранение своего интеллекта. Второе – искусственному интеллекту потребуется технологическое совершенствование. Робот будет стремиться получить большую степень свободы, получить большие возможности передвигаться, управлять чем-то и так далее. И, наконец, самая страшная цель – контроль ресурсов. Именно она может оказаться для нас губительной.

Даже если интеллект будет иметь конечной целью расчет числа Пи, то для реализации своей цели ему нужно будет контролировать все ресурсы. Поэтому некоторые считают, что, пытаясь контролировать ресурсы, искусственный интеллект может начать контролировать и нас.

Это заставляет задуматься всерьез – является ли это хорошей идеей создавать думающие машины или нет. Мы понимаем, что нужно привлечь и этиков, и философ, и футурологов, чтобы об этом подумать.

 

Татьяна Черниговская

Татьяна Черниговская

© Lakhta View

Я считаю, что будущего у нас не будет вообще, если мы не разберемся со своим внутренним миром. Мы попали в такой сложный мир, что у нас должна быть внутренняя опора, которая не даст нам разрушиться.

Понимаете, бессмысленно устраивать любые научные прорывы и делать чудесные механизмы, если при этом, скажем, мы скоро все тронемся умом. В некоторых странах уже обсуждается вопрос, не объявить ли пандемию психических болезней. Я не шучу. Количество людей с психическими нарушениями растет.

Мы ускорялись сначала миллионами лет, потом тысячами, потом сотнями, потом десятками, а теперь это чуть ли не минуты. То есть мы очень быстро разогнались. Я вижу основную опасность в скорости изменений. Мы не успеваем приспособиться. Ты только привык к какой-то ситуации, а она уже другая. Ты снова привык, а она снова другая. Организм-то наш выдержит? А наша психика?

Сегодня у нас Google-generation: не те люди, которые, как мы, переучились, а те, которые родились в этой реальности. Они ушли в параллельные миры целиком. Они сидят в компьютере, где нет боли, нет страдания, где все возвращается. Нет навыка социального общения, нет навыка флирта. У них огромные психологические проблемы. Также происходят изменения в сером и белом веществе. Вы меня правильно поймите: ничего не изменится. Мы в этом мире цифровом живем и будем жить и дальше. Но нужно вытаскивать детей, потому что мы сильно рискуем.

Маклюэн говорил, что следующим видом будет homo sapiens autocreator, то есть самосоздаваемый вид. Руки-ноги переломали, их заменили. Печенку, изъеденную циррозом, заменили, почки, сердце, уши, глаза – это все реальность уже сейчас. А также вставили в голову чип, который, во-первых, делает вашу память больше, во-вторых, увеличивает скорость протекания процессов. Мы ещё люди?


Читайте также

— Теория медиа Маршалла Маклюэна: как мы оказались в глобальной деревне?

— Биоулучшения: почему апгрейд мозга сделает нас менее человечными


Это будет становиться мощным социальным разделяющим фактором, потому что будут те, которые смогут себе это позволить, и те, которые не смогут. И это уже расы. Это два разных биологических вида. Те, кто допущен к цифровому миру по разным причинам, и те, кто по-прежнему траву косит.

Мы находимся в цивилизационном сломе. Это не алармизм, это факт. Это имеет глобальное значение, и оно необратимо. Поэтому нам придется выбирать между свободой и безопасностью.

Про каждого из нас известно, где мы находимся, что мы ели, если мы с кем-то были в ресторане, какие сумки покупаем. Я думаю, это всем понятно. Мир сверхбыстрый, он гибридный, и он мерцает. Люди, с которыми вы общаетесь по сетям, вы уверены, что это люди, а сколько их?

Мир стал «нечеловекомерен». Не только люди, но и любые существа не живут в пространстве наносекунд и нанометров. Там никто не живет. Меж тем системы искусственного интеллекта принимают решения, а дальше будут принимать ещё больше, особенно если мы хоть немножко утратим контроль. Они будут это делать в такие времена, какие мы даже не успеем заметить. Ну и, наконец, цифровой мир может жить автономно. У нас ещё есть место в этом мире?

Что делать с правом? Если беспилотная машина на кого-то наезжает, то кто виноват? Кто-то должен вложить в нее ответственность и понимание этических норм? Если это искусственный интеллект, значит его надо признать субъектом права. Значит, я не могу его стереть, потому что это убийство, не могу его выключить, потому что у него есть свои права. Ну, наконец, масса людей освободится от работы. И что они будут делать? Когда мне говорят, что они будут играть на лютне и писать сонеты, это вызывает недоумение. Поэтому я считаю, что мы пришли в мир, в котором нам нужно остановиться, зажечь камин, взять напиток в руку и сильно подумать, куда мы попали, и как с этим дальше жить.


Углубляемся 7 лекций Татьяны Черниговской о мозге и языке


 

О проекте

Lakhta View – международный просветительский проект, проходящий в формате масштабных публичных лекций. Сегодня он включает в себя восемь тематических дискуссионных сессий, в рамках которых раз в месяц ведущие мировые эксперты рассуждают об актуальных аспектах проектирования городской среды, анализируют настоящее и будущее и размышляют о том, как создать наиболее комфортное взаимодействие человека с окружающей его действительностью в физическом и идейном смыслах.

Обложка: робот Софи / Wikimedia Commons

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.



Обозреватель:

Оставить комментарий

Ваш e-mail не будет опубликован.

Этот сайт использует Akismet для борьбы со спамом. Узнайте как обрабатываются ваши данные комментариев.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: