В новом выпуске подкаста исследователь искусственного интеллекта Лекс Фридман (Lex Fridman) беседует с легендарным ученым, философом и пионером технологий виртуальной реальности Джароном Ланье (Jaron Lanier). Они обсуждают, почему VR на самом деле возвращает нас к реальности, в чём кроется главная ошибка создателей социальных сетей и почему концепция «искусственного интеллекта» как самостоятельной сущности является опасным мифом.
👓 Виртуальная реальность как способ полюбить физический мир 1:44
Джарон Ланье, которого часто называют «отцом виртуальной реальности», парадоксальным образом считает, что главная ценность этой технологии заключается не в погружении, а в моменте выхода из неё . По его словам, когда человек снимает шлем, его чувства «обнуляются», и он начинает воспринимать физический мир как нечто невероятно странное, хрупкое и невозможное .
Среди ключевых тезисов Ланье о виртуальной и дополненной реальности:
- Магия в физике: Истинное волшебство навсегда останется в физическом мире, а VR лишь подсвечивает его уникальность.
- Эффект контраста в AR: При использовании дополненной реальности (например, HoloLens) цифровые объекты рядом с живым деревом заставляют последнее «выпукливаться», становясь более живым и детализированным в глазах наблюдателя .
- Медицинский аспект: Первые симуляторы хирургических операций, созданные Ланье в 80-х годах в Стэнфорде, помогали врачам не только тренироваться, но и острее ощущать ответственность и трепет при переходе к оперированию реального человека .
Лекс Фридман сравнивает этот эффект с путешествием: мы уезжаем далеко, чтобы по возвращении по-настоящему оценить свой дом .
💻 Является ли Вселенная компьютером? 4:21
Собеседники затронули вопрос фундаментальной природы реальности. Ланье признаётся, что недолюбливает программное обеспечение, называя его «ужасной штукой», которая всегда является рабом своей собственной истории и легаси-кода .
Относительно популярной идеи о том, что Вселенная — это компьютер, у Ланье сложилось двоякое мнение:
- С одной стороны, утверждение «Вселенная — не компьютер» кажется ему бессмысленным, так как мир следует последовательным принципам и познаваем, а значит, поддаётся вычислению .
- С другой стороны, попытка моделировать Вселенную как «машину Тьюринга» представляется ему ошибочной. Машины Тьюринга «универсальны» только в теории, при наличии бесконечной памяти и времени, чего в реальности не существует .
Ланье призывает к скромности в использовании вычислительных метафор, утверждая, что такие фреймворки часто заставляют людей делать вид, будто они знают больше, чем на самом деле .
🧠 Отрицание «существа» ИИ и наследие Марвина Мински 21:23
Одним из самых спорных утверждений Джарона Ланье является его программное заявление: «Я не верю в AI» . Он поясняет, что ИИ не существует как самостоятельная сущность — это всего лишь алгоритмы, которые создаем и контролируем мы, люди.
В этом вопросе Ланье десятилетиями спорил со своим наставником Марвином Мински (Marvin Minsky), который был главным архитектором риторики «компьютера как существа» .
Ключевые аргументы Ланье против концепции ИИ:
- Круг эмпатии: Мы сами решаем, кого считать сознательным. Если мы включаем алгоритмы в этот круг, мы лишаем себя возможности быть хорошими инженерами, так как начинаем поклоняться инструментам вместо того, чтобы их совершенствовать .
- Средневековое христианство: Современная вера в «супер-ИИ» будущего, который может покарать за «неправильные мысли», по мнению гостя, подозрительно напоминает средневековые религиозные догмы .
- Проблема ответственности: Называя систему «интеллектом», разработчики снимают с себя ответственность за ошибки алгоритмов .
Лекс Фридман возражает, полагая, что можно создавать технологии, которые «восхищаются» человечеством и обладают эмпатией, подобно тому как мы строим отношения с собаками или кошками .
📢 Социальные сети: «Шантаж когнитивным доступом» 31:40
Ланье — один из самых жестких критиков бизнес-моделей современных технологических гигантов. Он считает, что нынешние социальные сети не просто показывают рекламу, а манипулируют человеческой природой.
По мнению Ланье, проблема соцсетей заключается в следующем:
- Петли обратной связи на «ящеричном мозге»: Алгоритмы Engagement (вовлечения) используют очень грубые сигналы (клики, время просмотра). Легче всего спровоцировать реакцию через страх, гнев, паранойю или сексуальное возбуждение — древние схемы выживания, которые не представляют человека в его лучшем виде .
- Параноидальный стиль: Эксперименты показывают, что если следовать рекомендациям YouTube в течение 15–20 «прыжков», вы почти неизбежно окажетесь в зоне странных теорий заговора и агрессивного контента .
- Экономический шантаж: Реклама на платформах превратилась в «плату за когнитивный доступ». Чтобы ваш бизнес или идеи были просто замечены, вы обязаны платить платформе, даже если её алгоритмы убеждения работают плохо .
💎 Достоинство данных (Data Dignity) и две версии будущего 43:14
Для решения проблем манипулятивной экономики Ланье предлагает концепцию «достоинства данных». Он иллюстрирует это на примере садовников, ухаживающих за склонами в Беркли, чтобы предотвратить пожары.
- Будущее №1 (Нормативное): Приезжает фургон с камерами, записывает работу садовников. Через пару лет появляются роботы, люди теряют работу и живут на «безусловный базовый доход» (UBI). Ланье считает это катастрофой, так как UBI делает людей зависимыми от централизованной власти, которую легко захватить диктаторам .
- Будущее №2 (Достоинство данных): Садовники объединяются в «союзы данных» (data unions). Они продают свои данные для обучения роботов, но при этом активно участвуют в процессе, становясь классом экспертов. Роботы становятся лучше, а люди сохраняют гордость, доход и творческую агентность .
Ланье утверждает, что соцсети будущего должны работать по подписке (как Netflix или Xbox), чтобы убрать стимул манипулировать вниманием ради рекламы . Пользователи должны иметь полный контроль над своим алгоритмом и возможность в любой момент «забрать свои данные» и уйти .
🪙 Криптовалюты: «Золотой стандарт» и преступление против атмосферы 1:03:07
Несмотря на свою любовь к децентрализации, Ланье критически относится к биткоину. Его аргументы:
- Экономический ретроград: Использование блокчейна для воссоздания «золотого стандарта» кажется Ланье дисфункциональным и бесполезным для реального экономического роста .
- Экология: Вычислительная неэффективность как способ обеспечения безопасности — это «преступление против атмосферы» .
- Политика vs Экономика: Ланье считает, что крипто-энтузиасты пытаются заменить политику (необходимость договариваться с другими людьми, что он называет «вечным раздражением») абстрактным алгоритмом .
Гость отмечает, что истинная свобода — это «постоянное раздражение», вызванное тем, что приходится считаться с мнением других живых людей. Попытка уйти от этого в чистую криптографию — иллюзия .
🌌 Автодидактическая Вселенная и смерть 1:19:47
В завершение беседы Ланье рассказал о своей научной работе с физиком Ли Смолиным (Lee Smolin). Они выдвинули гипотезу «автодидактической Вселенной», согласно которой законы физики не являются заданными раз и навсегда, а эволюционируют и обучаются подобно системе машинного обучения .
Относительно страха смерти Ланье высказал глубокую мысль: оптимизм в отношении будущего требует от нас готовности «освободить место» . Нельзя одновременно верить в бесконечный прогресс жизни на Земле и хотеть жить вечно. Смирение перед собственной смертностью — это акт любви к будущим поколениям.
Его совет молодым людям прост, но сложен в исполнении:
