# Джарон Ланье о будущем человечества: почему ИИ — это миф, а соцсети эксплуатируют наш «ящеричный мозг»

Источник: https://www.youtube.com/watch?v=Fx0G6DHMfXM
Канал: Lex Fridman
Опубликовано: 06.09.2021

---

В новом выпуске подкаста исследователь искусственного интеллекта Лекс Фридман (Lex Fridman) беседует с легендарным ученым, философом и пионером технологий виртуальной реальности Джароном Ланье (Jaron Lanier). Они обсуждают, почему VR на самом деле возвращает нас к реальности, в чём кроется главная ошибка создателей социальных сетей и почему концепция «искусственного интеллекта» как самостоятельной сущности является опасным мифом.

## 👓 Виртуальная реальность как способ полюбить физический мир
[[JUMP:1:44]]

Джарон Ланье, которого часто называют «отцом виртуальной реальности», парадоксальным образом считает, что главная ценность этой технологии заключается не в погружении, а в моменте выхода из неё [1:57]. По его словам, когда человек снимает шлем, его чувства «обнуляются», и он начинает воспринимать физический мир как нечто невероятно странное, хрупкое и невозможное [2:12]. 

Среди ключевых тезисов Ланье о виртуальной и дополненной реальности:

*   **Магия в физике:** Истинное волшебство навсегда останется в физическом мире, а VR лишь подсвечивает его уникальность.
*   **Эффект контраста в AR:** При использовании дополненной реальности (например, HoloLens) цифровые объекты рядом с живым деревом заставляют последнее «выпукливаться», становясь более живым и детализированным в глазах наблюдателя [3:02].
*   **Медицинский аспект:** Первые симуляторы хирургических операций, созданные Ланье в 80-х годах в Стэнфорде, помогали врачам не только тренироваться, но и острее ощущать ответственность и трепет при переходе к оперированию реального человека [3:28].

Лекс Фридман сравнивает этот эффект с путешествием: мы уезжаем далеко, чтобы по возвращении по-настоящему оценить свой дом [3:54].

## 💻 Является ли Вселенная компьютером?
[[JUMP:4:21]]

Собеседники затронули вопрос фундаментальной природы реальности. Ланье признаётся, что недолюбливает программное обеспечение, называя его «ужасной штукой», которая всегда является рабом своей собственной истории и легаси-кода [4:50]. 

Относительно популярной идеи о том, что Вселенная — это компьютер, у Ланье сложилось двоякое мнение:

1.  С одной стороны, утверждение «Вселенная — не компьютер» кажется ему бессмысленным, так как мир следует последовательным принципам и познаваем, а значит, поддаётся вычислению [5:28].
2.  С другой стороны, попытка моделировать Вселенную как «машину Тьюринга» представляется ему ошибочной. Машины Тьюринга «универсальны» только в теории, при наличии бесконечной памяти и времени, чего в реальности не существует [6:21].

Ланье призывает к скромности в использовании вычислительных метафор, утверждая, что такие фреймворки часто заставляют людей делать вид, будто они знают больше, чем на самом деле [13:17].

## 🧠 Отрицание «существа» ИИ и наследие Марвина Мински
[[JUMP:21:23]]

Одним из самых спорных утверждений Джарона Ланье является его программное заявление: «Я не верю в AI» [21:23]. Он поясняет, что ИИ не существует как самостоятельная сущность — это всего лишь алгоритмы, которые создаем и контролируем мы, люди. 

В этом вопросе Ланье десятилетиями спорил со своим наставником Марвином Мински (Marvin Minsky), который был главным архитектором риторики «компьютера как существа» [21:37]. 

Ключевые аргументы Ланье против концепции ИИ:

*   **Круг эмпатии:** Мы сами решаем, кого считать сознательным. Если мы включаем алгоритмы в этот круг, мы лишаем себя возможности быть хорошими инженерами, так как начинаем поклоняться инструментам вместо того, чтобы их совершенствовать [25:08].
*   **Средневековое христианство:** Современная вера в «супер-ИИ» будущего, который может покарать за «неправильные мысли», по мнению гостя, подозрительно напоминает средневековые религиозные догмы [20:42].
*   **Проблема ответственности:** Называя систему «интеллектом», разработчики снимают с себя ответственность за ошибки алгоритмов [25:33].

Лекс Фридман возражает, полагая, что можно создавать технологии, которые «восхищаются» человечеством и обладают эмпатией, подобно тому как мы строим отношения с собаками или кошками [27:43].

## 📢 Социальные сети: «Шантаж когнитивным доступом»
[[JUMP:31:40]]

Ланье — один из самых жестких критиков бизнес-моделей современных технологических гигантов. Он считает, что нынешние социальные сети не просто показывают рекламу, а манипулируют человеческой природой.

По мнению Ланье, проблема соцсетей заключается в следующем:

1.  **Петли обратной связи на «ящеричном мозге»:** Алгоритмы Engagement (вовлечения) используют очень грубые сигналы (клики, время просмотра). Легче всего спровоцировать реакцию через страх, гнев, паранойю или сексуальное возбуждение — древние схемы выживания, которые не представляют человека в его лучшем виде [35:52].
2.  **Параноидальный стиль:** Эксперименты показывают, что если следовать рекомендациям YouTube в течение 15–20 «прыжков», вы почти неизбежно окажетесь в зоне странных теорий заговора и агрессивного контента [40:03].
3.  **Экономический шантаж:** Реклама на платформах превратилась в «плату за когнитивный доступ». Чтобы ваш бизнес или идеи были просто замечены, вы обязаны платить платформе, даже если её алгоритмы убеждения работают плохо [33:00].

## 💎 Достоинство данных (Data Dignity) и две версии будущего
[[JUMP:43:14]]

Для решения проблем манипулятивной экономики Ланье предлагает концепцию «достоинства данных». Он иллюстрирует это на примере садовников, ухаживающих за склонами в Беркли, чтобы предотвратить пожары.

*   **Будущее №1 (Нормативное):** Приезжает фургон с камерами, записывает работу садовников. Через пару лет появляются роботы, люди теряют работу и живут на «безусловный базовый доход» (UBI). Ланье считает это катастрофой, так как UBI делает людей зависимыми от централизованной власти, которую легко захватить диктаторам [45:41].
*   **Будущее №2 (Достоинство данных):** Садовники объединяются в «союзы данных» (data unions). Они продают свои данные для обучения роботов, но при этом активно участвуют в процессе, становясь классом экспертов. Роботы становятся лучше, а люди сохраняют гордость, доход и творческую агентность [47:10].

Ланье утверждает, что соцсети будущего должны работать по подписке (как Netflix или Xbox), чтобы убрать стимул манипулировать вниманием ради рекламы [49:10]. Пользователи должны иметь полный контроль над своим алгоритмом и возможность в любой момент «забрать свои данные» и уйти [56:08].

## 🪙 Криптовалюты: «Золотой стандарт» и преступление против атмосферы
[[JUMP:1:03:07]]

Несмотря на свою любовь к децентрализации, Ланье критически относится к биткоину. Его аргументы:

*   **Экономический ретроград:** Использование блокчейна для воссоздания «золотого стандарта» кажется Ланье дисфункциональным и бесполезным для реального экономического роста [1:03:33].
*   **Экология:** Вычислительная неэффективность как способ обеспечения безопасности — это «преступление против атмосферы» [1:03:45].
*   **Политика vs Экономика:** Ланье считает, что крипто-энтузиасты пытаются заменить политику (необходимость договариваться с другими людьми, что он называет «вечным раздражением») абстрактным алгоритмом [1:06:20].

Гость отмечает, что истинная свобода — это «постоянное раздражение», вызванное тем, что приходится считаться с мнением других живых людей. Попытка уйти от этого в чистую криптографию — иллюзия [1:06:33].

## 🌌 Автодидактическая Вселенная и смерть
[[JUMP:1:19:47]]

В завершение беседы Ланье рассказал о своей научной работе с физиком Ли Смолиным (Lee Smolin). Они выдвинули гипотезу «автодидактической Вселенной», согласно которой законы физики не являются заданными раз и навсегда, а эволюционируют и обучаются подобно системе машинного обучения [1:20:57].

Относительно страха смерти Ланье высказал глубокую мысль: оптимизм в отношении будущего требует от нас готовности «освободить место» [1:42:52]. Нельзя одновременно верить в бесконечный прогресс жизни на Земле и хотеть жить вечно. Смирение перед собственной смертностью — это акт любви к будущим поколениям.

Его совет молодым людям прост, но сложен в исполнении:

1.  Верьте в то, что ваш личный внутренний опыт реален и автономен, не позволяйте социальному давлению полностью поглотить его [1:33:43].
2.  Помните, что доброта требует гениальности. Быть по-настоящему, эффективно добрым — это тяжелый навык, который требует времени и болезненных уроков [1:34:35].