# Джарон Ланье: «Искусственного интеллекта не существует, это иллюзия»

Источник: https://www.youtube.com/watch?v=caepEUi2IZ4
Канал: World Science Festival
Опубликовано: 09.02.2024

---

В рамках Всемирного фестиваля науки (World Science Festival) известный физик-теоретик Брайан Грин и пионер виртуальной реальности Джарон Ланье провели глубокий анализ природы искусственного интеллекта и будущего цифровых технологий. Собеседники исследовали историческую эволюцию вычислительной мысли от Ады Лавлейс до Алана Тьюринга, демистифицировали устройство современных больших языковых моделей и предложили гуманистическую концепцию «цифрового достоинства». Эта дискуссия представляет собой альтернативный взгляд на автоматизацию, предлагая заменить страх перед разумными машинами строгой человеческой ответственностью.

## 🎵 Музыка, наставники и истоки цифровой мысли
[[JUMP:0:01]]

Дискуссия началась с представления Джарона Ланье, занимающего пост главного научного сотрудника по унификации в Microsoft. Брайан Грин вспомнил их первую встречу 25 лет назад в нью-йоркской квартире Ланье, до отказа заполненной редкими музыкальными инструментами. Ланье поделился личной трагедией: его страсть к музыке уходит корнями в память о матери, пережившей Холокост пианистке-вундеркинде из Вены, которая обучила его основам игры, но трагически погибла в автокатастрофе, когда Джарон был ребёнком. Музыка стала для него непреходящей связью с матерью и, по его словам, «более дешёвой и безопасной одержимостью, чем героин». В 1990-х годах записи Ланье продюсировал знаменитый композитор Филип Гласс, с которым они продолжали ежегодно выступать вплоть до недавнего времени.

Научный путь Ланье переплетается с именами отцов-основателей вычислительной техники. В подростковом возрасте он работал исследователем в Массачусетском технологическом институте под руководством Марвина Минского. По признанию Ланье, Минский был удивительно щедрым ментором, несмотря на то, что они были фундаментально не согласны друг с другом практически по всем вопросам. Рассматривая зарождение идеи искусственного интеллекта, Ланье выделил ключевые исторические вехи:

* Ада Лавлейс: первая программистка в истории считала, что концепция самостоятельного ИИ неверна, и фокус внимания исследователей должен быть строго сосредоточен на человеке-программисте.
* Эдвард Морган Форстер: в своей новелле «Машина останавливается», написанной в первом десятилетии XX века (предположительно в 1907 году), писатель с поразительной, почти сверхъестественной точностью предсказал появление интернета и концепцию тотальной зависимости общества от глобальной вычислительной системы.
* Вэнивар Буш: рассматривал компьютеры и алгоритмы исключительно как сетевые инструменты для расширения возможностей человека, сохраняя антропоцентричную модель.

## 🧠 Трагический контекст Тьюринга и кибернетика Винера
[[JUMP:8:11]]

Переломный момент в восприятии машин произошел с подачи Алана Тьюринга, который предложил рассматривать вычислительные системы как самостоятельные сущности. Джарон Ланье подчёркивает необходимость оценивать идеи Тьюринга через призму его трагической биографии. Герой Второй мировой войны, спасший миллионы lives от нацизма, Тьюринг подвергся уголовному преследованию в послевоенной Великобритании из-за своей гомосексуальности. Его принудили к абсурдному гормональному лечению женскими гормонами, основанному на докомпьютерных метафорах парового двигателя и «выравнивания давления». Столкнувшись с изменениями тела, Тьюринг покончил с собой, поэтично съев яблоко с цианидом перед своим первым компьютером. По мнению Ланье, знаменитый тест Тьюринга был сформулирован в состоянии глубокой дисфории и являлся скорее абсурдистской критикой того, как общество судило его самого, нежели буквальным научным ориентиром.

Параллельно развивалась классическая модель компьютера Тьюринга — фон Неймана, где абстрактное устройство обрабатывает ленту данных и выдает ответ. Великий математик Джон фон Нейман обладал, по словам Ланье, «сюрреалистическими талантами», делающими его фигуру почти мифической. Против такой сухой логической модели выступил Норберт Винер, создатель кибернетики (от греческого «искусство управления»). Вместо изолированных логических гейтов Винер предложил концепцию постоянно включенной сети измерений и обратных связей — «запутанную сеть термометров».

В своей книге «Кибернетика и общество» (The Human Use of Human Beings) Винер описал пугающий мысленный эксперимент: создание глобальной радиосети, которая отслеживает поведение людей и корректирует сигналы в рамках бихевиористских опытов в духе Скиннера или Павлова. Будучи ученым, Винер уверял, что это невозможно, однако современное общество фактически реализовало этот сценарий. Главный тезис Винера, поддерживаемый Ланье, заключался в том, что приравнивание человека к машине неизбежно ведет к разрушению социума. Само появление термина «искусственный интеллект» на Дартмутском семинаре в 1958 году под эгидой Джона Маккарти и Марвина Минского Ланье объясняет личным конфликтом исследователей со сложным характером Винера и их желанием создать идеологический противовес кибернетике.

## 🤖 Демистификация ChatGPT: почему ИИ не существует
[[JUMP:14:22]]

Брайан Грин отметил, что после ноября 2022 года и релиза ChatGPT концепция ИИ перестала быть абстракцией для широкой публики. Однако Ланье сохраняет жесткую позицию скептиков кибернетического лагеря: никакого «искусственного интеллекта» или самостоятельной сущности внутри больших языковых моделей не существует. С его точки зрения, большие модели — это инновационная форма масштабного сотрудничества между людьми. Алгоритм собирает тексты из интернета и высококачественных закрытых офлайн-источников, комбинирует их и находит скрытые корреляции. На выходе получается продукт человеческого коллективного разума, который гораздо полезнее прежних разрозненных баз данных, но лишен агентности.

Брайан Грин согласился с этим тезисом, подкрепив его аргументом из эволюционной психологии. С точки зрения Грина, человеческий мозг развил «теорию разума» (умение наделять объекты волей и намерениями) в качестве защитного механизма: для выживания предков было безопаснее вообразить хищника там, где его нет, и приписать агентность неодушевленному шуму, чем проглядеть реальную угрозу. Именно этот эволюционный механизм заставляет современных пользователей видеть «личность» в наборе статистических алгоритмов.

## 🗼 Как устроены нейросети: башни корреляций и градиентный спуск
[[JUMP:18:47]]

Для объяснения внутренних процессов в LLM Джарон Ланье обратился к базовой задаче компьютерного зрения — различению кошек и собак. Простые статистические замеры пикселей или поиск контуров (технологии трекинга опорных точек, компанию по разработке которых Ланье продал Google 25 лет назад) не позволяют решить эту задачу из-за схожести анатомии животных. Успех принесло глубокое обучение (deep learning), представляющее собой многоэтажную структуру статистических сеток.

Обучение этой структуры происходит с помощью метода градиентного спуска (gradient descent). Как объясняет Ланье, градиентный спуск работает как «антивирусный» механизм против сетевой виральности. В отличие от интернет-алгоритмов, которые продвигают популярный контент, делая его еще более вирусным и глупым, при обучении нейросети исследователи вынуждены постоянно подавлять виральность отдельных признаков ради сохранения баланса всей системы. На уровне всего интернета нейросеть анализирует контекстную близость (adjacency) слов и изображений. В результате формируется виртуальный лес «башен» корреляций.

Ланье соглашается с критикой о том, что модели действуют как «стохастические попугаи», механически воспроизводящие текст, однако подчеркивает, что магия заключается в комбинаторике. Если задать промпт «суслик на гоночном болиде на Луне в стиле Клода Моне», система начнет с хаотичных пикселей и будет циклически прогонять их через фильтры до тех пор, пока изображение не удовлетворит все условия одновременно. Тем не менее, возможности генеративного ИИ жестко ограничены: он способен заполнять концептуальные пробелы между существующими информационными «башнями», создавая новые виртуальные связки, но алгоритмы не могут подняться выше пиковых достижений, заложенных в исходных человеческих данных.

## 🔬 Человеческий разум против статистических моделей
[[JUMP:25:07]]

Главное отличие биологического мозга от искусственных нейросетей заключается в объёме данных, необходимых для обучения. Живые организмы способны усваивать новые концепты на основе единичных примеров. Ланье с иронией отметил, что в научных архивах ежедневно публикуются статьи с заявлениями о создании алгоритма, преодолевшего этот барьер, однако на практике эти заявления никогда не подтверждаются полностью. Кроме того, биологические системы не требуют массивной многослойности глубоких сетей и используют принципиально иные механизмы обучения, отличные от глобального градиентного спуска.

Брайан Грин упомянул свою прошлую беседу с главой ИИ-направления Meta Яном Лекуном (Yann LeCun), который подчеркивал, что современным языковым моделям критически не хватает способности к рассуждению (reasoning). По мнению Лекуна, ИИ должен опираться на внутреннюю модель реального мира, выступающую в качестве рубрикатора для входящих данных, а не просто искать паттерны в массиве информации. Ланье подтвердил, что это отражает давний раскол в сообществе:

1.  Символьный ИИ (Symbolic AI): подход Марвина Минского, основанный на формальной логике Рассела — Уайтхеда и попытках описать мир через фундаментальные правила.
2.  Статистический ИИ: современный подход, базирующийся на обработке гигантских массивов данных и вычислении вероятностей.

Сейчас индустрия пытается гибридизировать эти подходы. В качестве успешного примера Ланье привел недавнюю модель от Google, решающую сложные геометрические задачи путем обучения статистической сети на примерах из логических систем. Тем не менее, Ланье признался, что в отличие от виртуальной реальности ИИ никогда не вызывал у него ощущения искреннего удивления, так как подобные методы генерации обсуждались в его кругу еще в середине 1980-х годов. Учёный также отверг экзистенциальные страхи перед восстанием машин в духе фильма «Терминатор». По мнению Ланье, угроза кроется не в появлении «инопланетного разума», а в безответственности самих людей, способных использовать новые мощные инструменты для создания катастроф планетарного масштаба.

## 💰 Концепция «цифрового достоинства» против базового дохода
[[JUMP:33:37]]

В качестве решения проблемы безопасности и экономической справедливости Джарон Ланье продвигает концепцию «цифрового достоинства» (data dignity). Её суть заключается в разметке нейросетевого «леса корреляций» цифровыми следами (breadcrumbs), которые позволяют точно отследить, какие именно документы конкретных авторов внесли наибольший вклад в финальный ответ системы. Ланье подчеркнул, что высказывает исключительно личное мнение, которое может не разделяться руководством Microsoft или OpenAI, где он работает на особых условиях.

Концепция решает две фундаментальные задачи:

* Безопасность и обход ограничений: Ланье привел гипотетический пример, когда злоумышленники пытаются выведать у ИИ чертежи атомной бомбы, маскируя запрос под рецепт свадебного торта. Системы фильтрации на входе и выходе могут пропустить такой текст. Однако отслеживание исходных источников (provenance) сразу покажет, что для генерации «рецепта» модель обратилась к материалам по ядерному оружию, что позволит мгновенно заблокировать вывод.
* Экономическая справедливость: Исследования Ланье совместно с университетскими партнерами показывают, что в распределении влияния данных четко работает принцип Парето. Для любого уникального ответа ИИ можно выделить не более десятка ключевых человеческих источников, чей вклад был определяющим.

Ланье категорически не согласен с популярной в Кремниевой долине идеей безусловного базового дохода (ББД) как компенсации за потерю рабочих мест из-за автоматизации. По мнению ученого, появление единого плательщика в государстве неизбежно ведет к авторитаризму: «Вы можете начать с большевиков, но закончите сталинистами, потому что соблазн централизованного контроля непреодолим для худших представителей человечества». Даже если бы систему строили разумные головоногие моллюски, законы теории игр привели бы к тому же финалу. Ланье предлагает альтернативу: сохранять рыночную экономику и выплачивать авторам данных прямые роялти и дивиденды через профессиональные ассоциации лицензирования контента.

## 📢 Крах экономики зависимости и эволюция интерфейсов
[[JUMP:43:24]]

Джарон Ланье на протяжении многих лет выступает с критикой современных социальных сетей, чьи алгоритмы изначально создавались и финансировались ради формирования психологической зависимости у пользователей. Однако он выразил надежду, что развитие генеративного ИИ разрушит эту пагубную бизнес-модель. Использование диалогового ИИ для получения конкретных ответов гораздо эффективнее для человека, чем бесконечный просмотр рекламных ссылок в поисковиках. Ланье привел пример из личной практики: при поиске инструкций к сложному оборудованию ИИ мгновенно находит нужные корреляции между разными версиями мануалов, избавляя от необходимости пролистывать десятки страниц.

Такой сдвиг заставит крупные технологические компании отказаться от модели «оплаченного влияния и манипулятивного усиления» контента (которую ошибочно называют традиционной рекламой) и перейти к подписочной модели оплаты сервисов пользователями. Ланье подчеркнул, что говорит об этом с теплотой и дружеским отношением, напоминая, что сам в прошлом продал одну из своих компаний Google.

В контексте развития технологий Ланье видит идеальный пользовательский интерфейс в традиционных музыкальных инструментах. По его мнению, если цель технологии — помочь человеку воздействовать на физический мир с максимальной точностью, то музыкальные инструменты являются самыми передовыми устройствами в истории. Скрипач контролирует смычок и струну на уровне, близком к квантовому пределу. Ланье стремится к тому, чтобы компьютеры эволюционировали в сторону музыкальной экспрессии, позволяя человеку задействовать всё свое тело, нервную систему и когнитивные способности для тонкого управления цифровым миром, вместо бездумного делегирования творчества алгоритмам.

## 🥽 Виртуальная реальность: от EyePhone до философии сознания
[[JUMP:50:00]]

Касаясь истории виртуальной реальности, Ланье уточнил, что сама идея трехмерной графики и отслеживания движений головы принадлежит Айвену Сазерленду. Заслуга самого Ланье заключается в создании первых коммерческих гарнитур, внедрении социальных VR-пространств с аватарами и введении в оборот самого термина «виртуальная реальность». Истоки современных устройств, таких как Apple Vision Pro, уходят в далекое прошлое: 40 лет назад один из создателей оригинальной операционной системы Macintosh Энди Херцфельд помогал команде Ланье разрабатывать первую ОС для виртуальной реальности. Первая коммерческая гарнитура компании Ланье называлась «EyePhone» (через две буквы «E»). По информации Ланье, именно этот проект вдохновил Стива Джобса на создание iPhone, поскольку внутри Apple еще с 1982 года существовала группа инженеров, планировавшая выпустить гарнитуру примерно к 2010 году.

Главной проблемой VR-индустрии на протяжении десятилетий оставалась невозможность долгосрочной поддержки приложений из-за частой смены стандартов оборудования. Ланье вспомнил VR-симулятор общей теории относительности, созданный в Корнеллском университете в 1992 году: пользователь мог физически ощутить искажения пространства-времени при движении. Проект закрылся через год, так как код требовал постоянного переписывания под новые типы экранов. Брайан Грин подтвердил, что Всемирный фестиваль науки разработал аналогичный VR-экскурсовод по релятивистской физике, сталкивающийся с теми же хроническими проблемами финансирования обновлений.

Решение этой технической проблемы Ланье видит в генеративном ИИ. Использование нейросетей для автоматического написания кода (повышающее продуктивность программистов минимум на 40%) позволяет создавать виртуальные миры «на лету» прямо внутри сессии. Пользователь с СДВГ или дальтонизмом сможет устно запросить симулятор относительности под свои особенности, и система мгновенно сгенерирует среду без участия живых разработчиков, что фактически реализует концепцию Голодека (Holodeck) из вселенной «Звездного пути».

В завершение дискуссии Ланье, открыто называющий себя дуалистом, определил виртуальную реальность как «машину для обнаружения сознания». Он убежден, что опыт радикального изменения тела и восприятия времени в VR высвобождает чистое человеческое сознание (наблюдателя), отделенное от физической оболочки. Брайан Грин дополнил этот тезис ссылкой на знаменитое философское эссе Томаса Нагеля «Каково быть летучей мышью?». Собеседники сошлись во мнении, что именно VR способна перевести этот умозрительный эксперимент в плоскость прямого эмпирического опыта, трансформируя наше понимание природы разума.