В рамках Всемирного фестиваля науки состоялась глубокая аналитическая дискуссия между известным физиком Брайаном Грином и легендарным ученым, футурологом и пионером виртуальной реальности Джароном Ланье. Собеседники детально разобрали истинную природу современных больших языковых моделей, проанализировали исторические корни концепции искусственного интеллекта и предложили альтернативный взгляд на экономику будущего через призму «цифрового достоинства». Ланье представил доказательства того, что ИИ является не зарождающимся сверхразумом, а новой, беспрецедентной формой сотрудничества между людьми, требующей кардинального пересмотра человеческой ответственности.
🎻 От музыки к высоким технологиям: истоки философии Джарона Ланье 0:01
Джарон Ланье, занимающий пост главного ведущего ученого в корпорации Microsoft, широко известен как один из 25 самых влиятельных деятелей в истории технологий по версии журнала Wired. Однако его путь в науку начался с глубокой личной трагедии и страсти к музыке. Мать Ланье, пережившая Холокост и бывшая пианисткой-вундеркиндом в Вене, погибла в автокатастрофе, когда Джарон был еще ребенком. Изучение новых музыкальных инструментов стало для него способом сохранить непрерывную ментальную связь с матерью. Сегодня Ланье владеет огромной коллекцией редких инструментов, заполнивших все стены его дома, и считает их самыми совершенными пользовательскими интерфейсами в истории человечества.
Уже в подростковом возрасте Ланье попал в исследовательскую среду Массачусетского технологического института (MIT), где его ментором и начальником стал один из отцов-основателей ИИ Марвин Минский. Несмотря на теплые личные отношения и искреннюю благодарность за наставничество, Ланье подчеркивает, что он был фундаментально не согласен с Минским практически по каждому научному вопросу. Это противостояние взглядов во многом сформировало критическое отношение Ланье к идее машинного разума.
📜 Великий теннисный матч истории: от Ады Лавлейс до кибернетики Уинера 5:59
История дискуссий об искусственном интеллекте, по мнению Ланье, напоминает затянувшийся матч в большой теннис между двумя лагерями: антропоцентрическим и машинно-центрическим. Хронология этой интеллектуальной борьбы включает ключевые вехи:
- Ада Лавлейс: Первая в истории программистка твердо решила, что фокус внимания должен быть смещен исключительно на человека-программиста, отказывая вычислительным машинам в самостоятельной сущности.
- Эдвард Морган Форстер: В своей пророческой повести 1907 года «Машина останавливается» писатель детально описал прообраз антиутопического интернета, раскритиковав идею превращения машины в центр человеческой цивилизации.
- Ванневар Буш: Проектировал компьютеры и алгоритмы исключительно как инструменты для расширения возможностей человека, сохраняя антропоцентричную позицию.
Поворотной точкой стал Алан Тьюринг, который предложил рассматривать машины как мыслящие сущности. Ланье предлагает взглянуть на знаменитый тест Тьюринга через призму трагической биографии ученого. После окончания Второй мировой войны Тьюринг, признанный спаситель Европы от нацизма, был осужден в Великобритании за гомосексуальность и подвергнут принудительной гормональной терапии. Психологическое давление привело к его самоубийству перед экраном одного из первых компьютеров. По мнению Ланье, тест Тьюринга родился из глубоко абсурдистского, дисфорического состояния автора: Тьюринг пытался доказать, что если общество не может рационально отличить человека от не-человека, то не стоит и делать этот жестокий выбор. Его идеи были скорее завуалированной социальной критикой, чем строгим техническим манифестом.
Следующий виток дискуссии совершил Норберт Уинер, создатель кибернетики. В отличие от абстрактной логической машины Тьюринга-Вон Неймана, работающей по принципу «вход-процесс-выход», Уинер предложил модель «запутанной сети термометров» — непрерывно активных систем измерения и обратной связи, взаимодействующих со средой. В своей книге «Человеческое использование человеческих существ» Уинер описал мысленное предупреждение: если человечество начнет приравнивать себя к компьютерам, общество будет разрушено, а люди превратятся в управляемые биологические элементы поведенческого эксперимента.
Терминологический раскол оформился в 1958 году на Дартмутском семинаре. Джон Маккарти, Марвин Минский и их коллеги ввели в оборот термин «искусственный интеллект» во многом для того, чтобы дистанцироваться от набиравшей популярность кибернетики Уинера и вернуть маятник в сторону концепции машины-сущности.
🤖 Развенчание мифа о разуме: почему ChatGPT — это не сущность, а машап 14:22
Комментируя тектонический сдвиг в общественном восприятии технологий после релиза ChatGPT в ноябре 2022 года, Джарон Ланье сохраняет скептицизм: «Никакого ИИ там нет. Там нет личности». Проектируя современные системы в Microsoft, он продолжает разделять позиции Ады Лавлейс и Норберта Уинера.
С технической точки зрения большие языковые модели представляют собой гигантский инструмент человеческого сотрудничества. Нейросеть аккумулирует колоссальные массивы данных, созданных реальными людьми (как в открытом интернете, так и в высококачественных закрытых офлайн-источниках), и комбинирует их на основе статистических корреляций.
Брайан Грин соглашается с этой оценкой, приводя аргумент из области эволюционной психологии: человеческому виду было эволюционно выгодно наделять агентностью и разумом любые внешние объекты (например, шорох в кустах). Предок, предполагавший наличие хищника там, где его нет, выживал чаще, чем тот, кто игнорировал потенциальную угрозу. Именно этот древний механизм заставляет современных пользователей видеть «разум» и «личность» в сложном статистическом зеркале нейросетей.
🏗️ Архитектура многоэтажных башен: как устроены алгоритмы Deep Learning 17:54
Для объяснения внутренних процессов LLM Ланье предлагает интуитивную метафору «виртуального леса, состоящего из многоэтажных башен». Эволюция алгоритмов классификации прошла несколько стадий:
- Линейная статистика: Простые измерения цвета или пересечения линий позволяли отслеживать точки на лице, но не могли отличить кошку от собаки.
- Глубокое обучение (Deep Learning): Создание иерархических сеток статистических мер, где каждый последующий уровень анализирует данные предыдущего.
- Градиентный спуск (Gradient Descent): Метод настройки весов связей между уровнями сетки. Если система выдает верный результат, ценность задействованных настроек повышается.
Ланье выделяет уникальную математическую особенность градиентного спуска — его «антивирусную» природу. В отличие от социальных сетей, где алгоритмы поощряют виральность и выводят в топ самые абсурдные и агрессивные публикации, обучение нейросетей требует постоянного подавления виральности отдельных элементов ради сохранения баланса всей системы.
Современные генеративные модели (например, создающие изображения по текстовому промпту) используют принцип близости (adjacency) слов и картинок в масштабах всего интернета. Когда пользователь просит изобразить «песчанку, управляющую гоночным болидом на Марсе в стиле Клода Моне», модель начинает с абсолютно случайного набора пикселей. Циклически пропуская их через комбинацию виртуальных «башен», система отсекает варианты, отдаляющие ее от условий запроса, пока не сформирует итоговое изображение.
Главное ограничение этого метода заключается в том, что алгоритм способен эффективно заполнять пустоты между существующими знаниями, но принципиально не может подняться выше «крыши» тех башен, которые изначально были построены человеческим интеллектом. Это компиляция, а не произвольный конструктивный разум.
🧠 Биологический мозг против нейросетей: неразгаданные различия 24:40
Джарон Ланье указывает на фундаментальные расхождения между искусственными нейросетями и биологическими системами, опровергая частые заявления о скором преодолении этого разрыва:
- Объем данных для обучения: Биологический мозг способен мгновенно обучаться новому концепту на основе единичных примеров. Нейросеть требует миллионов итераций. Ланье иронизирует, что научные журналы ежедневно публикуют статьи, заявляющие о взломе проблемы «обучения по малым выборкам», но на практике эти теории всякий время оказываются несостоятельными.
- Иерархическая глубина: Глубокие компьютерные сети требуют жесткой многослойной структуры, в то время как живые организмы обходятся совершенно иными принципами организации нейронов.
- Механизм оптимизации: В живом мозге отсутствует глобальный математический алгоритм градиентного спуска; биологические синапсы меняются за счет локальных химических и электрических взаимодействий.
В контексте дискуссии с главой ИИ-направления Meta Яном Лекуном, Брайан Грин поднимает вопрос о главном дефиците LLM — отсутствии способности к логическому рассуждению и построению внутренней модели физического мира. Вместо хаотичного поиска паттернов в данных человеческий разум использует жесткие когнитивные шаблоны.
Ланье подтверждает, что сейчас индустрия пытается скрестить два исторических направления: статистический ИИ (LLM) и символьный ИИ (построенный на формальной логике Минского). Примером успешного нишевого синтеза стал недавний геометрический решатель от Google, обученный на базе логических систем, однако универсального метода объединения этих подходов в науке до сих пор нет.
🛡️ Ответственность вместо экзистенциального страха перед «Скайнетом» 29:38
Ланье признается, что в отличие от виртуальной реальности, которая до сих пор вызывает у него восторг, у него никогда не было «вау-эффекта» от использования современного ИИ. Процессы генерации контента по текстовым запросам он детально просчитал и описал вместе с коллегами еще в середине 1980-х годов.
Рассуждая о страхах перед экзистенциальной угрозой ИИ, транслируемых многими учеными, Ланье называет концепцию восстания машин в стиле фильмов «Терминатор» или «Матрица» вредной и инфантильной. Framining угрозы как «пришествия инопланетного разума» снимает ответственность с человека.
«Любая развитая технология увеличивает силу человека, а значит — повышает уровень нашей ответственности. Возможность прокормить миллиарды людей приводит к трансформации планеты и изменению климата, что заставляет нас брать ответственность за этот климат. С ИИ ситуация аналогична: угрозу представляет не сама машина, а то, как люди используют этот инструмент», — подчеркивает Ланье.
💰 Концепция «Цифрового достоинства» против безусловного базового дохода 33:37
В качестве практического решения проблемы бесконтрольного развития технологий Ланье предлагает внедрить архитектуру «цифрового достоинства» (Data Dignity). Ее суть заключается в математическом маркировании данных («оставлении хлебных крошек») внутри нейросетевого леса. Технология должна четко определять, какие именно исходные документы, созданные конкретными людьми, оказались непропорционально важны для генерации конкретного ответа или изображения.
Это решает две критические задачи:
1. Безопасность и обход фильтров
Современные системы безопасности ИИ защищают только «вход» (фильтрация данных для обучения) и «выход» (блокировка опасных ответов). Ланье приводит пример: злоумышленник может замаскировать запрос на создание атомной бомбы под невинный рецепт свадебного торта, используя изощренные метафоры. Системы фильтрации пропустят этот текст. Однако если алгоритм проследит провенанс (происхождение) данных, необходимых для генерации ответа, он неизбежно упрется в конкретные технические документы по ядерной физике и заблокирует транзакцию. Идентификация источников делает систему прозрачной.
2. Экономическая справедливость
Популярная в Кремниевой долине идея введения Универсального базового дохода (УБД/UBI) для людей, потерявших работу из-за автоматизации, кажется Ланье глубоко порочной.
«Появление в обществе единственного плательщика в лице государства неизбежно ведет к тоталитарному захвату власти худшими акторами. История показывает: вы можете начать с большевиков, но всегда закончите сталинизмом», — утверждает Ланье.
Вместо превращения граждан в иждивенцев, содержащихся в условных «капсулах матрицы», концепция цифрового достоинства предлагает выплачивать людям прямые роялти и дивиденды за использование их персональных данных, текстов, фотографий и кода для обучения коммерческих систем ИИ. Это позволит сохранить здоровую распределенную рыночную экономику в цифровую эпоху.
📱 Крах рекламной модели интернета и возвращение кexpressive-системам 43:37
Ланье выражает надежду, что развитие ИИ разрушит существующую бизнес-модель ИТ-гигантов, построенную на алгоритмическом вызывании зависимости (addiction) у пользователей. На протяжении последних двадцати лет инвестиции в ИИ шли преимущественно на создание алгоритмов удержания внимания ради продажи таргетированной рекламы. Ланье называет этот формат «темным механизмом платного манипулирования и скрытого усиления сигналов».
Распространение разговорного ИИ делает неэффективной классическую поисковую выдачу. Если пользователю нужно узнать специфическую деталь из инструкции по ремонту бойлера, ИИ сразу выдает точный ответ, избавляя от необходимости кликать по спонсорским ссылкам. Компании вроде Google будут вынуждены отказаться от рекламной модели в пользу прямой платной подписки за полезный сервис, что оздоровит социальную атмосферу и снизит градус поляризации в обществе.
В творческом плане Ланье категорически отказывается использовать ИИ для написания музыки. По его мнению, музыкальные инструменты — это сложнейшиеexpressive-технологии, позволяющие человеку контролировать физические параметры (например, движение смычка скрипки) на уровне, близком к квантовому пределу. Цель науки — сделать компьютеры такими же чуткими, отзывчивыми интерфейсами, задействующими все тело и нервную систему человека, а не заменять человеческую экспрессию суррогатом машинной генерации.
🌌 VR как инструмент познания природы сознания 58:29
Джарон Ланье, создавший первые коммерческие гармоники виртуальной реальности под названием EyePhone совместно с разработчиками оригинальной Mac OS (такими как Энди Херцфельд), делит применение VR на две крайности:
- Абсолютная утилитарность: Проектирование самолетов, космических аппаратов, планирование хирургических операций и архитектурное моделирование городов. Это невидимая для обывателя, но коммерчески успешная индустрия.
- Философское искусство: Использование VR как «машины для обнаружения сознания».
Ланье открыто называет себя убежденным философским дуалистом: он считает человеческое сознание и субъективный опыт субстанциями, отделенными от физической материи. Виртуальная реальность позволяет наглядно продемонстрировать эту автономию. Смещая аватар человека в тело животного, искажая пространственные метрики или меняя восприятие скорости течения времени, VR оставляет нетронутой центральную точку наблюдения — чистое человеческое «Я».
Брайан Грин отмечает, что это позволяет на практике подойти к знаменитому философскому вопросу Томаса Нагеля «Каково быть летучей мышью?». Физическое проживание опыта иного существа в виртуальном пространстве способно полностью трансформировать классические философские дискуссии о природе разума.
При этом главной технической проблемой VR остается быстрая устареваемость кода: приложения, созданные для физических симуляций (например, демонстрация теории относительности в VR), ломаются при выходе каждого нового поколения оборудования. Решением, над которым Ланье работает со своими интернами, является спонтанная генерация виртуальных миров с помощью ИИ на основе текстовых промптов прямо в процессе погружения. Это сделает виртуальные пространства динамическими и избавит человечество от необходимости вечной поддержки старого программного кода.
