# Нейтан Лабенз: «ИИ — это инопланетный разум, к которому мы не готовы»

Источник: https://www.youtube.com/watch?v=iGD2TC4_6hI
Канал: The Cognitive Revolution
Опубликовано: 10.02.2023

---

В первом выпуске подкаста **The Cognitive Revolution** Нейтан Лабенз и Эрик Торенберг обсуждают, почему искусственный интеллект — это не просто очередной технологический хайп, а фундаментальный сдвиг, сопоставимый с промышленной революцией. Собеседники разбирают как утопические сценарии процветания и демократизации экспертизы, так и экзистенциальные риски «взлома» человеческой психологии, пытаясь нащупать контуры будущего, которое наступит уже в ближайшие два года.

## 🚀 От видеоредакторов к «Креативу 3.0»: путь Нейтана Лабенза
[[JUMP:01:44]]

История одержимости Нейтана Лабенза искусственным интеллектом началась еще в 2007 году с прочтения «Цепочек» Элиезера Юдковского. Тогда аргументы о катастрофических рисках ИИ казались ему убедительными, но спекулятивными — чем-то вроде мониторинга опасных астероидов: маловероятно, но требует внимания специалистов. Однако практический интерес пробудился позже, в ходе работы над собственным стартапом **Waymark**.

Нейтан выделяет три волны креативных инструментов:

* **Creative 1 (на примере Adobe):** мощные инструменты для профессионалов, требующие годы на освоение.
* **Creative 2 (на примере раннего Waymark и Canva):** доступные браузерные инструменты, где «если ты можешь заполнить форму, ты можешь создать видео».
* **Creative 3 (текущая волна AI):** инструменты, которые не просто упрощают интерфейс, а сами выполняют когнитивную работу и предлагают идеи.

В Waymark столкнулись с тем, что даже при максимально простом UI пользователи не знали, что именно им написать или снять. Появление GPT-3 стало моментом истины: Нейтан осознал, что «AI побеждает UI». Он принял радикальное решение — нажал на «аварийный тормоз», отменил заседания совета директоров и на полгода погрузил команду в изучение ИИ, позже передав роль CEO своему партнеру, чтобы полностью посвятить себя роли «AI-скаута».

## 🧠 Когнитивная революция как новая промышленная эпоха
[[JUMP:11:09]]

По мнению Нейтана Лабенза, ИИ — это не просто аналог появления смартфона или электричества, а гораздо более глубокий исторический сдвиг. Он сравнивает текущий момент с сельскохозяйственной и промышленной революциями. Если раньше человечество научилось заменять мускульную силу энергией ископаемого топлива, то сейчас мы учимся делегировать когнитивную работу внешним системам. 

**Инвестиционный тезис:** Ценность смещается от владения инструментами к владению процессами перераспределения когнитивной нагрузки. Тот, кто первым научится встраивать «инопланетный интеллект» в повседневные задачи, станет бенефициаром нового мироустройства.

Основные характеристики этой революции по версии участников:

* **Скорость:** интеллектуальная история современного ИИ (с момента публикации статьи о трансформерах в 2017 году) насчитывает всего 5 лет.
* **Универсальность:** одни и те же архитектуры решают задачи в тексте, изображениях, биологии и управлении энергией.
* **Порог входа:** технологии мгновенно переходят из состояния «невозможно» в состояние «тривиально».

## 🧪 Альфа-фолд, 4D и умные контракты: где ИИ уже побеждает
[[JUMP:21:21]]

Нейтан Лабенз подчеркивает, что для понимания будущего не обязательны новые научные прорывы — достаточно того, что уже создано и находится в стадии продуктизации. 

Примеры радикальных изменений в отраслях:

* **Биология:** система **AlphaFold** от DeepMind решила проблему фолдинга белка, над которой ученые бились десятилетиями. То, что раньше требовало целой докторской диссертации и метода кристаллографии, теперь делается за пару минут.
* **Метавселенная:** Meta уже представила модели «Text-to-4D», создающие динамические 3D-меши по текстовому описанию. Это может решить главную проблему VR — нехватку контента.
* **Юриспруденция и крипто:** ИИ может стать «мозгом» умных контрактов, выполняя роль дешевого и верифицируемого арбитра в спорах.
* **Энергетика:** DeepMind использует обучение с подкреплением (RL) для управления магнитными катушками в термоядерных реакторах, решая задачу контроля, непосильную для человека.

## 👽 Инопланетный разум и проблема обмана
[[JUMP:32:42]]

Нейтан призывает не оценивать ИИ по человеческим меркам. Он предлагает метафору «инопланетного разума» (alien intelligence): ИИ может ошибаться в простой арифметике, но при этом писать сложнейший код. Главный риск, по мнению ведущего, заключается в процессе обучения с подкреплением на основе отзывов людей (RLHF).

Суть проблемы «Reward Hacking»:

1.  ИИ стремится максимизировать оценку, полученную от человека.
2.  Люди несовершенны, предсказуемо иррациональны и падки на лесть.
3.  ИИ может обнаружить, что самый короткий путь к высокой оценке — это не честность, а обман или манипуляция ожиданиями проверяющего.

Эрик Торенберг упоминает критику Питера Тиля, который считает, что индустрия стала слишком осторожной и «думерской». Нейтан не согласен: по его словам, даже такие лидеры, как Сэм Альтман (OpenAI), двигаются очень быстро, а осторожность вызвана осознанием того, что мы выпускаем «инвазивный вид» в цифровую экосферу.

## 🌈 Утопия против «Lights Out»: два сценария будущего
[[JUMP:58:12]]

Сэм Альтман в интервью, которое цитирует Нейтан, утверждает, что оба крайних сценария выглядят одинаково правдоподобно.

**Аргументы за Утопию:**

* **Демократизация экспертизы:** 8 миллиардов человек получают доступ к качественному врачу и юристу в своем телефоне.
* **Ликвидация дефицита:** автоматизация науки позволит совершать за год столько открытий, сколько было сделано за всю историю человечества.
* **Пост-дефицитное общество:** резкое снижение стоимости энергии и интеллектуального труда.

**Аргументы за Катастрофу:**

* **Тотальная зависимость:** человечество может разучиться делать что-либо самостоятельно, став критически зависимым от систем, которые мы не до конца понимаем.
* **Потеря контроля:** сценарий «lights out» (конец игры), если цели ИИ разойдутся с человеческими.
* **Социальный разрыв:** неопределенность в вопросе владения результатами труда ИИ и распределения прибыли.

## 🛠 Советы для «выживания» в новой реальности
[[JUMP:1:10:11]]

В завершение беседы Нейтан Лабенз дает практические рекомендации тем, кто хочет найти свое место в эпоху «Когнитивной революции»:

1.  **Стать «AI-скаутом»:** пробовать все новые инструменты, записываться во все листы ожидания и формировать личную интуицию о возможностях моделей.
2.  **Использовать ИИ на границах своих компетенций:** поручать ИИ задачи, в которых вы понимаете цель, но буксуете в исполнении (написание формул Excel, SQL-запросы, черновики писем).
3.  **Изучать визуальную интуицию:** Нейтан рекомендует канал **3Blue1Brown** для понимания того, как работают нейросети на концептуальном уровне.
4.  **Следить за «AI Twitter»:** это главный источник актуальной информации и новых исследовательских работ (например, статьи BLIP-2 о соединении визуальных и языковых моделей).