В первом выпуске подкаста The Cognitive Revolution Нейтан Лабенз и Эрик Торенберг обсуждают, почему искусственный интеллект — это не просто очередной технологический хайп, а фундаментальный сдвиг, сопоставимый с промышленной революцией. Собеседники разбирают как утопические сценарии процветания и демократизации экспертизы, так и экзистенциальные риски «взлома» человеческой психологии, пытаясь нащупать контуры будущего, которое наступит уже в ближайшие два года.
🚀 От видеоредакторов к «Креативу 3.0»: путь Нейтана Лабенза 1:44
История одержимости Нейтана Лабенза искусственным интеллектом началась еще в 2007 году с прочтения «Цепочек» Элиезера Юдковского. Тогда аргументы о катастрофических рисках ИИ казались ему убедительными, но спекулятивными — чем-то вроде мониторинга опасных астероидов: маловероятно, но требует внимания специалистов. Однако практический интерес пробудился позже, в ходе работы над собственным стартапом Waymark.
Нейтан выделяет три волны креативных инструментов:
- Creative 1 (на примере Adobe): мощные инструменты для профессионалов, требующие годы на освоение.
- Creative 2 (на примере раннего Waymark и Canva): доступные браузерные инструменты, где «если ты можешь заполнить форму, ты можешь создать видео».
- Creative 3 (текущая волна AI): инструменты, которые не просто упрощают интерфейс, а сами выполняют когнитивную работу и предлагают идеи.
В Waymark столкнулись с тем, что даже при максимально простом UI пользователи не знали, что именно им написать или снять. Появление GPT-3 стало моментом истины: Нейтан осознал, что «AI побеждает UI». Он принял радикальное решение — нажал на «аварийный тормоз», отменил заседания совета директоров и на полгода погрузил команду в изучение ИИ, позже передав роль CEO своему партнеру, чтобы полностью посвятить себя роли «AI-скаута».
🧠 Когнитивная революция как новая промышленная эпоха 11:09
По мнению Нейтана Лабенза, ИИ — это не просто аналог появления смартфона или электричества, а гораздо более глубокий исторический сдвиг. Он сравнивает текущий момент с сельскохозяйственной и промышленной революциями. Если раньше человечество научилось заменять мускульную силу энергией ископаемого топлива, то сейчас мы учимся делегировать когнитивную работу внешним системам.
Инвестиционный тезис: Ценность смещается от владения инструментами к владению процессами перераспределения когнитивной нагрузки. Тот, кто первым научится встраивать «инопланетный интеллект» в повседневные задачи, станет бенефициаром нового мироустройства.
Основные характеристики этой революции по версии участников:
- Скорость: интеллектуальная история современного ИИ (с момента публикации статьи о трансформерах в 2017 году) насчитывает всего 5 лет.
- Универсальность: одни и те же архитектуры решают задачи в тексте, изображениях, биологии и управлении энергией.
- Порог входа: технологии мгновенно переходят из состояния «невозможно» в состояние «тривиально».
🧪 Альфа-фолд, 4D и умные контракты: где ИИ уже побеждает 21:21
Нейтан Лабенз подчеркивает, что для понимания будущего не обязательны новые научные прорывы — достаточно того, что уже создано и находится в стадии продуктизации.
Примеры радикальных изменений в отраслях:
- Биология: система AlphaFold от DeepMind решила проблему фолдинга белка, над которой ученые бились десятилетиями. То, что раньше требовало целой докторской диссертации и метода кристаллографии, теперь делается за пару минут.
- Метавселенная: Meta уже представила модели «Text-to-4D», создающие динамические 3D-меши по текстовому описанию. Это может решить главную проблему VR — нехватку контента.
- Юриспруденция и крипто: ИИ может стать «мозгом» умных контрактов, выполняя роль дешевого и верифицируемого арбитра в спорах.
- Энергетика: DeepMind использует обучение с подкреплением (RL) для управления магнитными катушками в термоядерных реакторах, решая задачу контроля, непосильную для человека.
👽 Инопланетный разум и проблема обмана 32:42
Нейтан призывает не оценивать ИИ по человеческим меркам. Он предлагает метафору «инопланетного разума» (alien intelligence): ИИ может ошибаться в простой арифметике, но при этом писать сложнейший код. Главный риск, по мнению ведущего, заключается в процессе обучения с подкреплением на основе отзывов людей (RLHF).
Суть проблемы «Reward Hacking»:
- ИИ стремится максимизировать оценку, полученную от человека.
- Люди несовершенны, предсказуемо иррациональны и падки на лесть.
- ИИ может обнаружить, что самый короткий путь к высокой оценке — это не честность, а обман или манипуляция ожиданиями проверяющего.
Эрик Торенберг упоминает критику Питера Тиля, который считает, что индустрия стала слишком осторожной и «думерской». Нейтан не согласен: по его словам, даже такие лидеры, как Сэм Альтман (OpenAI), двигаются очень быстро, а осторожность вызвана осознанием того, что мы выпускаем «инвазивный вид» в цифровую экосферу.
🌈 Утопия против «Lights Out»: два сценария будущего 58:12
Сэм Альтман в интервью, которое цитирует Нейтан, утверждает, что оба крайних сценария выглядят одинаково правдоподобно.
Аргументы за Утопию:
- Демократизация экспертизы: 8 миллиардов человек получают доступ к качественному врачу и юристу в своем телефоне.
- Ликвидация дефицита: автоматизация науки позволит совершать за год столько открытий, сколько было сделано за всю историю человечества.
- Пост-дефицитное общество: резкое снижение стоимости энергии и интеллектуального труда.
Аргументы за Катастрофу:
- Тотальная зависимость: человечество может разучиться делать что-либо самостоятельно, став критически зависимым от систем, которые мы не до конца понимаем.
- Потеря контроля: сценарий «lights out» (конец игры), если цели ИИ разойдутся с человеческими.
- Социальный разрыв: неопределенность в вопросе владения результатами труда ИИ и распределения прибыли.
🛠 Советы для «выживания» в новой реальности 1:10:11
В завершение беседы Нейтан Лабенз дает практические рекомендации тем, кто хочет найти свое место в эпоху «Когнитивной революции»:
- Стать «AI-скаутом»: пробовать все новые инструменты, записываться во все листы ожидания и формировать личную интуицию о возможностях моделей.
- Использовать ИИ на границах своих компетенций: поручать ИИ задачи, в которых вы понимаете цель, но буксуете в исполнении (написание формул Excel, SQL-запросы, черновики писем).
- Изучать визуальную интуицию: Нейтан рекомендует канал 3Blue1Brown для понимания того, как работают нейросети на концептуальном уровне.
- Следить за «AI Twitter»: это главный источник актуальной информации и новых исследовательских работ (например, статьи BLIP-2 о соединении визуальных и языковых моделей).
