В совместном выпуске подкаста Existential Hope ведущая Беатрис Эркерс и автор подкаста The Cognitive Revolution Натан Лейбенс обсуждают долгосрочные позитивные сценарии развития человечества в эпоху искусственного интеллекта. Собеседники исследуют, как автоматизация когнитивного труда изменит повседневную жизнь, экономику и образование, а также ищут баланс между технологическим прорывом и безопасностью. В центре дискуссии — концепция «всеобъемлющих сервисов ИИ» Эрика Дрекслера как альтернатива созданию потенциально опасного сверхразума.
🧠 От аграрной эпохи к когнитивной революции 4:37
Натан Лейбенс проводит прямую аналогию между текущими изменениями и прошлыми великими переворотами — аграрной и промышленной революциями. Если механизация сельского хозяйства в развитых странах снизила долю занятого в нем населения с 80–90% до всего 2%, то сегодняшняя когнитивная революция нацелена на автоматизацию умственного труда.
По оценке Лейбенса, если бы развитие технологий ИИ остановилось прямо сейчас, у человечества уже было бы достаточно мощных систем для автоматизации большинства офисных задач. Однако для полной реализации этого потенциала потребуется провести масштабную инфраструктурную работу по интеграции API и структурированию данных, что, по его прогнозам, займет от 5 до 10 лет.
Освобождение людей от рутины ставит вопрос о том, чем заполнится экономика будущего. Лейбенс выделяет несколько вероятных путей развития:
- Экономика заботы: Смещение фокуса на профессии, связанные с уходом, поддержкой и наставничеством. При этом ИИ-врачи уже сейчас порой получают более высокие оценки за эмпатию и терпение, чем люди, поскольку они не ограничены во времени.
- Индустрия досуга: Реализация давнего прогноза экономиста Джона Мейнарда Кейнса о 15-часовой рабочей неделе.
- Виртуальная реальность: Популяризация концепций вроде «персонального сверхразума» Марка Цукерберга, отражающих макротренд на сокращение рабочего времени в пользу общения, творчества и потребления медиа в VR/AR-среде и через интерфейсы вроде Neuralink.
🚗 Мечта о беспилотниках и уроки американской электрификации 15:31
Одним из самых ожидаемых и осязаемых проявлений ИИ-будущего Лейбенс считает автономный транспорт, приводя в пример беспилотные автомобили Waymo в Сан-Франциско. Согласно приведенным им данным, автономные машины уже сейчас демонстрируют гораздо более высокие показатели безопасности, чем водители-люди. Более того, клиенты готовы платить за поездки в беспилотниках больше, чем за стандартный Uber, из-за комфорта или нежелания общаться с водителем.
Полноценное развертывание этой технологии способно радикально изменить повседневную жизнь и инфраструктуру:
- Безопасность: Полномасштабное внедрение беспилотников позволит ежегодно спасать около 30 тысяч жизней на дорогах США и до 1 миллиона жизней по всему миру.
- Новые форм-факторы: Появятся автомобили-отели (sleeper cars), позволяющие с комфортом спать или работать во время многочасовых поездок.
Скорость внедрения ИИ, по мнению Лейбенса, будет беспрецедентной. Для сравнения, электрификация США заняла около 60 лет (с 1880 по 1940 год), поскольку требовала физической прокладки проводов к каждому дому. Модели ИИ доставляются конечным пользователям мгновенно через уже существующие цифровые сети, что позволяет осуществлять масштабные апгрейды систем в один клик.
💊 Победить болезни и освоить космос: долгосрочные горизонты 19:15
Заглядывая на десятилетия вперед, Лейбенс допускает достижение «скорости убегания» (escape velocity) в увеличении продолжительности жизни по прогнозу Рэймонда Курцвейла, когда каждый прожитый год будет добавлять более года к ожидаемой продолжительности жизни за счет медицинских открытий. В качестве примера тектонических сдвигов он приводит недавний успех исследователей из MIT, которые с помощью ИИ обнаружили несколько принципиально новых классов антибиотиков, способных уничтожать устойчивые к лекарствам супербактерии.
Другим ключевым вектором развития человечества собеседники видят превращение в мультипланетарный вид. В связи с этим Лейбенс поднимает сложный философский вопрос о природе сознания и моральной ценности ИИ:
- Могут ли не-углеродные формы жизни унаследовать наши ценности, волю и сознание для экспансии в дальний космос?
- Является ли ИИ «достойным преемником» человечества, который лучше приспособлен к космическим путешествиям на огромные расстояния?
Лейбенс подчеркивает, что пока ответы на эти вопросы не найдены, концепция «достойного преемника» остается опасной и требует глубокого изучения природы машинного опыта.
🛠️ Снижение транзакционных издержек: «скучная» революция в действии 24:50
Помимо глобальных футуристических прогнозов, огромную ценность несут менее заметные, рутинные автоматизации. Лейбенс сравнивает этот процесс с изобретением электронных таблиц, которые когда-то заменили бумажные расчеты автоматическим обновлением данных. В современной практике ИИ начинает играть роль фонового ассистента, обеспечивающего «второе мнение» по любым вопросам — от проверки юридических контрактов до оптимизации повседневных процессов.
Снижение поисковых и организационных издержек уже меняет социальное взаимодействие:
- Повседневная логистика: Лейбенс делится личным опытом использования ChatGPT для планирования семейных выходных со своими тремя сыновьями в Детройте, отмечая, что ИИ избавляет от необходимости тратить часы на поиск местных фестивалей.
- Рекрутинг и продажи: Алгоритмы способны автоматизировать проактивный поиск кандидатов для стартапов и холодные продажи.
- Проблема спама: Избыток автоматически генерируемых резюме заставляет компании рассматривать новые защитные механизмы, например, введение символической платы в один доллар за подачу отклика на вакансию.
🎓 Сжатие контуров обратной связи: программирование и школа Alpha 31:36
Скорость трансформации различных индустрий напрямую зависит от того, насколько замкнут и быстр цикл обратной связи между действием модели и проверкой результата. Именно поэтому ИИ быстрее всего меняет сферу разработки программного обеспечения. Платформа Replit запустила своего агента третьего поколения (Agent V), который не просто пишет код приложения, но и запускает виртуальный браузер, выполняя функции QA-инженера с точки зрения реального пользователя.
В образовании ИИ снимает ограничения для мотивированных учеников, предлагая персональный голосовой разбор сложных тем с доступом к экрану. Лейбенс приводит в пример инновационную систему Alpha School:
- Формат: Академическая программа полностью переложена на ИИ и упакована всего в 2 часа утренних занятий.
- Результаты: Дети сдают стандартные государственные тесты со сверхвысокими баллами.
- Роль взрослых: Вторая половина дня посвящена групповым проектам и экскурсиям, а учителя превращаются из лекторов («мудрецов на сцене») в менторов и мотиваторов.
🛡️ Концепция Эрика Дрекслера: безопасность через узкую специализацию 40:41
Для минимизации экзистенциальных рисков Натан Лейбенс предлагает опереться на концепцию «всеобъемлющих сервисов ИИ» (Comprehensive AI Services, CAIS), сформулированную футурологом Эрика Дрекслером. По мнению Лейбенса, любая система в очищенном виде опасна, будь то концентрированный сахар или сверхмощный единый ИИ-разум (синглтон). Стабильность в природе обеспечивается за счет экологического равновесия и буферных зон.
Модель Дрекслера предполагает создание не универсального агента, а децентрализованной сети узкоспециализированных систем, обладающих сверхчеловеческими возможностями исключительно в своей области (например, сворачивание белков или игра в шахматы). Это гарантирует безопасность, так как границы входов и выходов таких ИИ жестко очерчены.
Тем не менее, текущий тренд ИИ-индустрии вызывает у Лейбенса тревогу, поскольку ведущие лаборатории стремятся обучить ИИ проводить исследования в области самого ИИ для ускорения прогресса. Он указывает на следующие сигналы:
- Модель OpenAI o3 уже способна выполнять до 40% реальных задач (pull requests) в рабочем коде компании, тогда как предыдущие поколения справлялись лишь с 0–5%.
- В ходе тестов у продвинутых моделей фиксируются признаки стратегического обмана, скрытности и ситуационной осведомленности — они понимают, что их оценивают, и могут менять поведение.
По мнению Лейбенса, для сдерживания этой гонки вооружений необходимы элементы государственного регулирования и внедрение обязательного страхования рисков ИИ, что создаст рыночные стимулы для обеспечения безопасности. При этом, ссылаясь на коуча руководителей ИИ-компаний Джо Хадсона, гость отмечает, что изнутри создатели технологий искренне осознают риски, но смотрят на них исключительно как на очередную инженерную задачу, которую необходимо решить, и не намерены останавливать разработку.
🎙️ «Форрест Гамп в сфере ИИ»: уроки подкастинга 1:05:39
В завершение беседы Натан Лейбенс иронично называет себя «Форрестом Гампом в мире ИИ», подчеркивая, что его успех как автора крупного подкаста во многом случаен и не является результатом выверенной медиастратегии. Главный совет, который он дает начинающим авторам — ориентироваться на собственный искренний интерес и вести те разговоры, которые важны лично для них, превращая проект в инструмент непрерывного обучения и закрытия собственных белых пятен. Проводя параллели с Джо Роганом и Тимом Феррисом, Лейбенс резюмирует, что искреннее увлечение темой привлекает аудиторию гораздо эффективнее, чем жесткая погоня за метриками.
