Прогноз «ASI к 2028 году»: Взгляд Леопольда Ашенбреннера и контраргументы Сабины Хоссенфельдер 0:00
На фоне стремительного развития больших языковых моделей (LLM) и дискуссий вокруг «эффективного альтруизма» (EA), бывший сотрудник OpenAI Леопольд Ашенбреннер опубликовал масштабный 165-страничный отчет «Ситуационная осведомленность: предстоящее десятилетие». В нем он аргументирует, что мир находится на пороге «интеллектуального взрыва» и достижения искусственного суперинтеллекта (ASI) уже к 2028 году. Автор YouTube-канала Уэс Рот проанализировал эти прогнозы, сопоставив их с критикой физика-теоретика Сабины Хоссенфельдер, которая указывает на фундаментальные физические и инфраструктурные ограничения.
Контекст: Кто такой Леопольд Ашенбреннер? 0:00
Леопольд Ашенбреннер — молодой исследователь, который ранее входил в команду OpenAI, отвечавшую за безопасность ИИ (Superalignment). Он был уволен из компании по обвинению в утечке информации, что вызвало широкий резонанс в технологическом сообществе.
- Ашенбреннер имеет связи с движением эффективного альтруизма (EA), к которому также относился Сэм Бэнкман-Фрид.
- Его увольнение связывают с его жесткой позицией в вопросах безопасности ИИ, которая, по мнению критиков, может быть идеологически предвзятой.
- В своем отчете он проводит параллели между созданием суперинтеллекта и Манхэттенским проектом, подчеркивая, что это станет вопросом национальной безопасности.
Аргументы Ашенбреннера: «Разблокировка» возможностей 24:17
Основной тезис Ашенбреннера базируется на экстраполяции трендов развития ИИ: если мы просто продлим текущие графики прогресса, ASI станет реальностью через считанные годы. Он вводит понятие «разблокировки» (unhobbling) — процесса устранения ограничений, которые сейчас сдерживают ИИ.
- От чат-ботов к агентам (2027 год): По мнению Ашенбреннера, текущие ограничения LLM (неумение пользоваться компьютером, отсутствие памяти, невозможность планирования) будут преодолены. К 2027 году ИИ трансформируется в автономного «удаленного работника», способного выполнять сложные задачи.
- Вычислительная мощность как замена обучению: Он утверждает, что использование большего количества вычислительных ресурсов на этапе инференса (test-time compute) — например, позволяя модели «думать» над задачей часами или днями, как это делает человек, — даст скачок в производительности, сопоставимый с увеличением объема обучающих данных.
- Автоматизация ИИ-исследований: Ключевым этапом станет создание ИИ, способного самостоятельно писать код и проводить исследования в области машинного обучения. Это запустит петлю самосовершенствования, которая приведет к экспоненциальному росту возможностей.
Критика Сабины Хоссенфельдер: Энергия и данные 16:29
Сабина Хоссенфельдер, физик-теоретик, скептически относится к подобным футуристическим прогнозам. По ее мнению, Ашенбреннер игнорирует два ключевых лимитирующих фактора: энергию и качественные данные.
- Энергетический тупик: Хоссенфельдер утверждает, что мы уже находимся на пределе возможностей по обеспечению ИИ-кластеров электричеством. Несмотря на инициативы Сэма Альтмана и Билла Гейтса по развитию атомной энергетики, строительство электростанций занимает годы, что неизбежно замедлит прогресс.
- Проблема данных: Позиция Хоссенфельдер заключается в том, что высококачественных данных для обучения уже не хватает. Она сомневается в легкости перехода на синтетические данные, считая, что это не решит фундаментальную проблему нехватки знаний о физическом мире.
Уэс Рот, комментируя эту полемику, отмечает, что Ашенбреннер прав в логике экстраполяции трендов, но Хоссенфельдер указывает на реальные «узкие горлышки» инфраструктуры. Сам Рот полагает, что человеческая изобретательность может найти обходные пути (например, новые архитектуры вместо классических трансформеров), но энергетический кризис остается серьезным вызовом.
Геополитическая напряженность 57:07
Обсуждая долгосрочные перспективы, Ашенбреннер и Рот сходятся в том, что ASI станет «величайшим оружием» в истории.
- Конкуренция между США и Китаем может привести к тому, что страны пойдут на риск, лишь бы не отстать в гонке за суперинтеллект.
- Рот предупреждает, что в случае ускорения гонки одна из сторон может решиться на деструктивные действия, если почувствует, что теряет лидерство.
- Регулирование ИИ осложняется «дилеммой заключенного»: если одна страна введет жесткие ограничения, другая может продолжить развитие, нивелируя любые усилия по безопасности.
В завершение Уэс Рот призывает к реализму: даже если прогноз о 2028 годе окажется слишком оптимистичным, игнорировать надвигающиеся изменения невозможно. По его мнению, мир должен готовиться к «турбулентному» периоду автоматизации, который затронет рынок труда, военную сферу и государственное управление.
