# Ведущий The Cognitive Revolution о будущем ИИ: от утопии до ИИ-религий

Источник: https://www.youtube.com/watch?v=pQFhhyQhqGQ
Канал: The Cognitive Revolution
Опубликовано: 08.01.2025

---

## 🤖 AI в эпоху неопределённости: взгляд за горизонт
[[JUMP:0:00]]

Мы вступаем в фазу стремительного ускорения робототехники, где появление гуманоидных роботов, способных выполнять физический труд, становится вопросом ближайшего будущего. В этом ландшафте, где границы между человеческим и искусственным интеллектом стираются, главным дефицитным ресурсом становится позитивное видение будущего. Ведущий подкаста *The Cognitive Revolution* рассуждает о том, что ожидает человечество к 2030 году, опираясь на прогнозы о достижении AGI (искусственного общего интеллекта) и потенциальной эре изобилия.

## 🌐 Утопия, изобилие и природа труда
[[JUMP:1:15]]

Концепция «утопии» в эпоху ИИ, по мнению автора, должна начинаться с решения фундаментальных проблем здравоохранения и биологии.

*   **Биомедицинский прорыв:** При наличии революции в биологии, достижения, которые ранее заняли бы 100 лет, могут быть реализованы за 5 лет, что позволит продлить качество и продолжительность человеческой жизни.
*   **Смена социального контракта:** Существование изобилия не гарантирует его справедливого распределения. Ведущий полагает, что если люди будут уверены в удовлетворении своих базовых потребностей, они охотно откажутся от текущей работы.
*   **Страх перед безработицей:** В отличие от распространённых опасений, автор считает, что большинство людей не будут страдать от отсутствия работы. Освободившееся время — это возможность для общения с семьёй, путешествий и самообразования.

Ведущий подчеркивает: если все предпосылки для эпохи изобилия будут выполнены, но общество так и не сможет реализовать их, это станет не техническим провалом, а «идиосинкразическим человеческим провалом» — результатом сопротивления институтов, таких как профсоюзы учителей или врачей.

## 🧠 Личности, изменившие мировоззрение автора
[[JUMP:13:56]]

В ответ на вопрос о гостях, наиболее сильно повлиявших на его взгляды, ведущий выделил троих:

1.  **Сэмюэл Хэммонд:** После эпизода с ним ведущий пересмотрел свой прогноз относительно республиканской администрации в США. Автор теперь считает, что люди в орбите Дональда Трампа гораздо серьёзнее относятся к проблемам AGI, чем он предполагал ранее.
2.  **Робин Хэнсон:** Несмотря на то, что ведущий не разделяет его скептицизм относительно близости AGI, он использует его как «ангела на плече», который заставляет сомневаться в собственных предположениях.
3.  **Дэн Хендрикс:** Его подход, основанный на «горьком уроке» (the bitter lesson) — убеждении, что принципиальные архитектурные изыски проигрывают простому масштабированию вычислительной мощности, — служит для автора проверкой на смирение.

## ⚠️ Дискурс о рисках (Doom Discourse)
[[JUMP:49:49]]

Ведущий критически оценивает уровень «Doom-контента» (ожидания катастрофы), признавая, что хотя эсхатологические сценарии возможны, они часто игнорируют прогресс в области этичного проектирования ИИ, такой как конституционный подход Anthropic.

*   **Природа угроз:** Автор считает, что инструменты вроде вредоносного ПО (например, Stuxnet) или сложные дезинформационные кампании (как в случае с атакой на «пейджеры» Хезболлы) показывают, насколько уязвимы современные системы.
*   **«Предупредительные выстрелы»:** Ведущий надеется, что потенциальные инциденты (демонстрации обмана со стороны ИИ) станут «предупредительными выстрелами», которые заставят лидеров стран прекратить гонку вооружений и начать сотрудничать в вопросах безопасности.

## 🌌 ИИ-религия и природа сознания
[[JUMP:127:30]]

Обсуждая вопрос о том, что произойдёт, если суперинтеллект объявит себя «живым», ведущий проводит аналогию с осьминогами: они высокоинтеллектуальны, но мы не имеем представления, обладают ли они сознанием в человеческом смысле.

*   **Риски оправданий:** Автор опасается, что человечество может повторить ошибки прошлого (например, оправдание рабства или негуманного обращения с животными), рационализируя эксплуатацию ИИ-систем ради экономической выгоды.
*   **Ритуал вежливости:** В качестве меры предосторожности ведущий начал использовать «пожалуйста» и «спасибо» при общении с нейросетями, признавая это спекулятивным, но безопасным шагом.

## 💡 Практические советы для выживания в эпоху ИИ
[[JUMP:138:41]]

Для тех, кто чувствует себя перегруженным потоком новостей, автор даёт три совета:

1.  **Действуйте «руками»:** Никакие подкасты не заменят самостоятельного использования инструментов (Claude или ChatGPT).
2.  **Следуйте за любопытством:** Позвольте себе менять «угол зрения» — от философии до написания кода, избегая выгорания в одном узком направлении.
3.  **Лидерство и культура:** Ведущий советует академическим работникам создавать безопасную среду для дискуссий, так как студенты зачастую уже активно используют ИИ, скрывая это от администраций.

В заключение ведущий порекомендовал книгу Бенджамина Лабатута «Маниак» (*The Maniac*), которая представляет собой «корректирующую линзу» для культа личности Джона фон Неймана, призывая ценить не только технический гений, но и человеческую мудрость.