# Рид Хоффман: «ИИ — это паровой двигатель для нашего ума»

Источник: https://www.youtube.com/watch?v=qIvOjJsiSO8
Канал: Conversations with Tyler
Опубликовано: 28.06.2023

---

## Эра «паровых двигателей для ума»: Рид Хоффман о будущем искусственного интеллекта
[[JUMP:0:00]]

Искусственный интеллект — это не угроза человечеству, а мощнейший инструмент «амплификации» (усиления) наших способностей, сравнимый по значимости с появлением парового двигателя. Об этом в беседе с ведущим Тайлером Коуэном рассуждает предприниматель и венчурный инвестор Рид Хоффман. В центре обсуждения — потенциал нейросетей, этические дилеммы регулирования, вопросы национальной безопасности и то, как ИИ навсегда изменит рынок труда, образование и культуру.

### ⚖️ Право, ответственность и безопасность
[[JUMP:0:31]]

Рид Хоффман прогнозирует рост спроса на юридические услуги в эпоху ИИ. По его мнению, усложнение договорных отношений и необходимость управления рисками при использовании алгоритмов потребуют глубокой правовой экспертизы.

В вопросе ответственности за действия моделей (например, если нейросеть даст инструкцию по созданию бомбы) гость предлагает модель «тестировочных харнесов»:

*   **Внутри тестового набора:** Разработчик ИИ несет полную ответственность, если модель «помогает» в злонамеренных действиях, которые должны были быть заблокированы.
*   **Вне тестового набора:** Ответственность лежит на пользователе, так как невозможно предвидеть все способы «взлома» (jailbreaking).

Хоффман выступает категорически против «пауз» в развитии технологий, аргументируя это тем, что ускорение — путь к безопасности, так как ИИ должен быстрее научиться играть на стороне «ангелов», а не «демонов».

### 🤖 Автономные агенты и новая экономика
[[JUMP:4:04]]

Гость допускает появление автономных ботов, которые могут зарабатывать деньги (например, через транзакции в криптовалюте), но подчеркивает необходимость жесткого регулирования. По мнению Хоффмана, общество не должно наделять такие процессы юридическими правами.

*   **Риски:** Главную угрозу он видит не в экзистенциальных сценариях («убийство человечества»), а в более приземленных вещах: кибервзлом и неконтролируемая самоэволюция кода без присмотра человека.
*   **Регулирование:** Вместо запретов Хоффман предлагает легализовать и облагать налогом доходы ботов, чтобы избежать ситуации, когда «автономный рабочий» конкурирует с человеком, не платя социальные взносы.

### 🎓 Образование и рынок труда будущего
[[JUMP:18:45]]

В академической среде ИИ должен стать союзником, а не врагом. Хоффман считает, что попытки запретить ChatGPT в школах бесперспективны. Вместо этого учителям стоит использовать ИИ для создания контрпримеров (например, генерировать слабые эссе, чтобы ученики учились их исправлять).

Говоря о влиянии на таланты, Хоффман уверен:

1.  **Глобальный подъем:** ИИ в сочетании с доступом к интернету позволит талантливым людям из развивающихся стран (он упоминает Кению) получать доступ к глобальному рынку труда.
2.  **Потеря конкурентоспособности:** Главными проигравшими станут люди, которые «нелюбопытны» и отказываются учиться работать с новыми инструментами — их Хоффман называет «луддитами».

### 🌍 Роль государства и геополитика
[[JUMP:8:43]]

Хоффман полагает, что ИИ трансформирует деятельность каждого ведомства, поэтому министерствам (например, Министерству торговли США) нужны сильные стратегии. Он вновь призывает к созданию должности «министра технологий» (Secretary of Technology), который будет заниматься системной стратегией, а не просто функциями CTO.

В отношении Китая Хоффман скептичен: хотя количество пользователей ChatGPT там огромно (часто через VPN), страна стремится создать свой «альтернативный интернет» через систему цензуры, известную как «Золотой щит».

### 📚 Личные рекомендации и взгляды
[[JUMP:28:33]]

*   **Философия:** Из мыслителей Хоффману наиболее интересны Людвиг Витгенштейн (с его «языковыми играми») и современные философы концептуального анализа, такие как Кристофер Пикок.
*   **Литература:** Для понимания управления ИИ он рекомендует серию «Возвышение» (Uplift) Дэвида Брина и цикл о «Мердерботе» (Murderbot) Марты Уэллс.
*   **Будущее:** В качестве стратегии для решения проблем демографии Хоффман в шутку или всерьез предлагает использовать «излишки» от продуктивности роботов для того, чтобы сделать родительство полноценной оплачиваемой работой.