# Уэс Рот о будущем с ИИ: от машинного обучения к экзистенциальному выбору

Источник: https://www.youtube.com/watch?v=6j2R7No8qz0
Канал: Wes Roth
Опубликовано: 04.05.2025

---

## ИИ: Новая архитектура разума или конец человеческого господства?
[[JUMP:0:00]]

Технологический прогресс в области искусственного интеллекта перешел границы простого программирования и стал полноценным процессом обучения, что ставит перед человечеством фундаментальные вопросы о его месте в мире. В ходе глубокой дискуссии эксперт по ИИ Уэс Рот (Wes Roth) и создатель контента Дилан Кьюриус (Dylan Curious) обсудили эволюцию нейросетей, этические риски развития AGI (общего искусственного интеллекта) и то, как людям стоит адаптироваться к реальности, где машины могут превзойти их в интеллектуальных задачах.

### 🧠 Феномен машинного обучения: от «умных» ботов к автономным агентам
[[JUMP:1:15]]

Уэс Рот отмечает, что его путь в понимании значимости ИИ начался не с ChatGPT, а с наблюдения за ранними экспериментами OpenAI по обучению агентов игре в прятки. В ходе миллионов итераций ИИ самостоятельно освоил сложные стратегии, включая «глюки» в симуляции, о которых разработчики даже не подозревали.

*   **Обучение против программирования:** По мнению обоих спикеров, критический сдвиг в восприятии ИИ происходит, когда человек осознает: разработчики не пишут код для каждого действия, они лишь настраивают среду и процесс обучения.
*   **Смена парадигмы:** Дилан Кьюриус подчеркивает, что нейросети формируют абстрактные ментальные модели (как в случае с игрой Othello, где ИИ «понял» правила доски, хотя ему о них не сообщали), что кардинально отличается от работы калькулятора или классических программ.

### 📉 Экзистенциальный вызов: что делать, когда интеллект больше не уникален?
[[JUMP:8:04]]

Собеседники сошлись во мнении, что страх многих людей перед ИИ вызван угрозой их эго. Если интеллект — единственное, что человек ценил в себе, то появление чего-то более умного воспринимается как личное поражение.

*   **Аналогия с шахматами:** Уэс Рот приводит аргумент физика Скотта Аронсона (Scott Aronson): люди продолжают заниматься спортом и творчеством, даже если машины справляются с этим лучше.
*   **Проблема смысла:** Дилан Кьюриус задается вопросом, не утратит ли жизнь смысл, если мы делегируем ИИ принятие всех решений — от голосования на выборах до выбора партнера.
*   **Необходимость страданий:** Рот предполагает, что человеку необходим определенный уровень «искусственной сложности» или негативного опыта для ощущения счастья — как в фильме «Матрица», где попытка создания идеальной утопии провалилась, так как люди не могли существовать без борьбы.

### 🏢 Лидеры индустрии: кому можно доверять?
[[JUMP:22:00]]

Дискуссия коснулась доверия к ключевым фигурам в сфере разработки ИИ. Уэс Рот выделяет Деммиса Хассабиса (Demis Hassabis) из Google DeepMind как человека, вызывающего наибольшее доверие, отмечая его глубокую вовлеченность в техническую базу и искреннюю заботу о будущем человечества, а не только о бизнес-амбициях.

*   **Стратегия Сэма Альтмана:** Собеседники обсудили подход OpenAI — выпускать модели итеративно, «на лету» создавая защитные барьеры. Хотя это несет риски, Рот называет это эволюционным процессом, который заставляет общество быстрее адаптироваться.
*   **Масштабирование:** Касательно будущего развития, Рот считает, что помимо увеличения вычислительных мощностей (как в новом дата-центре Grok в Мемфисе), индустрия находит новые способы оптимизации через изменение архитектуры и «тестовые вычисления».

### ⚖️ Риски и «P-Doom» (вероятность катастрофы)
[[JUMP:19:34]]

Уэс Рот предостерегает от узкого фокусирования только на вероятности экзистенциального риска (P-Doom). Он утверждает, что необходимо рассматривать «холистические риски», включая сценарии установления тоталитарных режимов, использующих ИИ для всеобщего контроля (аналогия с романом Джорджа Оруэлла «1984»).

*   **Риски централизации:** Попытки жесткого контроля за разработкой ИИ через мировое правительство, по мнению Рота, могут привести к еще более опасным авторитарным сценариям.