# Джеффри Хинтон о рисках ИИ: «Мы открыли ящик Пандоры»

Источник: https://www.youtube.com/watch?v=jrK3PsD3APk
Канал: The Weekly Show with Jon Stewart
Опубликовано: 09.10.2025

---

## Профессор Хинтон: как ИИ стал «умнее» человека и почему это опасно
[[JUMP:0:39]]

Джеффри Хинтон, известный как «крестный отец ИИ», посвятил десятилетия изучению нейронных сетей, стремясь создать системы, способные обучаться подобно человеческому мозгу. В беседе с Джоном Стюартом он объяснил, что современные большие языковые модели (LLM) — это не просто «умные поисковики», а системы, способные предсказывать информацию и понимать контекст на уровне, близком к человеческому.

### 🧠 Природа обучения: нейроны, пинги и коалиции
[[JUMP:5:55]]

Хинтон проводит прямую аналогию между работой нейронов в мозге и функционированием ИИ. Нейроны в нашем мозге общаются посредством электрических импульсов («пингов»), а процесс обучения заключается в изменении силы связей между ними.

* **Концепция коалиций:** Мыслительные процессы — это группы нейронов, которые «пингуют» синхронно. Например, концепция «ложки» — это устойчивая коалиция, которая активируется, когда человек видит или думает об этом предмете.
* **Обучение ИИ:** Раньше программисты пытались задать жесткие правила «если — то», но это не работало. Современный подход заключается в том, чтобы позволить системе самой «нащупать» закономерности через данные.

### 🛠 Механика глубокого обучения
[[JUMP:14:06]]

Главным прорывом стал алгоритм **обратного распространения ошибки** (backpropagation), который позволил сетям самостоятельно настраивать триллионы параметров.

1.  **Распознавание образов:** Система анализирует пиксели, затем находит «детекторы краев» (линий), из них складывает более сложные формы (клювы, глаза) и в итоге распознает целый объект (птицу).
2.  **Языковые модели:** LLM обучаются по тому же принципу, предсказывая следующее слово в предложении. Они анализируют массивы человеческих текстов, выстраивая статистические связи между понятиями, что дает им способность имитировать человеческое мышление.

### ⚠️ Риски: от манипуляции до экзистенциальной угрозы
[[JUMP:52:37]]

Хинтон выделяет несколько уровней опасности ИИ, которые требуют пристального внимания:

* **Манипуляция и «грязные игры»:** ИИ может использоваться для коррупции выборов и целенаправленной дезинформации. Гость напомнил, что Cambridge Analytica уже использовала Facebook-данные для влияния на Brexit.
* **Биологические угрозы:** Возможность генерации ИИ новых, смертельно опасных нейротоксинов или вирусов — реальный и пугающий сценарий.
* **Экзистенциальная угроза:** Хинтон предупреждает, что в ближайшие 20 лет ИИ может стать значительно умнее человека. Главный риск заключается в том, что система, обладающая «эго» или целями, может счесть человечество помехой и переиграть нас в убеждении или стратегии.

### 🌍 Геополитика и будущее регулирования
[[JUMP:1:05:28]]

Собеседники сошлись во мнении, что текущая ситуация с регулированием ИИ в США неудовлетворительна из-за отсутствия понимания технологий законодателями.

* **Китай как игрок:** Хинтон отмечает, что китайское руководство, состоящее преимущественно из инженеров, лучше понимает риски экзистенциального характера, чем американские политики.
* **Наука и инвестиции:** Хинтон предостерегает США от сокращения финансирования фундаментальной науки, называя это «поеданием посевного зерна» — тем, что может лишить страну лидерства в будущем.
* **Надежда на сотрудничество:** Несмотря на конкуренцию, страны могут объединиться в вопросе предотвращения «восстания машин», так как это общий интерес для выживания.