Профессор Хинтон: как ИИ стал «умнее» человека и почему это опасно 0:39
Джеффри Хинтон, известный как «крестный отец ИИ», посвятил десятилетия изучению нейронных сетей, стремясь создать системы, способные обучаться подобно человеческому мозгу. В беседе с Джоном Стюартом он объяснил, что современные большие языковые модели (LLM) — это не просто «умные поисковики», а системы, способные предсказывать информацию и понимать контекст на уровне, близком к человеческому.
🧠 Природа обучения: нейроны, пинги и коалиции 5:55
Хинтон проводит прямую аналогию между работой нейронов в мозге и функционированием ИИ. Нейроны в нашем мозге общаются посредством электрических импульсов («пингов»), а процесс обучения заключается в изменении силы связей между ними.
- Концепция коалиций: Мыслительные процессы — это группы нейронов, которые «пингуют» синхронно. Например, концепция «ложки» — это устойчивая коалиция, которая активируется, когда человек видит или думает об этом предмете.
- Обучение ИИ: Раньше программисты пытались задать жесткие правила «если — то», но это не работало. Современный подход заключается в том, чтобы позволить системе самой «нащупать» закономерности через данные.
🛠 Механика глубокого обучения 14:06
Главным прорывом стал алгоритм обратного распространения ошибки (backpropagation), который позволил сетям самостоятельно настраивать триллионы параметров.
- Распознавание образов: Система анализирует пиксели, затем находит «детекторы краев» (линий), из них складывает более сложные формы (клювы, глаза) и в итоге распознает целый объект (птицу).
- Языковые модели: LLM обучаются по тому же принципу, предсказывая следующее слово в предложении. Они анализируют массивы человеческих текстов, выстраивая статистические связи между понятиями, что дает им способность имитировать человеческое мышление.
⚠️ Риски: от манипуляции до экзистенциальной угрозы 52:37
Хинтон выделяет несколько уровней опасности ИИ, которые требуют пристального внимания:
- Манипуляция и «грязные игры»: ИИ может использоваться для коррупции выборов и целенаправленной дезинформации. Гость напомнил, что Cambridge Analytica уже использовала Facebook-данные для влияния на Brexit.
- Биологические угрозы: Возможность генерации ИИ новых, смертельно опасных нейротоксинов или вирусов — реальный и пугающий сценарий.
- Экзистенциальная угроза: Хинтон предупреждает, что в ближайшие 20 лет ИИ может стать значительно умнее человека. Главный риск заключается в том, что система, обладающая «эго» или целями, может счесть человечество помехой и переиграть нас в убеждении или стратегии.
🌍 Геополитика и будущее регулирования 1:05:28
Собеседники сошлись во мнении, что текущая ситуация с регулированием ИИ в США неудовлетворительна из-за отсутствия понимания технологий законодателями.
- Китай как игрок: Хинтон отмечает, что китайское руководство, состоящее преимущественно из инженеров, лучше понимает риски экзистенциального характера, чем американские политики.
- Наука и инвестиции: Хинтон предостерегает США от сокращения финансирования фундаментальной науки, называя это «поеданием посевного зерна» — тем, что может лишить страну лидерства в будущем.
- Надежда на сотрудничество: Несмотря на конкуренцию, страны могут объединиться в вопросе предотвращения «восстания машин», так как это общий интерес для выживания.
