# Джеффри Хинтон: «Я горжусь тем, что моего ученика уволили Сэма Олтмена»

Источник: https://www.youtube.com/watch?v=MTK3wpzAPwY
Канал: Wes Roth
Опубликовано: 09.10.2024

---

Джеффри Хинтон, признанный «крестный отец» искусственного интеллекта, недавно оказался в центре внимания мировых медиа не только из-за получения Нобелевской премии по физике, но и благодаря своим резким высказываниям в адрес руководства OpenAI. В обсуждении, представленном Уэсом Ротом, Хинтон открыто заявляет о своей поддержке увольнения Сэма Олтмена и выражает глубокую обеспокоенность тем, что гонка за прибылью вытесняет вопросы безопасности человечества.

## 🏆 Нобелевская премия по физике: триумф или ошибка?
[[JUMP:0:54]]

Присуждение Нобелевской премии по физике 2024 года Джеффри Хинтону и Джону Хопфилду вызвало неоднозначную реакцию в научном сообществе [0:54]. Многие физики выразили недовольство тем, что награда в их области досталась специалистам по компьютерным наукам. Однако сам Хинтон подчеркивает, что его ранние работы, в частности по «машинам Больцмана», были напрямую вдохновлены статистической физикой [6:04].

Ключевые факты о научной деятельности Хинтона:

*   **Верность идее:** Хинтон десятилетиями продолжал работу над нейронными сетями, когда это направление считалось «тупиковым» и немодным в академической среде [1:08].
*   **Биологическая аналогия:** Его концепция основывалась на том, что искусственные нейросети должны имитировать работу человеческого мозга для достижения истинного машинного обучения [1:21].
*   **Признание учителей:** В своей речи Хинтон особо отметил Дэвида Румельхарта, с которым работал над алгоритмом обратного распространения ошибки (back propagation), и Терри Сейновски [2:17].
*   **Скромность в математике:** Хинтон признался, что бросил изучение физики на первом курсе университета, так как не справлялся со сложным математическим аппаратом, что делает получение премии именно по физике для него особенно ироничным [5:36].

## ⚔️ Конфликт в OpenAI: Хинтон против Сэма Олтмена
[[JUMP:0:14]]

Одним из самых резонансных моментов стало заявление Хинтона о его отношении к событиям в OpenAI в ноябре 2023 года. По словам ведущего Уэса Рота, Хинтон не является поклонником стиля лидерства Сэма Олтмена [0:14].

Позиция Джеффри Хинтона относительно руководства OpenAI:

1.  **Гордость за ученика:** Хинтон прямо заявил, что гордится тем, что один из его бывших студентов уволил Сэма Олтмена [2:45]. Речь идет об Илье Суцкевере, который на тот момент был главным научным сотрудником OpenAI и сыграл ключевую роль в кратковременном отстранении Олтмена от должности.
2.  **Прибыль против безопасности:** По мнению Хинтона, OpenAI создавалась с акцентом на безопасность, но со временем Сэм Олтмен стал гораздо меньше заботиться о безопасности, отдавая приоритет коммерческой прибыли [6:43].
3.  **Упущенный контроль:** Хинтон считает «несчастьем» тот факт, что цели компании сместились от обеспечения безопасности общего искусственного интеллекта (AGI) к гонке за доходностью [6:58].

## ⚠️ Экзистенциальные риски и «проблема контроля»
[[JUMP:3:36]]

Хинтон выражает серьезную озабоченность тем, что человечество может потерять контроль над системами, которые превзойдут его в интеллекте. По его словам, на данный момент никто точно не знает, как избежать катастрофических сценариев [3:36].

Основные угрозы по мнению Хинтона и Рота:

*   **Краткосрочные риски:** Распространение фейковых видео, способных подорвать выборы, и всплеск кибератак [9:14]. Хинтон отметил, что количество фишинговых атак выросло на 1200% за последний год, так как LLM позволяют создавать сообщения с идеальной грамматикой, которые невозможно отличить от настоящих [9:40].
*   **Долгосрочные риски (Суперинтеллект):** По прогнозам многих ведущих исследователей, ИИ станет умнее людей в ближайшие 20 лет [4:29]. Хинтон сравнивает это с игрой против шахматного ИИ: вы знаете, что он победит, но не можете предугадать его ходы или понять его логику [10:45].
*   **Политический риск (1984):** Уэс Рот высказывает опасение, что авторитарные режимы могут использовать суперинтеллект для установления вечной тирании, которую невозможно будет свергнуть или саботировать [11:51].
*   **Проблема выравнивания (Alignment):** Риск заключается не в том, что ИИ «станет злым», а в том, что его цели могут войти в противоречие с человеческими из-за ошибки в программировании или неверной интерпретации задач [11:26].

Хинтон призывает правительства обязать крупные компании тратить не 1%, а около трети своих ресурсов на исследования в области безопасности ИИ [7:38].

## 🧠 Природа гениальности против интеллекта
[[JUMP:15:36]]

В контексте упорства Хинтона в работе над нейросетями, Уэс Рот поднял вопрос о том, что такое гениальность. Согласно опросу, проведенному на канале, 60% зрителей считают гениальность редкой когнитивной способностью, а не просто высоким показателем IQ [16:28].

Обсуждаемые концепции гениальности:

*   **«Интеллектуальная синестезия»:** Гипотеза о том, что мозг гения имеет специфические нейронные связи, позволяющие соединять идеи из разных областей способом, недоступным большинству людей независимо от их IQ [17:21].
*   **Гений как «несбалансированность»:** Идея о том, что гениальность — это не совершенство во всем, а экстремальное развитие определенных качеств, зачастую в ущерб другим [19:44].
*   **Смелость идти против течения:** Хинтон советует студентам не бросать свои идеи, пока они сами не поймут, в чем именно они ошибаются, и не слушать тех, кто называет их работу бессмыслицей [15:09].

## 🧬 Нобелевская премия по химии и прорыв в биологии
[[JUMP:21:40]]

Параллельно с физикой, ИИ захватил и Нобелевскую премию по химии 2024 года. Награду получили Демис Хассабис и Джон Джампер из Google DeepMind, а также Дэвид Бейкер [21:53].

Значение их работы для человечества:

*   **Проблема сворачивания белка:** ИИ-модель AlphaFold решила 50-летнюю научную загадку, научившись предсказывать сложную 3D-структуру белков на основе последовательности аминокислот [22:31].
*   **Дизайн новых лекарств:** Система Alpha Proteo теперь может создавать совершенно новые белки «на заказ», которые способны блокировать вирусы (например, ВИЧ) или воздействовать на раковые клетки [23:50].
*   **Победа над болезнями:** Демис Хассабис утверждает, что достижения в этой области могут привести к излечению практически всех болезней в ближайшие 10–20 лет [25:07].

Уэс Рот отмечает, что использование ИИ в науке создает прецедент: в будущем премии могут вручаться не за само открытие в физике или химии, а создателям моделей, которые сделали это открытие возможным [27:10].

---