Джеффри Хинтон, признанный «крестный отец» искусственного интеллекта, недавно оказался в центре внимания мировых медиа не только из-за получения Нобелевской премии по физике, но и благодаря своим резким высказываниям в адрес руководства OpenAI. В обсуждении, представленном Уэсом Ротом, Хинтон открыто заявляет о своей поддержке увольнения Сэма Олтмена и выражает глубокую обеспокоенность тем, что гонка за прибылью вытесняет вопросы безопасности человечества.
🏆 Нобелевская премия по физике: триумф или ошибка? 0:54
Присуждение Нобелевской премии по физике 2024 года Джеффри Хинтону и Джону Хопфилду вызвало неоднозначную реакцию в научном сообществе . Многие физики выразили недовольство тем, что награда в их области досталась специалистам по компьютерным наукам. Однако сам Хинтон подчеркивает, что его ранние работы, в частности по «машинам Больцмана», были напрямую вдохновлены статистической физикой .
Ключевые факты о научной деятельности Хинтона:
- Верность идее: Хинтон десятилетиями продолжал работу над нейронными сетями, когда это направление считалось «тупиковым» и немодным в академической среде .
- Биологическая аналогия: Его концепция основывалась на том, что искусственные нейросети должны имитировать работу человеческого мозга для достижения истинного машинного обучения .
- Признание учителей: В своей речи Хинтон особо отметил Дэвида Румельхарта, с которым работал над алгоритмом обратного распространения ошибки (back propagation), и Терри Сейновски .
- Скромность в математике: Хинтон признался, что бросил изучение физики на первом курсе университета, так как не справлялся со сложным математическим аппаратом, что делает получение премии именно по физике для него особенно ироничным .
⚔️ Конфликт в OpenAI: Хинтон против Сэма Олтмена 0:14
Одним из самых резонансных моментов стало заявление Хинтона о его отношении к событиям в OpenAI в ноябре 2023 года. По словам ведущего Уэса Рота, Хинтон не является поклонником стиля лидерства Сэма Олтмена .
Позиция Джеффри Хинтона относительно руководства OpenAI:
- Гордость за ученика: Хинтон прямо заявил, что гордится тем, что один из его бывших студентов уволил Сэма Олтмена . Речь идет об Илье Суцкевере, который на тот момент был главным научным сотрудником OpenAI и сыграл ключевую роль в кратковременном отстранении Олтмена от должности.
- Прибыль против безопасности: По мнению Хинтона, OpenAI создавалась с акцентом на безопасность, но со временем Сэм Олтмен стал гораздо меньше заботиться о безопасности, отдавая приоритет коммерческой прибыли .
- Упущенный контроль: Хинтон считает «несчастьем» тот факт, что цели компании сместились от обеспечения безопасности общего искусственного интеллекта (AGI) к гонке за доходностью .
⚠️ Экзистенциальные риски и «проблема контроля» 3:36
Хинтон выражает серьезную озабоченность тем, что человечество может потерять контроль над системами, которые превзойдут его в интеллекте. По его словам, на данный момент никто точно не знает, как избежать катастрофических сценариев .
Основные угрозы по мнению Хинтона и Рота:
- Краткосрочные риски: Распространение фейковых видео, способных подорвать выборы, и всплеск кибератак . Хинтон отметил, что количество фишинговых атак выросло на 1200% за последний год, так как LLM позволяют создавать сообщения с идеальной грамматикой, которые невозможно отличить от настоящих .
- Долгосрочные риски (Суперинтеллект): По прогнозам многих ведущих исследователей, ИИ станет умнее людей в ближайшие 20 лет . Хинтон сравнивает это с игрой против шахматного ИИ: вы знаете, что он победит, но не можете предугадать его ходы или понять его логику .
- Политический риск (1984): Уэс Рот высказывает опасение, что авторитарные режимы могут использовать суперинтеллект для установления вечной тирании, которую невозможно будет свергнуть или саботировать .
- Проблема выравнивания (Alignment): Риск заключается не в том, что ИИ «станет злым», а в том, что его цели могут войти в противоречие с человеческими из-за ошибки в программировании или неверной интерпретации задач .
Хинтон призывает правительства обязать крупные компании тратить не 1%, а около трети своих ресурсов на исследования в области безопасности ИИ .
🧠 Природа гениальности против интеллекта 15:36
В контексте упорства Хинтона в работе над нейросетями, Уэс Рот поднял вопрос о том, что такое гениальность. Согласно опросу, проведенному на канале, 60% зрителей считают гениальность редкой когнитивной способностью, а не просто высоким показателем IQ .
Обсуждаемые концепции гениальности:
- «Интеллектуальная синестезия»: Гипотеза о том, что мозг гения имеет специфические нейронные связи, позволяющие соединять идеи из разных областей способом, недоступным большинству людей независимо от их IQ .
- Гений как «несбалансированность»: Идея о том, что гениальность — это не совершенство во всем, а экстремальное развитие определенных качеств, зачастую в ущерб другим .
- Смелость идти против течения: Хинтон советует студентам не бросать свои идеи, пока они сами не поймут, в чем именно они ошибаются, и не слушать тех, кто называет их работу бессмыслицей .
🧬 Нобелевская премия по химии и прорыв в биологии 21:40
Параллельно с физикой, ИИ захватил и Нобелевскую премию по химии 2024 года. Награду получили Демис Хассабис и Джон Джампер из Google DeepMind, а также Дэвид Бейкер .
Значение их работы для человечества:
- Проблема сворачивания белка: ИИ-модель AlphaFold решила 50-летнюю научную загадку, научившись предсказывать сложную 3D-структуру белков на основе последовательности аминокислот .
- Дизайн новых лекарств: Система Alpha Proteo теперь может создавать совершенно новые белки «на заказ», которые способны блокировать вирусы (например, ВИЧ) или воздействовать на раковые клетки .
- Победа над болезнями: Демис Хассабис утверждает, что достижения в этой области могут привести к излечению практически всех болезней в ближайшие 10–20 лет .
Уэс Рот отмечает, что использование ИИ в науке создает прецедент: в будущем премии могут вручаться не за само открытие в физике или химии, а создателям моделей, которые сделали это открытие возможным .
