# Илон Маск: «Я не доверяю Сэму Альтману и его методам управления OpenAI» Источник: https://www.youtube.com/watch?v=JP7QN_KM7nY Канал: Wes Roth Опубликовано: 08.10.2024 --- В новом интервью Илон Маск представил обновленный прогноз развития технологий искусственного интеллекта, затронув как технические аспекты, так и этические вопросы управления ими. Основатель Tesla и xAI выразил глубокое недоверие к нынешнему руководству OpenAI, оценил вероятность глобальной катастрофы («P Doom») в 10–20% и рассказал о том, как политическое лоббирование в эпоху президентства Барака Обамы затормозило создание регулирующих органов в сфере ИИ. ## 📈 Экспоненциальный скачок: ИИ на пороге создания кино и сложнейшей математики [[JUMP:01:05]] Илон Маск констатирует, что темпы развития ИИ стали очевидны даже для широкой публики благодаря еженедельному появлению новых возможностей [01:18]. По его оценке, современные алгоритмы уже справляются с написанием эссе лучше, чем 90–95% людей, а инструменты вроде Midjourney создают изображения, превосходящие по эстетике работы 90% художников [01:42]. Основные тезисы Маска о текущем прогрессе: * **Рост вычислительных мощностей:** Объем вычислительных ресурсов (compute), направляемых на обучение ИИ, увеличивается примерно на 500% в год [02:24]. * **Качественный сдвиг в медиа:** Маск прогнозирует, что уже к концу следующего года ИИ сможет создавать полноценные короткометражные фильмы или 15-минутные шоу по текстовому запросу [02:52]. * **Эффективность алгоритмов:** Помимо количественного роста «железа», происходит качественное улучшение софта — алгоритмы становятся всё более эффективными в использовании имеющихся мощностей [02:38]. Ведущий Уэс Рот добавляет контекст к словам Маска, упоминая недавние релизы Meta в области генерации персонализированного видео и прорыв модели OpenAI o1 [03:19]. По мнению Рота, способность ИИ «думать» перед ответом (цепочка рассуждений) позволила алгоритмам вплотную приблизиться к золотой медали на Международной математической олимпиаде (IMO), что многие эксперты считают опасным порогом [03:43]. На фоне этого технологического гона Microsoft содействует возобновлению работы атомной электростанции на острове Три-Майл-Айленд для решения энергетических проблем индустрии [03:56]. ## ☢️ Вероятность катастрофы: «P Doom» и проблема контроля [[JUMP:04:35]] Маск сравнивает создание сверхразумного ИИ с воспитанием ребенка-гения, который неизбежно станет умнее своих родителей [04:50]. Он полагает, что в конечном итоге человечество не сможет контролировать ИИ в привычном понимании этого слова. Позиция Маска по рискам уничтожения цивилизации: * **Оценка вероятности:** Маск считает, что с вероятностью 80–90% будущее с ИИ будет «прекрасным», однако сохраняется 10–20% риска полной аннигиляции человечества [05:31]. * **Воспитание ценностей:** Поскольку прямой контроль невозможен, единственный выход, по мнению бизнесмена, — это прививание ИИ правильных моральных и филантропических ценностей в процессе его «взросления» [05:04]. * **Честность как приоритет:** Маск подчеркивает, что ИИ должен быть обучен быть максимально честным и любознательным. ## 🚩 Конфликт с OpenAI: «Я не доверяю Сэму Альтману» [[JUMP:05:44]] Особое внимание в интервью уделено трансформации компании OpenAI, сооснователем которой был Маск. Он напоминает, что лично придумал название компании и инвестировал в неё, чтобы создать некоммерческий противовес Google с открытым исходным кодом [06:10]. Критика в адрес Сэма Альтмана со стороны Маска: * **Смена бизнес-модели:** Маск заявляет, что не понимает, как организация смогла легально превратиться из некоммерческой структуры в «машину для максимизации прибыли» с закрытым кодом [06:26]. * **Личное недоверие:** Маск прямо заявляет: «Я не доверяю Сэму Альтману» [06:53]. По его мнению, нельзя допускать, чтобы самый мощный ИИ в мире контролировался человеком, чья надежность вызывает сомнения. * **Обвинения в неискренности:** Маск утверждает, что Альтман публично говорит правильные слова об опасностях ИИ, но на самом деле они его не беспокоят [07:07]. * **Финансовый вопрос:** Маск скептически относится к прошлым заявлениям Альтмана о том, что он не владеет долей в компании, указывая на информацию о получении им акций на сумму около $10 млрд [06:40]. ## 🤖 Конец эпохи труда: поиск смысла в мире без работы [[JUMP:07:07]] Если ИИ и робототехника заменят человеческий труд, возникнет экзистенциальный кризис. В «благоприятном» сценарии, где ресурсов в избытке, главной проблемой станет поиск смысла жизни [07:43]. Размышления участников о будущем общества: 1. **Проблема досуга:** Маск отмечает, что далеко не для всех людей концепция вечной отставки и отдыха является привлекательной. Сам он не планирует прекращать работу [07:56]. 2. **Битва алгоритмов:** На вопрос о том, можно ли остановить вышедший из-под контроля ИИ, Маск выражает надежду на существование «хороших» ИИ, которые окажутся сильнее «плохих» [08:22]. 3. **Пример шахмат:** Маск приводит аналогию с шахматами: сегодня лучшие ИИ играют настолько лучше людей, что мы даже не понимаем логику их ходов. Добавление человека к шахматному компьютеру теперь только ухудшает результат [09:04]. ## 🏛️ Политическое лоббирование и регуляция [[JUMP:09:31]] Маск рассказал о своей встрече тет-а-тет с Бараком Обамой, на которой он призывал создать агентство по регулированию ИИ [09:43]. Его идея заключалась не в немедленном запрете, а в получении «инсайта» — понимания того, что делают компании, чтобы выработать правила, аналогичные правилам в профессиональном спорте [10:10]. Однако, по словам Маска, эта инициатива была заблокирована: * **Влияние Google:** Маск утверждает, что в то время Google фактически контролировала Белый дом и не желала никакого надзора [10:49]. * **Регуляторный захват:** Директором по информационным технологиям (CIO) при администрации Обамы был выходец из Google, что, по мнению Маска, и привело к заморозке любых попыток регулирования [11:02]. * **Текущая ситуация:** На федеральном уровне в США до сих пор нет полноценного надзора за разработками в сфере ИИ, что Маск называет «удивительным» и «пугающим» [11:15]. ## 🌌 О Боге, инопланетянах и смысле Вселенной [[JUMP:11:40]] В завершение беседы Маск поделился своими философскими взглядами. Несмотря на риски, он предпочел бы жить в эпоху появления цифрового суперразума, а не в любое другое время, просто из любопытства [12:08]. Его мысли о мироздании: * **Творец:** Маск допускает существование некой созидательной силы или Творца, так как «всё должно было откуда-то взяться», но признает, что природа этой силы неизвестна [13:29]. * **Дуглас Адамс и «42»:** Ссылаясь на «Автостопом по галактике», Маск считает, что Вселенная — это огромный компьютер, созданный для поиска ответа на вопрос о смысле жизни, но самое сложное — это правильно сформулировать сам вопрос [13:57]. * **Инопланетяне:** Владея сетью из 6000 спутников Starlink, Маск утверждает, что ни разу не видел доказательств существования пришельцев [15:14]. Все сообщения о НЛО он списывает на секретные военные программы [15:40]. * **Миссия:** Маск видит своей целью расширение масштабов и охвата сознания — как человеческого, так и, возможно, машинного [14:22].