# Илон Маск: «ИИ опаснее авиакатастроф и может разрушить цивилизацию» Источник: https://www.youtube.com/watch?v=bOznEZAjX3I Канал: Илон Маск (Elon Musk Russia) Опубликовано: 05.05.2023 --- 5 мая 2023 года Илон Маск в интервью Такеру Карлсону заявил о необходимости государственного надзора за разработкой искусственного интеллекта. По словам предпринимателя, ИИ представляет более серьезную угрозу для общества, чем ошибки в авиастроении или производстве автомобилей [6:12]. ## 🤖 Экзистенциальные риски искусственного интеллекта [[JUMP:00:00]] Илон Маск считает ИИ одним из факторов, которые фундаментально изменят будущее человечества [1:54]. Появление существа, которое значительно умнее любого человека, создает ситуацию сингулярности. Предсказать последствия этого момента невозможно, так как он подобен черной дыре [2:43]. Предприниматель выступает за создание государственных органов контроля над ИИ. Он сравнивает это с деятельностью Федерального авиационного управления (FAA) или Управления по контролю за продуктами и лекарствами (FDA). Такие ведомства нужны, чтобы компании не экономили на безопасности ради прибыли [3:35]. Основные угрозы ИИ по мнению Илона Маска: * Способность манипулировать общественным мнением через социальные сети [16:59]. * Риск создания миллионов ботов, которые будут неотличимы от людей в сети Твиттер [18:02]. * Возможность выхода технологии из-под контроля административного управления [29:40]. ## ⚔️ Конфликт с Google и создание OpenAI [[JUMP:07:28]] Создание OpenAI стало ответом на позицию сооснователя Google Ларри Пейджа. Во время личных бесед Пейдж заявлял о желании создать «цифрового бога» как можно скорее [8:22]. Когда Илон Маск выразил обеспокоенность безопасностью человечества, Пейдж назвал его «спесишистом» — человеком, который необоснованно отдает предпочтение своему биологическому виду [9:17]. В тот период Google приобрела компанию DeepMind, сосредоточив у себя около 3/4 всех мировых талантов в сфере ИИ [9:45]. Чтобы создать противовес этой монополии, Илон Маск основал OpenAI как некоммерческую организацию с открытым исходным кодом [10:27]. Текущая ситуация в индустрии: 1. OpenAI превратилась в закрытый коммерческий проект [21:32]. 2. Компания находится под сильным влиянием или прямым контролем Microsoft [22:02]. 3. Искусственный интеллект обучают быть «политкорректным», что Маск приравнивает к обучению лжи [23:00]. Илон Маск планирует запустить новый проект — **TruthGPT**. Это будет «максимально правдивый ИИ», цель которого — познание природы Вселенной [23:16]. ## 🌌 Парадокс Ферми и демографический кризис [[JUMP:11:15]] Энрико Ферми задавался вопросом о существовании инопланетных цивилизаций. Илон Маск утверждает, что за годы работы в космической отрасли не видел никаких доказательств существования пришельцев [12:05]. Он считает человеческое сознание редкой, а возможно, и уникальной вспышкой во Вселенной [13:14]. Предпринимателя беспокоит хрупкость текущей цивилизации. Он отмечает критическое падение рождаемости, приводя в пример Японию, где смертность вдвое превышает рождаемость [14:38]. Причины демографического спада по версии Маска: * Использование контрацепции и абортов позволяет удовлетворять инстинкты без размножения [15:03]. * Цивилизация еще не адаптировалась к технологиям контроля рождаемости, появившимся около 50 лет назад [15:19]. * Отсутствие достаточного количества детей приведет к гибели культуры «со всхлипом в подгузниках для взрослых» [15:50]. ## 🐦 Реформы в Твиттере и государственное давление [[JUMP:36:02]] Покупка Твиттера не была финансово выгодной сделкой. На момент интервью Илон Маск оценил стоимость компании в два раза ниже цены приобретения [36:20]. Однако он считает покупку оправданной для защиты свободы слова как основы демократии [36:53]. После получения доступа к серверам выяснилось, что правительственные структуры США имели полный доступ ко всем данным платформы [49:42]. Спецслужбы могли читать даже личные сообщения пользователей, которые не были зашифрованы [49:50]. Изменения в работе платформы: * Внедрение функции «примечания сообщества» для борьбы с ложью и манипуляциями [37:23]. * Разработка опционального шифрования личных сообщений [50:37]. * Открытость исходного кода алгоритмов рекомендаций для общественного контроля [1:25:27]. Илон Маск сократил штат сотрудников Твиттера на **80%** [1:21:51]. Он утверждает, что для работы текстового сервиса не требуется огромное количество персонала. Оставшиеся 20% сотрудников смогли оптимизировать код, сократив его объем с 700 000 до 70 000 строк [1:24:31]. ## 📉 Крах банковской системы и экономика [[JUMP:58:26]] Илон Маск предупреждает о серьезной опасности для мировой финансовой системы. Крах Silicon Valley Bank и поглощение Credit Suisse банком UBS — это только начало процесса [59:17]. Основной риск связан с коммерческой недвижимостью. Из-за перехода на удаленную работу офисы пустуют: в Сан-Франциско не занято около 40% помещений [1:00:53]. Когда компании перестанут продлевать аренду или обанкротятся, банки столкнутся с невозможностью вернуть кредиты, обеспеченные этой недвижимостью [1:01:37]. Критике подверглась политика Федеральной резервной системы (ФРС). Маск напомнил, что последний раз ФРС повышала ставки в условиях рецессии в 1929 году, что привело к Великой депрессии [1:03:34]. Он призывает немедленно снизить процентные ставки [1:07:20]. ## 💰 Советы по инвестированию в кризис [[JUMP:1:09:18]] Среднестатистическому инвестору Илон Маск рекомендует покупать акции компаний, чьи продукты ему действительно нравятся [1:10:54]. Его стратегия включает следующие пункты: * Покупать акции, когда на рынке паника [1:09:53]. * Продавать активы, когда ожидания необоснованно высоки [1:10:09]. * Игнорировать негативные публикации в прессе, если продукт компании остается качественным [1:13:03]. Предприниматель критикует избыточное увлечение пассивными индексными фондами, считая, что это лишает рынок реальных решений [1:12:09]. ## 📰 Кризис традиционных СМИ [[JUMP:1:13:15]] Традиционные медиа потеряли рекламные доходы, которые ушли к Google и Facebook [1:15:21]. Это заставило издания гнаться за кликбейтом и рейтингами в ущерб правдивости [1:16:04]. Маск отмечает, что люди биологически более чувствительны к негативным новостям, так как исторически это помогало выживать [1:16:45]. Современные новости превратились в поиск «худшего, что случилось на Земле за сегодня» [1:17:44]. Твиттер же должен стать местом с широким спектром мнений, где информация дополняется контекстом, а не подается под субъективным углом [1:27:24].