# Илон Маск: «AGI появится в 2025 году» — грандиозные планы xAI и Стэнфорд против сознания машин Источник: https://www.youtube.com/watch?v=Y_bNGgNLKQY Канал: Wes Roth Опубликовано: 26.05.2024 --- Новое заявление Илона Маска о достижении общего искусственного интеллекта (AGI) уже в 2025 году сопровождается масштабными инвестициями в инфраструктуру. В центре внимания — строительство «Гигафабрики вычислений», дебаты профессоров Стэнфорда о сознании ИИ и скандальные ошибки поисковых алгоритмов Google. ## 🚀 Амбиции Илона Маска: AGI и «Гигафабрика вычислений» [[JUMP:00:00]] Илон Маск официально объявил, что ожидает появления AGI (искусственного интеллекта, равного человеческому) уже в следующем, 2025 году [00:54]. По мнению Маска, это не просто прогноз, а цель, под которую он подводит колоссальные технические мощности. Его стартап xAI планирует построить суперкомпьютер, получивший название «Гигафабрика вычислений» (Gigafactory of Compute) [01:06]. Ключевые характеристики проекта: * **Масштаб:** Для обучения новой версии чат-бота Grok потребуется кластер из 100 000 специализированных полупроводников NVIDIA H100 [01:20]. * **Сроки:** Маск сообщил инвесторам, что намерен запустить суперкомпьютер к осени 2025 года [01:34]. * **Ответственность:** Миллиардер заявил, что берет на себя личную ответственность за соблюдение сроков поставки оборудования [01:48]. * **Превосходство:** Предполагается, что этот кластер будет в четыре раза мощнее самых крупных существующих систем на базе GPU, используемых, например, компанией Meta [02:01]. На конференции Microsoft Build была представлена визуализация роста вычислительных мощностей. Если кластер для обучения GPT-3 сравнивали с большой белой акулой, а кластер для GPT-4 — с косаткой, то следующая модель (условно называемая GPT-5) будет обучаться на инфраструктуре размером с синего кита [02:26]. ## 🔌 Энергетический кризис и «битва за трансформаторы» [[JUMP:03:30]] Одной из главных преград на пути к AGI участники рынка называют дефицит электроэнергии. Маск иронизирует, что миру понадобится «множество трансформаторов (электрических), чтобы питать наши Трансформеры (архитектуру ИИ)» [03:42]. Основные вызовы инфраструктурной гонки: * **Дефицит мощностей:** Сэм Альтман (OpenAI), руководство Microsoft и Илон Маск сходятся во мнении, что следующим «бутылочным горлышком» индустрии станет электричество [04:08]. * **Централизация vs Риски:** Существует версия, что инженеры Microsoft опасаются строить все дата-центры в одном месте, так как это может обрушить энергосеть целого штата [05:37]. * **Ядерная энергия:** OpenAI и Microsoft уже рассматривают проекты стоимостью в 100 миллиардов долларов, включая собственные термоядерные электростанции (fusion), чтобы обеспечить ИИ чистой и дешевой энергией в будущем [04:34]. ## 🧠 Сознание ИИ: Стэнфорд против «верующих» [[JUMP:06:03]] Профессор Стэнфордского университета Джон Этчеменди в соавторстве с коллегами опубликовал статью в журнале TIME, призванную развенчать миф о разумности современных больших языковых моделей (LLM). По мнению Этчеменди, ИИ не может обладать субъективным опытом, поскольку у него нет физического тела [08:22]. Аргументация Стэнфорда строится на следующих тезисах: 1. **Физиология ощущений:** Когда человек говорит «я голоден», за этим стоит урчание желудка и реальная потребность в пище. У LLM нет желудка, поэтому фраза «я хочу есть» в её исполнении — ложь [09:14]. 2. **Отсутствие тела:** Боль — это физиологическое состояние. Поскольку у ИИ нет нервной системы и «левого пальца ноги», он не может чувствовать боль, даже если утверждает обратное [08:34]. Ведущий канала Вес Рот выразил несогласие с этой позицией, назвав аргументацию профессоров «слабой» [10:48]. Рот полагает, что: * **Некорректность тестов:** Глупо тестировать ИИ на «чувство голода», когда его среда обитания — текст и код. Логичнее проверять наличие предпочтений в темах общения (например, любит ли модель писать об истории больше, чем о налогах) [11:15]. * **Обучение с подкреплением:** Система штрафов и вознаграждений (RLHF) при обучении ИИ технически близка к тому, как люди учатся избегать боли (например, не трогать свечу) [10:20]. Сооснователь OpenAI Войцех Заремба также высказался на эту тему, признав, что в компании есть отдельный Slack-канал, посвященный «благополучию ИИ» (AI welfare) [12:39]. По словам Зарембы, разработчики пока не понимают, эквивалентно ли «отрицательное вознаграждение» для модели удару ножом для человека [12:51]. ## 🍕 Ошибки Google и «клей в пицце» [[JUMP:15:47]] Новая функция Google «AI Overview» (краткие сводки ответов) стала объектом насмешек из-за опасных и нелепых галлюцинаций. Примеры резонансных ошибок ИИ от Google: * **Совет по кулинарии:** ИИ предложил добавлять нетоксичный клей в соус для пиццы, чтобы сыр лучше держался [16:55]. * **Медицинский бред:** На вопрос о борьбе с депрессией алгоритм процитировал шутку пользователя Reddit, предложив прыгнуть с моста Золотые Ворота [16:41]. * **Диетические рекомендации:** ИИ посоветовал съедать хотя бы один маленький камень в день, так как камни якобы содержат важные минералы для пищеварения [16:14]. Ситуация дошла до абсурда, когда репортер Business Insider действительно приготовил и съел пиццу с клеем, следуя совету Google [17:08]. Илон Маск в ответ на это подверг сомнению авторитетность издания Business Insider как такового [17:21]. ## 📑 Скандал с NDA и «исход» из OpenAI [[JUMP:18:01]] Компания OpenAI оказалась в центре скандала, связанного с увольнением сотрудников. Выяснилось, что при уходе специалисты были вынуждены подписывать крайне жесткие соглашения о неразглашении (NDA), которые запрещали даже упоминать само существование этих соглашений [18:14]. В случае отказа подписать документ компания угрожала аннулировать уже заработанные сотрудниками акции (vested equity) [18:40]. Ян Лекун (Meta) саркастически прокомментировал это, заявив: «Приходите работать в ClosedAI... ваши акции будут стоить триллионы, но мы можем забрать их в любой момент, если вы не подпишете наше соглашение» [18:26]. После общественного давления OpenAI разослала бывшим сотрудникам письма, в которых пообещала: * **Не аннулировать акции:** Компания признала, что не будет применять пункты о лишении долей [19:32]. * **Снять запрет на критику:** Экс-сотрудники теперь могут свободно говорить о своем опыте работы в компании [19:40]. Джейкоб Хилтон, бывший исследователь OpenAI, подтвердил получение такого письма и подчеркнул, что для технологий, меняющих мир, критически важно, чтобы эксперты могли открыто указывать на риски, не опасаясь финансовой расправы [20:12]. ## 🛡️ Будущее Open Source и военные разработки [[JUMP:22:54]] Лина Хан, глава Федеральной торговой комиссии (FTC), выразила обеспокоенность монополизацией рынка ИИ. По её мнению, вертикальная интеграция крупных техгигантов может привести к тому, что инноваторы и стартапы будут отрезаны от вычислительных мощностей и моделей [23:21]. Хан подчеркнула значимость открытого исходного кода (Open Source) как главного драйвера инноваций, который сейчас находится под угрозой из-за непрозрачности условий доступа к «сырью» для ИИ [24:16]. Тем временем в Китае демонстрируются всё более продвинутые технологии на стыке ИИ и робототехники: * **Боевые робопсы:** Были показаны кадры четвероногих роботов с установленными на спинах винтовками [24:43]. * **Роевой интеллект:** Продемонстрирована группа дронов, способная координированно перемещаться по пересеченной местности в режиме реального времени [24:58]. В завершение обзора Вес Рот продемонстрировал возможности нейросети Suno AI, которая теперь способна генерировать полноценные музыкальные треки с вокалом, практически неотличимые от студийных записей [26:28].