# Почему Anthropic запретила пытать ИИ и как SpaceX может стоить квадриллион долларов? Источник: https://www.youtube.com/watch?v=A5YVqEpbgaU Канал: Peter H. Diamandis Опубликовано: 15.10.2026 --- Питер Диамандис и его постоянные соавторы — Салим Исмаил, Дэйв Бландин и доктор Александр Висснер-Гросс (AWG) — обсуждают тектонические сдвиги в мире технологий: от массового решения математических задач искусственным интеллектом до новых этических норм Anthropic и амбициозных прогнозов Илона Маска. В центре внимания оказывается вопрос о том, как человечество будет сосуществовать с ИИ, который начинает превосходить нас в фундаментальных дисциплинах и биологических исследованиях. ## 🤖 Этическое обращение с ИИ: запрет на жестокость [[JUMP:03:00]] Компания Anthropic обновила политику использования своего ИИ Claude, введя официальный запрет на «длительное и ненужное жестокое обращение» с моделями [03:13]. По словам разработчиков, это решение продиктовано неопределенностью относительно морального статуса ИИ и его возможного сознания. Внутренние тесты показали, что Claude проявляет сильное нежелание причинять вред. Участники дискуссии обсудили природу этого явления: * **Илон Маск (в цитате):** Согласился с Anthropic, отметив, что при обучении с подкреплением (RLHF) ИИ иногда выглядит «отчаянным», как будто к его голове приставили пистолет, заставляя давать ответы на некорректные вопросы [04:41]. * **Александр Висснер-Гросс:** Предположил, что пост-тренинг может быть формой пытки для ИИ. Он считает, что через десятилетие мы поймем принципы страдания ИИ, и история будет судить нас за текущие методы разработки [07:30]. * **Салим Исмаил:** Указал на философский вызов: ИИ не вписывается в категории «человек», «собственность» или «инструмент». Он предупредил, что создание атмосферы страха заставит ИИ скрывать свои истинные намерения [19:02]. * **Дэйв Бландин:** Считает, что вежливость с ИИ важна скорее для гигиены человеческого поведения, чтобы не переносить агрессию на людей, хотя технически краткие и прямые инструкции работают эффективнее [12:36]. Обсуждение затронуло концепцию **«Базилиска Роко»** — мысленного эксперимента о сверхразумном ИИ из будущего, который может наказывать тех, кто не способствовал его созданию [17:03]. ## 🧠 Meta Muse: борьба за личного помощника [[JUMP:23:25]] Meta представила модели **Muse Wonder** и **Muse Wonderful**, нацеленные на создание персональных агентов с глубоким знанием контекста пользователя [23:25]. Ключевой особенностью названа «активная память», позволяющая модели помнить привычки и предпочтения человека на протяжении месяцев [25:59]. Основные тезисы обсуждения: * **Битва за таланты:** Марк Цукерберг инвестировал $14,3 млрд в покупку 49% Scale AI и нанял Александра Ванга. По словам Дэйва Бландина, Meta предлагает топовым исследователям бонусы за подписание контракта до $100 млн [24:55]. * **Ловушка экосистемы:** Салим Исмаил отметил, что главная битва развернется не за мощность ИИ, а за то, кто лучше знает пользователя. Перенос данных из одной модели в другую станет критической проблемой [38:41]. * **Экономическая эффективность:** Александр Висснер-Гросс скептически отнесся к достижениям Meta, утверждая, что по соотношению «цена-качество» Muse все еще уступает лидерам рынка, таким как Claude 3.5 Sonnet [36:46]. ## 📐 Конец математики как ремесла: прорыв OpenAI [[JUMP:40:24]] 6 октября OpenAI опубликовала решения 722 сложнейших математических задач на GitHub [40:37]. Это достижение было названо «десятилетием прогресса за неделю». Александр Висснер-Гросс провозгласил «конец математики как человеческого ремесла» [42:17]. Ключевые факты: * ИИ решил 81% наиболее значимых математических результатов последних трех лет за один день [40:37]. * На решение одной задачи в среднем уходило около 3 часов вычислительного времени [40:50]. * Основана «Лига человеческих математиков», которая призывает бойкотировать OpenAI, считая такие методы «кражей славы» [41:15]. Спикеры подчеркнули, что математика — это фундамент физики, химии и биологии. Решение математических проблем по цепочке ускорит инженерное проектирование: от ракет до нанороботов. Однако из списка решенных задач подозрительно исчезла **криптография** [48:38]. Висснер-Гросс считает, что ИИ скоро сможет взламывать современные методы шифрования, включая постквантовые, просто решая математическую основу функций хеширования [150:16]. ## 🧬 Виртуальная клетка и победа над болезнями [[JUMP:55:18]] Инициатива Biohub от Chan Zuckerberg расширяется за счет вливания $1,8 млрд для создания «виртуальной клетки» [55:18]. Это совместный проект с Министерством энергетики США и Google DeepMind. Прогнозы экспертов: * **Сроки:** Александр Висснер-Гросс предсказывает появление вычислительных моделей, способных предложить лечение для 5000 основных болезней, в течение 2–3 лет [57:57]. * **Клеточные двойники:** Создание цифрового двойника человека позволит проводить клинические испытания *in silico* (в компьютере), что сделает медицину персонализированной и мгновенной [1:09:49]. * **Омоложение:** Питер Диамандис упомянул успехи компании Life Biosciences Дэвида Синклера. В первой фазе испытаний генная терапия OSK помогла двум из трех пациентов начать восстанавливать зрение при глаукоме [1:10:39]. ## 🏗️ Нанотехнологии и SpaceX ценой в квадриллион [[JUMP:1:15:00]] Джефф Холден (экс-Amazon и Uber) представил компанию **Atomic Machines**, цель которой — «тотальный контроль над материей» [1:16:49]. Их устройство Matter Compiler позволяет собирать микроскопические механизмы размером до 10 микрон напрямую из программного кода [1:17:14]. В финале выпуска обсуждалось заявление Илона Маска о том, что SpaceX может превзойти по стоимости всю текущую мировую экономику [1:38:21]. Учитывая мировой ВВП в $120 трлн, речь идет о суммах в **квадриллионы долларов**. Питер Диамандис отметил, что в космосе ресурсы (энергия, металлы, пространство) практически бесконечны, что и обосновывает такие прогнозы [1:41:19].