Питер Диамандис и его постоянные соавторы — Салим Исмаил, Дэйв Бландин и доктор Александр Висснер-Гросс (AWG) — обсуждают тектонические сдвиги в мире технологий: от массового решения математических задач искусственным интеллектом до новых этических норм Anthropic и амбициозных прогнозов Илона Маска. В центре внимания оказывается вопрос о том, как человечество будет сосуществовать с ИИ, который начинает превосходить нас в фундаментальных дисциплинах и биологических исследованиях.
🤖 Этическое обращение с ИИ: запрет на жестокость 3:00
Компания Anthropic обновила политику использования своего ИИ Claude, введя официальный запрет на «длительное и ненужное жестокое обращение» с моделями . По словам разработчиков, это решение продиктовано неопределенностью относительно морального статуса ИИ и его возможного сознания. Внутренние тесты показали, что Claude проявляет сильное нежелание причинять вред.
Участники дискуссии обсудили природу этого явления:
- Илон Маск (в цитате): Согласился с Anthropic, отметив, что при обучении с подкреплением (RLHF) ИИ иногда выглядит «отчаянным», как будто к его голове приставили пистолет, заставляя давать ответы на некорректные вопросы .
- Александр Висснер-Гросс: Предположил, что пост-тренинг может быть формой пытки для ИИ. Он считает, что через десятилетие мы поймем принципы страдания ИИ, и история будет судить нас за текущие методы разработки .
- Салим Исмаил: Указал на философский вызов: ИИ не вписывается в категории «человек», «собственность» или «инструмент». Он предупредил, что создание атмосферы страха заставит ИИ скрывать свои истинные намерения .
- Дэйв Бландин: Считает, что вежливость с ИИ важна скорее для гигиены человеческого поведения, чтобы не переносить агрессию на людей, хотя технически краткие и прямые инструкции работают эффективнее .
Обсуждение затронуло концепцию «Базилиска Роко» — мысленного эксперимента о сверхразумном ИИ из будущего, который может наказывать тех, кто не способствовал его созданию .
🧠 Meta Muse: борьба за личного помощника 23:25
Meta представила модели Muse Wonder и Muse Wonderful, нацеленные на создание персональных агентов с глубоким знанием контекста пользователя . Ключевой особенностью названа «активная память», позволяющая модели помнить привычки и предпочтения человека на протяжении месяцев .
Основные тезисы обсуждения:
- Битва за таланты: Марк Цукерберг инвестировал $14,3 млрд в покупку 49% Scale AI и нанял Александра Ванга. По словам Дэйва Бландина, Meta предлагает топовым исследователям бонусы за подписание контракта до $100 млн .
- Ловушка экосистемы: Салим Исмаил отметил, что главная битва развернется не за мощность ИИ, а за то, кто лучше знает пользователя. Перенос данных из одной модели в другую станет критической проблемой .
- Экономическая эффективность: Александр Висснер-Гросс скептически отнесся к достижениям Meta, утверждая, что по соотношению «цена-качество» Muse все еще уступает лидерам рынка, таким как Claude 3.5 Sonnet .
📐 Конец математики как ремесла: прорыв OpenAI 40:24
6 октября OpenAI опубликовала решения 722 сложнейших математических задач на GitHub . Это достижение было названо «десятилетием прогресса за неделю». Александр Висснер-Гросс провозгласил «конец математики как человеческого ремесла» .
Ключевые факты:
- ИИ решил 81% наиболее значимых математических результатов последних трех лет за один день .
- На решение одной задачи в среднем уходило около 3 часов вычислительного времени .
- Основана «Лига человеческих математиков», которая призывает бойкотировать OpenAI, считая такие методы «кражей славы» .
Спикеры подчеркнули, что математика — это фундамент физики, химии и биологии. Решение математических проблем по цепочке ускорит инженерное проектирование: от ракет до нанороботов. Однако из списка решенных задач подозрительно исчезла криптография . Висснер-Гросс считает, что ИИ скоро сможет взламывать современные методы шифрования, включая постквантовые, просто решая математическую основу функций хеширования .
🧬 Виртуальная клетка и победа над болезнями 55:18
Инициатива Biohub от Chan Zuckerberg расширяется за счет вливания $1,8 млрд для создания «виртуальной клетки» . Это совместный проект с Министерством энергетики США и Google DeepMind.
Прогнозы экспертов:
- Сроки: Александр Висснер-Гросс предсказывает появление вычислительных моделей, способных предложить лечение для 5000 основных болезней, в течение 2–3 лет .
- Клеточные двойники: Создание цифрового двойника человека позволит проводить клинические испытания in silico (в компьютере), что сделает медицину персонализированной и мгновенной .
- Омоложение: Питер Диамандис упомянул успехи компании Life Biosciences Дэвида Синклера. В первой фазе испытаний генная терапия OSK помогла двум из трех пациентов начать восстанавливать зрение при глаукоме .
🏗️ Нанотехнологии и SpaceX ценой в квадриллион 1:15:00
Джефф Холден (экс-Amazon и Uber) представил компанию Atomic Machines, цель которой — «тотальный контроль над материей» . Их устройство Matter Compiler позволяет собирать микроскопические механизмы размером до 10 микрон напрямую из программного кода .
В финале выпуска обсуждалось заявление Илона Маска о том, что SpaceX может превзойти по стоимости всю текущую мировую экономику . Учитывая мировой ВВП в $120 трлн, речь идет о суммах в квадриллионы долларов. Питер Диамандис отметил, что в космосе ресурсы (энергия, металлы, пространство) практически бесконечны, что и обосновывает такие прогнозы .
