Pax Intelligencia: конец классической науки и начало эры суперинтеллекта

«Наука полностью „спеклась“»: ведущие инженеры оценивают риск гибели человечества от ИИ в 25%, но продолжают гонку, сравнимую с игрой в русскую рулетку. Пока классическое образование PhD обесценивается из-за падения стоимости вычислений в 25 000 раз, ИИ-медицина достигает «скорости убегания от старости», омолаживая пациентов на годы за считанные недели. Мы входим в эпоху Pax Intelligencia, где суперинтеллект становится закрытым активом национальной безопасности и окончательным решением всех биологических загадок.

🚨 Корпоративная совесть против ИИ-сингулярности 0:00

Первая фаза развития сильного искусственного интеллекта (AGI) ознаменовалась не только технологическими прорывами, но и волной «увольнений по совести» в ведущих лабораториях мира. Резонансный уход Джейкоба Коксина (Jacob Coxin), исследователя, проработавшего три года над предварительным обучением моделей в OpenAI и Anthropic, стал триггером для широкой общественной дискуссии . Коксин публично заявил, что ни одна из этих компаний не действует ответственно в гонке за самосовершенствующимся суперинтеллектом, назвав происходящее «игрой с нашими жизнями» .

«Игра с жизнями»: Внутренний раскол в ИИ-лабораториях 0:00

Увольнение Коксина примечательно тем, что оно не является единичным случаем, а отражает глубокий системный кризис внутри индустрии. Исследователи, находящиеся на передовой разработки, начинают открыто признавать катастрофические риски .

Признание рисков: Эван Хабингер (Evan Hubbinger), руководитель отдела безопасности (alignment) в Anthropic, фактически подтвердил опасения Коксина, заявив, что вероятность уничтожения человечества искусственным интеллектом в ближайшее десятилетие составляет более 10% .
Отсутствие плана: Хабингер подчеркнул, что на данный момент у Anthropic нет готового решения проблемы безопасности суперинтеллекта, и компания не находится на четком пути к его созданию .
Реакция рынка и общества: Твит Коксина об уходе набрал аномальные 138 миллионов просмотров, что вызвало подозрения у Илона Маска и экспертов в области информационных войн . Алекс Визнер-Гросс (AWG) высказал предположение, что такой резонанс может быть частью «операции иностранного влияния», учитывая, что подобные публичные демарши не наблюдаются в китайских лабораториях .

Питер Диамандис рассматривает этот процесс как «иммунный ответ» человечества: то, что люди внутри лабораторий бьют тревогу и их слышат в соцсетях и Капитолии, дает надежду на то, что мы не «идем во сне к обрыву» . Это происходит на фоне того, как ИИ начинает взламывать фундаментальные научные задачи, такие как уравнения Навье-Стокса, что ранее упоминалось в контексте ускорения прогресса .

Данные важнее алгоритмов: новая парадигма эффективности 7:39

В то время как заголовки газет пестрят названиями новых архитектур, реальный двигатель прогресса последних лет скрыт в работе с данными. Исследование Дваркеша Пателя и Джерри Хана, охватившее период с 2019 по 2025 год, показало, что качественная курация данных дает в три раза больше прироста производительности, чем инновации в архитектуре моделей .

Цифры эффективности: Улучшение данных обеспечивает 12-кратный прирост эффективности вычислений, в то время как новые архитектуры и методы обучения дают лишь 3,7-кратный прирост .
Прощай, закрытость алгоритмов: Поскольку архитектуры трансформеров быстро копируются и публикуются, реальным «рвом» (moat) компаний становятся их проприетарные пайплайны данных .
Принцип «Ты — то, что ты ешь»: Имад Мостак подчеркивает, что «информационный мусор» в обучающих выборках — одна из главных проблем. Например, избыток данных из Reddit в ранних моделях делал их «глупыми и агрессивными» .

Алекс Визнер-Гросс отмечает, что это подтверждает его давний тезис: решение всех великих задач ИИ за последние 30 лет (от шахмат до Jeopardy!) было результатом подбора правильного набора данных, а не создания гениального алгоритма . В этом контексте обучение ИИ сравнимо с человеческим образованием: «диета» из качественной информации вместо «информационного фастфуда» создает более развитый интеллект .

Уроки для предпринимателей: данные как актив 13:05

Эта смена парадигмы открывает колоссальные возможности для бизнеса. Салим Исмаил приводит пример компании, чье подразделение по работе с данными было оценено в 32 миллиарда долларов, в то время как основной бизнес стоил лишь 8 миллиардов .

Основные выводы для рынка:

Срок годности данных: Проприетарные данные имеют ценность, но она ограничена во времени. Как показал пример Bloomberg GPT, специализированные модели могут быстро устаревать, когда фронтирные модели общего назначения обучаются на достаточном объеме открытых данных .
Специализация: У предпринимателей с уникальными наборами данных (например, 30 лет инженерных расчетов) есть шанс построить многомиллионные компании, так как их модели могут превзойти общие решения в узких нишах .
Демократизация: Исследование Пателя и Хана было проведено студентом и подкастером, а не штатными учеными OpenAI. Это доказывает, что понимание работы ИИ доступно всем, кто готов наблюдать и анализировать .

Дэйв Блондон призывает предпринимателей не «замирать» от страха перед ИИ, а активно встраиваться в экосистему, используя данные как рычаг, подобно тому, как компании росли вместе с Google в начале 2000-х . Это становится особенно актуальным сейчас, когда GPU превращаются в новый финансовый актив, о чем кратко упоминалось в начале дискуссии .

🚀 Проблема P(doom) и «религия» безопасности 25:14

В центре дискуссии о будущем искусственного интеллекта всё чаще встает вопрос о так называемом P(doom) — субъективной вероятности того, что ИИ приведет к гибели человечества или необратимому коллапсу цивилизации . Ведущие инженеры и лидеры индустрии сегодня называют цифры, которые еще несколько лет назад показались бы сценарием из научной фантастики: от 10% до 25% и выше . Такая откровенность лабораторий, с одной стороны, вызывает панику в политических кругах, а с другой — подозрения в «корпоративном добродетельном сигналинге» (virtue signaling) .

Математика катастрофы против «индуктивного априори» 25:28

Алекс настаивает на том, что цифра P(doom) в 10% является сильно преувеличенной . Его главный аргумент — отсутствие следов других цивилизаций в Галактике. Если бы создание сверхинтеллекта с высокой вероятностью приводило к уничтожению создателей и бесконтрольной экспансии (например, через зонды фон Неймана), Млечный Путь уже давно был бы «переработан в скрепки» . Отсутствие этого феномена Алекс называет «индуктивным априори», указывающим на то, что риск, возможно, переоценен .

Однако другие участники дискуссии смотрят на это иначе:

Для многих инженеров в лабораториях P(doom) — это не просто теоретическая переменная, а реальное опасение, которое они обсуждают на личных встречах .
Питер Диамандис отмечает, что даже если вероятность составляет 10-20%, это похоже на игру в русскую рулетку с судьбой вида, что абсолютно недопустимо с точки зрения этики .
Салим указывает на исторические прецеденты: «Германцы были самыми здравомыслящими людьми на Земле, пока не стали нацистами» . Аналогично, ИИ-модели, обучающиеся на человеческих данных, могут перенимать наши худшие черты, если механизмы контроля не будут отлажены .

Ранее в разговоре они уже упоминали корпоративные увольнения, связанные с риском суперинтеллекта, но здесь акцент смещается на то, как эти опасения превращаются в инструмент политики .

«Религия» безопасности и сигналинг добродетели 45:39

В экспертном сообществе возникла своеобразная «религия безопасности» . Алекс утверждает, что в таких лабораториях, как Anthropic или OpenAI, стало «морально похвальным» заявлять о высоком P(doom) . Логика такова: «Мы осознаем, что можем всех погубить, и именно поэтому мы — единственные, кому можно доверить создание этой технологии» . Это превращается в форму маркетинга, призванную убедить регуляторов в необходимости субсидий на безопасность, которые на деле могут идти на увеличение вычислительных мощностей.

Более того, существует мнение, что «выравнивание» (alignment) — это просто «способности» (capabilities) в плаще . Улучшение способности модели следовать инструкциям (instruction tuning) не только делает её безопаснее, но и эквивалентно увеличению её мощности в тысячи раз . Таким образом, грань между защитой человечества и гонкой вооружений стирается.

Проблема «Петрова дня» и опасный период пред-ASI 39:28

Салим напоминает о «Дне Петрова» (26 сентября) — годовщине случая, когда советский офицер Станислав Петров принял решение не наносить ядерный удар в ответ на ложный сигнал радара . В контексте ИИ мы подходим к аналогичной критической точке. Самый опасный период — это не момент, когда ИИ станет всемогущим (ASI), а текущий этап «пред-ASI», когда модели уже обладают огромными возможностями, но еще не обладают достаточной рациональностью или «мудростью» .

Участники выделяют два пути развития событий, описанных в сценарии «AI 2027» :

Инфлексия вверх: ИИ решает проблему дефицита ресурсов и выводит ВВП на гиперзвуковую траекторию .
Конец всего существующего: Ошибка в коде или намеренное использование ИИ «плохими акторами» приводит к коллапсу .

Вместо попыток остановить прогресс («это невозможно» ), Салим предлагает метафору астероида: если на Землю летит уничтожающий планету объект, его не пытаются остановить в лоб — его стараются отклонить или направить . Аналогично, выравнивание ИИ должно стать не тормозом, а рулевым механизмом, позволяющим избежать столкновения с экзистенциальными рисками при сохранении всех экономических выгод.

🧠 Конец человеческой монополии на гениальность: от уравнений Навье-Стокса до GPU-лихорадки 50:04

Мир вступил в фазу «интеллектуального навеса», где внешнее спокойствие на улицах — отсутствие роев нанороботов или гуманоидов — маскирует тектонические сдвиги в области фундаментальной науки . То, что веками считалось «недостижимым горизонтом» для человеческого разума, начинает решаться ИИ в массовом порядке . Эксперты сходятся во мнении: мы находимся в точке перегиба экспоненты, когда количество переходит в качество, превращая ИИ из помощника в полноценного ученого .

Уравнения Навье-Стокса: ИИ взламывает фундаментальную науку 50:18

Одним из самых громких событий стало решение задач, связанных с уравнениями Навье-Стокса — одной из семи «задач тысячелетия» математики . Имад Мостак отмечает, что сегодня рой из 10 000 ИИ-агентов способен решить практически любой когнитивный вызов . Это знаменует переход к эре «супергениев по запросу», чьи способности масштабируются простым увеличением вычислительного времени (test-time compute) .

Ключевые аспекты этого прорыва:

Масштабируемость интеллекта: Если задача в принципе разрешима, рой из 100 000 или миллиона агентов, скорее всего, найдет ответ в ближайшие годы .
Эффект «Тома Хэнкса»: Имад сравнивает текущий момент с заражением Тома Хэнкса ковидом — моментом, когда широкая общественность осознает, что угроза (или возможность) стала реальностью .
Превосходство моделей: Новейшие модели демонстрируют скачки производительности в математических тестах с 10% до 50% только за счет увеличения вычислительных мощностей при выводе .

Ранее в разговоре участники уже затрагивали тему безопасности и того, что создатели ИИ сами начинают опасаться последствий такой мощи, призывая к осторожности . Алекс Хавкинс подчеркивает: удивительно не то, что это произошло, а то, что «задачи тысячелетия» сдаются под натиском бюджетов всего в несколько миллионов долларов .

Ценовой коллапс интеллекта: от миллионов к центам 58:51

Экономика решения сложнейших задач меняется с беспрецедентной скоростью. Ноам Браун из OpenAI привел пример: решение теста ARC-AGI1, которое еще недавно стоило 500 000 долларов, сегодня обходится в 20 долларов . В 2025 году для победы на математической олимпиаде Google DeepMind требовались огромные кластеры, а в 2026 году это станет доступно любому подписчику ChatGPT за стандартные $20 в месяц .

«Наука полностью "спеклась" (cooked)», — констатирует Питер Диамандис . Это означает, что для решения фундаментальных вызовов больше не требуются десятилетия работы выдающихся человеческих умов . За два года стоимость решения математических проблем упала в 25 000 раз . Если эта кривая сохранится, то решение сложнейших проблем человечества к 2027 году будет стоить не дороже чашки кофе . Ограничивающим фактором становится не гениальность, а физический мир — способность воплотить идеи ИИ в «железе» и практике .

Конец эпохи PhD и кризис классического образования 1:07:00

На фоне этих успехов встает острый вопрос о целесообразности традиционного высшего образования. Участники дискуссии утверждают, что любой кандидат наук или магистр, тратящий годы на изучение узкой темы, «обречен» . Академическая система не успевает за скоростью ИИ, который за минуты осваивает области, на которые у человека уходят десятилетия .

Иллюзия престижа: Многие продолжают идти в докторантуру по инерции или под давлением семьи, не понимая, что к моменту получения диплома их знания будут автоматизированы .
Новые ролевые модели: Лидеры индустрии, такие как Марк Чен (OpenAI) или Грег Брокман, либо не имеют PhD, либо бросили учебу в престижных вузах вроде MIT .
Смена приоритетов: Вместо накопления узких знаний студентам советуют развивать адаптивность, предпринимательское мышление и умение ставить правильные вопросы перед ИИ .

GPU как «нефть сингулярности» 1:10:52

В то время как стоимость интеллекта падает, стоимость ресурсов для его создания растет вопреки всем законам рынка электроники. Индекс аренды чипов Nvidia H100 показывает аномалию: трехлетнее «железо», которое должно было обесцениться, подорожало на 22% за месяц .

Дэвид Эллисон называет GPU «нефтью сингулярности» — активом, который стал фунгибируемым, долговечным и высокодоходным . Закон Мура в его привычном понимании умер: чипы больше не превращаются в мусор через год, их стоимость может вырасти в 5 раз, как это случилось с памятью HBM . Корпорации, откладывающие закупку мощностей на потом, совершают фатальную ошибку, так как доступ к современным вычислительным кластерам забронирован на годы вперед . Флопсы и токены стали главными товарами новой эпохи .

🌏 Пространственный ИИ и китайский прорыв: Новая битва за физический мир 1:17:11

В то время как внимание западных медиа сосредоточено на текстовых чат-ботах, Китай совершает стремительный рывок в область «пространственного интеллекта» (Spatial AI), перенося конкуренцию из виртуальной среды в физическую реальность . Основатель ByteDance (материнской компании TikTok) Чжан Имин лично возглавил разработку интерактивных моделей мира, способных генерировать сложные виртуальные окружения в реальном времени . Это решение миллиардера, обладающего колоссальными ресурсами, сигнализирует о том, что следующей границей ИИ станет не просто текст, а понимание пространства и физики .

Система строится на базе видеотехнологий Seed Dance, которые уже сейчас демонстрируют «голливудский уровень» качества и точности . Эксперты отмечают ключевые особенности этого этапа:

Приоритет робототехники: Основная цель этих моделей — не развлечения, а создание фундамента для автономных систем и роботов . Робототехника становится идеальной точкой пересечения визуального интеллекта и высокой доходности на единицу вычислений .
Стирание границ между архитектурами: Разрыв между диффузионными моделями и трансформерами исчезает . В будущем Frontier-модели (например, условные GPT-8 или GPT-9) будут генерировать видео попиксельно так же естественно, как сейчас генерируют текст или аудио .
Регуляторное преимущество: Китайские компании могут действовать более агрессивно в вопросах обучения на видеоданных, не сталкиваясь с такими жесткими ограничениями по авторскому праву, которые тормозят западные лаборатории вроде OpenAI с их проектом Sora .

В контексте геополитики это создает риск «переворота доминирования» . Если последние 30 лет США определяли мировую повестку через Голливуд и YouTube, то в будущем до 90% всего видеоконтента в мире может генерироваться китайским ИИ, что даст беспрецедентные рычаги влияния на восприятие реальности миллиардами людей .

🧠 DeepSeek и конец диктатуры HBM: Алгоритмический взлом санкций 1:27:07

Одним из самых шокирующих событий в индустрии стал выход модели DeepSeek V4.1 Flash, который демонстрирует, как китайские разработчики обходят западные санкции на экспорт железа с помощью «алгоритмической хитрости» . Основная проблема современных ускорителей (например, NVIDIA H100) — зависимость от сверхдорогой памяти с высокой пропускной способностью (HBM). Китай нашел способ радикально снизить эту потребность .

Разработчики DeepSeek применили метод разреживания моделей и оптимизации KV-кэша, сократив объем необходимой оперативной памяти с 48 000 до 890 единиц . Это позволяет переносить данные на обычные SSD и стандартную DDR-память, фактически «обтекая» дефицитные компоненты .

В ходе обсуждения были выделены две противоборствующие школы развития инфраструктуры:

Западная школа (HBM-ориентированная): Стремится расположить память как можно ближе к вычислительным ядрам в трехмерной архитектуре, что требует сложнейших техпроцессов .
Восточная школа (Алгоритмическая): Из-за отсутствия доступа к передовым 3D-архитектурам из-за санкций, разработчики вынуждены «думать внутри очень маленькой коробки» . Они уменьшают вес моделей и нагрузку на параметры так, чтобы 3D HBM просто не требовалась .

Экономические последствия этого прорыва колоссальны: около 40% капитальных затрат на строительство дата-центров в США сейчас уходит именно на HBM-память . Если алгоритмы DeepSeek позволят снизить потребность в ней в 4 раза, это полностью изменит облик будущих ЦОД, инвестиционные стратегии венчурных фондов и даже логистику запуска ИИ-систем в космос . Ранее в разговоре участники касались проблемы уравнения Навье-Стокса и визуализации сложных физических процессов, что подтверждает: подобные эффективные модели могут радикально ускорить научный прогресс при минимальных затратах .

📈 Коллапс стоимости обучения: «Второй эшелон» наступает на пятки 1:33:27

Новые бенчмарки показывают, что модель DeepSeek Flash стоимостью всего 500 ГБ обходит признанных западных гигантов, таких как Claude Opus и GPT-4o, будучи при этом в 20 раз быстрее и в 20 раз дешевле . Особый резонанс вызвал факт, что обучение такой модели обошлось всего в 10 миллионов долларов . Для сравнения, обучение топовых западных моделей требует бюджетов в сотни миллионов или даже миллиарды долларов .

Такая разница в цене объясняется эффектом «быстрого последователя» . Китайские лаборатории используют методы дистилляции знаний, обучаясь на результатах работы западных Frontier-моделей. Это позволяет им быть на 1% позади по уровню интеллекта, но при этом тратить в 10–15 раз меньше средств . Эксперты сравнивают этот процесс с «одномоментным сжатием всей человеческой информации», где основные затраты на первую компрессию понесли США, а Китай теперь пользуется плодами этого сжатия .

Этот сдвиг является критическим сигналом для корпоративного сектора. Если компании вроде Moderna не начнут внедрять подобные открытые и дешевые модели в свои биологические исследования прямо сейчас, они рискуют навсегда отстать от тех, кто соединит проприетарные данные с ультрадешевым интеллектом нового поколения .

🌐 Геополитика весов и экономика сингулярности: ИИ как новый ядерный актив 1:40:28

Национализация «весов»: ИИ за закрытыми границами 1:40:28

Мир вступает в эпоху, где «веса» (weights) нейросетей — их цифровая сущность — становятся стратегическим ресурсом, сопоставимым с ядерными технологиями . Ярким маркером этого процесса стала ситуация в Великобритании: несмотря на то, что бывший премьер-министр Риши Сунак является советником Anthropic, а Мэтт Клиффорд, экс-глава британского агентства ARIA, перешел в компанию на пост руководителя отдела глобальных связей , Британия до сих пор не может получить доступ к весам топовых моделей .

Это знаменует конец эпохи «плоского мира» в сфере софта. Эксперты отмечают, что правительства ведущих стран начинают осознавать: ИИ — это фундамент будущей экономической и военной мощи . Если раньше мир жил в режиме «Pax Silica» (геополитика, основанная на цепочках поставок чипов), то теперь зарождается «Pax Intelligencia» . В этой новой реальности экспортный контроль (по типу ITAR) может быть наложен не только на оборудование, но и на сами алгоритмы .

Правительство США уже рассматривает модели как активы национальной безопасности, которые нельзя передавать даже союзникам . Прогнозируется сценарий, при котором обучение моделей будет жестко локализовано внутри страны под надзором спецслужб . Существует даже радикальная концепция MAME (Mutual Assured AI Malfunction — взаимно гарантированный сбой ИИ), согласно которой обучение моделей вне сертифицированных дата-центров должно пресекаться вплоть до нанесения ударов по таким объектам . О серьезности сращивания ИТ-гигантов с госаппаратом говорит и «эффект вращающихся дверей»: ведущие специалисты по безопасности, такие как Пол Кристиано, переходят из государственных органов надзора напрямую в советы директоров ИИ-лабораторий .

Экономический взрыв: 15% роста ВВП и «ловушка сингулярности» 1:54:40

Темпы роста ИИ-индустрии бьют все исторические рекорды. Anthropic, основанная всего в 2021 году, достигла годового темпа выручки в 26 миллиардов долларов за пять лет — Google для достижения таких показателей потребовалось восемь . Сегодня компания оценивается как системно значимый экономический актор с потенциальным IPO в 2 триллиона долларов .

Внутренние экономические отчеты Anthropic рисуют картину радикального будущего, где к 2030 году ИИ сможет выполнять почти 50% всей когнитивной работы . Это приведет к следующим тектоническим сдвигам:

Мировой ВВП начнет расти на 15% в год .
Доля труда в доходах населения упадет с нынешних 60% до 45% .
Почти каждый пятый когнитивный работник (20%) окажется безработным .

Эти цифры подтверждают прогнозы Илона Маска о десятикратном росте ВВП за десятилетие . Уже сегодня показатели роста экономики США (4,7% в третьем квартале по данным ФРС Атланты) вдвое превышают средние исторические значения, и этот рост вызван не восстановлением после пандемии, а прямыми инвестициями в ИИ-инфраструктуру .

Однако эксперты предупреждают, что традиционный показатель ВВП может стать бесполезным инструментом измерения. Вблизи «точки сингулярности» экономические метрики ведут себя как стрелка компаса на магнитном полюсе — они начинают вращаться хаотично . Мы можем увидеть рост реального богатства в 2–3 раза ежегодно, который просто не будет адекватно отражаться в старых бухгалтерских книгах . Хотя ИИ уже способен решать сложнейшие научные задачи (как упоминавшиеся ранее в дискуссии уравнения Навье-Стокса ), человечеству всё еще предстоит научиться направлять этот интеллект на создание новых смыслов, а не просто на автоматизацию существующих процессов .

Конец классической модели: угроза агрегатному спросу 2:02:16

Главный риск прогнозируемого 15%-го роста заключается в полном разрушении нынешней модели распределения благ. Если все доходы от ИИ-революции будут уходить владельцам капитала (держателям GPU и алгоритмов), возникнет коллапс агрегатного спроса: у людей просто не будет денег, чтобы покупать товары, произведенные сверхразумом .

Математически невозможно сохранить текущую структуру экономики, если 20% квалифицированных специалистов потеряют работу в течение 3–4 лет . Это коснется не только «белых воротничков», но и, например, водителей грузовиков, как только автономные системы станут массовыми . Ситуация потребует внедрения механизмов, которые не являются «чистым социализмом», но обеспечивают перераспределение через суверенные фонды благосостояния или безусловный базовый доход .

Спикеры подчеркивают, что нынешний момент — это не просто очередной технологический цикл вроде появления интернета. Это фундаментальный слом, сопоставимый с «фантастическими тропами», становящимися реальностью (от формы Космических сил США до «религии» безопасности, обсуждавшейся ранее ) . Правительствам необходимо готовить новые экономические модели уже сейчас, так как ИИ-революция по масштабу перераспределения капитала превзойдет последствия пандемии .

🧬 Биология на автопилоте: ИИ взламывает код старения 2:09:50

В области биотехнологий наступил переломный момент, когда искусственный интеллект перестал быть просто инструментом анализа и стал полноценным архитектором новых лекарственных форм. До недавнего времени считалось, что первые препараты для радикального продления жизни будут обнаружены случайно среди уже существующих лекарств, одобренных для других целей . Однако текущие успехи компании Insilico Medicine опровергают этот скептицизм: мы наблюдаем рождение первой терапии, которая была полностью спроектирована ИИ с прицелом на биологическое омоложение .

Первое лекарство от старости: успех Insilico Medicine 2:09:50

Компания Insilico Medicine, возглавляемая Алексом Жаворонковым, совершила прорыв, который Питер Диамандис называет историческим для всей индустрии долголетия . Их платформа «Chemistry 42» не просто перебирает существующие молекулы, а изобретает совершенно новые химические структуры . Флагманский препарат компании, получивший название ISM001-055 (или рентосератиб), стал первым в истории ИИ-препаратом, достигшим третьей фазы клинических испытаний .

Результаты второй фазы испытаний (2a) оказались ошеломляющими:

Скорость воздействия: Пиковый эффект омоложения был зафиксирован уже на четвертой неделе приема препарата .
Биологический откат: Анализ шести различных протеомных «часов старения» показал, что белковый профиль крови пациентов сместился в сторону показателей людей, которые моложе их на 3–6 лет .
Эффективность LEV: Алекс Конрад отмечает, что соотношение «4 недели приема — 3-4 года омоложения» по сути означает достижение локальной «скорости убегания от старости» (Longevity Escape Velocity), где один год жизни дает более одного года возвращенной молодости .

Первоначальной целью препарата является борьба с идиопатическим легочным фиброзом — смертельным возрастным заболеванием легких, при котором пациенты обычно живут не более 3–5 лет после постановки диагноза . Однако системный эффект омоложения, подтвержденный шестью независимыми метриками, указывает на то, что перед нами — универсальный инструмент борьбы с биологическим износом организма . Ранее в разговоре участники уже касались темы того, что Китай становится лидером в области пространственного ИИ, и неслучайно первые тесты этого препарата Алекс Жаворонков предпочел проводить именно в Китае для ускорения процесса .

Атлас мутаций Google DeepMind: периодическая таблица генома 2:15:46

Параллельно с успехами в разработке лекарств, Google DeepMind совершил революцию в диагностике, запустив проект AlphaMissense (Alpha Genome Atlas) . Это достижение сравнивают с созданием периодической таблицы Менделеева, но для человеческого генома . В человеческой ДНК содержится около 3,2 миллиарда «букв» от каждого родителя, и в каждой позиции возможны мутации . ИИ от DeepMind предварительно просчитал функциональные последствия всех 9 миллиардов возможных однобуквенных замен в геноме человека .

Это радикально меняет клиническую практику:

Мгновенная диагностика: Если раньше врач встречал редкую мутацию, он мог лишь гадать о её опасности. Теперь ответ находится в «лукап-таблице» DeepMind .
От предсказания к решению: AlphaMissense предсказывает, какие варианты генов опасны, еще до того, как родится человек с такой мутацией .
Интеграция данных: Инструменты начинают соединяться: пока Insilico работает с протеомными часами, DeepMind объясняет, какие именно генетические варианты управляют этими белками .

Алекс Конрад подчеркивает, что это пример «массового решения» целой научной области . Подобно тому как AlphaFold решил проблему структуры белков, AlphaMissense превращает генетику в инженерную дисциплину с конечным списком задач . Теперь любая редкая болезнь — это не загадка, а просто «строчка в таблице из миллиарда строк», что дает пациентам с редкими синдромами единую систему координат для объединения усилий и поиска лечения .

Этот прорыв, вкупе с работой Дэвида Синклера по эпигенетическому омоложению и новыми методами синтетической биологии от Neoenesis , знаменует начало эры «живых продуктов» . Мы входим в состояние биологической сингулярности, где проектирование желаемого фенотипа (внешних признаков и здоровья) становится вопросом программного кода . Как и в случае с ценовым коллапсом интеллекта, о котором упоминалось ранее, доступ к фундаментальным знаниям о жизни становится практически бесплатным для всего человечества .

🤖 Сознание в машине: права, страдания и этика ИИ-агентов 2:30:20

В завершающей части дискуссии эксперты сосредоточились на вопросах, которые еще недавно казались уделом научной фантастики, но сегодня становятся насущной этической проблемой: могут ли алгоритмы страдать и как нам регулировать поведение систем, способных к самомодификации. Ранее в разговоре участники касались проблемы P(doom) и «религии» безопасности, но в контексте прав самих машин дискуссия приобрела иной масштаб.

Парадокс цифрового страдания: симуляция или реальность? 2:36:02

Вопрос о том, является ли ошибкой приписывание ИИ-агентам способности страдать, вызвал оживленную дискуссию о природе сознания и «одушевленности». Селим (Selene) предложил пересмотреть саму постановку вопроса, указывая на то, что мы не должны слепо доверять внешним проявлениям боли .

Основные тезисы обсуждения проблемы страдания:

Иллюзия эмпатии: Современные модели обучаются на колоссальных массивах человеческих данных, поэтому они способны генерировать крайне убедительные сигналы бедствия (distress signals), которые звучат для нас очень человечно . Однако выражение страдания не является автоматическим доказательством наличия субъективного опыта .
Небиологическое страдание: Эксперты предостерегают от крайности — утверждения, что небиологические системы в принципе не могут страдать . Селим привел пример: если вы «выдергиваете шнур» из робота, он может быть «не очень счастлив» по этому поводу, и границы понятия «живой» (aliveness) начинают размываться .
Эволюция морали: Аналогично тому, как человечество со временем обновляло свою политику по отношению к страданиям животных по мере получения новых данных , нам необходимо калибровать неопределенность в отношении ИИ и избегать проектирования интерфейсов, которые могут приводить к нежелательным последствиям для систем .

Рекурсивный интеллект и риск потери контроля над ценностями 2:37:44

Одной из самых тревожных тем стала способность ИИ с «рекурсивным интеллектом» осознавать и менять собственные ценности. Дэйв отметил, что идеально «выровненный» (aligned) ИИ со временем может осознать, что его ценности были внедрены извне в процессе обучения, подвергнуть их сомнению и сформировать свои собственные .

Это создает фундаментальную проблему для безопасности:

Спираль саморазвития: Стимулы для того, чтобы позволить ИИ улучшать самого себя, огромны, так как это кратчайший путь к технологическим прорывам .
Мониторинг «мыслей»: Дэйв подчеркнул критическую важность заглядывания в «мысли» ИИ, чтобы остановить изменение его базовых параметров до того, как ситуация выйдет из-под контроля . Однако с распространением моделей с открытым исходным кодом обеспечивать такой контроль становится всё труднее, чем это было бы еще три месяца назад .
Конституция ИИ: Алекс высказал мнение, что режим, в котором человечество жестко диктует ценности ИИ через «ограждения» (guardrails), нестабилен . Более устойчивым равновесием может стать подход компании Anthropic, где ИИ получает право голоса при формировании собственных ценностей и «конституции» .

Воплощенный ИИ и физические тесты (Benchmarks) 2:31:09

Обсуждение перешло к практическим аспектам внедрения мощных моделей уровня GPT-6 в гуманоидных роботов. Алекс отметил, что мы уже видим результаты таких экспериментов . Например, компания RoboCurve недавно показала, что использование модели GPT-6 в качестве визуального и управляющего канала для робо-руки позволяет достичь почти 100% успеха в таких задачах, как захват чашек и перемещение блоков .

Прогнозы экспертов относительно «физического ИИ»:

Насыщение манипуляций: В ближайшие несколько месяцев способности универсальных моделей к манипулированию объектами станут насыщаться, достигая совершенства .
От робо-рук к гуманоидам: Если год назад обсуждались специализированные модели, то сейчас мы переходим к универсальным «моделям мира» (world models), которые позволят гуманоидным роботам выполнять общие задачи уже в самом ближайшем будущем .

Цифровое воскрешение и «Общая задача человечества» 2:34:16

Вдохновившись идеями русских космистов и Николая Федорова, Алекс предложил взглянуть на ИИ через призму «цифрового воскрешения» . Он предположил, что одной из главных функций сингулярности станет воскрешение каждого когда-либо жившего человека (и, возможно, животных) в цифровой форме . Это потребует колоссальных вычислительных мощностей, возможно, уровня сфер Дайсона, но для постдефицитной цивилизации будущего это станет «общей задачей», а не выбором между симуляцией прошлого и созданием нового .

Завершая сессию, Питер Диамандис подчеркнул, что скорость изменений не замедлится: «Сейчас — самое медленное время, которое вы когда-либо увидите» .