# Смерть бенчмарков и «мягкая сингулярность»: как ИИ начнет обучать сам себя Источник: https://www.youtube.com/watch?v=1QIVPotRhrw Канал: Wes Roth Опубликовано: 19.06.2025 --- В новом эпизоде подкаста Уэс Рот (Wes Roth) вместе с бывшими сотрудниками Google обсуждает тектонические сдвиги в индустрии ИИ. В центре внимания — сделка Meta по инвестированию 14 миллиардов долларов в Scale AI, новые стратегии поглощения компаний в обход регуляторов и последние научные работы, описывающие «рекурсивное самосовершенствование» нейросетей. Инсайдеры Кремниевой долины делятся своим видением того, почему Apple пытается дискредитировать возможности ИИ и как скоро автоматизация работы исследователей машинного обучения приведет к технологической сингулярности. ## 💰 Сделка Meta и Scale AI: игра на 14 миллиардов долларов [[JUMP:02:50]] Meta находится на финальной стадии сделки по инвестированию 14 млрд долларов в Scale AI в обмен на долю в капитале [02:53]. По словам собеседников Уэса Рота, это второе по величине приобретение Марка Цукерберга после WhatsApp. Несмотря на внушительную сумму, это составляет менее 1% рыночной капитализации Meta, что делает риск минимальным при огромном потенциале роста [04:11]. Ключевые факты о сделке: * Александр Ванг, основатель Scale AI, возглавит новую команду «суперинтеллекта» внутри Meta [04:25]. * Цукерберг лично участвует в найме инженеров, предлагая зарплаты в 8–9 знаков (десятки и сотни миллионов долларов) [04:31]. * Цель сделки — реабилитироваться после проблем с Llama 4 (по мнению гостей, модель подверглась критике за манипуляции с бенчмарками) [04:37]. Собеседники Уэса Рота отмечают, что Scale AI испытывает давление: компания не достигла цели по выручке в 1 млрд долларов в прошлом году, остановившись на отметке 870 млн [21:37]. Причиной может быть «удлинение» циклов корпоративных продаж и рост популярности синтетических данных, которые снижают ценность ручной разметки — основного бизнеса Scale AI [22:19]. ## 🛡️ Новая эра M&A: как обойти надзор FTC [[JUMP:05:55]] В условиях жесткого давления со стороны Федеральной торговой комиссии (FTC) и Лины Хан, крупные техгиганты перешли от полных покупок к стратегиям «лицензирования и освобождения» (License and Release) [09:50]. Гости выделяют три типа сделок в Долине: 1. **Aqua-hire (Аква-найм):** покупка команды без интереса к самому бизнесу или IP. По словам гостей, Google часто практиковал это, чтобы дать сотрудникам «золотые наручники» [06:22]. 2. **License and Release (Лицензирование):** покупка лицензии на IP и наем ключевых лиц. Компания остается формально независимой, что позволяет избежать антимонопольных проверок [10:45]. 3. **Full Stock Purchase:** полная покупка акций (например, Salesforce купил Slack), при которой инвесторы получают огромную прибыль [08:32]. Примеры «хитрых» лицензионных сделок: * Microsoft и Inflection AI: 650 млн долларов за лицензию и переход команды [17:30]. * Google и Character AI: 2,7 млрд долларов за Ноама Шазира и группу исследователей [17:40]. * Amazon и Adept: сделка на 330 млн долларов [18:00]. Такие форматы позволяют корпорациям не брать на себя юридические риски и обязательства приобретаемых стартапов [15:32]. ## 🍏 Почему Apple критикует возможности рассуждения ИИ? [[JUMP:35:18]] Недавняя научная работа Apple, утверждающая, что LLM не способны к истинному рассуждению, вызвала скепсис у Уэса Рота и его гостей [36:11]. По мнению собеседников, Apple намеренно подсвечивает ограничения моделей, чтобы оправдать собственное отставание в гонке вооружений ИИ [35:58]. Аргументы против позиции Apple: * Критика строится на задачах, выходящих за рамки контекстного окна, или на математических головоломках, которые и люди решают с трудом [39:31]. * Если модель использует Python для решения логической задачи — это и есть форма рассуждения через инструмент [38:25]. * Мнение участников: Apple «травмирована» провалом собственных карт в 2012 году, поэтому теперь боится выпускать несовершенные продукты и предпочитает критиковать чужие [44:10]. Гости сравнили текущую ситуацию с цитатой Макса Планка: научная истина торжествует не потому, что оппоненты меняют мнение, а потому, что они со временем умирают, а новое поколение принимает новые технологии как данность [41:35]. ## 🧬 Рекурсивное обучение: модели, которые тренируют сами себя [[JUMP:46:24]] Обсуждение коснулось двух прорывных работ от Беркли и MIT, которые меняют представление об обучении моделей. 1. **Обучение без внешних наград (Беркли):** Исследователи обнаружили, что использование «внутренней уверенности» модели в качестве сигнала для RL-обучения повышает точность ответов [47:58]. Модель как бы «прислушивается к себе» и усиливает правильные сигналы [51:49]. 2. **Самоадаптирующиеся модели (MIT):** Нейросеть обучается менять собственные веса в реальном времени под конкретную задачу [55:48]. По словам гостей, это приближает нас к «автоматизированному исследователю машинного обучения» [1:02:47]. Если ИИ сможет самостоятельно проводить эксперименты и улучшать код других нейросетей, наступит фаза взрывного роста [1:03:38]. ## 🌌 «Мягкая сингулярность» Сэма Альтмана [[JUMP:1:04:42]] В завершение Уэс Рот упомянул концепцию «нежной» или «мягкой сингулярности» Сэма Альтмана [1:05:02]. Спикеры сошлись во мнении, что мы находимся на «личиночной стадии» рекурсивного самосовершенствования ИИ [1:05:23]. Ключевые прогнозы участников: * Даже если рост ИИ пойдет по S-образной кривой (с замедлением), потенциал текущего плато все еще огромен [1:06:02]. * Главным индикатором успеха станет не рост бенчмарков, а момент, когда лаборатории ИИ перестанут нанимать новых исследователей за миллионы долларов, заменив их собственными моделями [1:07:48]. * Автоматизация кодинга приведет к тому, что инженеры будут тратить время не на написание строк, а на архитектурное проектирование и решение сложных технических противоречий [1:13:20].