# Уэс Рот и экс-директора Google об изнанке ИИ: почему модели больше нельзя контролировать Источник: https://www.youtube.com/watch?v=ohAoH0Sma6Y Канал: Wes Roth Опубликовано: 13.05.2025 --- Бывшие директора и инженеры технологических гигантов Google, Facebook и Salesforce собрались, чтобы обсудить внутреннюю кухню разработки искусственного интеллекта и те фундаментальные сдвиги, которые происходят в индустрии прямо сейчас. В центре дискуссии — переход от ручного проектирования алгоритмов к их «выращиванию» через обучение с подкреплением, а также политические игры внутри Кремниевой долины. ## 🧠 От проектирования к выращиванию: новая парадигма ИИ [[JUMP:00:39]] Современный подход к созданию больших языковых моделей (LLM) радикально отличается от классической инженерии. По мнению участников дискуссии, человечество перешло от этапа сборки механизмов к созданию «питательной среды» для алгоритмов [00:45]. **Ключевые тезисы о природе современного ИИ:** * **Биологическая аналогия:** ИИ сегодня больше похож на колонию бактерий в чашке Петри, чем на автомобиль. Инженеры не подгоняют детали друг к другу, а создают условия, в которых модель «растет» [14:48]. * **Утерянная интерпретируемость:** Ведущие специалисты признают, что даже разобрав модель «на части», они не могут до конца понять, как именно она принимает решения [01:03]. * **Проблема масштабирования:** С ростом сложности (Scale Up) и использованием обучения с подкреплением (Reinforcement Learning) прозрачность процессов внутри нейросети падает еще сильнее [00:51]. ## 📺 Феномен Уэса Рота: психология кликов и алгоритмы YouTube [[JUMP:07:45]] Ведущий канала Уэс Рот (Wes Roth) поделился своим опытом перехода из маркетинга и e-commerce в сферу ИИ-контента. Его путь начался в 2013 году в стартапе, который вырос с нуля до годовой выручки в 33 млн долларов [04:31]. **Стратегия продвижения контента об ИИ:** 1. **Психология превью:** Уэс Рот признает, что использует экспрессивные выражения лица на обложках видео, потому что это обеспечивает максимальный CTR (Click-Through Rate). «Вы сами кликаете на эти лица, не вините меня», — шутит ведущий [09:18]. 2. **Тестирование:** YouTube теперь позволяет загружать три разных варианта обложки для одного видео, чтобы система автоматически выбрала наиболее кликабельный вариант [08:52]. 3. **Принцип «Click and Stick»:** Мало привлечь внимание кликом, нужно удержать зрителя качественным разбором сложных научных работ (papers), что и стало визитной карточкой канала [08:39]. ## 🚀 Прыжок от GPT-3.5 к GPT-4: «Искра AGI» [[JUMP:10:13]] Уэс Рот описывает свой опыт работы с моделями OpenAI как момент прозрения. Если GPT-3.5 казалась просто хорошим инструментом, то GPT-4 продемонстрировала зачатки глубокого понимания абстрактных концепций [10:27]. В качестве примера приводится задача из статьи Microsoft «Sparks of AGI»: * **Задание:** Написать письмо от имени Ганди, рекомендующего в качестве кандидата в президенты США субатомную частицу — протон [11:07]. * **Результат:** Если GPT-3.5 выдает поверхностный текст, то GPT-4 способна увязать философию Ганди с характеристиками протона, демонстрируя продвинутое абстрактное мышление [11:45]. ## 🏗️ Технология «Absolute Reasoner» и самообучение кодингу [[JUMP:29:57]] Одной из самых перспективных технологий участники называют обучение без участия человеческих данных (Zero Human Data). Речь идет о методах, подобных тем, что использовались в AlphaGo Zero [32:11]. **Механика работы «Абсолютного резонатора» (Absolute Reasoner):** * **Система двух моделей:** В процессе обучения участвуют «Предлагающий» (Proposer) и «Решающий» (Solver) [30:23]. * **Цикл самосовершенствования:** Proposer генерирует задачи, Solver их решает. Если решение верно, планка сложности повышается. Это создает замкнутый цикл обучения без внешних примеров [32:51]. * **Перенос навыков:** По словам Джо Терновски, обучение модели кодингу внезапно улучшает её способности в математике и общей логике, хотя специально этим навыкам её не учили [33:56]. ## 🎭 Три лагеря ИИ: «Думмеры», «Отрицатели» и «Мечтатели» [[JUMP:19:36]] Джордан Тибидо классифицирует участников дискурса об ИИ на три основные группы: 1. **«Думмеры» (Doomers):** Сторонники теории ИИ-апокалипсиса. По мнению Тибидо, они часто используют сложные метрики вроде «P(doom)» (вероятность гибели человечества), чтобы замаскировать отсутствие прагматичных решений [25:03]. 2. **«Отрицатели» (Deniers):** Люди, считающие LLM просто «стохастическими попугаями». В качестве примера приводится Ян Лекун (Yann LeCun) из Meta, который, обладая глубокими знаниями, по мнению спикеров, недооценивает текущий момент «триумфа LLM» [21:45]. 3. **«Мечтатели» (Dreamers):** Сотрудники OpenAI и других лабораторий, обладающие «мессианским рвением». Они верят, что создают божественную сущность, которая спасет мир [22:51]. ## 💼 Корпоративная реальность против хайпа [[JUMP:35:14]] Участники обсудили громкие заявления CEO некоторых компаний (например, Klarna и Stability AI) о полной замене корпоративных систем типа Workday или Salesforce ИИ-агентами [36:07]. **Аргументы против немедленной замены:** * **Проблема галлюцинаций:** ИИ-агент, ошибающийся в 30% случаев при начислении зарплаты, вызовет ярость сотрудников [36:20]. * **Юридическая ответственность:** Системы вроде Workday являются «системами учета» (systems of record) для государственных регуляторов (закон Сарбейнза-Оксли). ИИ пока не может нести за это ответственность [36:33]. * **Маркетинговый блеф:** Спикеры утверждают, что многие компании заявляют об отказе от старого ПО, но на деле просто переходят к другим вендорам, используя «ИИ» как красивую обертку для инвесторов [36:58]. ## 🌎 Геополитика и «военный» разворот Кремниевой долины [[JUMP:38:43]] В финале беседы был затронут вопрос резкой смены риторики лидеров тех-индустрии. Если раньше Долина была оплотом пацифизма и глобализма, то теперь ведущие фигуры (Дарио Амодеи из Anthropic, руководство DeepMind) все чаще говорят о необходимости защиты технологий от Китая [38:56]. По мнению Джордана Тибидо, это связано с регуляторными рисками: чтобы избежать жестких ограничений внутри США (как законопроект в Калифорнии о проверке моделей третьими лицами), компании разыгрывают карту «патриотизма» и экзистенциальной угрозы со стороны конкурентов [37:51].