Бывшие директора и инженеры технологических гигантов Google, Facebook и Salesforce собрались, чтобы обсудить внутреннюю кухню разработки искусственного интеллекта и те фундаментальные сдвиги, которые происходят в индустрии прямо сейчас. В центре дискуссии — переход от ручного проектирования алгоритмов к их «выращиванию» через обучение с подкреплением, а также политические игры внутри Кремниевой долины.
🧠 От проектирования к выращиванию: новая парадигма ИИ 0:39
Современный подход к созданию больших языковых моделей (LLM) радикально отличается от классической инженерии. По мнению участников дискуссии, человечество перешло от этапа сборки механизмов к созданию «питательной среды» для алгоритмов .
Ключевые тезисы о природе современного ИИ:
- Биологическая аналогия: ИИ сегодня больше похож на колонию бактерий в чашке Петри, чем на автомобиль. Инженеры не подгоняют детали друг к другу, а создают условия, в которых модель «растет» .
- Утерянная интерпретируемость: Ведущие специалисты признают, что даже разобрав модель «на части», они не могут до конца понять, как именно она принимает решения .
- Проблема масштабирования: С ростом сложности (Scale Up) и использованием обучения с подкреплением (Reinforcement Learning) прозрачность процессов внутри нейросети падает еще сильнее .
📺 Феномен Уэса Рота: психология кликов и алгоритмы YouTube 7:45
Ведущий канала Уэс Рот (Wes Roth) поделился своим опытом перехода из маркетинга и e-commerce в сферу ИИ-контента. Его путь начался в 2013 году в стартапе, который вырос с нуля до годовой выручки в 33 млн долларов .
Стратегия продвижения контента об ИИ:
- Психология превью: Уэс Рот признает, что использует экспрессивные выражения лица на обложках видео, потому что это обеспечивает максимальный CTR (Click-Through Rate). «Вы сами кликаете на эти лица, не вините меня», — шутит ведущий .
- Тестирование: YouTube теперь позволяет загружать три разных варианта обложки для одного видео, чтобы система автоматически выбрала наиболее кликабельный вариант .
- Принцип «Click and Stick»: Мало привлечь внимание кликом, нужно удержать зрителя качественным разбором сложных научных работ (papers), что и стало визитной карточкой канала .
🚀 Прыжок от GPT-3.5 к GPT-4: «Искра AGI» 10:13
Уэс Рот описывает свой опыт работы с моделями OpenAI как момент прозрения. Если GPT-3.5 казалась просто хорошим инструментом, то GPT-4 продемонстрировала зачатки глубокого понимания абстрактных концепций .
В качестве примера приводится задача из статьи Microsoft «Sparks of AGI»:
- Задание: Написать письмо от имени Ганди, рекомендующего в качестве кандидата в президенты США субатомную частицу — протон .
- Результат: Если GPT-3.5 выдает поверхностный текст, то GPT-4 способна увязать философию Ганди с характеристиками протона, демонстрируя продвинутое абстрактное мышление .
🏗️ Технология «Absolute Reasoner» и самообучение кодингу 29:57
Одной из самых перспективных технологий участники называют обучение без участия человеческих данных (Zero Human Data). Речь идет о методах, подобных тем, что использовались в AlphaGo Zero .
Механика работы «Абсолютного резонатора» (Absolute Reasoner):
- Система двух моделей: В процессе обучения участвуют «Предлагающий» (Proposer) и «Решающий» (Solver) .
- Цикл самосовершенствования: Proposer генерирует задачи, Solver их решает. Если решение верно, планка сложности повышается. Это создает замкнутый цикл обучения без внешних примеров .
- Перенос навыков: По словам Джо Терновски, обучение модели кодингу внезапно улучшает её способности в математике и общей логике, хотя специально этим навыкам её не учили .
🎭 Три лагеря ИИ: «Думмеры», «Отрицатели» и «Мечтатели» 19:36
Джордан Тибидо классифицирует участников дискурса об ИИ на три основные группы:
- «Думмеры» (Doomers): Сторонники теории ИИ-апокалипсиса. По мнению Тибидо, они часто используют сложные метрики вроде «P(doom)» (вероятность гибели человечества), чтобы замаскировать отсутствие прагматичных решений .
- «Отрицатели» (Deniers): Люди, считающие LLM просто «стохастическими попугаями». В качестве примера приводится Ян Лекун (Yann LeCun) из Meta, который, обладая глубокими знаниями, по мнению спикеров, недооценивает текущий момент «триумфа LLM» .
- «Мечтатели» (Dreamers): Сотрудники OpenAI и других лабораторий, обладающие «мессианским рвением». Они верят, что создают божественную сущность, которая спасет мир .
💼 Корпоративная реальность против хайпа 35:14
Участники обсудили громкие заявления CEO некоторых компаний (например, Klarna и Stability AI) о полной замене корпоративных систем типа Workday или Salesforce ИИ-агентами .
Аргументы против немедленной замены:
- Проблема галлюцинаций: ИИ-агент, ошибающийся в 30% случаев при начислении зарплаты, вызовет ярость сотрудников .
- Юридическая ответственность: Системы вроде Workday являются «системами учета» (systems of record) для государственных регуляторов (закон Сарбейнза-Оксли). ИИ пока не может нести за это ответственность .
- Маркетинговый блеф: Спикеры утверждают, что многие компании заявляют об отказе от старого ПО, но на деле просто переходят к другим вендорам, используя «ИИ» как красивую обертку для инвесторов .
🌎 Геополитика и «военный» разворот Кремниевой долины 38:43
В финале беседы был затронут вопрос резкой смены риторики лидеров тех-индустрии. Если раньше Долина была оплотом пацифизма и глобализма, то теперь ведущие фигуры (Дарио Амодеи из Anthropic, руководство DeepMind) все чаще говорят о необходимости защиты технологий от Китая .
По мнению Джордана Тибидо, это связано с регуляторными рисками: чтобы избежать жестких ограничений внутри США (как законопроект в Калифорнии о проверке моделей третьими лицами), компании разыгрывают карту «патриотизма» и экзистенциальной угрозы со стороны конкурентов .
