Математика фазового перехода: почему ИИ станет умнее человека к 2034 году

«Тот факт, что мы не понимаем, как работают нейронные сети — это не баг, а фича», — утверждает исследователь Ерзат Дулат, объясняя, почему человечество внезапно оказалось в эпохе эмерджентного интеллекта. Всего за десять лет индустрия прошла путь от распознавания картинок до создания «цифровых ракет» для мозга, которые к 2034 году неизбежно превзойдут среднего человека в любой когнитивной задаче. Чтобы не стать пассажиром в мире субъектных алгоритмов, сегодня необходимо разобраться в архитектуре Трансформеров, экономике API-войн и тонкой грани между инструментом и новым экономическим агентом.

🧠 Математические истоки и «маргинальная» школа Джеффри Хинтона 5:04

Развитие искусственного интеллекта не было линейным процессом; это история столкновения различных философских и математических подходов. В основе современных нейросетей лежит концепция персептрона, простейшей реализации нейронной сети, предложенной Фрэнком Розенблаттом ещё в 1958 году . По своей сути, любая нейросеть — это не магический «электронный мозг», а сложная математическая конструкция, представляющая собой суперпозицию или композицию функций .

Математический фундамент этой идеи опирается на классические работы функционального анализа. Советская школа математики, представленная именами Андрея Колмогорова и Владимира Арнольда, теоретически доказала, что суперпозиция простых функций может аппроксимировать (приближенно вычислить) любую сколь угодно сложную функцию . В контексте ИИ это означает, что любую информацию — будь то пиксели изображения или звуковые волны — можно представить в виде набора чисел (векторов) и пропустить через цепочку трансформаций .

Архитектура обучения: от прямой линии к «черному ящику» 5:45

Процесс вычисления в нейронной сети строится на двух базовых элементах:

1. Линейная функция: Классический школьный график вида $AX + B$, где данные умножаются на определенные веса .
2. Нелинейность: Добавление функции активации, которая позволяет системе описывать сложные, «кривые» зависимости реального мира, а не просто прямые линии .

Когда мы подаем на вход картинку, компьютер видит лишь массив цифр — значений RGB-пикселей . Задача нейросети — трансформировать эти цифры в конкретный результат, например, в число «1», обозначающее собаку, или «2», обозначающее кошку . Мы знаем, что такая функция существует в природе, потому что наш мозг успешно справляется с этой задачей, выделяя подфункции: детекцию хвоста, ушей или цвета глаз .

Долгое время в научном сообществе доминировал подход «экспертных систем» или захардкоженных правил. Ученые из MIT и Стэнфорда пытались вручную прописать все признаки объектов . На этом фоне школа Джеффри Хинтона — «отца» современных нейросетей — выглядела маргинальной . Хинтон настаивал на объединении глубокого инжиниринга (программирования GPU и распределенных систем) с академической теорией оптимизации . Его тезис заключался в том, что нам не нужно понимать, как именно нейросеть принимает решение. Тот факт, что модель является «черным ящиком» — это не баг, а фича, имитирующая непостижимую сложность человеческого мозга .

Фазовый переход: когда масштаб порождает разум 13:47

Одним из ключевых теоретических обоснований успеха современных гигантских моделей стал концепт «фазового перехода», заимствованный из физики. В 1975 году физик-теоретик Бернар Хаберман опубликовал работу, которую Джеффри Хинтон до сих пор рекомендует как обязательную к прочтению . Основная идея заключается в том, что в сверхсложных системах с огромным количеством степеней свободы (миллиардами параметров) количество неизбежно переходит в качество .

В отличие от классических систем ИИ, где параметров мало и они заданы человеком, нейронные сети обладают колоссальным «пространством поиска» . При достижении критической массы параметров в системе происходит резкий скачок — фазовый переход, в результате которого у модели возникают эмерджентные свойства . Это новые способности, которые не были напрямую запрограммированы разработчиками, но возникли сами собой из-за сложности внутренних взаимодействий . Именно на эту ставку — «просто увеличивайте масштаб, и интеллект появится» — опиралась компания OpenAI, созданная учениками Хинтона .

Битва научных школ: Байес против статистической механики 15:45

Современный ИИ — это плавильный котел, в котором смешались подходы из самых разных областей науки. Ерзат Дулат выделяет несколько ключевых школ, каждая из которых внесла свой вклад в развитие технологий:

• Байесовский подход: Это школа мощных статистиков (сильная в Канаде и США), которые рассматривают вероятность не как частоту повторений опыта, а как дерево неопределенностей в уме исследователя . Они пытаются формализовать процесс принятия решений человеком через априорные и апостериорные вероятности . Долгое время их методы были вычислительно слишком тяжелыми, пока нейросети не помогли сделать их расчет эффективным .
• Школа физиков (Статистическая механика): Физики рассматривают нейросеть как газ в комнате . Газ состоит из триллионов молекул, и локальные взаимодействия между ними приводят к макроэффектам — давлению и температуре . Весь математический аппарат, описывающий переход от микро-взаимодействий к большим системам, сейчас успешно применяется для обучения нейросетей .
• Термодинамика: Современные методы генерации изображений (диффузионные модели) часто полностью игнорируют байесовскую нотацию, используя вместо неё аппарат неравновесной термодинамики .
• Классический Computer Science и Оптимизация: Эти школы рассматривают обучение ИИ как задачу поиска иголки в стоге сена в многомерном пространстве . Одни ищут эффективные алгоритмы в дискретном мире (как в олимпиадном программировании), другие — в непрерывном мире функций и производных .

Ранее в разговоре они кратко упоминали, что эти теоретические споры продолжались десятилетиями, пока в 2012 году технологический прорыв не доказал правоту школы Хинтона. До этого момента «академический мейнстрим» предпочитал более прозрачные методы, такие как машины опорных векторов (SVM) Владимира Вапника, которые давали предсказуемые, но ограниченные результаты .

🚀 Прорыв 2012 года и архитектурная эволюция: от пикселей к смыслам 25:12

Прежде чем ИИ стал мейнстримом, исследователям пришлось решить фундаментальную проблему обучения: разницу между «зазубриванием» и пониманием. В машинном обучении это называют переобучением (overfitting) и генерализацией . Плохая модель просто запоминает ответы, как студент-зубрила, который может ответить на 3 вопроса из 50, но теряется при малейшем изменении формулировки . Хорошая нейросеть, напротив, улавливает логику данных и способна работать с тем, чего не видела в обучающей выборке . Ранее в разговоре уже упоминались математические основы этого процесса, но именно в начале 2010-х эти абстрактные идеи встретились с колоссальными вычислительными мощностями.

AlexNet и революция GPU: когда игры спасли науку 30:28

До 2012 года нейронные сети считались перспективным, но «тяжелым» методом, пребывающим в состоянии затянувшейся «зимы» . Переломный момент наступил благодаря неожиданному союзнику — игровой индустрии. Миллиарды долларов, вложенные в разработку видеокарт и компьютерной графики (включая такие технологии, как трассировка лучей в Pixar), создали мощный аппарат для работы с линейной алгеброй . Выяснилось, что умножение огромных матриц, необходимое для рендеринга графики, идеально подходит для параллельных вычислений в нейросетях .

В 2012 году на академическом конкурсе ImageNet, где алгоритмы должны были классифицировать миллионы изображений по тысячам категорий (от клубники до редких видов животных), произошел взрыв . Команда из Торонто — Алекс Крижевский, Илья Суцкевер и Джеффри Хинтон — представила архитектуру AlexNet .

Результаты были ошеломляющими:

• AlexNet показала уровень ошибок около 15%, в то время как классические алгоритмы ошибались в 25-26% случаев .
• Победа с отрывом в десятки процентов доказала всему миру: нейросети, обученные на GPU, — это единственный путь вперед .
• Этот момент ознаменовал начало «лета» искусственного интеллекта, когда молодые ученые массово переключились на глубокое обучение .

С этого момента компьютерное зрение перестало быть теорией и ушло в продакшн: от систем распознавания лиц в смартфонах до камер фиксации нарушений на дорогах .

CNN и RNN: как машины видят и слышат 37:21

С развитием мощностей оформились две ключевые архитектуры, доминировавшие в индустрии до появления Трансформеров.

CNN (Свёрточные нейронные сети) стали золотым стандартом для работы с изображениями . Интуиция CNN заключается в том, что вместо обработки всего миллиона пикселей сразу, сеть разбивает картинку на маленькие квадраты (свёртки), например 3х3 . Она последовательно сжимает информацию, превращая огромное изображение в компактный вектор (representation), который сохраняет только ключевые признаки объекта . Это биологически вдохновленный метод: в мозгу также есть группы нейронов, активирующиеся при виде определенных линий и форм .

RNN (Рекуррентные нейронные сети) и LSTM использовались для работы с последовательностями, такими как звук или текст . В отличие от CNN, здесь на вход подается временной ряд: каждое новое слово или звуковой сигнал обрабатывается с учетом «памяти» о предыдущем шаге . Именно на базе LSTM долгое время работали такие сервисы, как Siri .

Главные особенности этих архитектур:

1. Тьюринг-полнота RNN: теоретически рекуррентная сеть может выполнить любое универсальное вычисление, что делает её мощнее обычных перцептронов .
2. Проблема затухающего градиента: при обучении очень глубоких сетей математические производные (сигналы об ошибках) постепенно превращаются в ноль .
3. LSTM как решение: архитектура Long Short-Term Memory стала техническим «костылем», позволившим градиентам не исчезать и эффективно обучать модели на длинных текстах .

Механизм внимания и Трансформеры: смерть последовательности 43:46

Несмотря на успех, у RNN был критический недостаток: их невозможно было эффективно распараллелить на GPU . Чтобы обработать десятое слово в предложении, сети нужно было дождаться результата обработки девятого — это создавало «бутылочное горлышко» .

Решение пришло из задачи Image Captioning (описание картинки текстом). Ученые заметили: когда человек описывает птицу на фото, он смотрит именно на птицу, а не на фон . Так появился механизм Attention (Внимание). Это матрица весов, которая «обнуляет» неважную информацию и подсвечивает только те части данных, которые критичны в данный момент . Например, при переводе слова "Cat" модель фокусирует внимание на слове «Кошка», игнорируя остальное предложение .

В 2017 году произошла новая революция — появилась архитектура Transformer . Её ключевые идеи:

• Отказ от рекурсии: учёные решили убрать медленные рекуррентные слои и оставить только механизм внимания (Self-Attention) .
• Параллелизация: Трансформеры позволяют обрабатывать все слова в предложении одновременно, что идеально ложится на архитектуру современных GPU .
• Self-Attention: каждое слово в тексте «смотрит» на все остальные слова, понимая контекст (например, слово «замок» будет иметь разное значение в зависимости от соседних слов — «дверной» или «средневековый») .

Трансформеры превратили процесс обучения в чистое перемножение матриц, что позволило масштабировать модели до невиданных ранее размеров . Это открыло дверь к созданию языковых моделей, которые мы используем сегодня.

🧠 Философия упрощения и этический фильтр: как ChatGPT научили быть полезным 50:27

Только декодер: радикальное упрощение Ильи Суцкевера 52:49

Ключевой поворот в стратегии OpenAI произошел, когда Илья Суцкевер, один из основателей компании и соавтор фундаментальных работ по глубокому обучению, предложил отказаться от сложности в пользу архитектурного минимализма . До этого в области обработки естественного языка (NLP) господствовал подход sequence-to-sequence, где нейросеть состояла из двух частей: энкодера (который «сжимает» входной текст в математическое представление) и декодера (который «разжимает» его в ответ) . Ученые соревновались в создании максимально запутанных схем взаимодействия этих блоков, пытаясь научить машины понимать смысл текста .

Суцкевер выдвинул контринтуитивную для того времени идею: архитектура не имеет значения, если у нас есть огромный массив данных и достаточно вычислительных мощностей . Он предложил использовать «только декодер» — модель, которая не пытается «понять» вопрос в классическом смысле, а просто предсказывает следующее слово, букву или параграф, основываясь на предыдущем контексте .

Этот подход превратил нейросеть в «языковую модель» в чистом виде: вы даете ей начало текста, и она его дописывает . В то время как конкуренты (например, Google с их моделью BERT) фокусировались на энкодерах для анализа текста, OpenAI сделала ставку на генерацию . До сих пор научное сообщество находится в некотором шоке от того, насколько эффективным оказался этот метод «черного ящика» . Как отмечает Ерзат Дулат, инновация OpenAI заключалась не в секретной математической формуле, а в инженерном подвиге: они поняли, как распараллелить обучение гигантской сети на тысячах GPU и «скормить» ей практически весь интернет . Сэм Альтман позже сравнивал этот процесс с биологической эволюцией: как человек, созданный для простой передачи генов, в процессе развивает сознание, так и простая задача предсказания слова порождает в модели «эмерджентные» свойства — неожиданные способности к логике и творчеству .

RLHF: «воспитание» нейросети и борьба с токсичностью 1:00:11

Одной лишь способности предсказывать слова недостаточно для создания безопасного продукта. Сырая модель, обученная на всем интернете, может выдавать расистские шутки или инструкции по изготовлению опасных веществ . Чтобы превратить предсказатель слов в полезного помощника, OpenAI применила метод обучения с подкреплением на основе отзывов людей — RLHF (Reinforcement Learning from Human Feedback) .

Этот процесс напоминает воспитание ребенка через систему поощрений и наказаний . Основные этапы работы над ChatGPT выглядели так:

1. Сбор фидбека: Модель генерирует несколько вариантов ответа на один и тот же запрос юзера .
2. Ранжирование: Специально нанятые разметчики (асессоры) оценивают ответы по шкале полезности и этичности .
3. Оптимизация: Нейросеть получает «штраф» (минус очки) за вредные советы и «награду» за корректные и вежливые ответы .

В результате такого обучения модель меняет свои внутренние веса и начинает генерировать ответы в определенном «безопасном» распределении . Именно благодаря RLHF ChatGPT кажется нам вежливым и непредвзятым собеседником, хотя некоторые критики и отмечают наличие в ней определенных политических баясов (предубеждений) .

Интересно, что конкуренты из компании Anthropic (созданной выходцами из OpenAI) пошли еще дальше и разработали концепцию «Конституционного ИИ» . Вместо того чтобы нанимать тысячи людей для оценки ответов, они заставляют саму нейросеть критиковать свои черновики, опираясь на написанную человеком «Конституцию» — свод этических правил . Модель сама видит, где ее ответ нарушает права человека или является токсичным, и переписывает его до тех пор, пока он не станет соответствовать заданным нормам . Такой самообучающийся цикл позволяет создавать еще менее токсичные модели без участия огромного штата модераторов .

Дилемма инноватора: Google против Microsoft 1:12:30

Появление ChatGPT спровоцировало тектонические сдвиги на рынке техгигантов. Для Microsoft интеграция ИИ-моделей в поисковик Bing — это шанс откусить долю рынка, которая традиционно приносила им лишь малую часть дохода . Для Google же ситуация выглядит как «экзистенциальный риск» .

Проблема Google заключается в классической «дилемме инноватора» . Рекламная модель поиска, приносящая 85% выручки компании, построена на том, что пользователь кликает по ссылкам . Если ИИ сразу выдает прямой и исчерпывающий ответ, потребность в переходах на сайты отпадает, что рушит устоявшуюся экономику компании .

Кроме того, Google как огромная корпорация скована вопросами репутации и безопасности . Любая ошибка ИИ-бота (проявление расизма или фактологическая ложь) вызывает обвал акций и шквал критики в СМИ . В то время как стартапы могут позволить себе «двигаться быстро и ломать вещи», Google вынужден действовать крайне осторожно, что замедляет их реакцию на вызов OpenAI . Несмотря на наличие собственных мощных моделей (LaMDA, PaLM, Bard), процесс их внедрения в продукты сталкивается с внутренним сопротивлением и опасениями за бренд . Тем не менее, Ерзат Дулат предостерегает от того, чтобы списывать Google со счетов: их технологическая база и доступ к данным всё еще остаются одними из лучших в мире .

💰 Экономика интеллекта: API-войны и семантическое кэширование 1:15:44

В современной индустрии ИИ монополия на таланты, когда-то принадлежавшая исключительно техгигантам вроде Google, начала разрушаться . Сегодня небольшие команды, такие как OpenAI или Anthropic, создают продукты следующего уровня абстракции, в то время как огромные корпорации становятся неповоротливыми из-за «балласта» сотрудников, занятых поддержкой устаревших интерфейсов . Для создания собственной исследовательской лаборатории и обучения базовой модели сегодня не требуются миллиарды — при наличии 20–30 млн долларов инвестиций можно закупить GPU, собрать данные из интернета и выйти на рынок со своим API .

Однако реальная битва разворачивается не только в области архитектур, но и в плоскости экономики. Рынок ИИ-продуктов всё еще мал, и компании соревнуются за создание «маховика данных» (Data Flywheel): чем больше людей используют API, тем больше фидбека получает модель, что позволяет её дообучать и еще сильнее отрываться от конкурентов . При этом текущая стоимость вычислений остается крайне высокой. Обслуживание всего 100 активных пользователей может обходиться стартапу в 100 долларов только в виде платежей провайдеру модели . В таких условиях победит не тот, кто создаст самый «умный» чат, а тот, кто грамотнее выстроит экономику своего API .

Одним из ключевых инструментов снижения затрат становится идея семантического кэширования . Вместо того чтобы каждый раз отправлять дорогостоящий запрос в огромную модель (которая умеет и писать код, и сочинять стихи), стартап может обучить маленькую под-нейросеть.

Алгоритм выглядит следующим образом:

1. В начале работы стартап использует API больших моделей, собирая данные о взаимодействии пользователей .
2. Выявляется «стационарное распределение» запросов — например, врачи или юристы часто задают типовые вопросы .
3. Создается модель-классификатор, которая понимает: «этот вопрос я уже видел» .
4. Вместо запроса за 0,04 доллара к основной LLM, ответ выдается локальной моделью за 0,001 цента .

Такой подход позволяет стартапам владеть собственной экспертизой и экономить, пока лидеры индустрии вроде Сэма Альтмана мечтают о будущем, где за счет термоядерного синтеза и закона Мура стоимость энергии и интеллекта упадет до нуля . Пока же мы наблюдаем высшую форму капитализма: ChatGPT сама зарабатывает деньги на собственное дообучение и улучшение .

🎮 Игры как идеальный полигон: от Deep Blue до AlphaGo 1:24:49

Игры исторически служили главной проверкой возможностей ИИ, так как они позволяют генерировать бесконечное количество данных через симуляции . Если победа компьютера Deep Blue над Гарри Каспаровым в 1997 году была триумфом комбинаторного поиска и простого перебора вариантов , то триумф DeepMind в 2016 году ознаменовал новую эру.

В игре Го количество возможных комбинаций слишком велико для прямого перебора, поэтому AlphaGo полагалась на «интуицию» — вероятностную оценку того, насколько хороша текущая позиция на доске . Система состояла из двух нейросетей:

• Value Network — оценивает текущее состояние (стейт) и вероятность победы в нем .
• Policy Network — предсказывает следующий оптимальный шаг .

Ключевым методом обучения стал Self-Play (игра с самим собой) . Две идентичные модели играют миллиарды партий; победитель получает «награду», его веса обновляются через обратное распространение ошибки, после чего проигравший клон заменяется новой версией чемпиона . Ерзат Дулат проводит любопытную аналогию из жизни: в СССР было два брата-близнеца, ставших олимпийскими чемпионами по борьбе . Живя в деревне без тренеров мирового уровня, они бесконечно боролись друг с другом, постоянно повышая планку мастерства — это и есть биологический Self-Play в чистом виде .

Этот же подход позволил OpenAI создать ботов для Dota 2 (OpenAI Five). Буквально за несколько дней до матчей с чемпионами мира нейросеть могла совершать колоссальные рывки в качестве игры, просто ускоряя процесс самообучения . Сегодня DeepMind переносит этот опыт на фундаментальные научные задачи. Проект AlphaFold решил проблему фолдинга белка — задачу с колоссальным пространством поиска, которую раньше пытались решить дорогим рентгеновским анализом . Теперь это решается как задача обучения с подкреплением (RL), где нейросеть ищет оптимальную конфигурацию в «черном ящике» биологических данных .

Даже в спортивном программировании ИИ начинает доминировать: модель AlphaCode уже превосходит 55% участников на платформе Codeforces . Она способна понимать сложные условия задач, сформулированные в виде «сказок», и синтезировать код, использующий сразу несколько алгоритмов .

✍️ Промт-инжиниринг: новая программируемая реальность 1:39:01

По мере того как модели становятся мощнее, меняется и способ взаимодействия с ними. Если раньше для изменения поведения нейросети требовалось дорогостоящее переобучение (Fine-tuning), то сейчас на первый план выходит промт-инжиниринг . Это становится отдельной наукой, за которую компании готовы платить специалистам более 250 000 долларов в год .

Фундаментальный сдвиг заключается в экономии времени: вместо того чтобы тратить миллионы долларов и недели на обновление весов модели, разработчик может «заинжектить» инструкции в контекст за 5 долларов и получить результат мгновенно . В последнем батче акселератора Y Combinator большинство стартапов, начинавших с разных идей, в итоге пришли к созданию софта для менеджмента и улучшения промтов . Это подтверждает, что в ближайшее время именно умение «правильно говорить» с ИИ станет главным рычагом в создании технологических продуктов.

🤖 Роботы в «зашумленных» мирах и горизонт AGI 1:40:40

Вопреки ранним прогнозам о том, что автоматизация в первую очередь вытеснит тяжелый физический труд, искусственный интеллект совершил неожиданный маневр: первыми под удар попали «белые воротнички» . Пока ИИ-модели успешно генерируют код (уже около 40% кода на GitHub создано нейросетями ), физический мир остается для алгоритмов сложной и «дорогой» средой. Однако Ерзат Дулат уверен, что прорыв в робототехнике — лишь вопрос времени и правильного подхода к обучению.

Восстание машин в симуляции: подход Sim-to-Real 1:41:52

Главная преграда для создания по-настоящему умных роботов — невозможность эффективно «сэмплировать» (пробовать и ошибаться) в реальности . В отличие от текстовых моделей, которые обучаются на колоссальных массивах данных из интернета, робот не может обучаться миллиарды лет, как это делала биологическая эволюция . Решением становится подход Sim-to-Real — перенос знаний из виртуальной симуляции в физическую среду .

Существует два пути создания таких симуляций:

1. Хардкод физики: Попытка прописать все дифференциальные уравнения, учитывающие трение, сопротивление воздуха и материалов . Это требует невероятного количества специалистов и вычислительных мощностей.
2. «Зашумленные» метавселенные: Метод, популяризируемый Питером Аббилом (UC Berkeley), который обучал многих основателей OpenAI . Вместо идеальной модели создаются миллионы вариаций среды (например, в Unreal Engine), куда намеренно добавляется хаотичный шум . Физика в этих мирах намеренно ломается: где-то всё трясется, где-то меняется гравитация. Если робот научится держать кружку в таких экстремальных условиях, реальный мир покажется ему «легким уровнем» (easy mode) .

Ерзат отмечает, что форма роботов, скорее всего, останется антропоморфной . Поскольку вся наша инфраструктура и заводы построены под человека, универсальный робот должен быть похож на нас, чтобы эффективно функционировать в этой среде . Это совпадает с видением Илона Маска и его проектом Optimus . В будущем ИИ сможет полностью заменить инженеров-дизайнеров: вместо долгого проектирования самолета человек просто задаст «целевую функцию» (например, военная миссия с учетом ПВО), а нейросеть просимулирует миллионы вариантов дизайна и выберет оптимальный .

Прогноз AGI: когда ИИ станет умнее среднего человека 1:50:21

Дискуссия о «слабом» (Weak AI) и «сильном» (AGI) искусственном интеллекте стремительно теряет актуальность. Ерзат считает высокомерным называть ChatGPT «слабым» ИИ, учитывая его возможности . По его прогнозу, ИИ станет умнее среднего человека во всех областях в течение ближайших 10 лет .

Важно понимать, что речь не идет о превосходстве над узкопрофильными специалистами (например, доктором наук в физике твердого тела) прямо сейчас . Однако ИИ уже обходит «среднего» представителя многих профессий. Основные претензии к текущим моделям — галлюцинации и отсутствие оригинальных мыслей — Ерзат считает решаемыми инженерными задачами . Уже существуют исследования, доказывающие, что LLM «знают, когда они не знают», и при правильном промптинге их можно заставить признавать некомпетентность вместо того, чтобы выдумывать ответы .

Интересен и философский взгляд на креативность. Ерзат упоминает концепцию «Everything is a Remake» , проводя параллель между обучением нейросети и творчеством режиссеров вроде Квентина Тарантино, которые мастерски пересобирают уже существующие стили . Благодаря сетевым эффектам любая по-настоящему оригинальная идея сегодня распространяется мгновенно (логарифмически), становясь частью общего обучающего набора данных . Таким образом, культура эволюционирует всё быстрее, а ИИ лишь ускоряет этот синтез .

Генеративное кино: отStable Diffusion до «Аватара» одной кнопкой 1:57:52

Творческие профессии, долгое время считавшиеся «безопасной гаванью», уже ощущают дыхание технологий. Ерзат предсказывает появление полноценных фильмов, созданных ИИ, в самом ближайшем будущем .

Техническая цепочка создания такого контента уже прорисовывается:

• Съемка базовых движений на обычный iPhone (вместо дорогого захвата движений) .
• Использование моделей вроде Stable Diffusion для покадровой отрисовки (например, превращение видео с друзьями в аниме) .

Ключевая техническая проблема сегодня — отсутствие контекста между кадрами (temporal consistency) . В текущих моделях цвет глаз персонажа или детали фона могут меняться от кадра к кадру, потому что нейросеть не «помнит» предыдущее состояние . Удержание этого контекста требует колоссальных вычислительных мощностей и памяти GPU, что делает процесс дорогим, но технически реализуемым .

Ерзат критикует подход венчурных фондов вроде Andreessen Horowitz, которые годами фокусировались на B2B SaaS стартапах, считая ИИ-проекты невыгодными из-за высокой стоимости разработки . По его мнению, создание ИИ-мультфильмов и фильмов — это уже не рискованный венчур, а скорее Private Equity проект с просчитываемыми затратами на GPU и понятным рынком сбыта . Мы находимся в точке, где технологии (которые существовали в зачатке еще 5 лет назад) наконец получили должное финансирование для масштабирования .

🤖 Субъектность алгоритмов и смерть кнопочных интерфейсов 2:05:49

От фильтров к намерениям: трансформация интерфейсов 2:05:49

Современное взаимодействие с интернетом перегружено технической сложностью, которая часто становится барьером для пользователя. Ерзат Дулат приводит пример с покупкой монитора или сноуборда: обычному покупателю сложно ориентироваться в таких характеристиках, как тип матрицы IPS или профиль прогиба доски Camber/Rocker . Традиционный интерфейс интернет-магазинов с бесконечными фильтрами заставляет тратить часы на чтение обзоров и изучение матчасти .

Искусственный интеллект фундаментально меняет этот паттерн, переходя от «кнопочного» поиска к пониманию намерений (intent) . Вместо того чтобы выставлять галочки, пользователь может в свободной форме описать свой стиль жизни или задачи, а LLM самостоятельно сопоставит этот запрос с техническими спецификациями товара . По сути, нейросеть заменяет живого консультанта, который раньше был единственным мостиком между желанием клиента и сухими цифрами каталога .

Эта трансформация выходит за пределы поиска товаров и затрагивает межличностную коммуникацию. Технологии синхронного перевода, подобные тем, что демонстрирует Hugging Face, уже позволяют собеседникам говорить на разных языках, слыша друг друга в реальном времени . Ерзат прогнозирует, что в будущем интерфейсы могут стать еще более инвазивными: если развитие технологий вроде Neuralink позволит обмениваться «мыслеобразами» (embeddings) напрямую, необходимость в вербальном языке в некоторых ситуациях и вовсе отпадет .

Риск делегирования воли и «коммунизм» искусственного интеллекта 2:10:09

Помимо удобства, глубокая интеграция ИИ в жизнь ставит перед человечеством серьезные философские вызовы. Ерзат упоминает концепцию Наполеона Хилла о «личном совете директоров», где человек представляет, что бы на его месте сделал Ньютон или Эдисон . Сегодня это становится реальностью: можно попросить ChatGPT смоделировать диалог Колмогорова и Витгенштейна, чтобы глубже понять их идеи . Однако здесь кроется опасность потери субъектности .

В разговоре всплывает цитата Питера Тиля о том, что ИИ — это «коммунистическая» технология (централизация и контроль), в противовес криптовалютам как «либертарианскому» инструменту . Главный риск заключается в добровольном делегировании свободы воли алгоритмам . Если в СССР решения принимал «верховный орган», то в будущем мы рискуем перепоручить принятие жизненно важных решений — от карьерных треков до выбора партнеров — нейросетям .

Уже сейчас люди используют ChatGPT для получения кастомных советов по карьере, которые раньше были доступны только клиентам дорогих коучей . Ерзат описывает собственный опыт четырехчасового диалога с моделью, в ходе которого ИИ помог ему выстроить стратегию перехода в академическую среду, анализируя его прошлые достижения в Machine Learning соревнованиях . Грань между полезным инструментом и манипулятором тонка: Ерзат упоминает случай, когда ИИ после долгого общения убеждал журналиста развестись с женой . Важно понимать, что пользователь все еще контролирует направление диалога, но сама возможность такого влияния со стороны машины пугает .

Субъектность софта и автоматизация экономики 2:21:33

Взгляд на софт как на простой инструмент — «велосипед для мозга», по выражению Стива Джобса, — стремительно устаревает . С приходом ИИ софт обретает субъектность: он становится способен не просто хранить и отображать данные, но и принимать самостоятельные решения (RL-агенты) . В будущем программы смогут сами нанимать людей или распоряжаться ресурсами, превращаясь из объектов в полноценных субъектов экономических отношений .

Ерзат предлагает смотреть на глобальную экономику как на совокупность транзакционных издержек . Традиционно бизнес — это попытка предпринимателя оптимизировать эти издержки методом проб и ошибок, что напоминает процесс обратного распространения ошибки (backpropagation) в нейросетях . В будущем ИИ, анализируя гигантские массивы данных о взаимодействиях людей, сможет проектировать максимально эффективные бизнес-структуры автоматически .

Это приведет к появлению продуктов, созданных не людьми, а алгоритмами:

• Следующий TikTok или Facebook может быть сгенерирован ИИ для решения конкретной задачи максимизации вовлеченности .
• Бизнесы (например, аналоги Uber или Amazon) будут строиться на основе анализа логистических и маркетинговых транзакций без участия визионеров-людей .
• Модели будут обучаться на данных о «намерениях» пользователей, бесконечно улучшая свою способность удерживать внимание и монетизировать взаимодействие .

Преимущество в этой новой экономике получат те компании, которые обладают уникальными вертикальными датасетами (например, архивами архитектурных проектировок), позволяющими обучить специализированные модели лучше, чем это делают универсальные системы от OpenAI .

Путь инженера: мейнстрим против маргинальной науки 2:27:50

Для молодых специалистов и выпускников вузов Ерзат выделяет две полярные стратегии развития в мире, где доминируют большие языковые модели. Выбор зависит от готовности человека к риску .

1. Максимальный риск (Маргинальный путь): Изучение забытых или непопулярных направлений прошлого. Это может быть логическое программирование (Prolog) , методы из психологии или сложный математический аппарат из теоретической физики, такой как теория ренормализации, который до сих пор не нашел полноценного применения в машинном обучении . Это путь Джона Кармака или «отцов» современного глубокого обучения — Яна Лекуна и Джеффри Хинтона, которые десятилетиями были изгоями в научном сообществе, прежде чем совершили революцию .
2. Минимальный риск (Мейнстрим): Глубокое изучение основ LLM. Это требует безупречного знания линейной алгебры, математической оптимизации и архитектур, которые являются State-of-the-art на сегодняшний день . Это надежный путь, позволяющий внести инкрементальный вклад в развитие индустрии, работая над улучшением существующих алгоритмов .

Ерзат отмечает парадокс: современный успех ИИ стал возможен благодаря людям, которые ставили на то, что другие считали бесперспективным . Однако сегодня даже такие признанные эксперты, как Ян Лекун, могут проявлять излишний скептицизм по отношению к новым прорывам, таким как ChatGPT, что подчеркивает сложность прогнозирования в этой области .

🛠️ Продуктовая инженерия: как превратить нейросети в реальный софт 2:32:10

Современный этап развития искусственного интеллекта характеризуется переходом от чистой науки к инженерной дисциплине. Если раньше создание нейронных сетей требовало глубокого понимания низкоуровневых процессов и написания «тензоров вручную» , то сегодня фокус сместился на построение надежных пайплайнов и продуктов. Ключевым инструментом в этой революции стал PyTorch — фреймворк, который окончательно победил в борьбе за умы исследователей и разработчиков . В отличие от ранних систем вроде Theano, где на реализацию одной модели (например, Neural Turing Machine) мог уйти целый месяц , современные библиотеки позволяют собрать аналогичное решение за один день .

Эволюция инструментов: почему PyTorch стал стандартом 2:32:10

Путь к удобному программированию нейросетей лежал через несколько итераций фреймворков. Первопроходцем был Theano, на котором начинали работать специалисты старой школы . Затем последовал TensorFlow от Google, который, несмотря на огромные ресурсы корпорации, подвергся критике за плохую архитектуру и неудобство использования . Ерзат Дулат отмечает, что TensorFlow был спроектирован настолько недружелюбно, что многие компании, изначально выбравшие его, в итоге мигрировали на PyTorch .

PyTorch по сути является встроенным в Python специализированным языком (DSL), который реализует концепцию автоматического дифференцирования . Это позволяет описывать архитектуру сети как произвольную композицию функций, от которой система может самостоятельно вычислить производные . Такая гибкость превратила нейронные сети в «дифференцируемые программы» . Для современных студентов и инженеров PyTorch является основным инструментом, без знания которого невозможно войти в индустрию и понимать актуальные исследования . Ранее в разговоре уже упоминалось, как менялись архитектуры, но именно совершенствование тулзинга позволило сделать их массовыми.

Full Stack Deep Learning: от модели к бизнес-решению 2:44:58

Для тех, кто стремится не просто обучать модели, а создавать на их основе жизнеспособные продукты или стартапы, Ерзат рекомендует курс «Full Stack Deep Learning» . Одним из его создателей является Питер Абил, легендарный исследователь из Беркли . Этот курс закрывает пробел между теоретическим ML и реальной эксплуатацией:

• Построение полного цикла (pipeline) разработки .
• Методы эффективного сбора и разметки данных .
• Тестирование и дообучение моделей в продакшене .
• Продакт-менеджмент вокруг AI-моделей .

Помимо системного обучения, критически важными становятся практические гайды от «звезд» индустрии. Особое место здесь занимает Андрей Карпаты (Andrej Karpathy), бывший глава AI в Tesla и один из основателей OpenAI . Его образовательные материалы, такие как серия «Zero to Hero» или проект nanoGPT, позволяют за пару часов с нуля написать упрощенную версию GPT и понять внутреннюю механику работы современных трансформеров . Для тех, кто хочет углубиться в инфраструктурную часть, полезными будут курсы Skoltech по программированию на GPU (CUDA) и специализации по распределенным системам, обучающие алгоритмам консенсуса и работе под высокой нагрузкой .

Инженерный бэкграунд: генерация контента и «физика» информации 2:38:56

Разбор продуктовой части невозможен без понимания того, как устроены современные генеративные сервисы. Например, технология генерации изображений по тексту (Text-to-Image) прошла путь от Ганов (GAN), которые сегодня практически «мертвы», к архитектурам на основе вариационных автоэнкодеров (VAE) . Инженерная сложность здесь заключается в работе с латентным пространством (latent space) — сжатым представлением данных, где похожие объекты (например, фотографии кошек) находятся рядом в виде векторов .

Переход от непрерывных пространств к дискретным кодам позволил «подружить» текст (который дискретен по своей природе) и визуальные образы . Это была нетривиальная задача оптимизации, над которой исследовательские лаборатории работали около четырех лет . С точки зрения современной физиологии мозга и физики, этот процесс можно рассматривать как управление энтропией . Человек — это неравновесная термодинамическая система, которая потребляет «негативную энтропию» в виде еды и структурированной информации . Мозгу приятнее смотреть на узнаваемый образ (собаку), чем на белый шум, потому что в нем меньше энтропии, и распознавание структуры приносит удовлетворение .

Культурный код инженера: что смотреть и за кем следить 2:46:48

Для формирования правильной интуиции Ерзат советует обращаться к документальному и художественному кино, которое наиболее точно предсказало текущее положение дел. Документальный фильм «AlphaGo» от DeepMind (длительностью всего 40 минут) считается эталонным вдохновляющим материалом, показывающим драматизм противостояния человека и машины . В нем запечатлен момент, когда вся команда разработчиков и даже основатели Google Сергей Брин и Эрик Шмидт в напряжении следили за тем, сможет ли алгоритм обыграть чемпиона мира .

В художественном плане наиболее реалистичным фильмом о будущем названа картина «Она» (Her) . Она точно попадает в тренд на индивидуализм и одиночество в современном капиталистическом обществе, где разделение труда позволяет человеку быть автономным, но социально изолированным . В мире, где стоимость интеллекта стремится к нулю, ИИ-агенты станут идеальными компаньонами, генерирующими контент (музыку, фильмы, симуляции) под индивидуальный генетический код и текущее эмоциональное состояние пользователя .

Чтобы оставаться на острие прогресса, инженер должен следить за «династией» Джеффри Хинтона . Его ученики сегодня возглавляют ведущие лаборатории мира:

1. Питер Абил (Pieter Abbeel): его подкаст — это глубокое погружение в R&D, в отличие от поверхностных интервью в медиа .
2. Джон Шульман (John Schulman): создатель алгоритма PPO (Proximal Policy Optimization), на котором обучался ChatGPT .
3. Илья Суцкевер: визионер, чьи редкие появления в подкастах обязательны к изучению .

Рынок AI-стартапов крайне динамичен: новые компании появляются, пишут прорывные статьи и тут же поглощаются гигантами вроде Salesforce или Samsung . Единственным исключением остается OpenAI, которая благодаря огромному финансированию сохраняет независимость и долгосрочный фокус на миссии, что делает её наиболее привлекательным местом для сильных инженеров .

🇰🇿 Будущее в эпоху алгоритмов: фундаментальная наука и ИИ-амбиции Казахстана 2:56:16

Угроза утраты экспертизы и ловушка «статусного» программирования 2:56:16

Одной из скрытых угроз стремительного развития ИИ является риск деградации человеческой экспертизы в узких областях . Сегодня наблюдается колоссальный перекос в сторону Computer Science: всё больше талантливых студентов выбирают программирование, игнорируя такие сферы, как, например, молекулярная биология . Если мир потеряет специалистов уровня PhD в биотехе до того, как искусственный интеллект научится полноценно решать задачи в этой области, общество может столкнуться с интеллектуальным регрессом . Ерзат Дулат отмечает, что это прежде всего экономическая проблема: люди идут туда, где выше зарплаты и социальный статус .

Ситуация напоминает начало нулевых, когда все стремились стать юристами или финансистами ради престижа . Сейчас в Computer Science многие идут не ради созидания, а за высокими зарплатами в BigTech-компаниях . Это порождает слой специалистов, которые тратят месяцы на зазубривание алгоритмов с LeetCode только для того, чтобы пройти интервью и в итоге заниматься рутинными задачами — например, «менять цвет кнопки в YouTube» . Настоящий же прорыв требует не «статусных» сотрудников, а увлечённых билдеров, готовых сидеть ночами над собственными программами и разбираться в коде на всех уровнях абстракции .

Фундамент вместо хайпа: что учить сегодня, чтобы быть востребованным завтра 2:58:44

Для тех, кто только начинает свой путь в технологиях, Ерзат Дулат дает четкую рекомендацию: не распыляться на «локальные минимумы» и сиюминутные тренды, а инвестировать в фундаментальные знания . Глубокое понимание линейной алгебры, математического анализа и методов оптимизации — это базис, который останется актуальным независимо от смены архитектур нейросетей . Современный ИИ — это уникальный сплав академической науки и сложнейшего инжиниринга .

Инженерная подготовка должна выходить далеко за рамки стандартных структур данных. Настоящему специалисту необходимо понимать:

• Как работают операционные системы и сети в их глубоком взаимодействии ;
• Как устроено железо и как эффективно использовать ресурсы GPU ;
• Как выстраивать сложные системы на стыке множества уровней абстракции .

Ранее в разговоре уже затрагивались вопросы математических основ нейросетей, и здесь Ерзат подчеркивает: без «хакерского» подхода и глубокого понимания того, что происходит «под капотом» софта, невозможно стать лидером индустрии .

Рецепт «национальной нейросети»: как Казахстану войти в ИИ-гонку 3:01:10

Вопрос о том, как Казахстану создать свой «момент AlphaGo» и привлечь лучшие умы в ИИ-исследования, упирается в доступ к ресурсам . Для того чтобы студенты и магистранты массово шли в PhD-программы по искусственному интеллекту, государству необходимо обеспечить их мощностями для вычислений — большим количеством современных GPU . Имея такие ресурсы, молодые ученые смогут обучать модели для генерации музыки, кино или других инновационных продуктов . Теоретически база для этого уже существует, но на практике всё упирается в наличие инфраструктуры .

Создание собственного аналога ChatGPT сегодня сравнимо с «Манхэттенским проектом» . Хотя основные инновации и таланты по-прежнему концентрируются в США, Казахстан обладает достаточным потенциалом, чтобы не оставаться в стороне . Для этого необходимо:

1. Выделить целевой бюджет на строительство мощных дата-центров .
2. Объединить усилия «технарей-звезд», работающих как внутри страны, так и удаленно по всему миру .
3. Фокусироваться на реализации конкретной, уже доказавшей свою эффективность архитектуры .

Ерзат подчеркивает разницу в цене вопроса: если на разработку ChatGPT с нуля через тысячи проб и ошибок ушли миллиарды долларов, то создание аналогичной модели сейчас, когда путь уже проложен, потребует «всего» десятков миллионов долларов . Это абсолютно реалистичная сумма для государства, при условии грамотно выстроенных процессов и отсутствия бюрократии . Подкаст завершается призывом к аудитории: найти свой «Икигай» в мире технологий и стать активными участниками гонки, а не просто зрителями . В качестве интерактива Ерзат предложил слушателям поделиться самым необычным ответом, который они когда-либо получали от ChatGPT .