Через десять дней после получения Филдсовской премии — высшей награды в математике — Джейкоб Цимерман объявил о временном уходе из академической среды ради работы в команде безопасности ИИ в OpenAI. В этом эксклюзивном интервью он объясняет, почему считает ИИ экзистенциальным вызовом для науки, как меняется само определение математического «понимания» и почему он чувствует скорбь, несмотря на карьерный триумф.
🥀 Скорбь по «старой» математике 0:00
Джейкоб Цимерман признается, что испытывает чувство утраты, несмотря на получение престижной награды . Его профессиональная идентичность десятилетиями строилась вокруг многолетних проектов, где решение одной задачи могло занимать 10–12 лет . По мнению гостя, этот привычный уклад жизни математика — медленное исследование границ познания с редкими «эврика-моментами» — стремительно уходит в прошлое из-за развития ИИ .
Математика оказалась одной из первых областей, подвергшихся радикальной трансформации, что Цимерман называет контринтуитивным . Традиционно считалось, что ИИ быстрее освоит простые человеческие навыки, а сложные абстрактные дисциплины останутся за людьми. Однако математика — это «закрытая система», не требующая экспериментов с материальным миром, что делает её идеальной средой для обучения моделей .
Основные изменения в области, по мнению гостя:
- Скорость генерации результатов: задачи, на которые раньше уходили годы, вскоре будут решаться за недели или дни .
- Изменение роли исследователя: переход от «решателя задач» к «менеджеру проектов» или «постановщику целей» .
- Угроза академическим стандартам: текущие системы оценки заслуг и обучения аспирантов могут оказаться нежизнеспособными в мире, где ИИ решает гипотезы пачками .
🧠 Доказательства, которые никто не понимает 5:38
Один из центральных философских вопросов дискуссии — остается ли доказательство таковым, если ни один человек не способен его осознать? . Цимерман проводит грань между двумя функциями доказательства: логической верификацией и передачей понимания сообществу .
Современные системы формальной проверки, такие как Lean, позволяют подтвердить корректность кода доказательства, даже если его структура слишком сложна для человеческого мозга . По мнению Цимермана, мы уже живем в мире «черных ящиков»: многие математики используют чужие теоремы как готовые блоки, не зная их доказательств в деталях .
Гость выделяет несколько уровней владения материалом, ссылаясь на совет математика Чарльза Феффермана:
- Знание «с нуля»: вещи, которые вы понимаете полностью и можете вывести сами.
- Общее представление: вы знаете основные идеи и детали, но не держите их в голове постоянно.
- Поверхностное знакомство: вы знаете термины, но не можете восстановить логику.
Цимерман утверждает, что объем знаний в математике настолько огромен, что даже без ИИ ученые вынуждены специализироваться в узких нишах . Если ИИ начнет выдавать тысячи верных, но нечитаемых доказательств, математикам придется сосредоточиться на каталогизации и поиске общих идей в этом массиве данных .
🛠️ Проблема «сверхчеловеческих» способностей 10:40
Ведущий Курт Джеймангал и гость обсуждают, что произойдет, когда модели уровня GPT-6 или GPT-7 станут «робастно сверхчеловеческими» в решении математических задач . Цимерман предполагает, что наступит переходный период, когда ученые будут решать задачи, подсказывая ИИ (промптинг), но вскоре роль человека может стать минимальной .
Это ставит под удар систему образования. Цимерман признается, что перестал брать новых аспирантов, чьи темы не связаны с ИИ . Он считает неэтичным готовить людей к карьере, которая может исчезнуть или радикально измениться к моменту их выпуска .
Основные опасения, высказанные в беседе:
- Девальвация достижений: Тобиас Осборн (физик) в своем посте на LinkedIn отметил, что если доказательство гипотезы занимает вечер работы с нейросетью, его ценность в глазах сообщества падает .
- Риски «неограниченной оптимизации»: Цимерман считает опасным бесконтрольное обучение ИИ и передачу ему контроля без понимания механизмов безопасности .
- Инфляция знаний: когда количество результатов растет экспоненциально, становится трудно отделять действительно важные прорывы от шума .
🛡️ Переход в OpenAI и безопасность ИИ 1:03:40
Решение Цимермана оставить академический пост ради OpenAI продиктовано убеждением, что безопасность ИИ — это «Манхэттенский проект» нашего времени . Он считает, что обществу необходимо распределение сил: работа в коммерческих лабораториях, государственных институтах (таких как AISI в Великобритании) и независимых некоммерческих организациях .
Математик подчеркивает важность диверсификации усилий в области безопасности:
- Теоретическая работа: создание математических гарантий безопасности моделей.
- Государственное управление: разработка норм и инфраструктуры контроля.
- Социальная адаптация: подготовка общества к жизни в мире, где ИИ превосходит человека в большинстве когнитивных задач .
Джейкоб также запустил проект mathforai-safety.org (Математика для безопасности ИИ), цель которого — помочь профессиональным математикам найти применение своим навыкам в сфере безопасности нейросетей .
🎭 Искусство импровизации и контроль 39:19
Вне науки Джейкоб Цимерман увлекается импровизационной комедией (improv), что, по его словам, является полной противоположностью математике . В математике он всегда стремится к абсолютному контролю, упрощению концепций и устранению тайн. В импровизации же главное — отказ от контроля, умение слушать партнера и быть уязвимым .
Этот опыт помогает ему сохранять гибкость в условиях неопределенности будущего. Гость и ведущий (который занимался стендапом) обсуждают, что страх выглядеть глупо — это «смерть комедии», и аналогично, косность мышления может стать препятствием для ученых в эпоху ИИ .
💡 Советы молодым специалистам 1:14:10
Джейкоб дает рекомендации тем, кто сейчас стоит перед выбором пути в фундаментальной науке:
- Хеджируйте риски: Не стоит закрывать глаза на прогресс ИИ в надежде, что всё вернется в прежнее русло .
- Осваивайте новые навыки: Понимание принципов работы нейросетей и программирования становится обязательным, даже для «чистых» математиков .
- Привыкайте к роли менеджера: Умение работать с результатами, которые приходят быстрее, чем вы успеваете их обдумать, станет ключевым навыком .
Несмотря на все риски, Цимерман видит огромные возможности: ИИ может стать персональным репетитором в любой области, помочь в создании игр, написании музыки или сокращении разрыва между чистой математикой и её прикладным применением в физике и химии .
