В последние месяцы индустрия искусственного интеллекта нацелилась на решение фундаментальных математических задач, над которыми ведущие ученые безуспешно бились десятилетиями. Ведущий The Vergecast Дэвид Пирс и журналист The Verge Роберт Харт обсуждают, как агрессивный стиль работы OpenAI шокировал академическое сообщество, почему публикация сотен «сырых» решений угрожает будущему карьере молодых исследователей и способна ли генеративная технология по-настоящему понять математику.
⚡ Коротко о технологиях: борьба со спамом, «новые глаза» и релиз для Switch 2 0:16
Перед погружением в сложный мир абстрактной математики в выпуске прозвучал краткий обзор ключевых событий индустрии :
- Spotify против музыкального ИИ-мусора: сервис отчитался об удалении из рекомендаций более 50 миллионов низкокачественных спам-треков, созданных нейросетями, и перенастроил алгоритмы в пользу музыки, написанной людьми . В то же время Spotify не вводит обязательную маркировку таких треков, в отличие от YouTube Music и Deezer, и даже сотрудничает с Universal Music Group над инструментом для создания ИИ-ремиксов .
- ИИ-взгляд от Adobe: мобильная версия редактора Lightroom научилась программно открывать закрытые глаза на фотографиях . Модель генерирует реалистичный взгляд, подстраивая освещение, ракурс и сверяясь с другими снимками этого человека в пользовательской библиотеке .
- Релиз Nintendo Switch Sports Resort: проект для консоли Switch 2 предлагает 12 спортивных дисциплин (включая классический теннис и боулинг), управление с помощью жестов Joy-Con и полноценный открытый мир с возможностью исследования острова по воздуху, воде и суше .
👁️ «Око Саурона» над наукой: почему математики в панике 1:48
Главной темой обсуждения стал неожиданный прорыв ИИ-лабораторий в высшей математике . Исследовательские группы внутри технологических корпораций годами занимались математическими тестами, однако долгое время алгоритмы справлялись с задачами откровенно слабо . Ситуация радикально изменилась всего за несколько месяцев: модели внезапно вышли на уровень ведущих ученых мира , продемонстрировав динамику, напоминающую прошлогодний внезапный взлет ИИ-систем в сфере программирования .
Внезапная результативность алгоритмов повергла мировое сообщество ученых в шок . По словам Роберта Харта, математики, с которыми он беседовал в рамках подготовки материала, регулярно сравнивали внимание OpenAI с «Оком Саурона» . Когда лаборатория с колоссальным венчурным финансированием внезапно наводит свой фокус на конкретное направление чистой науки, работающие там люди чувствуют себя беззащитными .
По оценке Харта, многие ученые жалуются на бессонницу и потерю мотивации продолжать исследования . Задачи, на доказательство которых признанные авторитеты тратили десятилетия карьеры, алгоритмы щелкают за считаные дни . В результате математики разделились на тех, кто в панике пытается опубликовать свои черновики до того, как их опередит корпорация («заскупит» в академическом смысле), и тех, кто впадает в апатию .
🏎️ Академический «скупинг» и гонка за рекордами 10:11
Главным поводом для возмущения в академических кругах стала не сама мощь технологии, а методы и манеры, с которыми технологические гиганты вторглись в фундаментальную науку . Как утверждает Роберт Харт, стиль OpenAI напоминает классический принцип Кремниевой долины «двигайся быстро и ломай все вокруг», но перенесенный в предельно консервативную университетскую среду .
Показательным стал случай с решением одной из задач тысячелетия (Millennium Prize Problem) :
- OpenAI, по собственному признанию ее сотрудников, услышала слух о том, что академическая группа ученых подобралась вплотную к доказательству .
- Чтобы перехватить первенство, компания мобилизовала вычислительные мощности стоимостью, по неофициальным оценкам, в десятки миллионов долларов .
- Было задействовано около 10 000 ИИ-агентов, которые за 88 часов непрерывных вычислений закрыли проблему .
Следом за этим успехом OpenAI буквально «вывалила» в сеть колоссальный объем данных: около 400 заявленных математических результатов, распределенных по более чем 700 препринтам . При этом качество текстов оказалось катастрофически низким . Препринты генерировались искусственным интеллектом, математическая нотация и атрибуция ссылок на предшественников были перепутаны , а три статьи компании пришлось оперативно отозвать из-за грубых ошибок в знаках («минус на плюс») . По словам Харта, ученые в ярости от того, что на проверку и разбор этого вала сырых документов академическому миру теперь понадобятся годы кропотливой ручной работы .
🧩 Ответ без понимания: почему машина ломает научный метод 17:34
Дэвид Пирс и Роберт Харт сходятся во мнении, что фундаментальная математика строится не вокруг финального числового ответа, а вокруг пути его нахождения . В процессе поиска доказательств ученые создают новые теории, концептуальные связи и инструментарий, двигающий вперед смежные дисциплины .
В подходе ИИ-лабораторий этот процесс полностью теряется:
- Проблема «черного ящика»: модель просто выдает итоговый результат, но даже сами инженеры корпораций не всегда могут объяснить внутреннюю логику его формирования .
- Отсутствие формальной верификации: далеко не все предложенные нейросетью тезисы подкреплены машинной формализацией (компьютерными доказательствами специального синтаксиса), что превращает проверку в кошмар для рецензентов .
- Угроза смены поколений: если закрыть все классические открытые задачи за счет масштабных вычислений, аспиранты и постдоки лишатся исследовательских проектов для защиты диссертаций . В долгосрочной перспективе это грозит разрушением института подготовки новых кадров, которые только и способны формулировать новые гипотезы для того же ИИ .
По мнению Харта, технологические лаборатории руководствуются исключительно жаждой победы и метриками для инвесторов: им необходим громкий флаг первооткрывателя ради капитализации и пиара гонки за сильным ИИ (AGI), даже если это оставляет выжженную землю в академическом сообществе .
🤝 Попытки примирения: консультативный совет и миллионные гранты 21:41
Пытаясь сгладить растущий репутационный ущерб, OpenAI предприняла несколько шагов навстречу ученым, однако они обернулись новыми конфликтами . Компания объявила, что в ее распоряжении есть решения еще для более чем 100 сложных проблем, но она стремится обнародовать их ответственно, посоветовавшись с экспертами . По замечанию ведущих, это заявление прозвучало не как забота, а как «подвешивание ста наковален» над головами ученых, чья работа может обесцениться в любой момент .
Попытка собрать консультативный совет также закончилась конфузом:
- OpenAI обратилась к группе из девяти элитных математиков .
- Ученые подчеркнули свою независимость и отказались становиться «карманным органом» компании, планируя взаимодействовать и с другими ИИ-лабораториями .
- Тем не менее, PR-служба OpenAI перехватила инициативу и презентовала совет как собственную инициативу, подорвав доверие академического сообщества к вошедшим в него коллегам .
- При этом компания прямо признала, что рекомендации экспертов не носят обязывающего характера — механизм работает по аналогии с надзорным советом Meta .
Единственной осязаемой мерой поддержки стало выделение средств: накануне записи эпизода OpenAI и Anthropic объявили о перечислении по $5 млн в фонд Simons Foundation на проведение конференций и семинаров для осмысления ИИ-открытий учеными . Однако просьбу математиков перестать негласно тестировать закрытые frontier-модели на всех доступных научных проблемах руководство корпораций отвергло . Дополнительно исследователи боятся пользоваться платными чат-ботами для работы: существует опасение, что идеи из переписок с ИИ могут утечь в обучающие выборки и стать основой для последующего «скупинга» со стороны лабораторий .
🔬 Экспансия в другие дисциплины: от ферментов до экономики 34:05
Математика стала лишь тестовым полигоном благодаря тому, что она изолирована от материального мира и не требует проведения физических опытов для базовой валидации . Однако аналогичные процессы уже начинаются в естественных и прикладных науках .
Anthropic, по словам Харта, создала роботизированную лабораторию в районе Залива (Сан-Франциско) для тестирования гипотез своей модели Claude . Недавно компания объявила об открытии искусственным интеллектом новой ферментной системы, сравнив это событие с созданием CRISPR . Впрочем, в том же пресс-релизе представители лаборатории признались, что пока не понимают, как именно работает обнаруженный механизм .
Подобная экспансия ставит перед миром новые юридические и методологические тупики:
- В США ИИ пока не может признаваться владельцем или автором патента, что делает патентование прямых открытий нейросетей невозможным .
- Экономисты, биологи, материаловеды и специалисты по computer science начинают испытывать тревогу, схожую с паникой математиков .
- Исследовательские группы пытаются автоматизировать генерацию экспериментальных данных, но опасаются, что неравенство ресурсов сделает академическую науку придатком закрытых коммерческих систем .
🎬 Вне эфира: научно-фантастическая рекомендация 39:59
В финальной части подкаста Дэвид Пирс поделился культурной рекомендацией, напрямую перекликающейся с темой бесконтрольного внедрения технологий . Он посоветовал зрителям посмотреть фильм Good Luck, Have Fun, Don't Die с Сэмом Рокуэллом в главной роли .
По сюжету картины персонаж Рокуэлла прибывает из будущего в обычную придорожную закусочную, чтобы собрать разношерстную группу людей и спасти планету от вышедшего из-под контроля искусственного интеллекта . Центральная идея ленты заключается в том, что человечество изобрело мощный ИИ, но на протяжении десятилетий не озаботилось разработкой механизмов его сдерживания, что в итоге привело мир к краху . Несмотря на то, что неудачное название помешало картине получить широкую известность, фильм, по оценке Пирса, поднимает самые актуальные вопросы регулирования и безопасности машинного интеллекта .
