Будущее науки в эпоху алгоритмов: беседа со Стивеном Вольфрамом 2:07
Технологические революции на протяжении истории служили мощными метафорами для описания устройства Вселенной: от механических часов как образа «мира-механизма» до термодинамики и современных представлений о Вселенной как вычислительной системе. Сегодня, с приходом нейросетей, ученые задаются вопросом: может ли искусственный интеллект совершить качественный скачок в фундаментальной науке? Об этом рассуждает Стивен Вольфрам, основатель и CEO Wolfram Research, создатель Wolfram Alpha и языка Wolfram, в диалоге с ведущим World Science Festival.
🧠 Ограничения ИИ и вычислительная несводимость 4:11
Основная функция науки — предсказание будущего поведения систем на основе известных правил. Однако Стивен Вольфрам подчеркивает существование фундаментального препятствия, которое он назвал «вычислительной несводимостью» (computational irreducibility), этот термин он ввел 40 лет назад.
- Суть концепции: Даже если известны базовые правила функционирования системы, часто невозможно «перепрыгнуть» через этапы ее развития, чтобы узнать результат. Требуется пошаговое выполнение всех вычислений, как это делает компьютер.
- Вердикт для ИИ: По мнению Вольфрама, ИИ не сможет преодолеть этот барьер, так как вычислительная несводимость является внутренним ограничением самой вычислительной логики.
- Карманы сводимости: Тот факт, что наука вообще возможна и мы имеем законы физики (электричество, уравнения Эйнштейна), означает, что в вычислительной среде существуют редкие «карманы сводимости», позволяющие нам предсказывать поведение систем, не проходя весь путь их эволюции.
Стивен Вольфрам отмечает, что многие физические системы, такие как уравнения Эйнштейна, демонстрируют невероятную сложность, например, при описании черных дыр, где привычные методы «перепрыгивания» через динамическую эволюцию часто не работают.
🔍 Кого колонизировать в пространстве возможностей? 8:23
Стивен Вольфрам ставит философский вопрос: если мы можем генерировать бесконечное количество теорем или вычислительных правил, почему мы выбираем для изучения лишь некоторые из них?
- Роль человека: Прогресс науки во многом определяется тем, что мы способны заметить и что мы считаем «значимым». ИИ может обнаружить множество алгоритмов, но будет ли человек связывать с ними смысл, зависит от особенностей нашего восприятия и текущих потребностей.
- Эмпирическая метаматематика: Изучая логику, Вольфрам заметил, что лишь около 14 теорем получают имена в учебниках. Он предполагает, что названия получают самые простые формулировки, становящиеся «корневыми» для новых направлений. Использование нейросетей для анализа этого пространства возможностей остается перспективной, хотя и пока не реализованной задачей.
🤖 Нейросети: архитектура против человеческого мозга 12:36
Вольфрам отмечает, что современные нейросети, ставшие основой больших языковых моделей (LLM), по своей архитектуре не сильно отличаются от тех, что были предложены в 1943 году.
- Эволюция обучения: До 2011 года нейросети казались тупиковой ветвью. Успех пришел тогда, когда их стали «насильно» тренировать на огромных объемах данных для задач распознавания изображений.
- Проблема объяснимости: Хотя нейросети способны генерировать связную речь, до конца 2022 года не было очевидно, что это вообще возможно без моделирования процессов, подобных человеческому мозгу. По мнению Вольфрама, нейросети легко справляются с задачами, которые легко даются людям, но не проявляют способностей к решению задач, требующих глубокого формального анализа, — здесь они по-прежнему нуждаются в вызове специализированных вычислительных инструментов.
🧪 В поисках «науки об LLM» 19:07
Вольфрам описывает новое направление — «науку об LLM», аналогичную нейробиологии. Как мы пытаемся понять работу мозга через zapping (воздействие) нейронов, так и с моделями ИИ мы можем экспериментировать, чтобы «заглянуть внутрь» черного ящика.
- Интерконцептуальное пространство: Анализируя генеративные модели изображений, Вольфрам указывает, что между понятиями «кот» и «собака» (наборами чисел в векторе) существует бесконечное множество промежуточных состояний. Мы видим в них структуру, но не имеем для нее названий.
- Смена перспективы: Возможно, в будущем ИИ будет обращать внимание человека на эти области, предлагая новые направления для науки, которые мы раньше считали «шумом».
🚀 Самоулучшение и будущее человеческого выбора 36:38
Вольфрам скептически относится к идее рекурсивного самообучения ИИ, где модели тренируются на данных, созданных другими ИИ. Он опасается, что это приведет к «схлопыванию» знаний к общему знаменателю.
- Риски: ИИ, поедающий «собственный хвост», скорее всего, будет становиться все более банальным и менее интересным.
- Главная роль человека: По мнению Стивена Вольфрама, автоматизация не убьет науку, потому что всегда останется вопрос выбора: что именно мы хотим исследовать? Человек будет необходим для принятия решений о том, какие цели стоят перед обществом и какие области вычислительной вселенной заслуживают нашего внимания.
