# Валид Саба о пределах ИИ: почему масштабирование нейросетей не приведет к AGI

Источник: https://www.youtube.com/watch?v=IMnWAuoucjo
Канал: Machine Learning Street Talk
Опубликовано: 16.12.2022

---

## Почему машины никогда не станут правителями мира: взгляд Валида Саба
[[JUMP:0:00]]

Машины, обладающие человеческим или сверхчеловеческим интеллектом, — это красивая мечта, за которой стоят миллиарды инвестиций, но, по мнению эксперта в области ИИ доктора Валида Саба (Walid Saba), мы катастрофически недооцениваем сложность задачи. В свежем выпуске подкаста Machine Learning Street Talk Саба обсуждает книгу «Машины никогда не будут править миром» (авторы — Йорг Ландгребе и Барри Смит), называя её отрезвляющим чтением, способным вернуть дискуссию об ИИ из сферы медийной истерии в русло строгой науки. Вместе с ведущим Тимом Скарфом (Tim Scarf) и гостем Марком Годуэллом (Mark Godwell), участники анализируют, почему «грубая сила» масштабирования нейросетей упирается в фундаментальные философские и математические ограничения.

### 🧠 Феномен больших языковых моделей
[[JUMP:7:36]]

Валид Саба признаёт, что был приятно удивлён успехами современных LLM (больших языковых моделей), несмотря на свой традиционный скептицизм.

*   **Мастерство синтаксиса:** По мнению Саба, модели доказали, что при потреблении терабайтов человеческих текстов можно «вычислить» правила грамматики и синтаксиса. Это стало своего рода экзистенциальным доказательством того, что чисто статистическое обучение на данных работает лучше, чем предполагали многие специалисты.
*   **Ограниченность «стихийного» обучения:** Однако Саба подчёркивает: это инженерный триумф, а не научный прорыв в понимании природы языка. Даже при наличии триллиона параметров модели по-прежнему не понимают мир, в котором мы живём, — они лишь мастерски имитируют структуру языка.
*   **Тупик масштабирования:** Саба утверждает, что мы наблюдаем экспоненциальный рост вычислительных мощностей и данных, но прирост «понимания» (особенно в сложных задачах семантики и прагматики) крайне мал.

### 📐 Математика разума и «невозможное» понимание
[[JUMP:35:42]]

Центральный тезис книги, которую рецензирует Саба, заключается в том, что существующая математика не способна описать динамические, эволюционирующие системы, которыми являются человеческий ум и язык.

*   **Монтегю и алгебра смыслов:** Валид Саба защищает наследие Ричарда Монтегю, утверждая, что тот пытался создать «формальный язык» для естественного общения, подобный арифметике. Проект Монтегю был грандиозным, но он занимался синтаксисом и семантикой, оставляя прагматику (контекст) за скобками.
*   **Прагматика и абдукция:** Саба считает уникальной способностью человека *абдуктивное мышление* — выбор «лучшего объяснения» из множества возможных в условиях неполной информации. В отличие от индукции (которую могут частично имитировать нейросети), абдукция — это ключевой элемент человеческого понимания, который требует учёта контекста, меняющегося в реальном времени.
*   **Проблема фреймов:** Саба сожалеет, что в книге недостаточно внимания уделено «проблеме фреймов» — вопросу о том, как агент может динамически обновлять свои убеждения в хаотичном, меняющемся мире. Без решения этой задачи создание автономных агентов (включая беспилотные автомобили) невозможно — они остаются «роботами на рельсах».

### 💰 Уроки «денег, выброшенных в трубу»
[[JUMP:1:15:52]]

Дискуссия переходит от теории к практике, где Саба резко критикует индустрию за игнорирование научных данных ради маркетингового хайпа.

*   **Провал автономного вождения:** По мнению Саба, миллиарды долларов были потрачены впустую, потому что компании «тривиализировали» проблему вождения, не осознавая, что это задача для полноценного агента, а не просто продвинутого распознавания образов.
*   **Чат-боты как поисковики:** Он иронично замечает, что современные чат-боты — это «стохастические попугаи», и использование Ctrl+F в документе часто бывает эффективнее, чем попытка «договориться» с ботом.
*   **Призыв к разнообразию идей:** Саба и ведущие призывают инвестировать хотя бы 10% средств, «выбрасываемых в трубу» на однотипные решения, в поиск принципиально новых математических подходов и гибридных систем. Они не призывают прекратить инженерные разработки, но требуют «остыть» и признать границы того, что мы можем построить сегодня.