Почему машины никогда не станут правителями мира: взгляд Валида Саба 0:00
Машины, обладающие человеческим или сверхчеловеческим интеллектом, — это красивая мечта, за которой стоят миллиарды инвестиций, но, по мнению эксперта в области ИИ доктора Валида Саба (Walid Saba), мы катастрофически недооцениваем сложность задачи. В свежем выпуске подкаста Machine Learning Street Talk Саба обсуждает книгу «Машины никогда не будут править миром» (авторы — Йорг Ландгребе и Барри Смит), называя её отрезвляющим чтением, способным вернуть дискуссию об ИИ из сферы медийной истерии в русло строгой науки. Вместе с ведущим Тимом Скарфом (Tim Scarf) и гостем Марком Годуэллом (Mark Godwell), участники анализируют, почему «грубая сила» масштабирования нейросетей упирается в фундаментальные философские и математические ограничения.
🧠 Феномен больших языковых моделей 7:36
Валид Саба признаёт, что был приятно удивлён успехами современных LLM (больших языковых моделей), несмотря на свой традиционный скептицизм.
- Мастерство синтаксиса: По мнению Саба, модели доказали, что при потреблении терабайтов человеческих текстов можно «вычислить» правила грамматики и синтаксиса. Это стало своего рода экзистенциальным доказательством того, что чисто статистическое обучение на данных работает лучше, чем предполагали многие специалисты.
- Ограниченность «стихийного» обучения: Однако Саба подчёркивает: это инженерный триумф, а не научный прорыв в понимании природы языка. Даже при наличии триллиона параметров модели по-прежнему не понимают мир, в котором мы живём, — они лишь мастерски имитируют структуру языка.
- Тупик масштабирования: Саба утверждает, что мы наблюдаем экспоненциальный рост вычислительных мощностей и данных, но прирост «понимания» (особенно в сложных задачах семантики и прагматики) крайне мал.
📐 Математика разума и «невозможное» понимание 35:42
Центральный тезис книги, которую рецензирует Саба, заключается в том, что существующая математика не способна описать динамические, эволюционирующие системы, которыми являются человеческий ум и язык.
- Монтегю и алгебра смыслов: Валид Саба защищает наследие Ричарда Монтегю, утверждая, что тот пытался создать «формальный язык» для естественного общения, подобный арифметике. Проект Монтегю был грандиозным, но он занимался синтаксисом и семантикой, оставляя прагматику (контекст) за скобками.
- Прагматика и абдукция: Саба считает уникальной способностью человека абдуктивное мышление — выбор «лучшего объяснения» из множества возможных в условиях неполной информации. В отличие от индукции (которую могут частично имитировать нейросети), абдукция — это ключевой элемент человеческого понимания, который требует учёта контекста, меняющегося в реальном времени.
- Проблема фреймов: Саба сожалеет, что в книге недостаточно внимания уделено «проблеме фреймов» — вопросу о том, как агент может динамически обновлять свои убеждения в хаотичном, меняющемся мире. Без решения этой задачи создание автономных агентов (включая беспилотные автомобили) невозможно — они остаются «роботами на рельсах».
💰 Уроки «денег, выброшенных в трубу» 1:15:52
Дискуссия переходит от теории к практике, где Саба резко критикует индустрию за игнорирование научных данных ради маркетингового хайпа.
- Провал автономного вождения: По мнению Саба, миллиарды долларов были потрачены впустую, потому что компании «тривиализировали» проблему вождения, не осознавая, что это задача для полноценного агента, а не просто продвинутого распознавания образов.
- Чат-боты как поисковики: Он иронично замечает, что современные чат-боты — это «стохастические попугаи», и использование Ctrl+F в документе часто бывает эффективнее, чем попытка «договориться» с ботом.
- Призыв к разнообразию идей: Саба и ведущие призывают инвестировать хотя бы 10% средств, «выбрасываемых в трубу» на однотипные решения, в поиск принципиально новых математических подходов и гибридных систем. Они не призывают прекратить инженерные разработки, но требуют «остыть» и признать границы того, что мы можем построить сегодня.
