Франсуа Шолле: интеллект как способность меняться

Язык — это лишь операционная система, установленная поверх фундаментального мышления, которое строится на эмоциях, пространственном восприятии и физических действиях. Франсуа Шолле утверждает, что подлинный интеллект заключается не в объеме накопленных данных или имитации речи, а в способности к импровизации и эффективности освоения новых навыков в условиях неопределенности.

🧠 Интеллект как конструкция и иерархия предсказаний 5:06

Франсуа Шолле (François Chollet) в своих размышлениях о природе разума опирается на идеи, заложенные еще в середине XX века. Ключевое влияние на него оказал швейцарский психолог Жан Пиаже, который рассматривал интеллект не как нечто статичное, а как динамический конструкт, формирующийся на протяжении всей жизни. Шолле подчеркивает, что концепция Пиаже о развитии детского мышления через последовательные стадии была крайне прогрессивной для 1930–1940-х годов. Хотя современные нейронауки внесли свои коррективы, сам подход — рассматривать ум как систему, которую субъект выстраивает самостоятельно, — стал фундаментом для его представлений о создании искусственного разума.

Параллельно с изучением психологии развития, на Шолле оказала влияние книга Джеффа Хокинса «Об интеллекте» (On Intelligence). Хокинс предложил модель мозга как многомасштабной иерархии модулей, занятых постоянным предсказанием будущего. Для Шолле эта идея была революционной: он увидел в ней практическое обоснование того, как именно происходит когнитивная обработка данных. Хотя концепция иерархических структур в нейробиологии обсуждалась еще с 1980-х годов, именно глубокое обучение (deep learning) позволило реализовать эти идеи на практике, превратив теорию о «познании как предсказании» в рабочий инструмент для современных нейросетей.

🗣 Язык как операционная система разума 8:13

В вопросе о роли языка Франсуа Шолле занимает позицию, отличную от взглядов Ноама Хомского. Шолле не считает язык фундаментом когнитивных функций или тем «дном», на котором покоятся все остальные процессы мышления. Напротив, он определяет язык как высокоуровневую «операционную систему» мозга.

По мнению Шолле, язык — это надстройка, которая делает «компьютер» нашего мозга по-настоящему полезным, позволяя управлять доступом к памяти. Без языка человек был бы лишен возможности осознанно извлекать мысли: доступ к воспоминаниям происходил бы только через внешние стимулы, такие как запахи или визуальные образы. Язык позволяет нам программировать собственный внутренний опыт, используя слова как ключи-запросы для поиска конкретных концептов или эпизодов прошлого. При этом Шолле признает, что язык — структура «грязная» и сложная для интроспекции, что делает её далекой от чистых логических правил, которые могли бы существовать в «глубине» сознания.

🗺 Пространственное мышление и интеллект-карты 11:26

Лекс Фридман (Lex Fridman) и Шолле обсуждают, существуют ли способы мышления, не зависящие от слов. Шолле убежден, что наш разум многослоен, и до формирования речи дети мыслят категориями эмоций, физических действий и движения объектов в окружающем пространстве. Эти визуальные аналогии остаются фундаментальными блоками интеллекта и во взрослом возрасте, что отражается даже в лингвистике, переполненной пространственными метафорами.

Для организации «хаоса» мыслей Шолле активно использует интеллект-карты (mind maps). Он описывает их как способ перенести внутренние ассоциативные связи на двумерную плоскость листа бумаги, что дает человеку контроль над структурой мышления.

• Интеллект-карта — это не просто дерево с иерархией, а скорее топологический граф.
• В отличие от структурированных списков, граф позволяет отразить реальную связность концептов, где некоторые узлы имеют больше «веса» и соединений, чем другие.
• Визуализация помогает человеку «путешествовать» между идеями, превращая разрозненные мысли в организованную карту знаний.

Ранее в разговоре они коротко упоминали сложности, связанные с текущим развитием ИИ, и вопрос о том, может ли машина когда-нибудь по-настоящему понять человеческий интеллект.

🧠 Природа разума: гибкая адаптация против механического заучивания 26:21

Эффективность обучения как мера истинного разума 26:21

В беседе с Лексом Фридманом Франсуа Шолле предлагает переосмыслить традиционный подход к оценке интеллекта. Вместо того чтобы измерять уровень ума объёмом накопленных знаний или статических навыков, исследователь даёт фундаментальное определение: интеллект — это прежде всего эффективность, с которой агент приобретает новые навыки в задачах, к которым он не готовился заранее. По его мнению, ключевым фактором здесь выступает абсолютная новизна условий.

Истинный разум проявляет себя только тогда, когда система демонстрирует способность к импровизации, генерализации и адаптации в среде, которую её создатели не могли предусмотреть. Напротив, если алгоритм при малейшем изменении контекста теряет работоспособность и не может отклониться от жёстко зафиксированной логики, его нельзя назвать интеллектуальным. Франсуа Шолле солидаризируется с известным изречением Альберта Эйнштейна о том, что мерой интеллекта является способность меняться. Однако он уточняет, что в контексте ИИ эту способность необходимо измерять математически строго — через скорость и экономию ресурсов при освоении незнакомых пластов реальности.

Процесс против результата: почему нельзя путать интеллект и навык 28:47

Исследователь настаивает на критически важном концептуальном разграничении: необходимо разделять интеллект как динамический процесс адаптации и навык (skill) как статичный результат этого процесса. Чтобы проиллюстрировать эту мысль, Франсуа Шолле приводит наглядный пример из индустрии.

Представьте талантливого инженера, который создаёт сложную программу для игры в шахматы. Вся интеллектуальная работа здесь заключается в самом процессе разработки алгоритма, который совершает человек. Сам же шахматный движок — это лишь застывший артефакт, закодированный продукт чужого разума. Если перенести эту программу в новые условия и попросить сыграть в го, она потерпит крах.

Исследователь предлагает запомнить простую метафору:

• Дорожно-строительная компания — это аналог интеллекта, поскольку она способна проложить путь откуда угодно и куда угодно.
• Конкретная готовая дорога — это аналог навыка, который эффективно доставляет вас из точки А в точку Б, но абсолютно статичен.

Человеческий разум обладает поразительной способностью к генерализации далеко за пределами «обучающей выборки», заложенной эволюцией. Ранее в разговоре собеседники кратко касались пространственного мышления и интеллект-карт, но именно здесь Шолле подчеркивает, что человек ежедневно адаптируется к реалиям современной цивилизации с помощью гибких когнитивных блоков. Измерять нужно не количество освоенных навыков, а саму способность к их созданию. Когда мы видим сильного шахматиста-человека, мы понимаем, что он потратил ограниченные ресурсы жизни на освоение игры, потенциально имея возможность научиться чему угодно. Компьютер же может «родиться» со знанием шахмат, если его запрограммировал человек, но это не делает саму машину разумной. Именно для устранения этих долговечных заблуждений и была написана его работа «On the Measure of Intelligence».

Борьба парадигм: эволюционные механизмы против концепции «чистого листа» 36:44

Анализируя историю когнитивных наук, Франсуа Шолле выделяет два фундаментальных и исторически конкурирующих взгляда на природу человеческого разума.

Первый подход — это позиция эволюционной психологии. Согласно ей, наш ум представляет собой конгломерат статичных, специализированных механизмов, которые создавались и жёстко кодировались эволюцией на протяжении миллионов лет. Первопроходцы искусственного интеллекта, такие как Марвин Мински, полностью разделяли это видение. Они воспринимали разум через метафору мейнфрейма — набора программ, оперирующих базой данных, где обучению почти не уделялось внимания, а сам процесс познания сводился к логическому выводу и запоминанию.

Второй подход рассматривает мозг как Tabula Rasa, или «чистый лист» — концепция, восходящая к философии Джона Локка. В этой картине мира разум является своего рода информационной губкой, которая изначально пуста и формируется исключительно за счёт впитывания опыта из внешней среды. Сегодня, на волне триумфа глубокогольного обучения, идея «чистого листа» стала доминирующей метафорой в ИИ-сообществе. Многие исследователи начали воспринимать человеческий мозг как случайно инициализированную нейросеть, которую достаточно просто снабдить колоссальным объёмом обучающих данных. Франсуа Шолле называет такой подход интеллектуальной ленью, предостерегая от слепой веры в то, что механическое масштабирование коннекционистских моделей способно породить подлинное мышление.

Иллюзия понимания и фундаментальные ограничения GPT-3 43:22

Взрывной интерес публики к большим языковым моделям вроде GPT-3 Франсуа Шолле встречает со здоровой долей научного скептицизма. Хотя способность нейросети схватывать суть новой задачи на основе нескольких примеров (few-shot learning) выглядит интригующе, Шолле не считает это доказательством полноценного мышления. Из-за колоссальных объёмов данных, на которых обучалась модель, она, скорее всего, просто занимается продвинутым распознаванием образов (pattern matching). Модель находит совпадения с уже виденными задачами в своей памяти, вместо того чтобы строить реальную ментальную модель происходящего.

Безусловно, гигантская ассоциативная память составляет важную часть интеллекта, но она не исчерпывает его. Главная уязвимость моделей семейства GPT, по мнению Шолле, заключается в том, что генерируемый ими текст подчинен только одному критерию — правдоподобию.

Такая архитектура накладывает жесткие фундаментальные ограничения:

• Отсутствие фактчекинга: Модели не имеют внутренней связи с объективной реальностью и не проверяют факты.
• Логическая противоречивость: Модель легко генерирует самопротиворечивые утверждения, так как её цель — лишь лингвистическая плавность.
• Уязвимость к формулировкам: Из-за отсутствия понимания сути, GPT-3 критически чувствительна к адверсариальным атакам и манипуляциям с промптами. Изменив контекст вопроса, можно легко заставить её выдать два абсолютно противоположных ответа.

Исследователь уверен, что простое увеличение параметров до сотен триллионов не решит эти проблемы, а главным бутылочным горлышком для ИИ вскоре станет дефицит качественных данных во всем интернете. Будущее за подлинным гибридным подходом: использованием самообучающихся моделей как базы здравого смысла, над латентным пространством которой будут развернуты явные, жесткие программы логического рассуждения.

🧠 Глава 3. Ограничения масштабирования и природа истинного обобщения 50:14

Качество данных против их количества 51:05

Как отмечалось ранее в разговоре при критике GPT-3, масштаб вычислений часто считают главным ограничением современных систем, однако Франсуа Шолле уверен, что настоящим «узким горлышком» для генеративных моделей является не вычислительная мощность, а обучающие данные. В индустрии долгое время доминировал подход бесконечного экстенсивного масштабирования. Однако простое наращивание объемов имеет свой предел.

Опираясь на свой опыт работы в Google, Франсуа Шолле приводит показательный пример. В свое время он занимался обучением модели классификации изображений на огромном датасете из 150 миллионов картинок, что на тот момент составляло практически всю открытую базу изображений в вебе. Этот массив данных был чрезвычайно зашумленным, поскольку разметка создавалась автоматически — на основе пользовательских тегов в социальных сетях и ключевых слов со страниц. Эксперименты показали: бесконечное добавление грязных, автоматически размеченных данных дает лишь минимальный прирост качества и быстро упирается в затухающую отдачу (diminishing returns). В то же время использование значительно меньшего по объему датасета, но с качественной, выверенной людьми разметкой, позволяет создать более точную модель за меньшее время обучения.

В этом контексте Лекс Фридман вспоминает концепцию Семантической паутины (Semantic Web) из 1990-х годов — идею разметки интернета машиночитаемыми смыслами. Шолле скептически оценивает ее жизнеспособность, подчеркивая, что ручная структуризация всего интернета требует колоссального труда, для которого у пользователей просто нет мотивации. По его мнению, реальный путь вперед лежит через неконтролируемое глубокое обучение, и в этом смысле модели вроде GPT-3 сделали для доступности веб-знаний машинам гораздо больше, чем все классические концепции семантического веба. Тем не менее, без непрерывного обучения и способности адаптироваться к радикально новым факторам любой масштаб данных превращается в статичный слепок прошлого.

Ограничения глубокого обучения в беспилотниках 56:42

Иллюзия того, что огромные объемы данных способны решить любую прикладную задачу, полностью разрушается при попытке создать полностью автономный транспорт пятого уровня (L5 Self-Driving). Франсуа Шолле ссылается на исследование Google, опубликованное несколько лет назад: даже 30 миллионов различных дорожных ситуаций оказались абсолютно недостаточными, чтобы обучить систему автономного вождения хотя бы до стабильного второго уровня. Это колоссальный объем информации, особенно если учесть, что человеку требуется всего от 20 до 30 часов практики, чтобы научиться уверенно управлять автомобилем.

Обсуждая стратегию Илона Маска и системы Tesla Autopilot, Шолле выражает жесткий скептицизм относительно возможности достижения полной автономности исключительно за счет нейросетевого подхода. По его мнению, четвертый уровень автопилота вполне заменим автоматикой в контролируемой среде, но полноценный пятый уровень, где водитель может буквально лечь спать, недостижим на чистом глубоком обучении. Причина кроется в феномене «длинного хвоста» (long tail) — бесконечном множестве редких, непредсказуемых дорожных ситуаций, которые невозможно предусмотреть и собрать в обучающую выборку.

Глубокое обучение превосходно справляется с кодированием восприятия и интуиции, но оно принципиально не приспособлено для явных логических рассуждений. Сильное обобщение, необходимое на дороге, возникает не из слабых абстракций нейросети, а из жестких абстрактных моделей, которые создаются человеческим разумом и закладываются инженерами вручную в виде программного кода. Шолле предлагает гибридный подход: использовать глубокое обучение как модуль восприятия, но связывать его с эксплицитной моделью окружения автомобиля.

В качестве иллюстрации приводится пример смены контекста: если человек научился водить в Силиконовой долине, а затем приехал в Токио, он сталкивается с левосторонним движением, узкими улицами и незнакомыми знаками. Среднестатистический водитель способен мгновенно адаптироваться к этой новой сложности и начать действовать в незнакомой среде. Нейросеть же в подобных условиях потребует гигантских массивов новых данных, поскольку ее обучение сводится к интерполяции прошлого опыта, а не к подлинному пониманию ситуации.

Контроль априорных знаний при тестировании 1:10:37

Пытаясь нащупать границу между простой интерполяцией данных и настоящим разумом, собеседники возвращаются к определению интеллекта, которое ранее в разговоре выводилось через эффективность обучения. В рамках этой концепции интеллект можно представить как математическое отношение: коэффициент конверсии стартовой информации в применимую поведенческую программу, охватывающую широкое пространство будущих ситуаций. Чем выше интеллект агента, тем меньший объем данных и врожденных знаний ему требуется для успешного освоения новой, незнакомой задачи.

Когда речь заходит о создании универсальных тестов, способных объективно измерить и сравнить интеллект ИИ и человека, Шолле указывает на фундаментальную проблему методологии. В случае с искусственными системами разработчики всегда могут искусственно «купить» высокий навык в конкретной задаче, просто заложив туда жесткие правила от создателей или предоставив модели возможность обучаться на бесконечном количестве симулированных данных. Человек же всегда ограничен жесткими рамками времени и энергии.

Чтобы сравнение систем было честным, необходимо строго контролировать два параметра:

• Априорные знания (priors) — исходную информацию, которой система обладает до начала обучения конкретной задаче.

• Объем накопленного опыта (experience) — количество тренировочных данных и практических итераций, полученных в процессе обучения.

Например, играя в Go, человек задействует врожденные эволюционные приоры о структуре двумерного пространства и физике взаимодействий. Шолле настаивает: любой валидный тест на демонстрацию человекоподобного интеллекта должен эксплицитно фиксировать стартовые априорные знания ИИ, уравнивая их с базовыми человеческими приорами, и жестко ограничивать объем доступного опыта.

В завершение этой темы Лекс Фридман поднимает вопрос о том, как человечество исторически пыталось квантифицировать свойства разума, переводя разговор в русло психометрики — субдисциплины психологии, изучающей измерение когнитивных способностей.

🧠 Природа G-фактора, спортивная аналогия и загадка сложности тестов 1:15:25

Психометрика и скрытая природа генерального фактора интеллекта 1:15:25

Психометрика как наука стремится измерить скрытые свойства человеческого разума, однако создание по-настоящему качественных тестов сопряжено с огромными трудностями. Валидный тест должен измерять именно то, для чего он предназначен, демонстрируя четкую корреляцию с реальными жизненными успехами — например, с академической успеваемостью или достижениями на рабочем месте. Кроме того, процедура обязана быть стандартизированной и свободной от культурных или языковых искажений, которые часто наказывают людей, для которых язык тестирования не является родным.

Франсуа Шолле (François Chollet) признается, что его интересует не оценка конкретной личности, а психометрика как масштабный статистический инструмент. При анализе результатов множества разнородных тестов — на пространственное мышление, визуализацию, логику или работу с числами — на больших выборках неизменно обнаруживаются устойчивые кластеры корреляций. Тот, кто силен в математике, статистически чаще преуспевает в физике, а также, как ни странно, в написании литературных эссе. В статистике подобные взаимосвязи объясняются латентной (скрытой) переменной, которой в данном случае выступает общая когнитивная способность. Проявляющийся на макроуровне математический конструкт, объясняющий позитивную корреляцию между любыми интеллектуальными задачами, и называется G-фактором (генеральным фактором интеллекта).

Лекс Фридман (Lex Fridman) отмечает, что при первом знакомстве эта концепция казалась ему сомнительной, похожей на психологическую «астрологию». Однако Шолле подчеркивает: G-фактор реален как статистический феномен. В мейнстримной психологической теории Кэттелла — Хорна — Кэрролла (CHC) структура когнитивных способностей человека описывается как трехслойная иерархия, вершину которой монументально венчает этот самый генеральный фактор.

Спортивная аналогия: биологические границы человеческого разума 1:21:47

Существование G-фактора часто порождает опасную иллюзию того, что высокий IQ наделяет человека абсолютной, «сильной» универсальностью, позволяющей эффективно решать абсолютно любые задачи во Вселенной. Франсуа Шолле (François Chollet) решительно опровергает это заблуждение, предлагая наглядную аналогию из мира спорта. Понятие «физическая форма» (physical fitness) во многом идентично понятию интеллекта. Мы интуитивно понимаем, что один человек развит атлетически лучше другого, но эта форма строго ограничена рамками человеческой биологии. Даже самый подготовленный спортсмен не способен летать, жить на дне океана или выжить в космическом вакууме.

Если бы ученые решили измерить общую физическую форму, они бы объединили тесты на бег, плавание, футбол и настольный теннис. На огромной выборке возникли бы явные корреляции (например, между спринтом и футболом), а на вершине иерархии обнаружился бы латентный «физический G-фактор».

Человеческая морфология и физиология невероятно специализированы:

• Наши тела эволюционировали ради выживания и преследования добычи в условиях земной саванны.
• Мы физически не приспособлены для существования на Марсе, Венере или в пустоте космоса.
• При этом наша телесность обладает удивительной широтой адаптации, позволяя нам успешно играть в пинг-понг или карабкаться по скалам.

Аналогичным образом устроен и человеческий разум. Наша когнитивная система развивалась в изменчивой среде, благодаря чему мы пишем музыку, создаем романы и думаем о полетах на другие планеты. Но это не делает наш интеллект истинно универсальным: мы обладаем жесткими когнитивными искажениями, делающими нас абсолютно слепыми к огромной части потенциального пространства задач. Мы «генеральны» лишь внутри узкого кокона человеческого опыта.

Анатомия сложности: почему ИИ и студенты могут сдавать тесты без понимания 1:27:26

Размышляя о применимости тестов вроде Mensa, Лекс Фридман (Lex Fridman) задается вопросом: что именно делает один тестовый вопрос объективно сложнее другого?. Ответ Франсуа Шолле (François Chollet) переворачивает привычные представления: имплицитно «сложных» вопросов не существует в природе. Сложность всегда относительна и определяется исключительно тем, какими априорными знаниями (priors) и бэкграундом обладает тестируемый.

Обычно задача в IQ-тесте формулируется как набор примеров «вход-выход», где нужно уловить закономерность и применить её к новому инпуту. Если проверочное задание минимально отличается от примеров, сложность генерализации стремится к нулю. Настоящая же сложность требует адаптации в процессе тестирования (test-time adaptation) и способности к глубокой импровизации.

Шолле приводит в пример экзамен по квантовой физике:

• Простой экзамен состоит из слегка измененных задач, которые студенты судорожно зазубривали по шаблонам в интернете — это банальная интерполяция.
• Сложный экзамен заставляет сталкиваться с концептуально новыми проблемами, обнажая реальное понимание предмета через необходимость импровизировать.

Проблема в том, что поверхностное зазубривание позволяет легко имитировать интеллект. Подобно нерадивому студенту, современные модели глубокого обучения (deep learning) демонстрируют феноменальные результаты на тестах просто потому, что их «скормили» колоссальным объемам тренировочных данных. Если модель или человек заранее видели ответы, они не проявляют интеллект — они лишь извлекают информацию из памяти.

Чтобы создать объективный тест интеллекта нового поколения для людей и машин, необходимо соблюсти два фундаментальных правила:

1. Четко зафиксировать и сделать явными базовые априорные знания (priors), соответствующие человеческим когнитивным искажениям.
2. Оценивать не финальный навык, а именно эффективность приобретения навыков (skill acquisition efficiency) в условиях абсолютной новизны, полностью исключая возможность предварительного заучивания.

Ранее в разговоре они поверхностно касались ограничений GPT-3, а в дальнейшем эти принципы лягут в основу разбора известного теста ARC и теории врожденных знаний Элизабет Спелке.

🧠 Фундамент познания и архитектура интеллекта 1:40:26

Франсуа Шолле выделяет ряд врожденных когнитивных основ, которые лежат в базе человеческого мышления. Эти «априорные знания» (priors), согласно исследованиям Элизабет Спелке, критически важны для формирования нашей способности ориентироваться в мире. К ним относятся концепция материальности объектов, способность выделять в среде агентов, базовые принципы геометрии и интуитивное чувство чисел.

• Материальность объектов: Первичная способность сегментировать окружающий мир на отдельные сущности.
• Агентность: Способность идентифицировать объекты, обладающие целями. Франсуа Шолле отмечает, что даже младенцы в возрасте трех месяцев способны распознавать целенаправленное поведение (например, когда одна точка пытается избежать столкновения с другой).
• Геометрия и топология: Базовое понимание пространства и дистанции, которое, по мнению Франсуа Шолле, жестко закодировано в нейронных механизмах мозга, таких как сеточные клетки (grid cells) в гиппокампе.
• Чувство чисел: Интуитивная способность сравнивать количества и осуществлять простейший счет, которая не является сугубо культурным конструктом, а имеет врожденные корни.

Помимо этого, Франсуа Шолле указывает на высокую вероятность существования врожденных систем для обработки пространственных преобразований, таких как мысленное вращение объектов — способность, подтвержденная еще экспериментами 70-х годов, где время ответа линейно зависело от угла поворота фигуры.

🧩 Тест ARC: стремление к абстрактному мышлению 1:44:36

Для оценки того, насколько машины способны генерировать абстракции, опираясь на подобные базовые принципы, Франсуа Шолле разработал ARC Challenge (Abstraction and Reasoning Corpus). В отличие от стандартных тестов, ARC исключает влияние натасканности на специфических данных или использования энциклопедических знаний.

Формат теста напоминает матрицы Равена: система получает набор примеров входных и выходных сеток, после чего должна решить новую задачу, самостоятельно применив обнаруженную логику. По словам Франсуа Шолле, создание этих задач помогло ему самому глубже осознать природу абстракции: он был вынужден «со-эволюционировать» проблему и решение, создавая ситуации, которые легки для ребенка, но почти невозможны для современных алгоритмов.

• Масштабируемость: На данный момент существует около тысячи уникальных задач.
• Безопасность бенчмарка: Часть набора задач намеренно скрыта, чтобы исключить возможность «хакинга» теста инженерами, которые могли бы просто закодировать решение в программу, вместо того чтобы создать интеллектуальный процесс.
• Результаты: Изначально показатели машин были околонулевыми, но в ходе соревнований на Kaggle удалось достичь около 20% эффективности. Это доказывает, что у теста нет очевидного короткого пути решения, и он остается серьезным вызовом.

Ранее в разговоре упоминались проблемы глубокого обучения в беспилотниках и ограничения, присущие GPT-3, которые Франсуа Шолле противопоставляет гибкости ARC.

🌐 Спектр обобщения: от робости к экстремальным навыкам 1:59:11

Франсуа Шолле предлагает классифицировать развитие ИИ через способность систем справляться с неопределенностью. Он выделяет три уровня обобщения, где высшей точкой является способность к адаптации в любых доменах:

1. Робастность (Robustness): Низший уровень. Система работает в рамках известного распределения данных, устойчива к шумам и небольшим вариациям внутри одной задачи (например, типичные задачи машинного обучения).
2. Гибкость (Flexibility): Способность справляться с «неизвестными неизвестными» — ситуациями, которые не могли быть предвидены разработчиками. Это уровень, необходимый для автономного вождения в «длинном хвосте» нештатных ситуаций или для робота, способного сварить кофе на незнакомой кухне.
3. Экстремальное обобщение (Extreme Generalization): Вершина интеллекта. Это гибкость, распространенная на открытый диапазон доменов. Робот, который после обучения кулинарии может за пару недель самостоятельно освоить садоводство, демонстрирует именно этот тип интеллекта.

Цель заключается в создании системы, способной к человеческому уровню адаптации при том же объеме тренировочного опыта, что и у человека. Франсуа Шолле подчеркивает, что человечество пока далеко от этого предела, и в некотором смысле мы ограничены теми задачами, которые перед собой ставим.

🧠 Границы интерфейсов, иллюзия Тьюринга и бессмертие в культуре 2:05:37

Узкое горлышко Neuralink и культура как внешний разум 2:05:37

Обсуждая технологические попытки расширить возможности человеческого разума, Франсуа Шолле (François Chollet) высказывает глубокий скептицизм в отношении нейроинтерфейсов вроде Neuralink. Вопреки популярному мнению, пропускная способность ввода-вывода информации (I/O bandwidth) не является главным ограничением для нашего мышления. Лекс Фридман (Lex Fridman) выдвигает контраргумент, замечая, что появление Википедии сделало человечество в разы умнее. Однако Франсуа Шолле подчеркивает, что у нас уже есть прямой и эффективный доступ к этой базе знаний через экраны смартфонов, глаза и руки.

Настоящий лимит кроется в фундаментальной медлительности самого человеческого мозга. Самые быстрые процессы на нейронном уровне занимают около 50 миллисекунд, а для формирования сложной осознанной мысли могут потребоваться целые секунды. Именно поэтому, например, не работает скорочтение: чем быстрее человек бежит глазами по строкам, тем меньше он понимает. Скорость, с которой натренированный человек печатает на клавиатуре, уже практически равна скорости, с которой он способен генерировать саму мысль.

Тем не менее, Шолле горячо поддерживает идею аугментации человеческого интеллекта, но видит её иначе — через эволюцию цивилизации. Культура, язык, книги и поисковые системы вроде Google Search — это и есть «экстернализованное познание» (externalized cognition). Ранее в разговоре собеседники касались темы языка как операционной системы разума, и здесь этот тезис раскрывается глобально: цивилизация функционирует как единая распределенная система, чьи масштабы и вычислительные возможности давно превзошли любой отдельный биологический мозг.

Иллюзия Тьюринга: почему антропоморфизм обманывает судей 2:09:46

Когда речь заходит о тестировании искусственного интеллекта, Лекс Фридман вспоминает знаменитый тест Тьюринга и Премию Лёбнера. Франсуа Шолле признается, что категорически не любит подобные форматы. Главная проблема теста Тьюринга — в его полной ненадежности с точки зрения психометрики. Он полностью перекладывает оценку на плечи человеческих судей, у которых нет единой методологии, стандартизации или защиты от предвзятости.

Шолле напоминает важный исторический контекст: когда Алан Тьюринг предложил свою «игру в имитацию» в статье 1950 года, он задумывал её исключительно как философский мысленный эксперимент, а не как практическое техническое задание для инженеров. Превращение этого эксперимента в реальную цель создает ложные стимулы. Вместо развития науки инженеры начинают полагаться на трюки и манипуляции, стремясь банально обмануть респондента. Шолле сравнивает это с иллюзионизмом: фокусник в Лас-Вегасе может убедить публику в реальности телепортации, но это не продвигает физику как науку.

Обмануть человека в диалоге удивительно легко из-за нашей врожденной склонности к антропоморфизму. У людей развита модель психики (theory of mind), заставляющая нас постоянно проецировать агентность, эмоции и намерения на всё вокруг. Франсуа Шолле приводит яркий пример:

«Если вы нарисуете смайлик на обычном камне, этот камень в восприятии человека тут же станет "счастливым"».

Хотя интерактивность в тестах важна для демонстрации способности к адаптации (ранее Шолле упоминал об интерактивности при создании своего теста ARC), тест Тьюринга измеряет лишь внешнюю человекоподобность. По мнению исследователя, способность системы мимикрировать под человека — это не первый, а самый последний шаг в создании сильного ИИ.

Почему мышление не сводится к архивации данных 2:20:42

Еще одно популярное заблуждение в ИИ-сообществе связано с Премией Хаттера, которая предлагает оценивать интеллект через эффективность сжатия человеческих знаний. Концепция «познание есть сжатие» выглядит элегантно, и Шолле признает, что сам долгое время верил в неё. Ранее в интервью упоминались идеи Джеффа Хокинса о том, что познание сводится к предсказанию, что математически эквивалентно архивации данных. Однако Франсуа пришел к выводу, что этот подход в корне ошибочен: сжатие — лишь один из инструментов в когнитивном арсенале разума, но никак не сам разум.

Фундаментальное различие заключается в том, что познание направлено на выживание и принятие решений в условиях абсолютной новизны и неопределенности будущего. Шолле предлагает наглядный пример:

• Представьте 10-летнего ребенка с его багажом жизненного опыта.
• Если мы создадим идеально сжатую, ультра-оптимальную программу его поведения, основанную исключительно на этих прошлых 10 годах, она окажется абсолютно беспомощной перед лицом следующих 70 лет его жизни.

Внутренние модели мира, которые строит наш разум, намеренно не являются идеально сжатыми. Интеллектуальная система обязана обладать избыточностью. Она должна сохранять массу элементов, которые кажутся совершенно бесполезными сегодня, но могут спасти систему завтра. Франсуа Шолле проводит аналогию с миром финансов и инвестиций: если сжать данные фондового рынка за последние 20 лет, идеальной стратегией покажется покупка акций Apple или Tesla. Но разумный инвестор не станет слепо копировать прошлое; он сформирует сбалансированный, диверсифицированный портфель, страхуясь от неизвестности.

Это перекликается с упоминавшимся ранее различием между локальным и экстремальным обобщением: стремление к абсолютному сжатию прошлого опыта прямо противоположно хеджированию будущих рисков. Именно поэтому дети в процессе обучения так много играют и проявляют хаотичное любопытство, впитывая «лишнюю» информацию.

Круги на воде: культурное бессмертие как смысл жизни 2:28:27

В завершение беседы Лекс Фридман задает масштабный, почти абсурдный вопрос о смысле человеческого существования. Франсуа Шолле формулирует ответ через призму нашей культурной идентичности. Мы ошибочно считаем себя полностью автономными единицами, но на деле даже наши самые интимные и глубокие мысли облечены в слова, которые мы не придумывали, и построены на ментальных концептах, созданных до нас. Человек — это сплав культуры, эхо бесчисленного множества прошлых поколений.

Именно здесь открывается путь к подлинному смыслу и человеческому бессмертию. Создавая что-то новое для коллективного культурного наследия — будь то научная теория, музыкальное произведение, новое слово или просто акт искренней доброты — мы пускаем «круги на воде», которые уходят далеко в будущее. Эти ментальные волны продолжают формировать сознание будущих людей, позволяя нашим действиям жить в их умах спустя сотни и тысячи лет.

🌌 Наследие, доброта и философские истоки интеллекта 2:30:40

Завершая глубокую дискуссию о природе разума и искусственного интеллекта, Франсуа Шолле и Лекс Фридман обращаются к экзистенциальным вопросам о том, что именно человек оставляет после себя. В финальной части беседы они подчеркивают, что наше существование представляет собой совокупность взаимодействий и «отчетов» (reports) — следов, которые мы оставляем в мире. Эти действия, совершенные в прошлом, не исчезают бесследно, а продолжают распространяться в будущем, формируя среду, в которой будут развиваться следующие поколения людей и, возможно, будущие системы сильного искусственного интеллекта (AGI).

Этический выбор как вклад в будущее 2:30:53

Франсуа Шолле предлагает рассматривать каждое действие как своего рода «рябь» на воде времени. В этом контексте он призывает к осознанности в поведении: каждый акт доброты по отношению к окружающим создает позитивные «отчеты», которые приумножаются и переходят в будущее. И наоборот, акты насилия или деструктивного поведения порождают негативные последствия, которые также продолжают жить своей жизнью, влияя на мир.

Таким образом, вопрос о том, что именно мы хотим передать будущему, становится фундаментальным этическим выбором. Для такого исследователя, как Франсуа Шолле, чья работа напрямую связана с созданием архитектур ИИ, это осознание ответственности приобретает двойную значимость: он влияет не только на человеческую культуру, но и на то, как будут устроены системы будущего.

Рене Декарт и границы машинного имитатора 2:32:12

В завершение разговора Лекс Фридман возвращается к историческим корням дискуссии, цитируя философа Рене Декарта, чей труд 1668 года Франсуа Шолле включил в свою знаковую работу «О мере интеллекта» (On the Measure of Intelligence). Декарт, предвосхищая современные дебаты о тесте Тьюринга, предлагал два критерия, позволяющих отличить машину от человека, даже если она идеально имитирует наше тело и действия.

Первый критерий заключается в способности использовать язык и знаки для выражения мыслей. Декарт признавал, что можно сконструировать машину, которая будет произносить слова в ответ на внешние стимулы, однако он считал немыслимым, чтобы такая система могла произвольно выстраивать слова в осмысленные, разнообразные ответы на любую реплику — то, что под силу даже самому неразвитому человеку.

Второй аргумент Декарта касается гибкости: даже если машина способна превзойти человека в выполнении конкретных задач, она неизбежно провалится в других, обнаруживая отсутствие понимания и опираясь лишь на предопределенное устройство своих «органов». В то время как человеческий разум — это «универсальный инструмент», применимый в любых ситуациях, машина ограничена конкретными действиями. Этот философский тезис остается центральным и в современном споре о различии между слепым копированием (мимикрией) и подлинным пониманием, который проходит красной нитью через все научное творчество Франсуа Шолле.