Глубокое обучение — это лишь распознавание образов, но истинный разум требует дискретного синтеза программ. Франсуа Шолле утверждает, что мы зашли в тупик с текущими LLM, и предлагает переосмыслить интеллект как способность эффективно осваивать новые навыки в условиях ограниченных данных, подобно тому, как это делают дети.
🧠 За пределами масштабирования: почему нейросети — это не разум 2:27
Современная индустрия искусственного интеллекта охвачена верой в «гипотезу масштабирования» (scaling hypothesis) — убеждение, что простое увеличение вычислительных мощностей и объемов данных рано или поздно приведет к возникновению сильного ИИ (AGI). Однако Франсуа Шолле (François Chollet), создатель Keras и ведущий исследователь Google, считает этот путь тупиковым для достижения истинного интеллекта. По его мнению, мы путаем прогресс в области аппроксимации функций с прогрессом в области мышления.
Критика гипотезы масштабирования: ловушка интерполяции 2:27
Для Франсуа Шолле текущий успех больших языковых моделей (LLM) выглядит впечатляющим, но «разочаровывающим» с точки зрения науки. Основной аргумент сторонников масштабирования заключается в том, что при достижении определенного порога параметров и данных у моделей возникают «эмерджентные» способности. Шолле парирует: то, что мы принимаем за интеллект, зачастую является лишь невероятно эффективной игрой в память.
Большие языковые модели работают как гигантские интерполяционные базы данных. Когда мы оцениваем производительность LLM, мы на самом деле измеряем, насколько хорошо модель запомнила фрагменты человеческих знаний и насколько удачно она может восстановить их в знакомом контексте.
- Векторные функции вместо программ: LLM — это, по сути, непрерывные векторные функции, которые сопоставляют входные данные с выходными. Они не создают новые алгоритмы решения задач, а лишь перемещаются по сложной многомерной поверхности, которую они выучили в процессе обучения.
- Иллюзия понимания: Модель может имитировать стиль Шекспира или писать код, потому что она видела миллионы подобных примеров. Но как только задача требует выхода за пределы выученного распределения данных (out-of-distribution), система «ломается», обнажая отсутствие гибкого разума.
Шолле подчеркивает: если вы решаете задачу путем простого поиска в памяти или интерполяции между известными точками, вы не используете интеллект. Истинный разум проявляется там, где данных мало, а задача абсолютно нова. Ранее в разговоре они кратко касались того, как наше сознание управляет мышлением «Системы 2», и это радикально отличается от статистического вывода нейросетей.
Гипотеза калейдоскопа: атомы смысла в хаосе мира 10:18
Если мир вокруг нас бесконечно разнообразен, как интеллект умудряется в нем ориентироваться? Франсуа Шолле предлагает «гипотезу калейдоскопа». Суть её в том, что реальность не является хаотичным набором уникальных событий. Напротив, она состоит из ограниченного набора базовых «атомов смысла», которые постоянно повторяются, трансформируются и комбинируются.
Интеллект, в понимании Шолле, — это способность извлекать эти уникальные абстракции и использовать их как строительные блоки для создания моделей реальности «на лету».
«Большая часть интеллекта — это умение выделять повторяющиеся атомы смысла из шума и собирать из них объяснительные модели для новых ситуаций».
Процесс познания работает в два этапа:
- Восприятие: распознавание знакомых паттернов в калейдоскопе данных.
- Синтез: сборка новой локальной модели для решения конкретной проблемы.
Это позволяет человеку эффективно действовать в ситуациях, которые становятся «новыми с каждым мгновением». В отличие от нейросетей, которым нужны триллионы примеров, человек способен понять принцип работы нового механизма или правила игры, увидев всего одну или две демонстрации.
Ограничения глубокого обучения и потребность в синтезе программ 13:41
Фундаментальное ограничение глубокого обучения (Deep Learning) заключается в его природе: это движок для распознавания образов на непрерывных кривых. Франсуа Шолле, написавший одну из самых популярных книг по этой теме, признает, что глубокое обучение — это великолепный инструмент для восприятия, но не для логики.
Дискуссия о будущем ИИ часто упирается в разрыв между двумя типами систем:
- Непрерывные системы (Нейросети): работают с градиентным спуском, оптимизируют параметрические кривые и отлично справляются с задачами типа «это похоже на то».
- Дискретные системы (Программы): работают с четкими правилами, условиями и циклами. Это то, чем занимаются программисты — написание дискретных алгоритмов для решения задач.
Шолле утверждает, что настоящий интеллект — это не просто «гладкая кривая», а синтез программ. Когда мы сталкиваемся с новой задачей, наш мозг не просто подбирает подходящий вектор, он быстро «пишет» внутреннюю программу для её решения.
Проблема современных LLM в том, что они пытаются имитировать дискретную логику программ с помощью непрерывных функций. Это приводит к фундаментальной хрупкости: нейросеть может выдать ответ, который выглядит правильным на 90%, но содержит критическую ошибку в логике, потому что она не «понимает» жестких правил дискретного пространства. Для создания AGI нам необходимо научить системы ИИ не просто распознавать паттерны, а заниматься полноценным поиском и синтезом программ в дискретном пространстве.
🧠 Архитектура познания: от детских кубиков до эффективности обучения 25:25
Послойное конструирование разума: сенсомоторный опыт ребенка 25:25
Развитие человеческого интеллекта начинается не с загрузки готовых абстрактных баз данных или логических правил, а с активного, порой хаотичного взаимодействия с физическим миром. Этот подход, известный в когнитивных науках как конструктивизм, Франсуа Шолле (François Chollet) описывает через призму послойного построения мышления, стартующего с простейших сенсомоторных реакций. Ребенок замечает в своем окружении нечто визуально привлекательное и мгновенно формирует намерение дотянуться и схватить этот объект. В этот самый момент запускается сложная итеративная петля обратной связи: младенец строит первичный план движений, совершает физические ошибки, динамически корректирует траекторию и в конечном итоге успешно осваивает совершенно новый навык для своих последующих начинаний.
Этот масштабный процесс начинается в условиях абсолютного первоначального незнания. Шаг за шагом, исключительно через практический сенсомоторный опыт, ребенок выстраивает собственную когнитивную архитектуру и внутреннюю ментальную модель реальности. Из таких низкоуровневых физических примитивов постепенно собирается сложный внутренний мир человека. Чтобы мыслить абстрактно, человеку необходимо сначала физически сконструировать саму ткань и инструменты мышления. Мыслительные процессы на ранних этапах развития напрямую связаны с телесностью и физическими законами окружающего мира.
Здесь Франсуа Шолле (François Chollet) вскользь замечает, что ранее в разговоре они касались гипотезы калейдоскопа, и она находит свое отражение в том, как ребенок комбинирует базовые ментальные элементы для поиска смысла в новых ситуациях. Постепенно эти примитивы эволюционируют в сторону репрезентации чистых абстракций, которые извлекаются из того же самого физического опыта. При этом развитие глубоко индивидуально: разные дети демонстрируют совершенно разные темпы и тайминги освоения этих уровней познания.
Истинная метрика интеллекта: эффективность против заучивания 31:13
Когда мы пытаемся оценить интеллект искусственной системы или человека, мы часто совершаем методологическую ошибку, измеряя лишь демонстрируемое внешнее поведение или объем накопленных навыков. Однако истинный интеллект, по мнению Шолле, — это эффективность, с которой система приобретает новые навыки в условиях абсолютной новизны при жестко ограниченных данных. Поведение можно успешно симулировать за счет огромной базы данных, если система уже видела похожую задачу ранее. Настоящий же разум проявляется исключительно тогда, когда нужно выдать адекватное решение для контекста, значительно отличающегося от всего прошлого опыта. Далее в дискуссии авторы подробно разберут тест ARC, предназначенный для проверки этой способности, но здесь Шолле подчеркивает: мы принципиально не можем назвать систему по-настоящему интеллектуальной, если она не способна справляться с ситуациями, которые гарантированно не встречались ей ранее в процессе обучения.
Основой подлинного интеллекта является способность к самостоятельному построению внутренних моделей реальности. Хорошая прогностическая модель позволяет агенту успешно адаптироваться к вещам, которые находятся далеко за пределами привычного распределения данных. В этом кроется ключевое, фундаментальное отличие человеческого разума от современных больших языковых моделей (LLM). Нейросети сегодня способны преимущественно лишь к интерполяции внутри выпуклой оболочки (convex hull) того, что им уже хорошо известно из обучающей выборки. Именно поэтому LLM могут служить лишь отличной стартовой точкой для работы, но их результаты всегда требуют верификации со стороны человека.
Для измерения чистого, неприменимого к конкретной задаче интеллекта необходимо строго контролировать внешние факторы:
- Априорные знания (priors), которыми система обладает изначально до столкновения с задачей.
- Объем, качество и новизну данных, полученных в процессе адаптации.
Только зафиксировав эти переменные, мы можем математически оценить эффективность работы интеллекта. Хотя формализация интеллекта как алгоритмической эффективности чрезвычайно полезна для науки, сам процесс генерации нового знания в условиях жесткого дефицита информации остается сложнейшей вычислительной задачей.
Движок синтеза и возрастной компромисс в приобретении навыков 42:44
Человек рождается не как чистый лист, а с определенной врожденной мета-архитектурой. Франсуа Шолле (François Chollet) выделяет два ключевых компонента нашей когнитивной системы:
- Врожденный «движок синтеза» (synthesis engine), отвечающий за генерацию новых программ поведения.
- Постоянно расширяющаяся библиотека абстракций, которая пополняется на протяжении всей человеческой жизни.
Чем богаче и качественнее ваша личная библиотека абстракций, тем эффективнее работает макроархитектура вашего мышления. Вы постоянно «полируете» и совершенствуете этот внутренний инструментарий. Сам по себе синтез — это мета-наука: система, обладающая лучшим движком, способна создавать совершенно новые навыки de novo (с нуля).
Однако в этой когнитивной системе заложен жесткий эволюционный и биологический компромисс. С возрастом способность к быстрому обучению и гибкость «движка синтеза» неизбежно снижаются. Эффективность приобретения принципиально новых базовых навыков падает, поэтому Шолле дает практический совет: если вы хотите освоить фундаментальный навык, это необходимо делать в возрасте до 15 лет.
Тем не менее, старение — это не только увядание ума. Пожилые люди и опытные ученые компенсируют снижение чистой скорости обучения за счет накопления гораздо более качественных, глубоких и точных абстракций. Их ментальные шаблоны становятся устойчивыми и укоренившимися. Взрослый человек может быть гораздо эффективнее в решении сложных комплексных задач, чем 12-летний подросток, именно благодаря развитому высокоуровневому набору инструментов и шаблонов для решения проблем. В зрелом возрасте интеллектуальный труд смещается от генерации случайных догадок к тщательному коллекционированию, курированию и комбинированию проверенных ментальных шаблонов.
🧩 Корни интеллекта: Тест ARC и концепция априорных знаний 51:46
Рождение концепции ARC: ИИ-аналог теста IQ 51:46
В поисках объективного способа измерения машинного разума Франсуа Шолле (François Chollet) пришел к созданию Abstraction and Reasoning Corpus (ARC) — концепции, впервые изложенной в его фундаментальной работе On the Measure of Intelligence. Этот бенчмарк задумывался не просто как очередной огромный набор данных для обучения ИИ, а как полноценный аналог теста IQ для машин. В отличие от современных больших языковых моделей, которые обучаются на терабайтах текстов и фактически занимаются интерполяцией и заучиванием паттернов, ARC предлагает ИИ совершенно иные условия. Модели демонстрируется всего несколько примеров сетки с цветными пикселями — обычно около пяти. Задача алгоритма состоит в том, чтобы прямо на лету понять скрытую логику трансформации и «сгенерировать программу» для решения новой аналогичной сетки.
Такой подход кардинально меняет планку оценки ИИ. Вместо проверки накопленных знаний ARC измеряет способность системы адаптироваться к вещам, которые лежат далеко за пределами её изначального опыта. Это чистая проверка того, как алгоритм может генерализовать выводы на основе крайне ограниченного объема информации. Франсуа Шолле отмечает, что исследовал множество различных конфигураций и методологий, прежде чем прийти к финальной структуре ARC. Для него этот тест стал манифестом против культа масштабирования данных ради простого зазубривания. Шолле убежден: полноценный сильный искусственный интеллект (AGI) ценен именно как универсальный инструмент для решения принципиально новых, комплексных и нестандартных задач, с которыми система никогда не сталкивалась ранее.
Базовые знания (Core Knowledge) и «атомы разума» 53:52
Почему задачи ARC, кажущиеся непреодолимыми для современных нейросетей, обычный человек щелкает как орехи? Секрет кроется в так называемых априорных знаниях (Core Knowledge). Тест ARC построен на фундаменте базовых абстрактных концепций, которыми человек овладевает в самом раннем детстве — примерно к четырем годам. Франсуа Шолле метафорически называет эти интуитивные геометрические и пространственные представления «атомами знаний».
К ним относятся элементарные законы восприятия окружающего мира:
- Понимание связности и целостности объектов на плоскости.
- Представление о непрерывности движения, границах и постоянстве предметов.
- Базовые симметрии, повороты, масштабирование и геометрические трансформации пиксельных сеток.
В разработке этой концепции Франсуа Шолле во многом опирался на труды известного профессора психологии Гарвардского университета, исследовавшей врожденные когнитивные структуры у младенцев. Ранее в разговоре собеседники детально обсуждали конструктивизм и развитие детской психики, но в контексте ARC Шолле делает важный акцент. Архитектура истинного интеллекта не должна начинать обучение с абсолютно чистого листа (tabula rasa). Человеческий разум оперирует априорным базисом. При этом Шолле категорически против жесткого кодирования абсолютно всех возможных правил. Идея ARC заключается в том, что ИИ-агент должен использовать этот минимальный набор «атомов» как отправную точку для гибкого и эффективного конструирования новых навыков.
Архитектура бенчмарка и вызов для ИИ-систем 55:04
Структурно бенчмарк ARC спроектирован так, чтобы исключить любые лазейки для обмана или простого перебора со стороны алгоритмов. Полный открытый набор содержит около 900 задач, разделенных на обучающую и валидационную выборки. Однако 핵심 и главная интрига теста — это скрытый приватный тестовый набор (private test set), включающий в себя ровно 100 уникальных заданий. Во время знаменитого соревнования Kaggle в 2020 году, собравшего сотни заявок со всего мира, многие участники пытались взломать ARC через масштабирование дискретного поиска программ и брутфорс-перебор с использованием предметно-ориентированных языков (DSL), состоящих примерно из 200 примитивов. Ограничения подобных методов авторы подробно разбирали в первой главе статьи, но Шолле вновь напоминает: даже при наличии огромных вычислительных мощностей brute-force неизбежно упирается в проблему селекции из-за бесконечного числа ложных совпадений.
ARC эффективно измеряет так называемую data efficiency — то, насколько экономно система расходует данные для адаптации к новому контексту. Тестируя модель на предельно простых входных примерах, исследователи могут точно замерить вектор генерализации — как далеко разум способен зайти в абстрагировании правил. Сильный ИИ, по мнению Шолле, должен обладать полноценной предсказательной моделью, умеющей предвосхищать структуру новой проблемы и подстраиваться под неё. Размышляя над этой задачей, Шолле упоминает перспективность методов синтеза программ, а также фундаментальное отличие рассуждающего мышления Системы 2 от быстрых интуитивных ассоциаций. Однако подробный анализ методологий решения ARC и взаимодействия систем мышления относится уже к следующим главам нашего обзора.
🧠 Механика интеллекта: от интуиции к верификации
Взаимодействие систем мышления один и два 1:15:36
Франсуа Шолле (François Chollet) подчеркивает, что человеческий интеллект не является монолитным процессом; он представляет собой сложное переплетение двух режимов мышления. Система первого типа — это интуитивное, быстрое восприятие, которое критически важно для «сокращения пространства поиска» в задачах с огромным количеством возможных вариантов. Без этой способности к мгновенному отсечению нерелевантных гипотез человек просто не смог бы эффективно функционировать.
Однако интуиция сама по себе недостаточно надежна. Здесь в игру вступает система второго типа — упорядоченный, последовательный процесс верификации. В контексте когнитивной архитектуры интеллект — это не просто «глубокое обучение» или «дискретный поиск», а синергия этих двух подходов. Мозг постоянно использует интуитивные «примитивы» для формирования гипотез, которые затем подвергаются проверке. Такой тандем позволяет решать задачи, требующие как творческого синтеза, так и строгой логической проверки.
Методологии решения теста ARC 1:21:53
Обсуждая современные подходы к решению теста ARC (Abstraction and Reasoning Corpus), Шолле отмечает, что большинство методов сталкиваются с проблемой «комбинаторного взрыва». Попытки синтезировать программы для решения новых, незнакомых задач часто упираются в необходимость перебора огромного количества функций.
Инструменты, такие как Dreamcoder или системы, использующие «тестовое дообучение» (test-time fine-tuning), пытаются преодолеть это ограничение, комбинируя нейросетевое предобучение с поиском по пространству программ. Например, Dreamcoder применяет фазу обучения, которую разработчики называют «абстракционным сном» (abstraction sleep), чтобы извлекать полезные паттерны из прошлых задач и использовать их для будущих. Тем не менее, как отмечает Шолле, полагаться исключительно на «запоминание» через дообучение — это зачастую крайне неэффективный способ синтеза, который лишь имитирует интеллект, не обладая истинной гибкостью.
Проблема утечки данных и будущее ARC 1:36:27
Особое внимание Франсуа Шолле уделяет системной проблеме, возникшей в ходе использования ARC как бенчмарка. Поскольку решение постоянно тестируется на приватном датасете, происходит постепенная «утечка данных». Участники соревнований, сознательно или нет, подстраивают свои модели под специфику тестового набора, что приводит к переобучению и искажению результатов.
По словам Шолле, даже небольшое количество информации, просачивающееся из тестовой выборки, позволяет участникам «проскочить» через соревнование, не обладая при этом глубоким пониманием решаемых задач. Для борьбы с этим феноменом необходима вторая версия теста ARC, основанная на методологии двойного слепого эксперимента. Это позволит исключить возможность подгонки параметров под конкретные примеры и обеспечит объективную оценку способности моделей к обобщению, что является истинным индикатором интеллекта.
🛠️ Будущее синтеза: от нейросетей к дискретному поиску 1:40:37
Франсуа Шолле (François Chollet) предлагает переосмыслить текущий подход к разработке искусственного интеллекта, делая ставку на комбинацию глубокого обучения и дискретного поиска программ. По его мнению, использование языковых моделей исключительно как конечных «предсказателей» имеет фундаментальные ограничения. Вместо этого наиболее многообещающим направлением является роль больших языковых моделей (LLM) как эффективных генераторов гипотез и «затравок» (prompts) для последующего локального дискретного поиска программ.
Такой архитектурный подход, который можно назвать «LLM-модулем», позволяет переложить задачу поиска решения из вероятностного пространства нейросети в область формального поиска по пространству программ. Шолле отмечает, что мы должны избегать ловушки «простого» использования LLM для прямой генерации ответов, так как комбинаторный поиск в пространстве программ — это то, что действительно способно справиться со сложными задачами, требующими строгой логики. В этой схеме нейросеть лишь задает направление, значительно сокращая объем работы для алгоритмов поиска, которые затем проверяют жизнеспособность кандидатов. Ранее в разговоре они кратко затрагивали тему ограничений стандартного глубокого обучения и потенциал синтеза программ.
🤖 Разделение интеллекта и агентности 1:50:00
Одной из ключевых концепций в философии Шолле является необходимость строгого разделения понятий «интеллект» и «агентность» (intentionality). Интеллект, с точки зрения исследователя, — это не всеобъемлющая сущность, а узкоспециализированный инструмент для поиска оптимальных путей в пространстве будущих ситуаций.
Шолле предлагает рассматривать это разделение через метафору стратегий в играх жанра RTS (стратегии в реальном времени). В такой модели агентность — это способность ставить цели и проявлять интенциональность, в то время как интеллект является лишь инструментом для управления «юнитами» внутри игрового мира.
- Интеллект помогает строить модель мира и предсказывать последствия действий.
- Агентность же отвечает за выбор того, «зачем» мы вообще совершаем действия.
Отделение механизмов построения модели мира от механизмов агентности критически важно, так как позволяет создавать более прозрачные и управляемые системы. Мы не можем просто «построить AI», который обладает самосознанием, если смешиваем эти два уровня — интеллект должен оставаться функциональным инструментом, отделенным от волевых аспектов.
🌐 Экстернализация разума и коллективная культура 1:55:46
Человеческий интеллект не является изолированной величиной, заключенной внутри отдельного мозга. Большая часть нашего познания экстернализирована — она вынесена вовне через язык, культуру и науку. Шолле подчеркивает, что этот процесс формирования «распределенного коллективного интеллекта» делает человечество уникальным: мы способны загружать в свой «банк»Reusable-абстракций накопленный опыт поколений.
Когда человек изучает язык или научные теории, он по сути «скачивает» абстракции, которые были разработаны другими людьми и зафиксированы в культуре или программном коде. Это позволяет нам не «изобретать велосипед» каждый раз, а строить новое на фундаменте уже готовых, проверенных инструментов.
- Язык служит операционной системой для обмена этими абстракциями.
- Коллективная деятельность превращает индивидуальный, ограниченный объем памяти мозга в нечто несоизмеримо большее.
- Наука и программное обеспечение — это формы «замороженного» познания, которые любой человек может активировать внутри своей когнитивной системы.
Таким образом, интеллект индивида — это лишь точка входа в гигантский, распределенный процесс экстернализированного мышления. Реальное понимание мира происходит именно в рамках этого коллективного процесса, который превосходит возможности любого отдельного биологического мозга.
🧬 Архитектура разума: от воплощения к субъективному опыту
Роль физического воплощения в развитии разума
Франсуа Шолле (François Chollet) подчеркивает, что развитие интеллекта невозможно в вакууме. Для формирования базового слоя понятий, который служит фундаментом для всех последующих уровней абстрактного мышления, критически важно физическое воплощение. Интеллект не возникает из пустоты — он требует конкретной среды, в которой система может действовать, ставить цели и взаимодействовать с объектами.
Именно через этот физический опыт, основанный на наблюдении за происходящим вокруг и манипуляции предметами, выстраивается иерархия навыков. Без такого воплощения система просто лишена материала для рекомбинации опыта: если у вас нет базового взаимодействия с миром, вам нечего комбинировать для решения новых задач. В этом смысле физическое воплощение — это отправная точка, из которой произрастает вся сложность человеческого познания.
Язык как операционная система сознания
Шолле предлагает рассматривать язык не как синоним мышления, а как инструмент, отделенный от него — своеобразную операционную систему разума. Если мышление — это внутренний процесс, то язык служит механизмом, который позволяет нам «индексировать» воспоминания и конструировать сложные ментальные программы высокого уровня.
Язык предоставляет нам набор «команд», которые мы можем исполнять для достижения целей. Он позволяет совершать интроспекцию и структурировать мысли, которые в ином случае были бы хаотичными. Шолле сравнивает этот процесс с программированием: так же, как написание кода позволяет автоматизировать и упорядочить выполнение задач на компьютере, владение языком дает разуму возможность отражать самого себя и эффективнее управлять собственными ментальными ресурсами.
Градуальное развитие сознания и восприятие времени
Вопрос о том, как и когда включается сознание, остается одной из самых сложных тем. Шолле утверждает, что сознание не возникает мгновенно — это градуальный процесс развития. У новорожденных модель мира практически отсутствует; они начинают свое развитие с формирования базовых представлений о собственном теле и сенсомоторном пространстве.
Этот процесс напрямую влияет на то, как мы ощущаем время:
- В раннем детстве субъективное время течет иначе из-за ограниченности набора событий и моделей.
- По мере взросления, к 9-10 годам, накопленная база знаний и усложнение ментальных моделей достигают пика, что радикально меняет скорость восприятия времени.
- Чем больше у человека опыта и структурированных знаний, тем «быстрее» для него проходит время, так как мозг обрабатывает больше событий и паттернов.
Субъективный опыт и природа квалиа
Завершая обсуждение природы разума, Франсуа Шолле обращается к концепции квалиа — несводимого к физическим описаниям субъективного опыта. Он описывает сознание как виртуальное свойство функциональной динамики системы. То есть сознание не является чем-то, что можно «найти» в отдельных нейронах; это эмерджентное свойство того, как система обрабатывает информацию и взаимодействует со своей моделью мира.
Для Шолле вопрос о том, «каково это — быть сознательным», остается философски сложным, но он настаивает на функциональном подходе. Даже если мы понимаем, как работает обработка данных, остается неразрешенным вопрос о том, что именно делает опыт субъективным. В отличие от простых систем, развитая сознательная система обладает способностью к рефлексии над собственным внутренним состоянием, что является важным индикатором наличия такого опыта.
🔮 Иллюзии будущего: от мессианства к контролю над технологиями
Корни технологического мессианства и думеризма 2:32:01
Франсуа Шолле (François Chollet) предлагает критический взгляд на современные дискуссии об «экзистенциальных рисках» ИИ, которые часто принимают форму апокалиптических пророчеств. По мнению эксперта, популярность концепций «думеризма» (doomism) — веры в неизбежный крах цивилизации из-за ИИ — объясняется не научными данными, а глубоко укоренившимися психологическими потребностями.
Шолле проводит параллель между технологическим хайпом и религиозным мышлением. Люди подсознательно ищут смысл и нарратив, в котором они играют важную роль, и страх перед «восстанием машин» становится современной формой мифотворчества. Этот феномен подпитывается мессианским комплексом, характерным для части инженерного сообщества Кремниевой долины: разработчики склонны проецировать на свои алгоритмы статус почти божественных сущностей, способных на «интеллектуальный взрыв».
Такой подход превращает обсуждение ИИ из сугубо технической и инженерной задачи в область квазирелигиозных верований. Шолле подчеркивает:
- Ожидания «автономного интеллекта», который внезапно обретет цели и начнет захватывать мир, не имеют под собой оснований в текущей архитектуре систем.
- Идеи о «неудержимом интеллектуальном взрыве» являются лишь проекцией человеческих страхов, а не экстраполяцией реальных возможностей глубокого обучения.
- Важно разделять возможности нейросетей и приписываемую им агентность: наличие системы в «пространстве ситуаций» вовсе не означает наличие у неё воли или способности к автономному целеполаганию.
Ловушки государственного регулирования ИИ 2:40:29
Обсуждая текущие инициативы по регулированию ИИ, Франсуа Шолле высказывает скептицизм относительно их эффективности и целей. Он отмечает, что большинство предлагаемых на законодательном уровне мер, представленных как способ защиты общества, на деле могут оказаться контрпродуктивными.
Ключевая проблема, которую выделяет Шолле, заключается в том, что жесткое регулирование часто играет на руку лишь крупным корпорациям, уже обладающим значительными ресурсами. Введение сложных лицензионных требований, аудитов и бюрократических барьеров становится инструментом «защиты» рынка от независимых исследователей и малых компаний:
- Регулирование, направленное на «контроль лабораторий», фактически концентрирует власть в руках тех, кто уже её имеет, создавая своего рода «регуляторный захват».
- Многие предложения игнорируют реальные риски текущего этапа развития технологий, фокусируясь на фантастических сценариях будущего, в то время как общество нуждается в прагматичном подходе к краткосрочным последствиям внедрения ИИ.
- Шолле предостерегает от попыток централизованного «контроля» интеллекта, напоминая, что интеллектуальная деятельность сама по себе является распределенным и органичным процессом.
Ранее в разговоре они касались архитектурных ограничений моделей, однако в контексте политики Шолле настаивает: путь к безопасности лежит не через запреты, а через понимание природы того, что мы создаем. Вместо того чтобы строить «защитные стены» вокруг мифического «опасного ИИ», регуляторам следует сосредоточиться на том, как сделать инструменты полезными, а не на попытках монополизировать развитие интеллекта.
