# ИИ как когнитивный экзоскелет: конец эпохи техно-утопизма Источник: https://www.youtube.com/watch?v=1lr2HosqrBE Канал: Machine Learning Street Talk Опубликовано: 25.08.2024 --- «Искусственный интеллект — это не угроза человечеству, а когнитивный экзоскелет, призванный расширить наши возможности, а не заменить разум. Пока Кремниевая долина грезит о сверхразуме, настоящая проблема заключается в текущей ограниченности систем и неуместном регулировании, которое тормозит саму математику прогресса. Пришло время пересмотреть роль алгоритмов: от эксплуатации наших инстинктов к созданию подлинного коллективного интеллекта». ## 🧠 ИИ как новая ступень эволюции человеческого разума [[JUMP:10:31]] ### Экзоскелет для человеческого разума [[JUMP:10:31]] В современных дискуссиях о технологическом будущем часто преобладают панические настроения: общественность пугают полной заменой человека машинами или потерей контроля над цифровой средой. Однако известный ученый в области искусственного интеллекта Педро Домингос (Pedro Domingos) предлагает принципиально иную, вдохновляющую парадигму. По его глубокому убеждению, искусственный интеллект должен не вытеснять человека и не потакать его сиюминутным слабостям, а служить базовым инструментом для беспрецедентного расширения возможностей нашего разума. Технология призвана стать настоящим когнитивным «экзоскелетом». Ранее в разговоре собеседники вскользь упоминали регуляторные инициативы, концепцию «глупого компьютера» и фантастический роман Домингоса «2040», но ключевой вектор мысли профессора устремлен в практическое русло синергии человека и машины. Вместо проектирования автономных систем, которые пытаются манипулировать мнением пользователя или просто «ублажать» его эго ради коммерческой выгоды платформ, инженерам необходимо сосредоточиться на создании ИИ-партнеров. В качестве яркого примера Домингос приводит гипотетический успех интеллектуальных ботов-помощников вроде Jarvis. Подобный ассистент не подменяет собой волю владельца, а многократно масштабирует его когнитивную эффективность, помогая обрабатывать колоссальные массивы данных. Конечно, столь мощные технологии могут быть использованы во вред недобросовестными акторами. Но ученый подчеркивает: решением проблемы должна стать не бюрократия, а сам технологический прогресс. Для эффективного противодействия киберугрозам и цифровым манипуляциям обществу в будущем потребуется специализированная «ИИ-полиция». Таким образом, концепция экзоскелета разума подразумевает активную защиту и усиление человеческого потенциала, а не его консервацию. ### Механизмы коллективного принятия решений [[JUMP:13:25]] Масштабируя идею когнитивного усиления с отдельного человека на все человечество, Педро Домингос переходит к анализу глобальных социальных институтов. Он напоминает, что самым мощным и успешным распределенным механизмом в истории нашей цивилизации до сих пор являлись свободные рынки. Именно рыночная экономика научилась эффективно координировать миллиарды независимых агентов, превращая их личный эгоизм в общественное благосостояние. Однако этот инструмент создавался в глубокой древности, и сегодня он очевидно не справляется со сложными системными кризисами и провалами рынка. По мнению Домингоса, именно в сфере государственного и социального управления скрывается настоящее прорывное применение для искусственного интеллекта. С помощью передовых вычислительных систем человечество способно преодолеть хронические рыночные сбои и построить принципиально новую динамическую систему госуправления. В традиционной модели каждый субъект стремится исключительно к максимизации личной функции полезности. ИИ же позволяет рассчитывать и оптимизировать глобальную коллективную функцию ценности для всего социума в режиме реального времени. Эта технологическая парадигма выводит человечество на уровень подлинного коллективного разума, полностью преодолевая ограничения старых политических систем: * Догматичный марксизм с его жестким, неповоротливым и ошибочным централизованным планированием. * Радикальное либертарианство, которое слепо уповает на стихийные рыночные силы и игнорирует социальные дисбалансы. Интеграция ИИ в контур управления позволит обществу оперативно выявлять и бесконфликтно разрешать социальные противоречия. В результате общая интеллектуальная мощность и адаптивность цивилизации окажутся на порядок выше, чем простая сумма способностей составляющих её людей. ### Социальные сети как коллективный разум [[JUMP:19:41]] Главным полигоном для тестирования элементов будущего коллективного разума прямо сейчас выступают крупнейшие социальные сети. Такие платформы, как Twitter и Instagram, представляют собой идеальный и беспрецедентный в истории вектор для мгновенного обмена миметической информацией. Однако их текущая архитектура глубоко порочна: в погоне за коммерческими метриками вовлечения современные рекомендательные алгоритмы целенаправленно потакают импульсам нашего «рептильного мозга», из-за чего публичная дискуссия стремительно скатывается в деструктивное цифровое болото. Педро Домингос убежден, что попытки корпораций исправить ситуацию с помощью жесткой централизованной цензуры в корне ошибочны. Истинная модернизация заключается не в том, чтобы некий глобальный ИИ авторитарно решал за миллионы людей, какой контент им потреблять. Напротив, пользователям необходимо вернуть суверенитет над их информационным пространством, предоставив им гибкие инструменты и ИИ-интерфейсы для самостоятельного управления лентами. Трансформация социальных сетей в созидательную среду коллективного интеллекта требует реализации нескольких шагов: * Переориентировать алгоритмы с эксплуатации базовых эмоций (страха, ярости и хайпа) на расширение возможностей нашего разумного «млекопитающего мозга». * Внедрить персональных ИИ-помощников, помогающих пользователям отсекать токсичный шум и концентрироваться на поиске верифицированных знаний. * Сместить фокус платформ с удержания пассивного внимания на стимулирование содержательного обучения и конструктивного диалога. Обновленная экосистема условного микроблога, усиленная децентрализованными алгоритмами ИИ, превратится из источника общественной поляризации в мощную инфраструктуру для выработки коллективных решений. Это позволит человечеству перешагнуть через эпоху информационного хаоса и направить объединенную энергию миллионов пользователей на созидание. ## 🧠 В поисках Главного алгоритма: от хакерского хаоса к симметрии языка [[JUMP:27:51]] ### Единый главный алгоритм машинного обучения [[JUMP:27:51]] Идея универсальности лежит в самом фундаменте искусственного интеллекта. Педро Домингос (Pedro Domingos) возвращается к своей излюбленной концепции — поиску Единого главного алгоритма (Master Algorithm). По его мнению, суть машинного обучения заключается в существовании одного фундаментального ключа, способного открыть любые двери. Секретным соусом здесь выступают данные, а сам алгоритм остается неизменным для самых разных задач. Вместо того чтобы писать миллионы строчек кода под каждую прикладную проблему, ученые стремятся найти то единое решение, которое способно извлекать знания об устройстве мира непосредственно из входящего потока информации. Различные школы ИИ подходят к этой грандиозной задаче со своих позиций: * Символисты делают ставку на логику и формальные базы знаний. * Коннекционисты (сторонники глубокого обучения) моделируют нейронные связи. * Эволюционисты имитируют механизмы естественного отбора. Однако для достижения подлинного прорыва необходимо выйти за рамки поверхностных архитектурных улучшений. Настоящий Главный алгоритм должен объединить эти разрозненные подходы, чтобы эффективно решать любые типы задач без необходимости каждый раз переизобретать колесо. ### Противостояние «аккуратных» и «неопрятных» подходов [[JUMP:33:39]] Исторически развитие компьютерных наук двигалось циклично, колеблясь между двумя противоборствующими лагерями — «аккуратными» (neats) и «неопрятными» (scruffies) исследователями. «Аккуратные» ученые, работающие в рамках символьной парадигмы, всегда стремились закладывать в ИИ строгие, математически выверенные априорные знания и обширные базы данных. «Неопрятные» же, напротив, предпочитают гибкие хакерские решения, начиная обучение систем буквально с чистого листа и на ходу сшивая работающие куски кода. Как любит отмечать Демис Хассабис, современная индустрия ИИ сейчас находится в фазе тотального доминирования «неопрятных» инженеров. Большие языковые модели (LLM) — это яркий пример триумфа хакерского подхода, где гигантские нейросети просто поглощают терабайты текстов. Но у этого пути есть предел. Логика первого порядка слишком жестка для непредсказуемого реального мира, а некогда популярная инженерия знаний не оправдала возложенных на нее надежд. Педро Домингос убежден, что сейчас индустрия остро нуждается в возвращении к «аккуратным» методам: математической строгости и немонотонной логике. Только систематизация и строгое обобщение позволят вывести LLM на новый уровень, перестав впустую тратить колоссальные объемы электричества на экзогенное переобучение моделей. ### Обучение на основе геометрической симметрии языка [[JUMP:41:50]] Одним из наиболее перспективных мостов между хакерским эмпиризмом и строгой математикой Домингос считает концепцию геометрического глубокого обучения. Физики давно строят свои теории, опираясь на фундаментальную трансляционную симметрию Вселенной. Педро делится результатами работы своего студента, которая доказывает: человеческий язык тоже обладает обширной, хотя и скрытой группой симметрии. В лингвистическом анализе синтаксическая форма часто оказывается обманчивой, но глубинное содержание (content) остается инвариантным. Человеческий язык устроен невероятно запутанно, однако открытие его внутренней группы симметрии позволит ИИ извлекать чистый смысл из текста, полностью абстрагируясь от того, какими именно словами выражена мысль. Это меняет правила игры: вместо банального предсказания следующего токена модель учится инференсу подлинного значения, понимая, что разные языковые формы эквивалентны друг другу в рамках этой математической группы. ### Фиаско Ноама Хомского: почему данные победили врожденную грамматику [[JUMP:45:33]] Успех эмпирического подхода в работе с языком наносит сокрушительный удар по классическим лингвистическим теориям. Педро Домингос жестко критикует Ноама Хомского (Noam Chomsky) и его многолетнее доминирование в науке. Хомский утверждал, что язык невозможно выучить исключительно на основе внешних данных из-за так называемой «бедности стимула», постулируя необходимость врожденной языковой предрасположенности. Однако триумф современных нейросетей полностью опроверг эти умозаключения на практике. Машины наглядно продемонстрировали, что способны самостоятельно индуцировать контекстно-свободную грамматику, оперируя исключительно «сырыми» массивами данных. Вместо того чтобы признать очевидную неправоту, Хомский продолжает упорствовать, выдвигая все новые абстрактные вариации своих гипотез. «Проснись, Ноам!» (Wake up, Noam) — открыто иронизирует Домингос. Главный урок машинного обучения состоит в том, что реальный мир устроен гораздо сложнее и непредсказуемее любых кабинетных теорий. Трагедия Хомского в том, что он сам неспособен учиться у фактов, продолжая цепляться за догмы, в то время как инженеры каждый день доказывают обратное. ## 💻 Вычислительная природа Вселенной и сатира на Кремниевую долину [[JUMP:52:44]] ### Дискретная физика против непрерывных формул [[JUMP:52:44]] Педро Домингос (Pedro Domingos) предлагает радикально пересмотреть наш подход к пониманию физического мира. Ученый утверждает, что современная физика, опирающаяся на непрерывную математику, во многом является пережитком прошлых ограничений. Исторически ученые были вынуждены описывать реальность через непрерывные формулы, потому что у них не было иных инструментов для моделирования. Однако Домингос полагает, что Вселенная фундаментально дискретна и по своей сути является вычислительной системой. С этой позиции наш мир лучше всего описывается не дифференциальными уравнениями, а набором дискретных переменных, которые взаимодействуют друг с другом. Домингос выражает симпатию к идеям Стивена Вольфрама, который также ставит под сомнение привычную парадигму непрерывности пространства-времени. Суть подхода заключается в поиске своего рода «генерирующей функции», которая, подобно математическим объектам вроде множества Мандельброта, способна порождать наблюдаемую нами колоссальную сложность из простых правил,. В контексте искусственного интеллекта это имеет прямое следствие: продвинутая система уровня AGI должна уметь декомпозировать эту вычислительную сложность. Ранее в беседе участники затрагивали темы обучения на основе симметрии языка, и здесь Домингос подчеркивает, что развитие ИИ должно двигаться в сторону более глубокого понимания того, как информация «компилируется» в более сложные структуры, подобно программному коду, проходящему через уровни абстракции,. ### «2040»: Роман как зеркало эпохи [[JUMP:50:53]] Для того чтобы развенчать мифы об ИИ-алармизме, Педро Домингос (Pedro Domingos) написал фантастический роман «2040», который задумывался как острая сатира на Кремниевую долину и современные политические процессы. Действие книги происходит в будущем, где главные герои, Итан и Арвин, оказываются втянуты в абсурдные ситуации, отражающие текущие тренды индустрии. Один из центральных тропов романа — безумная идея выдвинуть ИИ-чатбота в президенты. Домингос описывает это как логическое продолжение одержимости общества «галлюцинирующими» чат-ботами в теле роботов,. Автор высмеивает тех, кто верит, что любую социальную или политическую проблему можно решить с помощью алгоритмов. В книге также выведен персонаж Дэвид Ньюэлл, воплощающий черты современных технологических магнатов. Домингос описывает его как фигуру, обладающую одновременно «мессианским» комплексом и жаждой власти, что является прямой карикатурой на элиту Кремниевой долины. Сюжетные линии в «2040» демонстрируют, как технологические лидеры пытаются «спасти мир» через углеродные офсетные схемы или сомнительные технологические стартапы, при этом на деле они лишь преследуют личную выгоду,. ### Пределы алгоритмического управления обществом [[JUMP:10:51]] Домингос подчеркивает, что многие технологические оптимисты совершают ошибку, полагая, что демократию можно заменить или «починить» с помощью ИИ. Автор книги «2040» скептически относится к идее, что демократический процесс — это лишь конфликт интересов, который решается эффективной оптимизацией. Согласно мнению Педро Домингоса (Pedro Domingos), главная проблема таких предложений заключается в масштабируемости. Политика не сводится к простому алгоритму принятия решений, так как она глубоко укоренена в человеческих противоречиях. В романе он показывает, что даже попытки передать управление «машине» в конечном итоге сталкиваются с человеческим фактором и непредсказуемостью реальности. В конечном итоге автор «2040» проводит параллель между текущими техно-утопическими настроениями и историческими реакционными движениями, предостерегая от слепой веры в то, что ИИ может стать единственным мерилом человеческого прогресса,. ## 🎭 Искусственный интеллект, сатира и догмы будущего Ранее в разговоре собеседники касались других аспектов профессиональной деятельности Педро Домингоса, однако в этой части дискуссии основной акцент сместился на его литературное творчество и политический контекст, который он исследует. ### Сатира как зеркало идеологического абсурда [[JUMP:1:15:29]] Педро Домингос (Pedro Domingos) использует свой сатирический роман как инструмент для вскрытия логических противоречий современной идеологии «вокизма». По мнению автора, многие радикальные требования, представленные в текущем общественном дискурсе, доведены в книге до своего логического завершения, что обнажает их деструктивную и догматическую природу. Одним из ключевых приемов Домингоса является демонстрация того, как эти идеи могут трансформироваться в требования, казалось бы, абсурдные, например, призывы к ликвидации США или обвинения в адрес коренных американцев, если их действия противоречат новой догме. Домингос подчеркивает, что это не просто «обида», а интеллектуальное мошенничество, начинающееся с искаженного восприятия реальности. Использование сатиры позволяет ему продемонстрировать нелепость происходящего, не прибегая к прямолинейной проповеди, что делает критику более острой и эффективной. Автор отмечает, что сам процесс написания книги стал своего рода экспериментом, где он наблюдает, как «вокистские» круги реагируют на подобные провокационные высказывания, доказывая, что в текущих условиях любое отступление от догмы воспринимается крайне враждебно. ### Ошибка регулирования: математика против практики [[JUMP:1:29:18]] Переходя к вопросам государственной политики, Педро Домингос выступает с резкой критикой существующих инициатив по регулированию технологий, таких как европейский «AI Act» или законопроект SB 1047 в Калифорнии. Фундаментальная ошибка, с точки зрения ученого, заключается в самой попытке регулировать «искусственный интеллект» как некое единое, монолитное понятие. Домингос утверждает, что регулирование не должно затрагивать саму математику, алгоритмы или фундаментальную науку — это было бы эквивалентно попытке законодательно запретить определенные математические уравнения. Вместо этого государственное внимание должно быть сосредоточено на конкретных сферах применения. * **Принцип целевого регулирования:** Необходимо регулировать последствия использования технологий в чувствительных областях, таких как беспилотные автомобили или медицина, где цена ошибки критически высока. * **Опасность «драконовских» мер:** Чрезмерное давление на разработчиков, включая навязывание жестких пороговых значений или создание независимых бюрократических органов, создает «ночной кошмар» для инноваций, не обеспечивая при этом реальной безопасности. * **Иллюзия контроля:** Многие законодательные инициативы, такие как запрет на распознавание эмоций в Европе, Домингос называет бессмысленными, так как они направлены против инструментов, которые могут принести значительную пользу в клинических или образовательных целях. По мнению Домингоса, интеллектуальная гордыня чиновников, которые верят в возможность управления технологическим прогрессом через запреты, ведет к усугублению неравенства и замедлению прогресса. В конечном итоге, регулирование должно быть прагматичным и привязано к конкретным индустриям, а не к абстрактному определению «ИИ», которое законодатели часто даже не могут корректно описать. ## ⚠️ Реальная опасность: почему глупость ИИ страшнее сверхразума [[JUMP:2:02:00]] Педро Домингос (Pedro Domingos) предлагает взглянуть на риски искусственного интеллекта под другим углом. В то время как общество и законодатели опасаются гипотетического сценария, в котором ИИ станет «слишком умным» и захватит власть, реальная и куда более насущная угроза заключается в прямо противоположном — в текущей глупости систем. Сегодняшние алгоритмы, несмотря на впечатляющие демонстрации, зачастую лишены фундаментального здравого смысла. Однако именно им доверяют принятие критически важных решений. Домингос подчеркивает, что проблема заключается в отсутствии у моделей подлинного понимания мира. Когда мы внедряем эти системы в сложные социальные или экономические процессы, их ограниченность может привести к непредсказуемым и разрушительным последствиям. Ирония ситуации состоит в том, что вместо ожидаемого «сверхразума» мы рискуем столкнуться с массовыми сбоями, вызванными технологиями, которые просто не знают, что они делают, работая на основе статистических приближений, а не логики. ### ⚖️ Иллюзия прозрачности против реального доверия [[JUMP:1:43:07]] Одной из главных тем в современных дискуссиях о регулировании, особенно на уровне европейского законодательства, является требование полной прозрачности работы нейросетей. Домингос считает эту «одержимость» вредной для индустрии. Требование того, чтобы модель была «прозрачной» в человеческом понимании, зачастую противоречит самой природе глубокого обучения и серьезно бьет по точности и производительности систем. Вместо принудительной прозрачности, которая является скорее техническим ограничением, эксперт предлагает сосредоточиться на построении доверия через предсказуемость. Мы доверяем другим людям не потому, что видим нейронные связи в их мозгу, а потому, что они ведут себя последовательно и надежно в повторяющихся ситуациях. Аналогичный подход нужен и для ИИ: мы должны оценивать системы по их «послужному списку» — надежности результатов и предсказуемости поведения в конкретных прикладных сценариях, а не требовать от алгоритмов быть «понятными» на низком уровне. ### 📜 Авторское право в эпоху глобального обобщения [[JUMP:1:52:12]] Вопрос использования данных для обучения нейросетей вызывает ожесточенные споры, но Домингос указывает на важный правовой нюанс: обучение ИИ на больших массивах текстов по своей сути защищено принципом обобщения (generalization). Машины не просто «копируют» информацию, они извлекают фундаментальные закономерности, что кардинально отличается от прямого пиратства. Тем не менее, текущая модель «пылесоса», собирающего данные без разбора, требует корректировки. Обществу необходим механизм, который обеспечит справедливое обратное распространение денежного вознаграждения авторам контента. Проблема в том, что нынешний режим авторского права, созданный для другой эпохи, не справляется с реальностью, где текст, созданный ИИ, может конкурировать с произведениями людей. Решение, по мнению Домингоса, лежит в создании новой законодательной базы, которая будет учитывать вклад создателей контента в обучающие выборки, делая процесс более сбалансированным для всех участников рынка. ### 📉 Пузырь LLM и необходимость фундаментального прорыва [[JUMP:2:01:57]] Сфера больших языковых моделей (LLM) на данный момент катастрофически перегрета неоправданным хайпом. Домингос проводит параллель с рыночными пузырями: колоссальные ресурсы вливаются в технологии, которые, несмотря на свою «разговорчивость», часто остаются лишь «стохастическими попугаями», не обладающими истинным знанием. Для предотвращения болезненного краха рынка индустрии требуются принципиально новые фундаментальные идеи, выходящие за рамки текущих методов обучения. Инвесторы и разработчики слишком сосредоточены на масштабировании существующих подходов, игнорируя тот факт, что для создания по-настоящему полезного, безопасного и разумного ИИ необходима интеграция техник, которые объединят мощь нейронных сетей с глубиной логического мышления. Без этого перехода нынешний взлет может смениться глубоким разочарованием, когда станет очевидно, что текущие модели достигли своего функционального предела. ## 🌌 Тензорная логика: Новый язык для науки и ИИ [[JUMP:2:07:28]] ### Унификация логики и тензорной алгебры [[JUMP:2:07:28]] В завершающей части беседы Педро Домингос (Pedro Domingos) обращается к концепции, которая может стать фундаментом для будущих прорывов в области искусственного интеллекта — тензорной логике. По мнению исследователя, современный разрыв между «аккуратным» символьным логическим программированием и «неопрятным», но эффективным миром нейронных сетей — тема, которую они затрагивали ранее, — должен быть преодолен. Тензорная логика предлагает способ объединить эти подходы. Суть этого подхода заключается в том, что все операции нейронных сетей — от базовых матричных преобразований до механизмов внимания (attention) — в своей основе являются манипуляциями с тензорами. Домингос подчеркивает, что современные архитектуры, несмотря на свою сложность и использование нелинейностей, по сути своей представляют собой переработку фундаментальных математических структур. Если рассматривать логические правила как частный случай тензорных операций, становится возможным создать единую математическую среду, где логический вывод и обучение на данных протекают по одним и тем же «тензорным правилам». ### Тензоры как универсальный язык Вселенной [[JUMP:2:10:24]] Педро Домингос проводит параллель с великими достижениями физики, отмечая, что использование тензоров — это не просто хак для нейросетей, а глубокое понимание структуры реальности. Он напоминает, что тензорное исчисление стало языком общей теории относительности именно потому, что оно позволяет описывать физические законы независимо от выбора системы координат. В ИИ происходит похожий процесс: тензорная логика стремится стать тем самым универсальным «языком науки», который позволит описывать интеллектуальные процессы вне зависимости от конкретной реализации алгоритма. Ключевая идея здесь заключается в «обобщении нулей и единиц». Традиционная булева логика оперирует бинарными значениями, тогда как тензорная логика позволяет работать с непрерывными пространствами высокой размерности, сохраняя при этом строгость логических выводов. * **Масштабируемость:** Этот подход применим к системам любого уровня сложности, потенциально охватывающим когнитивные процессы, сравнимые с мышлением всего человечества — миллиардов людей. * **Имплицитная сумма:** Использование свойств тензоров, где суммирование происходит неявно (implicitly summed over), позволяет значительно сократить объем необходимых вычислений и упростить архитектуру. * **Математическая чистота:** В конечном счете, любая сложная нейронная сеть превращается в последовательность тензорных манипуляций, что делает их описание прозрачным и проверяемым. По словам Домингоса, переход к такому пониманию делает многие текущие дебаты в индустрии бессмысленными — когда ты видишь «обнаженную» математику тензоров, сложность нейросетей кажется не магией, а «ослепительно очевидной» закономерностью.