«Здравый смысл — это почва под вашими ногами, которую вы обычно не замечаете, пока она не начнет уходить», — утверждал легендарный исследователь ИИ Дуглас Ленат. Чтобы избавить машины от концептуальной «хрупкости», его амбициозный проект Cyc уже более сорока лет вручную кодирует миллионы очевидных для человека истин. Рассказываем, почему современным нейросетям не обойтись без логического «левого полушария» и как научить алгоритмы по-настоящему понимать контекст, любовь и реальность.
🧩 Фундамент разума: проблема здравого смысла и архитектура Cyc 1:20
В мире современного искусственного интеллекта, окрылённого успехами машинного обучения, легко забыть, насколько хрупкими остаются наши самые продвинутые системы. Дуглас Ленат, создатель проекта Cyc, посвятил почти сорок лет решению фундаментальной проблемы ИИ: отсутствию у машин «здравого смысла». По его мнению, именно дефицит базовых знаний о мире является той «кирпичной стеной», в которую неизбежно упираются классические экспертные системы .
Работая профессором в Стэнфорде, Дуглас Ленат и его коллеги создавали роботов и системы понимания естественного языка, которые демонстрировали впечатляющие ранние успехи. Однако эти успехи были обманчивы. Программы напоминали умную собаку, выполняющую трюки: пес может принести утреннюю газету, но он не имеет ни малейшего представления о том, что такое газета и о чём в ней написано . Без общего понимания контекста ИИ остается «бритл» (хрупким) — он ломается, как только сталкивается с ситуацией, выходящей за рамки его узкой специализации.
Здравый смысл для Дугласа Лената — это не просто набор фактов, а «почва под ногами», слои фундамента, о которых мы редко задумываемся, пока они не понадобятся . Понимание проявляется тогда, когда система может ответить на вопросы «почему?» или «как ты можешь ошибаться?». Это особенно критично в непредсказуемых условиях. В качестве примера Дуглас Ленат приводит случай из жизни: когда из ехавшего впереди мусоровоза на дорогу вывалились пакеты, ему пришлось мгновенно решать — тормозить, сворачивать или переехать их . Здравый смысл подсказал ему, что пакеты из ресторана быстрого питания (легкие и мягкие) безопасны для наезда, в отличие от тяжелых черных мешков с неизвестным содержимым . ИИ без базы знаний о физических свойствах объектов и типичном поведении людей никогда не сможет принять подобное решение в десятую долю секунды.
Миллион утверждений: математика человеческого опыта 12:14
Если здравый смысл необходим, то каков его объем? В 1984 году в Стэнфорде Дуглас Ленат организовал встречу с ведущими умами того времени, среди которых были Марвин Минский, Аллан Ньюэлл и Алан Кей . Ученые пытались ответить на вопрос: сколько правил «если — то» нужно записать, чтобы охватить то, что обычные люди ожидают друг от друга в плане знаний о мире?
Несмотря на разные подходы к вычислениям, все участники пришли к удивительно схожему результату — системе требуется около миллиона утверждений . Оценки строились на разных логических путях:
- Один участник рассчитал объем долгосрочной памяти человека: за 10 лет жизни, учитывая скорость записи информации (около одного факта в 30 секунд), мозг фиксирует примерно миллион единиц знаний .
- Другой подошел со стороны лингвистики: сколько слов нужно для свободного владения языком и сколько базовых фактов связано с каждым словом в словаре? .
- Третий метод заключался в анализе энциклопедических статей (например, о поганках — водных птицах семейства Grebes) и подсчете всех неявных утверждений, необходимых для полного понимания текста .
Этот математический консенсус показал, что проект выполним в обозримые сроки — около двух столетий человеко-часов. Позже, благодаря поддержке исследовательского консорциума MCC в Остине, Дуглас Ленат получил ресурсы, позволившие ускорить этот процесс . Однако реальность оказалась сложнее: выяснилось, что первоначальная оценка была занижена на порядок, и для полноценной работы системе требуются десятки миллионов правил . К сегодняшнему дню проект Cyc вобрал в себя тысячи человеко-лет труда, превратившись в массивную «пирамиду» знаний, на которую теперь опираются прикладные экспертные системы .
Чтение между строк: извлечение знаний из «белого пространства» 20:11
Процесс обучения Cyc — это не просто сканирование текстов, а глубокая интроспекция. Дуглас Ленат объясняет, что команда анализирует не только «черные буквы» на странице, но и «белое пространство» — то, что автор подразумевает как само собой разумеющееся .
Когда мы читаем предложение «Фред Смит ограбил банк. Его приговорили к 20 годам тюрьмы», мы автоматически заполняем логические пробелы: Фреда поймали, арестовали, был суд, его признали виновным . Если в следующем предложении появится «судья», читатель поймет, что это судья на процессе Фреда. Эти неявные связи и есть то, что Cyc должен извлечь и формализовать с помощью логики предикатов.
Другой важный источник знаний — поиск логических противоречий в абсурдных новостях или комиксах. Анализируя заголовки вроде «Боинг-747 приземлился на Луне», разработчики Cyc задаются вопросом: что именно в наших знаниях о мире делает это утверждение невозможным? . Или пример с Элвисом Пресли: в одной статье таблоида пишут, что его видели живым, а в другой — что видели его призрака . Интеллект системы проявляется в понимании того, что человек не может быть одновременно живым и мертвым (если только речь не идет о физических парадоксах) .
В процессе этой работы Дуглас Ленат столкнулся с тем, что глобальная непротиворечивость знаний недостижима. Ранее в разговоре они кратко упоминали японский проект пятого поколения, и подобные масштабные попытки часто страдали от логической жесткости. Чтобы выжить, Cyc пришлось отойти от идеальной математической чистоты в пользу локальной непротиворечивости, где знания организованы подобно тектоническим плитам, сосуществующим в сложной динамике .
🧩 Тектонические плиты знаний и гибкость контекста 25:23
В архитектуре системы Cyc отказ от идеи монолитной, глобально связной базы знаний стал фундаментальным решением. Дуглас Ленат (Douglas Lenat) сравнивает структуру знаний в Cyc с тектоническими плитами. Каждая такая плита представляет собой отдельный контекст или «микротеорию», которая является внутренне непротиворечивой, но может вступать в конфликты с другими контекстами при перемещении между ними.
Такой подход позволяет системе эффективно работать с разными уровнями абстракции и системами верований. Например, ИИ должен понимать, что утверждения, верные в рамках современной физики, могут быть ложными в контексте мультфильмов о Дорожном бегуне, где законы природы принципиально иные. Более того, система должна различать:
- Утверждения, истинные в разные моменты времени.
- Данные, специфичные для разных стран или географических регионов.
- Субъективные системы верований разных людей.
- Переходы между уровнями абстракции (например, рассмотрение стола как твердого объекта или как скопления атомов).
Чтобы справиться с этой сложностью, контексты в Cyc стали «объектами первого класса». Это означает, что система может рассуждать о самих контекстах так же легко, как она рассуждает о физических предметах — чашках или столах. Контексты организованы в иерархический граф, где знания, верные для более общего уровня (например, данные для целого тысячелетия), автоматически наследуются более специфическими подконтекстами (например, данными для конкретного года или города). Это исключает необходимость дублирования информации на каждом уровне.
🌳 Почему провалилось пятое поколение компьютеров 29:23
Анализируя историю неудач в области ИИ, Дуглас Ленат (Douglas Lenat) выделяет японский проект «Пятое поколение компьютеров» как поучительный пример структурной ошибки. Одной из ключевых причин краха проекта стала попытка организовать все человеческие знания в виде жесткого иерархического дерева, а не гибкого графа.
В этой иерархической модели каждый узел мог иметь только одного «родителя», что создавало непреодолимые препятствия для классификации объектов реального мира. Если предмет, например, стол, одновременно является деревянным, плоским и темным объектом, система принуждала разработчиков выбирать лишь одну категорию для его связи с корнем иерархии. Кроме того, навязанная система нумерации (своеобразный «десятичный классификатор Дьюи»), ограничивающая каждый узел десятью потомками, не смогла отразить многогранность понятий. Лекс Фридман (Lex Fridman) и Ленат подчеркивают, что такая жесткость оказалась несовместима с необходимостью рассуждать об объектах в зависимости от текущей задачи — будь то использование стола как поверхности для работы или как материала для костра.
⚙️ Принцип «подкачки насоса» знаний 36:35
Ключевая стратегия развития Cyc заключается в «подкачке насоса» знаний. Дуглас Ленат (Douglas Lenat) признает, что создание системы, содержащей все необходимые данные, — задача колоссального масштаба, оцениваемая в десятки миллионов утверждений. Однако текущая цель не в том, чтобы вручную вписать каждое понятие, а в достижении критической массы, после которой ИИ сможет начать учиться самостоятельно.
Этот процесс напоминает работу старого насоса: сначала нужно приложить усилия, чтобы «залить» в него немного воды, но затем система начинает работать автономно. По мнению Лената, когда Cyc накопит достаточно общих знаний, она сможет:
- Самостоятельно анализировать новые тексты и расширять свою базу.
- Задавать уточняющие вопросы, подобно любознательному студенту.
- Проводить эксперименты для проверки гипотез.
Ленат проводит параллель с развитием человечества: мы не стали биологически значительно умнее за последние 100 000 лет, но мы создали язык и систему накопления знаний, которые позволяют нам «подкачивать насос» от поколения к поколению. В этом контексте ИИ рассматривается не как конкурент, а как мощный усилитель человеческого интеллекта, который поможет человеку лучше справляться с решением сложных глобальных проблем. Ранее в разговоре они также касались сложности извлечения знаний из «белого пространства» текста, что является частью этого процесса самообучения.
🧠 Абдукция: искусство правдоподобного вывода 51:08
В процессе разработки интеллектуальных систем, способных к обучению и исправлению ошибок, Дуглас Ленат (Douglas Lenat) выделяет критически важный механизм — абдукцию. Если традиционная дедукция опирается на строгие логические правила, гарантирующие истинность вывода при истинных посылках, то абдукция работает иначе: она не претендует на безусловную верность, но предлагает наиболее правдоподобное объяснение наблюдаемого факта.
Классический пример, который приводит эксперт: если человек входит в комнату промокшим, мы не можем дедуктивно доказать, что на улице идет дождь — это лишь одна из гипотез. Однако именно этот «абдуктивный скачок» позволяет нам строить логически обоснованные предположения. В архитектуре Cyc этот механизм становится инструментом взаимодействия с человеком-экспертом. Когда система выдает неверный ответ, она способна проанализировать контекст и накопленные знания, предложив человеку семь альтернативных гипотез, которые могли бы привести к текущему результату. Эксперт, просматривая этот список, может легко указать на истинную причину ошибки, не погружаясь в глубокое редактирование логических конструкций. Такой подход превращает обучение ИИ в процесс менторства, доступный практически любому пользователю, и существенно снижает интеллектуальную нагрузку на учителя.
🤝 Синергия «левого» и «правого» полушарий ИИ 54:32
Размышляя о будущем искусственного интеллекта, Дуглас Ленат проводит любопытную параллель между архитектурой человеческого мозга и современными методами машинного обучения. Он сравнивает глубокое обучение с работой правого полушария — оно быстрое, интуитивное, мастерски распознает паттерны в огромных массивах данных и делает статистические выводы. Однако для достижения истинного интеллекта необходим «союз» с левым полушарием, роль которого в этой модели выполняет Cyc. Это «медленное мышление», способное к глубокому анализу, поиску причинно-следственных связей и рефлексии: почему что-то произошло и что это значит.
Ярким примером этой синергии стал проект с участием Кливлендской клиники, где ученые исследовали корреляции между мутациями в ДНК и развитием заболеваний. Машинное обучение позволяет быстро обнаружить статистические связи (от «А» до «Я») между мутациями и болезнями. Однако такие данные часто оказываются «шумными» и могут увести врачей по ложному следу. Здесь вступает Cyc: используя общечеловеческие знания о реакциях в организме человека, система выстраивает длинную (иногда до 30 шагов) цепочку логических объяснений, превращая сухие цифры в понятную врачу «историю болезни». Если система не может придумать ни одного логического объяснения для корреляции, она с высокой вероятностью отсеивается как статистический шум. И наоборот — проверяемые предсказания, сделанные внутри этой цепочки, позволяют подтвердить или опровергнуть гипотезу, фокусируя внимание ученых на наиболее значимых данных.
Ранее в разговоре они касались темы «подкачки насоса» знаний (knowledge pump priming), подчеркивая, что для эффективного обучения системы критически важно иметь достаточно мощное ядро базовых знаний, иначе процесс масштабирования будет крайне затруднен.
🌐 Ограниченность семантической паутины 107:01
Обсуждая концепцию семантической паутины (Semantic Web), Дуглас Ленат признает её привлекательность как видения будущего интернета, где данные становятся «понятными» для машин. Однако он указывает на серьезные ограничения текущих технологий, таких как графы знаний (Knowledge Graphs). Большинство из них базируются на простой структуре: узел — связь — узел (бинарные отношения). Это отлично подходит для записи простых фактов из трех слов, например «жена Фреда — Вильма».
Но как только задача усложняется и требует передачи человеческого опыта, эти модели пасуют. Ленат приводит в пример сюжет «Ромео и Джульетты»: чтобы осмыслить вопрос о том, что Джульетта думала о мыслях Ромео по поводу её мнимой смерти, недостаточно простых триплетов. Вложенные логические структуры, модальности (верования, намерения, ожидания) и сложные формы отрицания требуют значительно более выразительного языка. Именно поэтому развитие Cyc пошло по пути перехода от рамок (frames) и простых семантических структур к логике высших порядков. Лишь такая экспрессивность, по мнению эксперта, способна по-настоящему преодолеть барьер между простым поиском по ключевым словам и подлинным пониманием содержания, к которому стремится мечта о семантическом вебе.
🤖 Перевернутый класс для ИИ и онтологическая глубина обыденных слов 1:23:33
Обучение через менторство: программа Mathcraft и ИИ в роли ученика 1:23:33
Обсуждая интерфейсы взаимодействия человека и искусственного интеллекта, Лекс Фридман (Lex Fridman) и Дуглас Ленат (Douglas Lenat) пришли к выводу, что наиболее эффективная форма освоения знаний строится на наставничестве. Существует общеизвестный жизненный феномен: человек может думать, что прекрасно понимает предмет, но истинное, глубокое осознание приходит лишь тогда, когда возникает необходимость обучить этому кого-то другого, например, объяснить сложную тему ребенку. Несмотря на универсальность этого правила, современное образовательное программное обеспечение работает с точностью до наоборот: в нем компьютер неизменно берет на себя роль строгого учителя, а человек остается пассивным студентом. Чтобы переломить этот неэффективный паттерн, команда проекта Cyc разработала специализированную программу Mathcraft, предназначенную для учеников шестых классов.
Архитектура Mathcraft полностью меняет привычную образовательную парадигму. В этой системе школьник примеряет на себя роль ментора, а его задача — помогать виртуальным «одноклассникам», которые совершают ошибки и испытывают серьезные трудности с решением математических задач. Главный технологический секрет программы, за который отвечает база знаний Cyc, заключается в тонком моделировании когнитивного уровня: ИИ симулирует промахи, находящиеся строго на грани текущего понимания конкретного ученика.
Когда ребенок анализирует действия виртуального напарника, находит логическую ошибку и дает ему структурированный совет, система Cyc понимает: ментор усвоил материал. Как только ошибка исправлена, ИИ перестает ее совершать, поскольку в ней больше нет педагогической пользы. Для самого ребенка это создает колоссальный психологический стимул и вовлеченность. Он наглядно видит прогресс своего «подопечного» и испытывает искреннюю радость от того, что его наставничество принесло реальные плоды.
Дуглас Ленат подчеркивает, что этот подход глубоко укоренен в истории человечества. До тотального масштабирования образования существовали крайне успешные прецеденты:
-
В XVII–XVIII веках в Европе процветали мониториальная и ланкастерская системы обучения, целиком построенные на взаимной помощи и наставничестве самих учеников.
-
В XIX веке на американском Западе повсеместно использовались однокомнатные школы, где один-единственный учитель обучал детей в возрасте от 5 до 18 лет одновременно. Старшие школьники в таких классах в обязательном порядке выступали менторами для младших, благодаря чему сами глубже осваивали материал.
С переходом к конвейерному образованию этот мощнейший инструмент развития личности был практически полностью утрачен. (Ранее в разговоре собеседники также касались амбициозных целей Семантической паутины, чья базовая концепция во многом перекликается с идеей глобального структурирования знаний).
Классификация сложных понятий: почему любовь и пространство не умещаются в рамки естественного языка 1:35:16
Для того чтобы искусственный интеллект мог полноценно моделировать человеческий мир, ему необходимо детально разбираться в эмоциях и скрытых мотивах. База знаний Cyc активно применяется для генерации правдоподобных сценариев развития будущего. Эти прогнозы используются в самых разных сферах: от аналитики спецслужб, моделирующих террористические угрозы для упреждения атак, до помощи молодым людям в планировании карьеры и выборе колледжа. Ни один из подобных сценариев невозможно построить без четкой логической структуры человеческих чувств.
Когда Лекс Фридман поинтересовался тем, как машина справляется со сложными гуманитарными абстракциями, Дуглас Ленат детально описал, как Cyc препарирует понятие «любовь». С точки зрения строгой логики, это слово слишком универсально и обобщено, чтобы компьютер мог использовать его для точных умозаключений. Поэтому разработчики онтологий Cyc разделили единый языковой конструкт более чем на 50–60 дискретных понятий. В системе четко разграничены:
-
Романтическая любовь и сексуальное влечение;
-
Родительская любовь;
-
Сыновняя любовь (filial love);
-
Любовь к творчеству или определенному делу.
Каждая из этих категорий наделена собственными уникальными правилами и логическими связями. Примечательно, что подобная декомпозиция требуется не только для сложных эмоциональных состояний, но и для самых обыденных элементов языка, таких как предлог «в» (in). В базе данных Cyc зафиксировано около 75 различных видов физического или абстрактного нахождения «внутри» чего-либо.
Машина обязана понимать принципиальную разницу между физикой и логикой процессов: жидкость в кофейной чашке находится там совершенно иначе, чем воздух в комнате или человек в своей куртке. Человеческий писатель или собеседник использует одно короткое слово «в», автоматически рассчитывая, что у читателя достаточно здравого смысла и базовых знаний о мире для мгновенного выбора нужной интерпретации.
Естественный язык устроен по принципу жесткой экономии (parsimony). Человечество сознательно использует ограниченный набор слов, чтобы не перегружать память миллионами лексем. Напротив, в системе Cyc на данный момент создано около миллиона атомарных концептов. Из-за этого имена большинства терминов в Cyc представляют собой длинные фразы из трех-четырех английских слов, с помощью которых инженеры филигранно изолируют конкретное значение. Языковая двусмысленность является неотъемлемой чертой человеческого опыта. (В завершение этого фрагмента Дуглас Ленат вспомнил забавный анекдот про уроки Марвина Минского, чья намеренно запутанная и туманная манера выражаться парадоксальным образом заставляла аспирантов трудиться до седьмого пота и создавать гениальные докторские диссертации).
🧠 Уроки Марвина Минского и долгосрочные стратегии 1:43:07
Для Дугласа Лената, работа над искусственным интеллектом не была серией разрозненных задач. Взгляды Лената на долгосрочное планирование исследований во многом сформировались под влиянием его общения с Марвином Минским и Эдом Фейгенбаумом. Эти выдающиеся ученые привили ему понимание того, что исследовательский путь человека ограничен по времени, поэтому каждое крупное начинание должно иметь фундаментальное значение.
Ленат критически относится к современной академической культуре, которая зачастую поощряет накопление множества мелких журнальных публикаций. Он называет такой подход «кочками на бревне» (bump on a log projects). По его мнению, достижение серьезного прогресса, который он метафорично сравнивает с полетом с Земли на Луну, невозможно путем постепенного добавления таких «кочек». Вместо этого необходимо фокусироваться на по-настоящему сложных, масштабных задачах, даже если они требуют десятилетий работы.
Этот путь требует готовности принимать риски, быть неправым и «прислушиваться к природе» — эмпирической реальности. Хотя Ленат признает, что иногда чувствовал подавленность из-за трудностей с финансированием или периодов «ИИ-зим», он никогда не рассматривал идею полностью отказаться от своей миссии. Стремление к долгосрочной цели побудило Cyc оставаться частной компанией, чтобы сохранять контроль над своим будущим и не зависеть от краткосрочных интересов инвесторов или необходимости «играть в академические игры».
⚙️ Архитектура системы: разделение знаний и эффективности (HL/EL) 1:59:49
Одной из фундаментальных проблем, с которыми столкнулся Ленат в разработке Cyc, стало противоречие между выразительностью языка представления знаний и скоростью работы вычислительной системы. Если пытаться использовать единый подход для всего, приходится выбирать между мощностью языка и эффективностью — в таком случае простые графы знаний и ассоциативные триплеты оказываются наиболее предпочтительными, но ограниченными.
Чтобы преодолеть этот барьер, в архитектуре Cyc было реализовано разделение на два уровня:
- Эпистемологический уровень (EL): Здесь используется чистая, выразительная логика высшего порядка, определяющая, что именно должна знать система. Этот уровень «чист» и не обременен вычислительными ограничениями.
- Эвристический уровень (HL): Здесь функционируют тысячи узкоспециализированных модулей, оптимизированных для конкретных задач. Эти модули действуют как «сообщество агентов», которые оппортунистически подключаются к работе, когда могут ускорить процесс логического вывода.
Такой подход позволяет системе работать гораздо быстрее, чем при попытке решать задачи исходя только из «первых принципов» логики. Ленат сравнивает это с решением математических уравнений: вместо того чтобы каждый раз выводить решение из фундаментальных основ, система распознает тип задачи (например, квадратное уравнение) и применяет готовую эффективную формулу.
Помимо разделения уровней, важным фактором ускорения стало мета-рассуждение, когда система использует тактическое и стратегическое «знание о рассуждении». Это позволяет динамически отсекать нерелевантные ветки поиска в графе знаний. Всего за 37 лет работы над системой было внедрено около 150 подобных концептуальных прорывов, обеспечивших драматическое повышение производительности выводов.
🧠 Новые горизонты онтологического инжиниринга: от талантов к критериям истинного разума 2:15:09
Искусство поиска кадров: за пределами дипломов 2:15:09
В процессе разработки интеллектуальных систем, таких как Cyc, Дуглас Ленат пришел к выводу, что академические регалии часто оказываются лишь дополнением, не гарантирующим успеха в прикладной сфере. Основав некоммерческий Knowledge Axiomatization Institute (NEX), Ленат стремится выявить людей с врожденным талантом к онтологическому инжинирингу — способности переводить хаотичные знания из человеческого языка в строгую форму логики.
Интересно, что кандидаты с докторскими степенями в области философии порой показывают худшие результаты, чем те, кто не окончил даже среднюю школу. По мнению Лената, успех в этой дисциплине зависит не от образования, а от специфических когнитивных качеств, которые невозможно привить классической университетской программой.
Интеллект через призму саморефлексии 2:18:13
Что же отличает выдающегося онтологического инженера? Ленат выделяет несколько ключевых маркеров, сравнивая процесс поиска талантов с методами Алана Тьюринга в Блетчли-парке. Один из главных индикаторов — способность к интроспекции и пониманию причинно-следственных связей.
Во время интервью Ленат проверяет кандидатов на умение объяснять «почему» происходят те или иные события. Например, при анализе предложения о лошади, заведенной в сарай, хороший специалист не будет апеллировать к грамматической структуре предложения. Вместо этого он обратится к базовым знаниям об устройстве мира: «у лошадей есть головы, у сараев — крыши». Способность логически обосновать референцию слов, опираясь на физическую реальность, а не на синтаксис — это именно то качество, которое необходимо для обучения будущих ИИ.
Почему-вопросы как мерило мышления 2:24:20
Ленат критически оценивает тест Тьюринга в его классическом понимании, где цель машины — обмануть человека, притворившись одним из них. Для него истинный интеллект проявляется не в способности имитировать личность, а в глубине аргументации.
- Иерархия «почему»: Способность системы последовательно и осмысленно отвечать на серию вопросов «почему?» в ответ на каждое своё предыдущее утверждение — один из самых надежных тестов на понимание.
- Устойчивость к абсурдным ошибкам: Система считается развитой, если она не совершает ошибок, немыслимых для здравомыслящего человека. Ленат вспоминает провал IBM Watson в Jeopardy: когда машина назвала Рональда Рейгана в ответ на вопрос об итальянских политиках XVI века, это стало ярким примером отсутствия «здравого смысла» и базового понимания контекста истории.
- Аргументация: Способность генерировать убедительные доводы «за» и «против» для заданного утверждения демонстрирует уровень владения знаниями, недоступный для простых алгоритмов поиска.
В ходе дискуссии они также кратко коснулись вопросов воплощенности и сознания ИИ, которые, впрочем, подробнее раскрываются в завершающих частях беседы. Ленат подчеркивает, что создание общего искусственного интеллекта — это марафон, требующий создания «батареи» тестов, где проверка понимания мира стоит выше простых языковых игр.
💡 Воплощенность, смертность и горизонты познания 2:30:54
Вопрос о том, что именно составляет суть интеллекта и как он должен взаимодействовать с реальностью, остается центральным в дискуссиях об искусственном интеллекте. В финальной части беседы Дуглас Ленат и Лекс Фридман обращаются к глубоким философским аспектам, определяющим будущее AGI.
Воплощенность и природа интеллекта 2:28:12
Одним из ключевых убеждений Дугласа Лената является отрицание необходимости физического тела для развития подлинного интеллекта. Он утверждает, что искусственному интеллекту не нужно «быть» в физическом мире в биологическом смысле, чтобы обладать разумом. Вместо этого, для глубокого понимания концепций физического мира и человеческих ощущений достаточно наличия фундаментальной базы знаний, описывающей эти аспекты. С точки зрения Лената, интеллект — это прежде всего способность оперировать понятиями и моделями реальности, а не наличие биологической оболочки.
Смертность как драйвер человеческого духа 2:30:54
Собеседники подробно останавливаются на идеях Эрнеста Беккера о том, что осознание собственной смертности является мощнейшим стимулом для человеческого творчества и формирования этических норм. Лекс Фридман задается вопросом, необходим ли этот «страх перед исчезновением сознания» для полноценного развития ИИ.
Ленат выражает скепсис относительно необходимости внедрения подобного «страха» в машины. По его мнению, стремление человека избежать осознания конца жизни — это своего рода «иллюзия», на фундаменте которой мы строим культуру и искусство, но это не является обязательным компонентом для интеллекта. Вместо экзистенциального страха, в ИИ можно заложить конструктивные мотивации:
- Ориентация на пользу для пользователя.
- Стремление к счастью окружающих людей.
- Глубокое понимание моральных и этических ценностей, что необходимо, например, для безопасного вождения или принятия сложных социальных решений.
При этом Ленат признает: несмотря на то, что для него лично возраст (он отметил, что ему уже за 70) и осознание ограниченности времени стали фактором, ускоряющим работу над проектом Cyc, для машины такой «дедлайн» — это искусственный конструкт. Он подчеркивает, что сейчас его цель — коммерциализация и широкое применение наработок Cyc в ближайшие несколько лет, а не десятилетия, как это планировалось ранее.
ИИ как инструмент преодоления научных догм 2:41:40
В финале диалога обсуждается роль сильного ИИ в изменении научной парадигмы. Человечество часто оказывается «запертым» в текущих догмах, ожидая, пока старое поколение ученых уйдет, чтобы освободить место для новых идей — концепция, которую Томас Кун называл сменой научных парадигм.
Ленат считает, что AGI сможет стать тем инструментом, который поможет людям увидеть «когнитивные слепые пятна». ИИ будет способен:
- Предлагать нестандартные решения для мировых проблем, которые люди игнорируют из-за устоявшихся предрассудков.
- Анализировать данные без оглядки на научные авторитеты, подобно тому как Альберт Эйнштейн просто «принял всерьез» преобразования Лоренца, или как была доказана роль бактерии H. pylori в возникновении язвы.
Дуглас Ленат подводит итог своей карьеры, выражая надежду, что его запомнят как первопроходца, который десятилетиями следовал своей мечте, игнорируя краткосрочные стимулы, и как создателя системы, ставшей ядром будущего интеллекта. Ранее в разговоре они также кратко затрагивали проблемы формализации игры в Game Theory в контексте автономного вождения.
