На встрече Talks at Google вице-президент Google DeepMind Зубин Гахрамани и профессор Кембриджского университета Нил Лоуренс обсудили ключевые идеи новой книги Лоуренса «The Atomic Human». В центре дискуссии — переосмысление природы искусственного интеллекта сквозь призму человеческих ограничений и истории развития информационных технологий. Авторы предлагают отказаться от техно-нарциссизма в пользу глубокой интроспекции, чтобы понять, что на самом деле делает нас уникальными в эпоху алгоритмов.
🏷️ От академического забвения к хайпу вокруг ИИ 0:00
Зубин Гахрамани и Нил Лоуренс вспоминают, что их дружба и совместная научная работа длятся уже более 25 лет — с тех времён, когда нейронные сети ещё не были популярными. За последние два десятилетия сфера машинного обучения прошла стремительную трансформацию, превратившись из нишевой научной дисциплины в фактор колоссального общественного и геополитического значения. По шутливому замечанию Лоуренса, раньше на вечеринках его как исследователя данных пытались избегать, а сегодня он мгновенно становится центром внимания для всех, кто хочет обсудить ИИ.
По мнению Нила Лоуренса, переломный момент в общественном восприятии наступил, когда Ян ЛеКун объявил о запуске лаборатории искусственного интеллекта в Facebook. Лоуренс вспоминает, что в те дни шла скрытая коммерческая борьба за покупку британского стартапа DeepMind, который в итоге приобрела компания Google.
Использование громкого термина «искусственный интеллект» вместо привычных «машинного обучения» или «статистики» кардинально изменило характер дискуссии. Лоуренс утверждает, что идея «решения проблемы интеллекта» изначально казалась ему бессмысленной, поскольку интеллект — это не проблема, которую нужно решить, а характеристика конкретной системы в её контексте. Сейчас же, по словам гостя, сфера наводнена людьми, желающими продвинуть собственные теории интеллекта, а также искателями легкой наживы и хайпа.
🚗 Аналогия с душем: почему людям не нужно понимать код 6:19
Книга «The Atomic Human» изначально создавалась для широкой аудитории, а не только для технологов. Главная цель Лоуренса — расширить возможности обычных людей, вернуть им уверенность перед лицом технологий и показать, что они способны понимать суть происходящих процессов не хуже профильных экспертов.
Для иллюстрации Лоуренс приводит личный пример из поездок по США, где его часто смущает устройство отельных душей с одной поворотной ручкой. Ему как инженеру понятна физика процесса — смешивание горячей и холодной воды и её принудительная циркуляция в системе здания. Однако для обычного пользователя важно совершенно другое:
- Понимать, в какую сторону и насколько повернуть ручку, чтобы настроить комфортную температуру.
- Уметь безопасно и эффективно использовать этот инструмент в повседневной жизни, не углубляясь в устройство труб.
По мнению спикера, аналогичный подход применим к автомобилям и ИИ. Обществу активно навязывают мысль, будто ИИ слишком сложен для понимания неподготовленного человека. Однако людям нужно обсуждать не внутренние математические алгоритмы, а то, как управлять этой технологией и как её внедрение влияет на социальные институты. Лоуренс считает концепцию сильного ИИ (AGI) абсолютным абсурдом, но признает, что технология является невероятно трансформирующей и требует активного вовлечения граждан в дискуссию.
📦 Контейнеризация и незаметные революции 9:15
Гахрамани отмечает, что ребрендинг машинного обучения в «ИИ» выглядит забавно: вряд ли глобальный форум под названием «Международное сотрудничество в области компьютеров и статистики ради человечества» привлек бы столько же внимания медиа и политиков. Тем не менее, изменения глубже, чем простая смена вывески.
Нил Лоуренс сравнивает текущую ситуацию с процессом контейнеризации в логистике 1960–1980-х годов. Внедрение стандартных грузовых контейнеров полностью перекроило глобализацию и привело к забастовкам докеров из-за резкого сокращения потребности в ручном труде. Лоуренс приводит пример: благодаря контейнеризации креветки, выловленные у берегов Шотландии, можно заморозить, отправить на переработку в Китай и вернуть обратно без существенного удорожания продукта и без огромного углеродного следа, если везти их кораблем, а не самолетом.
Эта масштабная инженерная революция произошла практически незаметно для широких масс, но повлекла за собой колоссальные долгосрочные последствия для мировой экономики и общества. То же самое, по мнению Лоуренса, происходит сегодня с ИИ: технологические изменения идут полным ходом, но голоса экспертов, понимающих реальные downstream-эффекты (социальные последствия), часто тонут в общем информационном шуме.
🚲 Интеллект как сущность и как характеристика 11:53
Для преодоления путаницы Лоуренс предлагает строго разделять интеллект как самостоятельную сущность (entity) и интеллект как свойство или характеристику (characteristic) системы. Когда мы говорим об интеллекте как о понятии, оно близко к таким абстракциям, как «красота» или «непристойность» — мы все интуитивно понимаем смысл, но не можем дать ему строгое универсальное определение от первых принципов.
Чтобы объяснить ошибочность идеи «универсального интеллекта», Лоуренс задает вопрос: какое транспортное средство является лучшим в мире? Ответ зависит исключительно от контекста:
- Для быстрой поездки от лондонского вокзала Кингс-Кросс Лоуренс предпочитает свой складной велосипед Brompton, который служит ему своеобразным «одеялом безопасности».
- Для трансатлантического перелёта из США этот велосипед абсолютно бесполезен — здесь необходим Boeing 787.
Следовательно, ранжировать транспортные средства можно только в рамках конкретно заданной задачи (по критериям скорости, энергозатрат или углеродного следа). По мнению Лоуренса, идея «искусственного общего транспортного средства» абсурдна, так как ни одна машина не закроет все потребности сразу. Точно так же абсурдна концепция искусственного общего интеллекта (AGI). Существуют лишь общие принципы (как теория аэродинамики для самолета и велосипеда), которые проявляются в разных условиях.
Лоуренс делится собственной попыткой математического описания интеллекта через физическую абстракцию под названием «мост Шрёдингера» (Schrödinger's bridge). Этот подход использует стохастические дифференциальные уравнения и оптимальный транспорт для оценки перехода вероятностных распределений из одного состояния в другое. Но даже эта модель требует жесткого определения контекста, физики системы и распределений. По мнению Лоуренса, вера в сингулярность и «взрыв интеллекта» строится на ошибочном предположении, будто существует единая универсальная шкала или лестница интеллекта, по которой можно бесконечно подниматься вверх.
🗣️ «Антроксинг» и барьеры коммуникации 17:49
Из-за громоздкости термина «антропоморфизация» Нил Лоуренс ввел в обиход неологизм «антроксинг» (anthroxing). Под этим понимается глубинная склонность человеческого разума наделять человеческими чертами и мотивами любые сложные интеллектуальные сущности.
Лоуренс утверждает, что фундаментальное различие между человеком и машиной лежит в скорости обработки и передачи информации. По его оценкам, современные компьютеры могут получать доступ к информации примерно в 300 миллионов раз быстрее, чем люди. Спикер сравнивает эту разницу со скоростью ходьбы (1 метр в секунду) и скоростью света (300 000 километров в секунду). Внутри человеческого мозга вычисления происходят с помощью электрических импульсов, но общаемся мы друг с другом посредством медленного звука, что создает колоссальное ограничение пропускной способности — разницу примерно в миллион раз по сравнению с внутренними процессами.
По мнению Лоуренса, из-за этого жесткого «узкого горлышка» человеческий интеллект вынужден тратить огромные эволюционные ресурсы на моделирование собеседника и антропоморфизацию окружающего мира. Исторически это выполняло полезную функцию: например, коренные народы использовали анимистические практики, «антроксили» экологию (наделяли духами деревья, источники), чтобы удерживать в голове сложные природные взаимосвязи и жить в гармонии с биосферой. С рациональной точки зрения у дерева нет духа, но вера в него помогала выживать.
Однако сегодня, как считает Лоуренс, антроксинг стал опасен. Люди видят колоссальные вычислительные возможности ИИ, которые чужды нашей природе, и проецируют на них свои страхи: «Если бы у меня были такие возможности, я бы захватил мир, а значит, алгоритм поступит так же». По мнению спикера, подобные рассуждения говорят больше о скрытых мотивах самих авторов этих страхов, чем о реальных угрозах технологии. Культурная эволюция анимизма занимала тысячи лет, а современные технологии развиваются слишком стремительно, не оставляя человечеству времени на их безопасную культурную ассимиляцию.
🎖️ Уроки истории: от Мартина Лютера до генерала Эйзенхауэра 21:54
Лоуренс подчеркивает, что хотя технологии меняются быстро, масштабные социальные сдвиги требуют времени. Так, печатный станок был создан около 1440 года, но лишь к 1520 году деятельность Мартина Лютера и раскол католической церкви продемонстрировали, как свободное распространение информации позволяет обществу эффективно бросить вызов устоявшимся институтам власти. Аналогично, первые компьютеры появились в 1940-х годах, а тектонические социальные последствия мы начинаем наблюдать только в 2020-х.
Ранний интернет воспринимался как пространство децентрализации и расширения прав и возможностей личности (на чём изначально вырос Google). Однако затем появились социальные медиа, и Марк Цукерберг создал Facebook как закрытую экосистему («огороженный сад»), стремясь консолидировать и контролировать трафик. По мнению Лоуренса, чтобы по-настоящему понять предназначение технологии, с ней нужно вырасти, как это сделал Цукерберг.
Говоря о масштабной обработке данных, Лоуренс выделяет эпоху Второй мировой войны и деятельность криптографов в Блетчли-Парк. Он вспоминает знаковую фигуру генерала Дуайта Эйзенхауэра, принявшего историческое решение о начале высадки в Нормандии фразой «Мы идем завтра». Эйзенхауэр заранее подготовил записку на случай провала операции, полностью взяв вину на себя. По мнению Лоуренса, этот поступок иллюстрирует, как лидеру в условиях жесточайшего информационного дефицита и колоссальной ответственности необходим момент ментальной ясности перед лицом последствий своих решений.
Лоуренс связывает эти исторические цепочки команд и управление поставками с базовыми концепциями современного ИИ, которые строятся вокруг принятия решений. Спикер с теплотой вспоминает покойного профессора Кембриджа Дэвида Маккея (David MacKay), чьи беседы с создателями легендарного компьютера Colossus стали для него огромным вдохновением.
🌍 Риски цифрового тоталитаризма и глобальное неравенство 28:10
Гахрамани приводит слова историка Юваля Ноя Харари о том, что первыми «вирусными» книгами после изобретения печатного станка стали отнюдь не научные труды, а руководства по поиску и уничтожению ведьм, что вызвало огромные краткосрочные потрясения в обществе. Мы склонны идеализировать долгосрочные результаты технологий, забывая о сопутствующих кризисах.
По мнению Лоуренса, современный ИИ создается на Западе в рамках специфической культурной парадигмы, которая считает поступательное движение истории к демократии гарантированным фактом, хотя это не так. Общаясь с коллегами из Африки, Лоуренс заметил, что местные правительства гораздо сильнее обеспокоены базовой безопасностью: возможностью детей ходить в школу, заработком граждан и стабильностью среды. Стабильность всегда приоритетнее демократии, а технологии ИИ в краткосрочной перспективе могут подрывать именно безопасность.
В Европе путь к современной демократии лежал через гибель миллионов людей и появление жестоких тоталитарных режимов. Завершая свою книгу, Лоуренс сознательно напоминает о жертвах прошлых поколений. Он считает, что сытое западное общество начинает забывать эти уроки, предполагая, что прогресс достался нам по наследству сам по себе.
Главную опасность Лоуренс видит в том, что «центр тяжести» нашего интеллекта находится не в головах отдельных людей, а в окружающей культуре. Ошибка эгоцентризма заставляет думать, будто один человек способен спроектировать будущее. По мнению Лоуренса, это порождает новую волну цифрового тоталитаризма, когда группа высокоинтеллектуальных, наделенных колоссальной властью, но абсолютно оторванных от реальности и сложности мира людей из Кремниевой долины доминирует в дискуссии и навязывает свое узкое видение будущего всему человечеству.
🎓 Провокация против программистов и будущее образования 33:02
Несмотря на жесткую критику элит, Лоуренс называет свою книгу оптимистичной, а потенциал ИИ — экстраординарным. Лозунг Кембриджского центра AI@CAM звучит как «ИИ для гражданина, науки и общества». Главный прорыв генеративного ИИ (Gemini, Claude и др.) состоит в том, что обычные люди получили возможность разговаривать с вычислительными системами на естественном языке.
В связи с этим Нил Лоуренс выступает с открытой провокацией: первой профессией, которую необходимо полностью автоматизировать с помощью ИИ, должен стать программист (software engineer). По мнению Лоуренса, разработчик сегодня выступает лишь переводчиком, «бутылочным горлышком для креативности» между создателем идеи и компьютером. Лоуренс сравнивает программистов с древними писцами:
- В древности писцы обладали огромной политической и экономической властью благодаря монополии на грамотность, пока печатный станок не демократизировал этот процесс.
- Со временем писцы трансформировались в бухгалтеров, нотариусов и юристов, обретя четкие социальные и юридические обязательства перед обществом.
- У современных программистов, выполняющих роль цифровых писцов, такие институциональные механизмы социальной ответственности пока полностью отсутствуют.
Гахрамани в шутку советует инженерам в зале подготовить каверзные вопросы, ведь улучшая кодовую базу больших языковых моделей, они сами лишают себя работы.
Другой важной сферой применения ИИ спикер считает школьное образование. Вместо того чтобы отбирать у детей смартфоны, учитель будущего сможет мгновенно интегрировать гаджеты в урок — например, на ходу создать физическую симуляцию в Minecraft, адаптированную под интересы конкретного ребенка. Сегодня же этот контент полностью контролируется корпорациями из Калифорнии, а учителя лишены возможности влиять на локальную информационную топографию.
⚛️ Суть концепции «Атомарного человека» 37:58
Объясняя метафору названия книги, Лоуренс отсылает к понятию атома Демокрита. Древнегреческие философы предполагали, что если бесконечно делить физическую материю пополам, то в какой-то момент родится неделимая частица — атом.
Концепция «Атомарного человека» (The Atomic Human) предлагает провести аналогичный мысленный эксперимент в когнитивной сфере. Каждый раз, когда мы обучаем компьютер выполнять задачу, которая ранее считалась уникальным достоянием человека (играть в шахматы, писать тексты, распознавать образы), мы словно отсекаем от себя по кусочку. Останется ли в конце этой ментальной вивисекции нечто неделимое, уникально человеческое?
По мнению Нила Лоуренса, машина никогда не сможет перенять наши ограничения, уязвимости и слабости. Машина рождается без них. Человечество прошло колоссальный эволюционный путь вместе со своими недостатками: 300 000 лет как Homo sapiens, 2 миллиона лет как Homo erectus и сотни миллионов лет как животные. Наша субъективность и культура сформировались именно как способы коллективного преодоления этих биологических лимитов.
Компьютеры могут успешно имитировать нас, играя по правилам «угадай следующее слово» на огромных скоростях, но они не были частью этого эволюционного пути. Лоуренс призывает перестать очеловечивать алгоритмы и начать воспринимать их как полезное, взаимодополняющее расширение нашей цивилизации, бережно сохраняя то уникальное, что было выковано миллионами лет биологической эволюции. По мнению Лоуренса, для исправления перекосов развития общества нам нужны не универсальные алгоритмы сверху, а расширение возможностей специалистов на местах — врачей, учителей и медсестер, которых Карл Поппер называл «поэтапными социальными инженерами».
