Развитие современных технологий привело к фундаментальному сдвигу в понимании сущности искусственного интеллекта, который сегодня успешно решает сложнейшие задачи без необходимости обладать человеческим разумом. В рамках подкаста Machine Learning Street Talk известный философ Лучано Флориди обсуждает концепцию инфосферы, в которой человечество постепенно превращается в информационные организмы, сталкиваясь с вызовами управления и переосмысления реальности. Этот глубокий разговор предлагает новый взгляд на цифровую этику, управление технологиями и наше собственное место в меняющемся мире.
🤖 Суть ИИ: Развод между действием и интеллектом 0:00
Лучано Флориди, директор Лаборатории цифровой этики Оксфордского интернет-института и основатель философии информации, предлагает принципиально новое определение искусственного интеллекта. По его мнению, ИИ представляет собой исторический «развод» (divorce) между способностью успешно выполнять поставленную задачу и необходимостью быть разумным для ее реализации. Философ отмечает, что для игры в шахматы, парковки автомобиля, посадки самолета или доставки посылки роботу больше не требуется интеллект.
В качестве примера Лучано Флориди приводит обычный смартфон. Выключенный iPhone не способен сыграть в шахматы, однако в рабочем состоянии он с легкостью обыграет любого человека в комнате. Ученый подчеркивает, что человечество отказалось от попыток наделить машины интеллектом хотя бы на уровне крысы. Вместо воссоздания когнитивных функций инженеры сосредоточились на эффективности результатов, что и привело к технологическому прорыву. По мнению Флориди, в рамках когнитивных наук исследования ИИ все еще находятся на «нулевой отметке», в то время как с инженерной точки зрения происходящее кажется настоящей магией.
Для объяснения этой разницы гость подкаста использует аналогии с транспортными средствами и бытовыми приборами:
- Самолеты и подводные лодки выполняют свои функции успешно, но они не летают как птицы и не плавают как рыбы. Вопрос «может ли компьютер думать» так же неточен, как и вопрос «умеет ли подводная лодка плавать».
- Если на столе стоят чистые тарелки, по их виду невозможно определить, были ли они вымыты вручную или в посудомоечной машине. Процессы совершенно разные, но результат идентичен.
- В математике результат «4» можно получить как путем сложения двух двоек, так и их умножением, и сам по себе результат не раскрывает использованный метод.
📊 Инфосфера и лавина данных: Общество эпохи зеттабайтов 1:42
Мы живем в разгар информационной революции. Лучано Флориди напоминает, что согласно его исследованиям, все страны Большой семерки (G7) уже квалифицируются как информационные общества, поскольку более 70% их ВВП зависит от нематериальных, информационных благ, а не от материального производства. Рост такой экономики генерирует беспрецедентные объемы данных. Философ приводит историческую справку: если в 2003 году человечество накопило около 12 эксабайтов данных за всю свою историю, то сегодня мир стремительно приближается к эпохе зеттабайтов (один зеттабайт равен 1000 эксабайтов).
При этом около 95% всей существующей сегодня информации было создано нынешним поколением. Гость иронизирует, что эти массивы состоят вовсе не из трудов Шекспира или Данте, а из бесчисленных фотографий кошек и собак. Вся эта экосистема формирует то, что Флориди называет «инфосферой» — глобальную информационную среду, состоящую из всех информационных процессов, сервисов и агентов. По мнению ученого, материальный мир начинает казаться избыточным, а инфосфера становится первичным базисом нашей реальности, размывая границы между онлайном и офлайном.
В этой среде люди незаметно для себя меняют свои роли, проходя следующую эволюцию:
- Сначала люди выступают как обычные потребители информации.
- Затем они превращаются в подписчиков и фолловеров.
- В конечном итоге они становятся для систем простыми «штрихкодами».
Большая часть данных теперь хранится в машиночитаемом виде и предназначена для потребления другими машинами, а не человеческими глазами. Роботы являются истинными «коренными жителями» цифровой среды, в то время как люди напоминают лишь дайверов с аквалангами, временно погружающихся в этот чуждый мир.
🧼 Обратимость ответов и «Китайская комната»: Почему ИИ лишен понимания 17:32
Обсуждая свою научную работу, посвященную языковой модели GPT-3, Лучано Флориди вводит концепты обратимых и необратимых вопросов, опираясь на математическую логику и закон Лейбница. Из «обратимого» ответа можно безошибочно восстановить идентичность его источника, тогда как «необратимый» ответ этого сделать не позволяет. К примеру, если спросить современную модель (на момент написания статьи): «У матери Мэри трое детей, как зовут одного из них?», GPT может ответить, что у нее недостаточно информации, тогда как любой человек мгновенно поймет контекст. Это пример обратимости: сбой выдает машину. С другой стороны, мгновенное сложнейшее вычисление тоже указывает на компьютер.
Однако Флориди прогнозирует, что условная модель GPT-10 сделает результаты генерации текста абсолютно необратимыми, и человек больше не сможет отличить по тексту, кто его автор — группа людей или алгоритм. При этом ученый призывает не путать неотличимость результата с идентичностью процессов. Он полностью разделяет знаменитый мысленный эксперимент Джона Сёрля «Китайская комната». По мнению Флориди, современные большие языковые модели остаются исключительно «синтаксическими движками». В них нет подлинного понимания, озарения, контекста или эмоциональной вовлеченности.
Для иллюстрации этой семантической пропасти философ приводит несколько ярких примеров:
- Уличный художник и Микеланджело: Человек на улице может с потрясающей точностью воспроизвести Сикстинскую капеллу на асфальте, демонстрируя великолепную технику. Но он не становится Микеланджело, так как за его работой нет той же истории, эстетики, интенциональности и непрерывности.
- Годовые кольца дерева: Когда мы спиливаем дерево и видим кольца, по которым определяем его возраст, это не значит, что дерево «рассказало» нам свой возраст. Информация считывается и наделяется смыслом только благодаря человеческой интерпретации.
- Хор любителей против идеальной записи: В Оксфорде можно собрать хор из детей и любителей, который выступит с огрехами. Профессиональная студийная запись на цифровом носителе звучит технически совершеннее, но люди все равно идут слушать живое исполнение, потому что для них важен именно уникальный человеческий опыт.
ИИ великолепно справляется с созданием шаблонных текстов, объективных энциклопедических справок для Википедии, где автор должен «исчезнуть». Но он по-прежнему не способен обладать экзистенциальным опытом. Тот же концепт Рождества для человека наполнен глубоким культурным и личным смыслом, который ИИ лишь имитирует за счет анализа употребления слов в языке.
💸 Экономика внимания и загрязнение цифровой среды 14:39
Ведущий подкаста Machine Learning Street Talk отмечает, что бизнес-модель современного интернета построена на рекламе, эксплуатации и деградации человеческого внимания, сравнивая социальные медиа с «климатическими изменениями для общества». Лучано Флориди соглашается с существованием риска того, что экономика интернета создает ложную абстракцию между нами и реальностью, наполняя инфосферу потоками низкокачественного, вводящего в заблуждение контента. Фейк-ньюс и пропаганда — проблемы не новые, но их масштаб, скорость распространения и влияние сегодня беспрецедентны. Одно дело — опубликовать несколько памфлетов со лжью, и совсем другое — когда миллионы подписчиков одновременно начинают верить дезинформации, влияющей на выборы.
Тем не менее, философ не считает ситуацию безнадежной. Источников скоординированной дезинформации и условной «русской пропаганды» в мире на самом деле немного, и они хорошо известны. Основная ответственность за загрязнение среды лежит на крупных технологических игроках и законодателях, которые обязаны действовать жестче. В качестве радикального решения Флориди предлагает полушутливую идею: полностью запретить онлайн-рекламу. Если реклама исчезнет, пользователям придется напрямую платить за цифровые продукты. Это неизбежно приведет к рыночной конкуренции за качество контента, а не за удержание внимания, и в корне изменит правила игры.
⛪ Церковь сингуляристов против атеистов ИИ 29:24
Философ анализирует давний спор о рисках ИИ, начавшийся еще в 1960-х годах, когда Ирвинг Джон Гуд предсказал возможность «интеллектуального взрыва», который оставит человечество позади. Сегодня участники дискуссии разделились на два лагеря:
- «Церковь сингуляристов» — те, кто верит в неизбежное создание сверхразума, который подчинит себе человечество. Их догма состоит из трех постулатов: создание ИИ неизбежно, люди будут им порабощены, и нынешнее поколение обязано сделать этот переход безопасным.
- «Церковь атеистов ИИ» — радикальные скептики, которые пишут аббревиатуру ИИ строчными буквами, не веря в возможность создания истинного машинного разума.
Сам Лучано Флориди считает позицию сингуляристов утопичной и необоснованной, поскольку она базируется на неверном толковании закона Мура и отвлекает общество от реальных угроз. По его мнению, увлечение сценариями в духе «Терминатора» — это своего рода ментальное потакание интересам западных элит. В то время как люди боятся, что их беспилотный автомобиль украдет кредитку и уедет отдыхать на пляж, они игнорируют реальные проблемы: цифровую дискриминацию, экономическое неравенство и упущенные возможности из-за отсутствия четких этических рамок. Единственным лекарством от этой псевдонаучной фиксации Флориди называет время и историю, которые докажут, что ИИ развивается как полезный, но безликий инструмент автоматизации.
🏛️ Кризис демократии: От граждан к пользователям и фолловерам 38:04
Гость подкаста констатирует глубокие изменения в социально-политической структуре общества. Во второй половине XX века западная демократия успешно опиралась на фигуру «гражданина-потребителя», который действовал из рационального эгоизма: голосовал за лучшие политические партии и выбирал качественные товары на рынке. Однако в XXI веке этот архетип деградировал. По словам Флориди, сегодня вместо граждан мы имеем «фолловеров» (подписчиков), а вместо потребителей — «пользователей» (юзеров). Это привело к обеднению личного эгоистического интереса, который выступал одной из опор демократического устройства.
Вторая опора демократии — масштабные социальные проекты — оказалась дискредитирована историческими кошмарами первой половины XX века, такими как нацизм, советский тоталитаризм и ужасы Освенцима. В результате современная политическая система осталась стоять на двух поврежденных ногах. Философ убежден, что либеральным демократиям необходимо не подавлять личный интерес, а укреплять его, одновременно уравновешивая сильными коллективными целями. В пример он приводит заглохший автомобиль: один человек может бесконечно толкать его в одиночку ради выполнения долга, но машина поедет только тогда, когда пять человек скоординируют свои усилия и толкнут ее вместе на счет «три». Найти такой баланс лучше всего удается скандинавским социальным демократиям.
Для исправления ситуации Флориди предлагает изменить архитектуру государственного управления:
- Необходимо внедрять концепцию демократии совместного проектирования (co-design), привлекая граждан к обсуждению решений на самых ранних этапах, а не на финальной стадии.
- Классические референдумы (например, опыт Брекзита в Великобритании) не являются истинной демократией, так как избирателю предлагают лишь бинарный выбор между вариантами А и B, которые уже кто-то спроектировал за него.
- Основой здорового управления должно оставаться жесткое разделение властей: те, кто обладают властью (народ), делегируют ее, но не осуществляют ее напрямую; а те, кто осуществляют власть (чиновники), не должны ею обладать как собственностью.
🗺️ Реонтологизация мира и Uber как метафора новой реальности 44:31
Происходящие технологические сдвиги Лучано Флориди описывает термином «реонтологизация» — радикальное переформатирование самой природы реальности и нашего метафизического восприятия мира. Человечество переходит от материалистического взгляда на мир, где ключевую роль играли физические объекты, к информационному видению. Когда нынешнее поколение «цифровых иммигрантов» полностью сменится «цифровых туземцами» (нашими детьми), этот процесс завершится. Будущие поколения будут чувствовать себя исключенными, бедными и беспомощными без доступа к инфосфере, подобно рыбе, выброшенной из воды.
Эпоха Модерна, длившаяся несколько столетий со времен Колумба и Вестфальского мира, приучила человечество к тому, что закон и территория неразрывно связаны: «моя земля — мои правила». Однако киберпространство разрушило эту аксиому. Например, европейские дебаты вокруг «права на забвение» показали, что законы, принятые в ЕС, фактически регулируют работу поисковой системы Google, находящейся в США. Произошло фундаментальное разделение (decoupling) права и географических границ.
Вторым примером успешной, но болезненной реонтологизации философ называет «уберизацию» экономики:
- В прошлом владение автомобилем, извоз и наличие лицензии таксиста были жестко склеены в единый узел.
- Появление компании Uber разделило эти сущности, позволив любому автовладельцу подвозить людей без официальной лицензии такси.
- Это разделение привело к колоссальным прибылям, но одновременно породило массу юридических и социальных проблем, изменив саму онтологию городского пространства.
Аналогичные изменения происходят и с идентичностью человека. Если раньше философы спорили о телеской или ментальной субстанции личности, то европейское законодательство (в частности, GDPR) теперь официально определяет человека как «субъекта данных» (data subject). Защита приватности сегодня — это не защита физического тела, а защита информации о нем. Законодатели адаптировались к потере территориального контроля: теперь закон защищает данные гражданина ЕС, в какой бы точке земного шара эти данные ни обрабатывались.
⚙️ Третий технологический порядок: Выход человека из контура управления 53:10
Лучано Флориди предлагает критический пересмотр взглядов Мартина Хайдеггера, который рассматривал технологию как посредника между человеком и природой. Оксфордский философ разделяет эволюцию технологий на три порядка:
- Первый порядок: Технология находится непосредственно между человеком и природой (например, лопата или пила в саду).
- Второй порядок: Технология взаимодействует с другой технологией под управлением человека, что стало основой Промышленной революции (человек — машина — машина).
- Третий порядок: Технологические системы полностью замыкаются друг на друге, а человек вытесняется из контура непосредственного исполнения задач (технология — технология — технология).
Примером третьего порядка служит современный завод, где один компьютер управляет роботом, который собирает автомобиль. Человек в этой схеме находится «над процессом» (on the loop) или «вне его» (after the loop), выполняя исключительно надзорные и дизайнерские функции. По мнению Флориди, этот порядок несет в себе колоссальные риски, но и предлагает высочайшие награды. Философ считает утопией мысли о том, что человечество сможет спасти планету и решить проблему изменения климата, отказавшись от технологий. Напротив, без вычислительных мощностей ИИ невозможно, к примеру, рассчитать управляемый термоядерный синтез. Именно поэтому фокус внимания политиков должен сместиться с технологических инноваций на грамотное управление (governance) цифровой средой. Инновации — вопрос лишь глубоких карманов и покупки правильных стартапов, тогда как понимание того, что делать с этими технологиями, требует подлинного гения.
🎲 Реляционная онтология против абсолютных истин 56:17
В завершение теоретической части Лучано Флориди обращается к знаменитой концепции физика Джона Уилера «всё из бита» (it from bit), описывающей информационную метафизику Вселенной. Некоторые исследователи, включая Хилари Патнэма с его функционализмом машин Тюринга, склонны видеть в мироздании гигантский квантовый компьютер. Флориди предостерегает от буквального толкования этой метафоры: существует огромная философская разница между тем, чтобы моделировать желудок как компьютер, и утверждением, что желудок на самом деле является компьютером.
Сам гость подкаста занимает позицию прагматического агностицизма. Вопрос «является ли Вселенная цифровым компьютером?» в абсолютном смысле лишен значения. Ответ всегда зависит от уровня абстракции и целей исследователя. Для демонстрации этого реляционного подхода философ пересказывает знаменитый парадокс о «Корабле Тесея»:
- Если спросить, остался ли корабль прежним после замены всех досок, у этого вопроса нет универсального ответа.
- Для налогового инспектора это абсолютно тот же корабль, и владельцу придется платить по счетам в любом случае.
- Для коллекционера редкостей этот корабль потерял всякую ценность, став новоделом.
Таким образом, истина всегда трехмерна: она связывает вопрос, цель и ответ. Моделирование Вселенной как информационного пространства в XXI веке оправдано лишь потому, что это помогает нам лучше понять себя как информационные организмы. На этой же основе Флориди скептически комментирует мысленные эксперименты Дэвида Чалмерса о жизни внутри Матрицы. По его мнению, даже если бы мы узнали, что находимся в симуляции, это ничего бы не изменило в нашей повседневной морали и опыте, точно так же, как философский идеализм Джорджа Беркли (жизнь в разуме Бога) не меняет физических свойств окружающих предметов. Философам следует прекратить тратить время на бесплодные головоломки вроде «проблемы вагонетки», если они не служат конкретной практической цели.
🔬 Напутствие инженерам и новая инициатива в Йеле 1:03:54
В финале беседы Лучано Флориди обращается к аудитории специалистов по машинному обучению. Он поздравляет их с тем, что они находятся в самом востребованном секторе современной науки, но призывает осознать масштаб своей ответственности. Инженеры сегодня создают не просто коммерческие продукты или игрушки для корпоративной конкуренции. Они закладывают фундамент информационного общества XXI века. Ошибки в этом процессе могут лишить будущие поколения самого шанса на существование, а правильные действия — избавить человечество от страданий и спасти экологию.
Поскольку в наши дни основные исследования и разработки (R&D) в сфере ИИ сместились из академической среды в коммерческий сектор, Флориди объявляет об открытии нового междисциплинарного центра в Йельском университете. Задача центра — объединить за одним столом практиков и теоретиков всех направлений:
- политиков и юристов,
- инженеров и экспертов по машинному обучению,
- философов, этиков и социологов.
Только через совместное проектирование и междисциплинарный диалог человечество способно направить колоссальную мощь «неразумных агентов» на благо цивилизации.
