В новом выпуске подкаста «Into the Impossible» профессор математики Оксфордского университета и философ науки Джон Леннокс обсуждает с Брайаном Китингом экзистенциальные риски и этические вызовы, связанные с развитием искусственного интеллекта. Основная идея беседы строится вокруг тезиса Леннокса о том, что современная гонка ИИ — это не просто технологический прорыв, а попытка человечества «создать бога» и обрести бессмертие через алгоритмы, что вступает в прямой конфликт с классическим пониманием человеческой природы.
🧠 Проблема сознания и «тест Эйнштейна» 4:05
Джон Леннокс утверждает, что между имитацией интеллекта и реальным сознанием лежит непреодолимая пропасть, которую он называет «горизонтом событий» . По его мнению, современные разработчики ИИ, такие как авторы «библии ИИ» Питер Норвиг и Стюарт Рассел, следуют по пути Алана Тьюринга: они создают системы, которые успешно имитируют человеческое поведение, но не обладают внутренним опытом (квалиа) .
Чтобы проиллюстрировать ограниченность нынешних технологий, Брайан Китинг предлагает заменить стандартный тест Тьюринга «тестом Эйнштейна» :
- Суть теста: Сможет ли кремниевый или квантовый компьютер когда-либо пережить «самую счастливую мысль в жизни», как это сделал Эйнштейн в 1907 году, осознав принцип эквивалентности через визуализацию свободного падения ?
- Аргумент Леннокса: ИИ не обладает сознанием, он лишь следует алгоритмам. Профессор подчеркивает, что антропоморфизация инструментов приводит к тому, что люди начинают приписывать чувства и разум строкам кода, которые по определению не могут «думать» .
- Эксперимент с орбитой Меркурия: Китинг делится результатами работы со своими студентами: они скормили большой языковой модели (LLM) данные о движении Меркурия за тысячи лет. ИИ не смог вывести законы римановой метрики или кривизны пространства, предлагая лишь дискретные математические подгонки и проявляя «сикофантию» — склонность подстраиваться под ожидания пользователя [13:57–14:22].
⌨️ Эффект колеи: Почему мы застряли в LLM? 7:32
Собеседники обсуждают риск технологического «запирания» (lock-in). В качестве аналогии приводится клавиатура QWERTY: она была создана более 100 лет назад, чтобы замедлить машинисток и предотвратить залипание рычагов печатной машинки, но мы используем её до сих пор просто по привычке .
- Мнение Китинга: LLM (большие языковые модели) и графические процессоры (GPU) стали настолько успешными коммерчески, что они «выжигают кислород» для любых других архитектур ИИ . Мы можем никогда не достичь Общего искусственного интеллекта (AGI), потому что застряли в улучшении предсказания следующего слова, приняв это за истинный разум .
- Опасения Леннокса: Тотальное использование ИИ в образовании может привести к «интеллектуальной немоте» студентов . Он прогнозирует возвращение к экзаменам в «клетках Фарадея» без какой-либо связи, чтобы проверить реальные способности человека, а не его умение пользоваться подсказками алгоритма .
🏗️ Вавилон 2.0: Технологии как суррогат религии 31:23
Джон Леннокс проводит параллели между амбициями современных технократов и библейскими сюжетами. Он считает, что поиски AGI имеют структуру религиозного поиска :
- Эсхатология: Вера в «Сингулярность» как событие, которое трансформирует всё мироздание .
- Сотериология: Ожидание спасения от смерти и болезней через высший искусственный разум .
- Обожествление: Прямые заявления таких мыслителей, как Юваль Ной Харари (автор «Homo Deus»), о том, что человек может превратить себя в бога с помощью «разумного замысла» снизу вверх .
По мнению Леннокса, строительство башни в Вавилоне (Babel) было не просто архитектурным проектом, а попыткой достичь единства через самовольное господство и технологии . Он видит ироничное сходство: современные системы автоперевода ИИ — это технологическое «обращение Вавилона вспять», попытка снова дать человечеству один язык для установления тотального контроля .
👁️ Надзор и «2084» 40:43
Название новой книги Леннокса «2084» было предложено ему оксфордским химиком-атеистом Питером Эткинсом в качестве оммажа Джорджу Оруэллу . Основная тревога Леннокса связана с созданием глобального государства надзора.
- Диктатура алгоритмов: Леннокс и Китинг отмечают, что ИИ уже обладает атрибутами божества в понимании теологии: всеведение (сбор данных), вездесущность (интернет) и всемогущество (влияние на поведение через алгоритмы) .
- Пророчества и реальность: Собеседники упоминают мнение Питера Тиля о том, что развитие ИИ «рифмуется» с Книгой Откровения . В частности, обсуждаются сценарии Макса Тегмарка из книги «Life 3.0» (вариант «Прометей»), которые пугающе близки к библейским описаниям мирового диктатора .
🧪 Наука против Сциентизма 15:15
Леннокс критикует физика Стивена Хокинга за его заявление о том, что «философия мертва», сделанное в книге, которая сама по себе является философским трактатом .
- Аргумент об информации: Леннокс утверждает, что информация по своей природе нематериальна, хотя и переносится материальными носителями . Это, по его мнению, ставит крест на строгом материализме: если информация первична и нематериальна, то за вселенной должен стоять Разум .
- Позиция Роджера Пенроуза: Упоминается аргумент Пенроуза о том, что человеческий разум способен решать задачи, которые в принципе невычислимы (основываясь на теоремах Гёделя), а значит, мозг — это не просто биологический компьютер .
⛪ Вопрос воскрешения и вознесения 1:06:44
В финале беседы Брайан Китинг, как физик, просит Леннокса объяснить чудо Вознесения Христа с точки зрения логики. Леннокс отвечает, что вера (Amuna/Pistis) для него валидна только при наличии доказательств .
Он интерпретирует Вознесение не как полет в космос («он не летел до Андромеды» ), а как «конкретизированную метафору» перехода в другое измерение или иную реальность . По мнению Леннокса, если ученые серьезно обсуждают другие миры и мультивселенные, им не следует смеяться над библейской идеей о существовании иного измерения .
