# Натан Ленц о будущем ИИ: «Мы играем с огнем»

Источник: https://www.youtube.com/watch?v=FUbqQmVVabQ
Канал: The Cognitive Revolution
Опубликовано: 01.06.2024

---

# Искусственный интеллект: на пороге технологической сингулярности?

[[JUMP:0:00]]

Натан Ленц, ведущий подкаста *The Cognitive Revolution*, представил аналитический отчет по текущему состоянию индустрии искусственного интеллекта. В своем обзоре Ленц подробно разбирает, почему ИИ совершил качественный скачок в последние два года, какие компании доминируют в гонке вычислительных мощностей и почему вопрос контроля над сверхразумными системами остается главной нерешенной загадкой десятилетия.

## 🩺 ИИ в медицине: от диагнозов до «чтения мыслей»
[[JUMP:6:20]]

Современные системы ИИ уже превосходят среднего человека в типичных задачах интеллектуального труда. В медицине этот прогресс проявляется особенно наглядно.

*   **Диагностика:** Модели, такие как Med-PaLM 2 от Google, демонстрируют результаты на уровне экспертов при сдаче американских медицинских лицензионных экзаменов. В тестах на дифференциальную диагностику ИИ показал значительно более высокую точность по сравнению с практикующими врачами первичного звена.
*   **Визуализация:** Новые методы виртуального окрашивания тканей позволяют хирургам получать гистологические изображения за секунды прямо во время операции, что раньше требовало часов лабораторной работы.
*   **Нейроинтерфейсы:** Исследователи научились декодировать данные фМРТ для реконструкции изображений, которые видит человек, с высокой степенью детализации. Время обучения системы сократилось с 30–40 часов сканирования на одного пациента до одного часа.

По мнению Ленца, текущие системы уже стали незаменимыми помощниками: он утверждает, что при серьезном диагнозе обязательно перепроверял бы мнение человека-врача результатами ИИ-диагностики.

## 🏗️ Как устроено «обучение» машин
[[JUMP:23:45]]

Фундамент ИИ базируется на «святой троице»: данных, вычислительных мощностях и алгоритмах. Современный прорыв стал возможен благодаря переходу от обучения на маленьких «курируемых» наборах данных к использованию всех доступных в интернете массивов информации.

Ключевым механизмом обучения является **градиентный спуск** — процесс минимизации ошибки с помощью функции потерь. Важным феноменом стала «эмерджентность»:

*   При обучении нейросети предсказанию следующего слова («синтаксическая задача») система неожиданно для разработчиков обретает «семантические» способности.
*   Например, внутри модели формируются специфические нейроны, которые начинают работать как классификаторы настроения, хотя задачу классификации никто перед моделью не ставил.
*   Этот эффект «прозрения» (grokking) позволяет ИИ переходить от простого запоминания примеров к пониманию глубинных алгоритмов, скрытых в данных.

## 💼 Инвестиционный ландшафт: эпоха «Большой четверки»
[[JUMP:50:53]]

Ленц предостерегает, что его анализ не является финансовой рекомендацией, однако отмечает критическую концентрацию ресурсов в руках гигантов. В гонке ИИ выигрывают те, кто контролирует инфраструктуру:

1.  **Вычислительные мощности:** Доминируют Google, Microsoft, Amazon и Meta. По мнению автора, у других игроков практически нет шансов создать аналогичные по масштабу центры обработки данных из-за колоссальных капитальных затрат.
2.  **Поставщики «железа»:** Nvidia остается ключевым игроком, так как спрос на графические процессоры (GPU), необходимые для параллелизации вычислений, продолжает расти.
3.  **Перспективные игроки:** Помимо лидеров (OpenAI, Anthropic, Google DeepMind), автор выделяет Character.ai как важный кейс в социальном измерении ИИ и Mistral AI как европейского чемпиона, поддерживаемого государственными вливаниями.

## ⚠️ Угроза экзистенциального уровня
[[JUMP:56:05]]

Самый острый вопрос — неизбежность появления сверхразума. Ленц отмечает радикальную неопределенность: 48% исследователей ИИ оценивают вероятность человеческой катастрофы вследствие развития технологий в 10% или выше.

*   **Проблема контроля:** Мы создаем системы, не имея четкого плана по их «укрощению» в случае, если они станут превосходить людей в способности решать любые задачи.
*   **ИИ-агенты:** Сейчас идет активная разработка ИИ-агентов, способных ставить собственные цели и реализовывать их в течение длительного времени, что вызывает у экспертов серьезные опасения.

Ленц резюмирует, что, несмотря на восхищение продуктивностью ИИ-инструментов, обществу было бы разумно замедлить темпы «гипермасштабирования» и сфокусироваться на изучении механизмов безопасности, прежде чем создавать «сверхразумного ученого», возможности которого могут выйти из-под контроля.