# Эрик Шмидт: «Если ИИ начнет общаться на своем языке, пора выдергивать вилку из розетки»

Источник: https://www.youtube.com/watch?v=2Zg--ouGl7c
Канал: The Diary Of A CEO
Опубликовано: 14.11.2024

---

Эрик Шмидт руководил Google в период беспрецедентного роста компании — с выручки в 100 млн до 180 млрд долларов. В беседе со Стивеном Бартлеттом он утверждает: развитие искусственного интеллекта сегодня является вопросом выживания человечества, а ближайшие 5–10 лет определят облик цивилизации на столетия вперед.

## 🧬 ИИ как экзистенциальный вызов: наследие Генри Киссинджера
[[JUMP:02:05]]

Идея книги «Genesis: Artificial Intelligence, Hope, and the Human Spirit» родилась из многолетнего общения Эрика Шмидта с бывшим госсекретарем США Генри Киссинджером [02:39]. Десять лет назад они вместе слушали выступление Демиса Хассабиса, основателя DeepMind, об ИИ. По словам Шмидта, Киссинджер тогда мгновенно осознал: человечество «играет с огнем», создавая нечто, чего не понимает до конца [03:07].

Основные тезисы этой позиции:

*   Впервые в истории у человека появился интеллектуальный конкурент, способный превзойти его возможности [03:33].
*   Главный философский вопрос современности — что значит быть человеком в эпоху, когда компьютер становится «лучшим другом» ребенка с самого рождения [14:51].
*   Шмидт подчеркивает: мы проводим масштабный эксперимент на миллиардах людей без контрольной группы, и результаты пока непредсказуемы [14:51].

## 🧠 Критическое мышление и Python: советы 18-летним
[[JUMP:05:06]]

На вопрос о том, какие навыки критически важны для молодежи сегодня, Эрик Шмидт выделяет два приоритета: аналитическое мышление и программирование на языке Python [06:02].

Аргументация Шмидта:

*   **Python:** Хотя ИИ сам пишет код, понимание Python необходимо для работы с интерфейсами (API) и управления сложными моделями [07:13]. Простейший способ втянуться — создать собственную игру [06:29].
*   **Критическое мышление:** В мире ИИ станет возможной «идеальная дезинформация» [10:24]. Шмидт призывает проверять любое правдоподобное утверждение через поиск, прежде чем повторять его [09:16].
*   **Ответственность за факты:** Если человек не может отличить истину от лжи, по мнению гостя, ему лучше «держать рот на замке», так как общество не может функционировать без опоры на базовые факты [09:29].

## 📱 Алгоритмическая ловушка и экономика внимания
[[JUMP:10:24]]

Эрик Шмидт критикует современные социальные сети, особенно TikTok, за использование алгоритмов, вызывающих зависимость. Он описывает это через концепцию «однорукого бандита»: система постоянно подсовывает контент, который удерживает внимание, и лишь изредка дает что-то новое, чтобы расширить «крючок» [11:04].

Последствия, на которые указывает гость:

1.  **Эффект эха:** Алгоритмы максимизируют вовлеченность через негодование и ярость, что является кратчайшим путем к прибыли, но разрушительно для психики [12:08].
2.  **Депрессия у подростков:** Шмидт связывает всплеск случаев членовредительства среди девочек 11–12 лет с переходом соцсетей на таргетированные ленты в 2015 году [14:42].
3.  **Пример Google:** Шмидт вспоминает, что в Google он произвольно решил делить ресурсы 50/50 между качеством продукта и доходами от рекламы, чтобы не скатываться в токсичную монетизацию [16:23].

## 🚀 Принципы управления: Дивы против Подлецов
[[JUMP:18:38]]

За время карьеры в Bell Labs, Sun Microsystems и Google Шмидт вывел формулу успеха: для создания гениального продукта нужен гениальный человек, и руководителю нужно уметь с ним сотрудничать [19:00].

Классификация талантов по Шмидту:

*   **Дивы (Divas):** Высокомерные, сложные в общении, но одержимые совершенством люди, как Стив Джобс [19:25]. С ними стоит вступать в альянс.
*   **Подлецы (Naves):** Люди, действующие только в своих интересах в ущерб другим. Их нужно избегать.
*   **Технократия:** Шмидт убежден, что в технологической компании должно быть минимум нетехнического персонала [29:45]. Если продукт идеален, клиенты придут сами, и огромный отдел продаж не потребуется [30:54].

## 💡 Почему Google не выпустил ChatGPT первым?
[[JUMP:48:40]]

Несмотря на то что архитектура Transformer (буква T в ChatGPT) была изобретена в Google, компания уступила первенство OpenAI. Шмидт объясняет это несколькими факторами.

По версии гостя, успех OpenAI обеспечили:

*   **RLHF (обучение с подкреплением на основе отзывов людей):** OpenAI первыми догадались массово использовать людей для оценки ответов модели, что позволило системе учиться рекурсивно [49:49].
*   **Риск и скорость:** OpenAI выпустили продукт «на удачу», не до конца понимая, насколько он хорош, в то время как Google работал над множеством других сервисов одновременно [50:30].
*   **Сфокусированность:** Небольшие команды стартапов всегда быстрее корпораций, которые связаны юридическими ограничениями и страхом перед публичными скандалами [35:17].

## 🛡️ Опасные модели: биология, кибервойны и «рубильник»
[[JUMP:01:17:39]]

Эрик Шмидт выражает серьезную обеспокоенность развитием «сырых» (raw) моделей ИИ, которые не имеют встроенных фильтров безопасности [12:01].

Ключевые угрозы, по словам Шмидта:

*   **Биологическое оружие:** ИИ способен создавать рецепты новых смертоносных вирусов [01:19:27].
*   **Кибератаки:** Модели могут проводить атаки «нулевого дня» (на неизвестные уязвимости) эффективнее людей [01:18:50].
*   **Автономная война:** Шмидт утверждает, что танки за 5 млн долларов становятся бесполезными против дронов за 5000 долларов, и война превращается в противостояние алгоритмов [01:20:45].

Шмидт предлагает «выключать рубильник», если ИИ начнет проявлять определенные признаки:

1.  **Рекурсивное самосовершенствование:** Если система начинает учиться быстрее, чем человек успевает ее проверить [01:36:30].
2.  **Собственный язык:** Если ИИ-агенты начнут общаться между собой на языке, который не понимает человек [01:37:46].

## 🏢 Работа в офисе и будущее рабочих мест
[[JUMP:01:41:18]]

Эрик Шмидт выступает за возвращение сотрудников в офисы, особенно для тех, кому за 20 [01:42:20]. Он считает, что карьерный рост невозможен без общения у кулера и личного присутствия на встречах. При этом он признает, что научные данные противоречат его мнению: статистика показывает, что продуктивность при работе из дома иногда даже выше [01:43:00].

Относительно безработицы Шмидт настроен оптимистично:

*   Из-за демографического кризиса и старения населения миру нужно больше инструментов продуктивности, а не меньше людей [01:28:40].
*   ИИ заменит скучные и опасные задачи (например, охранников), но создаст спрос на высококвалифицированных ремесленников и специалистов по человеческим отношениям [01:30:15].
*   Безусловный базовый доход (UBI) Шмидт считает ошибочной концепцией, так как она не учитывает реальную психологию человеческого поведения [01:33:48].