# Рейд Хоффман: «ИИ — это паровая машина для человеческого разума» Источник: https://www.youtube.com/watch?v=RXjLGn14Jo4 Канал: Stanford Online Опубликовано: 05.09.2024 --- В рамках курса Stanford ECON295/CS323 «Бизнес в эпоху ИИ» сооснователь LinkedIn и партнер фонда Greylock Рейд Хоффман (Reid Hoffman) представил свое видение когнитивной промышленной революции. В диалоге с профессором Эриком Бриньолфсоном он обсудил будущее персональных ИИ-агентов, причины громких перестановок в компании Inflection AI и этические вызовы, связанные с авторским правом и безопасностью. ## 🧠 Когнитивная промышленная революция: от инструментов к усилению человека [[JUMP:02:02]] Рейд Хоффман (Reid Hoffman) выдвигает макротезис о том, что искусственный интеллект следует рассматривать не просто как автоматизацию, а как «усиление человеческих возможностей» (human amplification) [02:16]. По его мнению, мы находимся в начале когнитивной промышленной революции, где ИИ становится «паровой машиной для разума» [02:29]. Спикер вводит понятие «Generation AI» (Поколение ИИ). В отличие от миллениалов или зумеров, это поколение будет определяться не возрастом, а нативным использованием ИИ-агентов для навигации по жизни [04:01]. Хоффман полагает, что период тесного сотрудничества человека и машины продлится десятилетия или даже столетия [05:07]. Ключевые отличия человеческого интеллекта от текущих моделей ИИ, по мнению Хоффмана: * **Адаптивность во внештатных ситуациях:** Человек способен менять правила игры. Хоффман приводит пример с AlphaGo: если жизнь человека будет зависеть от победы над программой, он не будет пытаться переиграть её в го, а просто выдернет шнур из розетки или выльет на сервер воду [06:27]. * **Контекстная осведомленность:** Текущие системы пока плохо справляются с многошаговым планированием и корректировкой планов на ходу (например, переход от шага 3 к «шагу 3Б», если что-то пошло не так) [09:29]. * **Соревновательный маркетинг:** Хоффман отмечает, что руководители компаний, мечтающие уволить отдел маркетинга и заменить его на GPT-4, ошибаются. Маркетинг — это борьба стратегий, и как только все внедрят ИИ, преимущество снова получит тот, кто лучше умеет использовать этот инструмент для обхода конкурентов [08:59]. ## 🧭 Когнитивный GPS: риск интеллектуальной расслабленности [[JUMP:11:51]] Хоффман использует метафору «когнитивного GPS» для описания ИИ, помогающего принимать решения [12:03]. Подобно тому как обычный GPS позволяет нам легко находить новые места, ИИ-навигатор может упростить когнитивные задачи. Однако это несет в себе риски: * **Интеллектуальная небрежность:** Как люди перестали запоминать маршруты, полагаясь на навигатор, так и повсеместное использование ИИ может привести к снижению ценности глубокой памяти и аналитических навыков [14:18]. * **Чрезмерная зависимость:** Хоффман предупреждает о вызове «интеллектуальной расслабленности», когда люди начинают слепо доверять советам системы [14:45]. * **Проблема доверия:** Возникает вопрос: стоит ли позволять ИИ решать, что нам читать или как отвечать близким? Хоффман считает, что мы уже живем в мире, где внешние источники (книги, поисковики) диктуют нам модели поведения, и задача состоит в том, чтобы настроить ИИ-агентов на помощь в достижении «лучшей версии себя» [15:34]. ## 🔄 Кейс Inflection AI: почему Мустафа Сулейман ушел в Microsoft [[JUMP:24:59]] Одной из самых обсуждаемых тем стала недавняя трансформация компании Inflection AI, которую Рейд Хоффман (Reid Hoffman) основал вместе с Мустафой Сулейманом. После того как Сулейман и большая часть команды перешли в Microsoft, многие сочли это провалом, однако Хоффман утверждает, что это был стратегический маневр [25:25]. Основные тезисы Хоффмана о судьбе Inflection: * **Изменение бизнес-модели:** Компания осознала, что создание потребительского агента (Pi) как отдельного стартапа требует колоссальных капиталовложений — миллиардов долларов [28:00]. * **Пивот в B2B:** Inflection решила сосредоточиться на предоставлении API для бизнеса, поскольку их модель уникальна тем, что обучает «эмоциональному интеллекту» (EQ) наравне с обычным (IQ) [28:13]. * **Миссия важнее структуры:** Чтобы проект персонального агента продолжал жить и масштабироваться, было решено, что Мустафе и команде лучше развивать его внутри инфраструктуры Microsoft, обладающей необходимыми вычислительными мощностями [28:41]. * **Экономика масштаба:** Хоффман подчеркивает, что ИИ-революция — это революция вычислительных масштабов (scale compute), которую вне военного времени могут потянуть только корпорации [29:06]. ## 🛡️ Безопасность и открытые модели: ИИ как ядерное оружие? [[JUMP:44:27]] Рейд Хоффман (Reid Hoffman) проводит параллель между распространением ИИ и ядерным нераспространением, но отмечает существенное отличие: ИИ развивается преимущественно в коммерческом секторе, а не в государственных лабораториях [45:25]. Его опасения включают: * **Киберпреступность:** ИИ позволяет проводить фишинговые атаки в промышленных масштабах, создавая персонализированные сообщения для миллионов людей одновременно [48:24]. * **Риски открытых моделей:** В отличие от открытого ПО (open source), «открытые модели» (open models) в руках террористов или стран-изгоев могут привести к катастрофам уровня урагана [47:27]. * **Позиция по Llama 3:** Хоффман признает, что подписал письмо о поддержке открытых моделей только после того, как в него включили пункт об обязательной оценке безопасности перед каждым релизом [50:12]. ## ⚖️ Авторское право и интеллектуальная собственность [[JUMP:53:49]] Обсуждая судебные иски против разработчиков ИИ, Хоффман высказал спорную позицию относительно претензий правообладателей: * **Иск The New York Times:** Спикер считает его «необоснованным» (spurious) [55:44]. По его логике, если для воспроизведения статьи нейросети нужно скормить первую половину этой же статьи, то это не является «кражей» контента в чистом виде [55:56]. * **Обучение vs Воспроизведение:** Хоффман разделяет право на обучение (чтение книг для получения знаний) и право на продажу копий. Он считает, что общество заинтересовано в том, чтобы ИИ обучался на всем массиве человеческих знаний [56:49]. * **Скрапинг данных в LinkedIn:** Хоффман защищает агрессивную политику LinkedIn против парсинга данных, аргументируя это «договором с пользователями»: люди должны иметь право удалять свои данные, а скраперы лишают их этого контроля [58:00]. ## 🏥 Медицина и будущее: бесплатный доктор на каждом телефоне [[JUMP:1:03:33]] Хоффман поддерживает прогноз Винода Хослы о том, что к 2030–2034 году у каждого человека в смартфоне будет бесплатный ИИ-врач [1:03:46]. Прогнозы и препятствия в медицине: * **Регуляторный барьер:** Единственная причина, по которой это может не случиться, — юридическая ответственность и сопротивление медицинских ассоциаций [1:04:45]. * **Роль стартапов:** Крупные корпорации не пойдут на этот риск из-за юридических сложностей. Хоффман ожидает появления «трупов стартапов», которые погибнут в попытках пробить регуляторную стену, пока система наконец не изменится [1:06:15]. * **Этический обход:** Хоффман предполагает, что такие сервисы могут запускаться в юрисдикциях с менее жестким регулированием, предоставляя медицинскую помощь через интернет [1:07:52]. ## 🚀 Финальный совет: компаундирование изменений [[JUMP:1:16:16]] В завершение встречи Рейд Хоффман (Reid Hoffman) отметил, что люди часто переоценивают изменения, которые произойдут за один год, но недооценивают масштаб перемен за 5–10 лет [1:16:40]. ИИ — это не просто инструмент, а «мета-инструмент», который усилит все существующие технологии: от Excel до создания музыки [1:14:41]. Он призвал студентов не бояться динамических перемен и использовать ИИ как ассистента в обучении, а не пытаться его запрещать [1:17:34].