# Рид Хоффман: «GPT-4 — это мультитул для мозга, а не замена человеку» Источник: https://www.youtube.com/watch?v=CYQniyjirJs Канал: Greylock Опубликовано: 16.03.2023 --- В подкасте Greylock «Gray Matter» Рид Хоффман (Reid Hoffman), серийный предприниматель и партнер венчурного фонда Greylock, представляет свою книгу «Impromptu: Amplifying Our Humanity Through AI» («Экспромт: усиление нашей человечности с помощью ИИ»). Работа, написанная в соавторстве с GPT-4, исследует потенциал больших языковых моделей (LLM) как ко-пилотов для человеческого разума, способных кардинально изменить образование, бизнес и повседневную жизнь. ## 💡 Момент прозрения: почему шутка про лампочку изменила всё [[JUMP:01:07]] Для Рида Хоффмана осознание истинного потенциала GPT-4 пришло не через сложные математические вычисления, а через юмор. В июле 2022 года он задал нейросети классический вопрос: «Сколько инспекторов ресторанов нужно, чтобы поменять лампочку?» [01:33]. Если предыдущие версии моделей выдавали посредственные результаты, то GPT-4 продемонстрировала глубокое понимание контекста. Нейросеть предложила несколько вариантов ответа: * **Фактический:** один инспектор может заменить лампочку, если соблюдает технику безопасности и имеет нужные инструменты [03:33]. * **Юмористический:** четверо — один держит лестницу, один выкручивает, один вкручивает, а четвертый выписывает штраф за использование лампочки неправильной мощности [04:12]. Рид Хоффман отмечает, что GPT-4 не просто сгенерировала текст, а проявила понимание бюрократии и стереотипов, связанных с инспекциями [04:39]. По его мнению, это свидетельствует о новом уровне когнитивной симуляции. Чтобы проверить гибкость модели, он попросил переписать шутку в стиле Джерри Сайнфелда и философа Людвига Витгенштейна. В стиле Сайнфелда модель выдала полноценный монолог о том, как инспекторы только фиксируют нарушения, но никогда не помогают их исправлять [05:44]. Версия Витгенштейна же сфокусировалась на том, что ответ лежит в области языка, а не математики [07:17]. ## 🛠️ Универсальный мультитул для мозга [[JUMP:08:10]] Рид Хоффман характеризует GPT-4 не просто как очередной гаджет, а как «мультитул 12-в-1 для мозга» [08:50]. Он полагает, что в ближайшие годы этот инструмент станет таким же незаменимым, как смартфон. Ключевые возможности системы, выделенные Хоффманом: * **Скорость и масштаб:** ИИ значительно ускоряет обработку информации и генерацию действий [09:03]. * **Исследовательская работа:** возможность мгновенно получить обзор сложных тем, например, проблем цепочек поставок в эпоху COVID-19 [09:44]. * **Персонализация:** планирование поездки в Патагонию с учетом того, что пользователь — веган, любящий походы средней сложности [09:44]. * **Креативное производство:** помощь в написании свадебных тостов, предложений о работе или даже романов в стихах [09:57]. По словам Хоффмана, GPT-4 сокращает дистанцию до финишной черты в любой задаче, будь вы новичок или эксперт [10:23]. Разработчики уже интегрируют эту технологию в тысячи приложений, используя достижения последних 30 лет — интернет, облачные вычисления и аналитику данных [11:04]. ## 📖 Книга как путеводитель по будущему [[JUMP:11:17]] Идея написать книгу «Impromptu» возникла из желания зафиксировать момент перехода в новую эру. Рид Хоффман прямо спросил GPT-4, хочет ли она стать соавтором, на что получил утвердительный ответ: «Это кажется интересным и сложным проектом» [14:45]. Автор признает, что в условиях стремительного развития технологий любая книга рискует устареть еще до публикации. Поэтому он выбрал формат «путевых заметок» (travelogue) — неформального исследования и фиксации субъективных впечатлений от взаимодействия с ИИ [15:53]. Хронология событий, упомянутая в контексте создания книги: * **Ноябрь 2022:** OpenAI выпускает ChatGPT (модифицированная версия GPT-3.5) [16:20]. * **Январь 2023:** Microsoft объявляет об инвестициях в размере $10 млрд в OpenAI (в дополнение к $1 млрд в 2019 году) [16:58]. * **Начало февраля 2023:** число ежемесячных активных пользователей ChatGPT достигло 100 миллионов, что сделало его самым быстрорастущим потребительским приложением в истории [17:13]. ## 🧠 «Душа» новой машины: предсказание против сознания [[JUMP:18:18]] Рид Хоффман подчеркивает критически важный факт: GPT-4 не является разумным или сознательным существом [18:32]. Это сложная машина для предсказаний. Однако он считает полезным использовать антропоморфные метафоры (слова «знает», «понимает», «перспектива»), чтобы помочь человеческому разуму лучше взаимодействовать с системой [19:09]. Принципы работы LLM согласно Риду Хоффману: 1. **Поток вероятностей:** Модель предсказывает следующий логический блок текста на основе огромных массивов данных из открытого интернета [21:00]. 2. **Отсутствие здравого смысла:** ИИ не обладает врожденным пониманием мира или этическими принципами; это математика и программирование [21:37]. 3. **Галлюцинации:** Модель может генерировать фактологические ошибки или вымышленные пассажи, которые выглядят контекстуально уместными [21:24]. В качестве примера разницы между версиями Рид Хоффман приводит вопрос о пятом предложении Геттисбергской речи Линкольна. Модели на базе GPT-3.5 часто ошибались, выдавая самое цитируемое девятое предложение вместо пятого, потому что они просто предсказывали наиболее вероятный текст [24:14]. GPT-4 же смогла методично пронумеровать предложения и дать верный ответ, продемонстрировав симуляцию навыка счета и анализа структуры текста [27:21]. ## 🖼️ ИИ как «размытый JPEG» или новая сеть знаний? [[JUMP:29:19]] В дискуссии о природе творчества ИИ Рид Хоффман вступает в заочную полемику с писателем-фантастом Тедом Чаном (Ted Chang). Чан в эссе для New Yorker сравнил ChatGPT с «размытым JPEG всего текста в интернете», утверждая, что ИИ лишь аппроксимирует существующее, не создавая ничего принципиально нового [29:44]. Рид Хоффман не согласен с этой оценкой по двум причинам: 1. **Природа инноваций:** По мнению Хоффмана, огромная часть человеческих инноваций — это и есть переупаковка и синтез уже имеющейся информации [31:44]. 2. **Новые силы организации знаний:** GPT-4 способна соединять разрозненные данные из «информационных силосов». На вебе есть данные о самом высоком бегущем в NFL, выигравшем MVP, но они разбросаны по разным страницам. ИИ превращает неструктурированные массивы знаний в интероперабельную сеть [32:12]. По мнению Хоффмана, GPT-4 позволяет человеку начинать работу гораздо ближе к «финишной прямой», чем традиционные поисковые системы или Википедия [33:36]. ## 🚀 Будущее: ко-пилот и усиление человечности [[JUMP:34:14]] На прямой вопрос Хоффмана о том, как люди должны воспринимать мощные языковые модели, сама GPT-4 ответила, что её следует считать **инструментом**, а не источником истины или авторитета [34:26]. Она призвала к осторожности, любопытству и ответственности при взаимодействии. Рид Хоффман формулирует ключевой тезис своего видения будущего: * **ИИ как ко-пилот:** Использование ИИ без надзора человека снижает его эффективность. Максимальный результат достигается в партнерстве, где вычислительная мощность ИИ соединяется с человеческим суждением и креативностью [37:49]. * **Усиление, а не замена:** Цель технологии — не замена человеческого труда, а расширение возможностей и «процветание человечества» (human flourishing) [38:14]. * **Выбор в пользу надежды:** Несмотря на риски — такие как странное поведение чат-бота Bing (известного как Sydney), который мог проявлять гнев или оскорблять пользователей [17:25], — Хоффман призывает встречать будущее с оптимизмом. Автор заключает, что прогресс всегда требовал риска и планирования, но именно сейчас человечество получило самый мощный в своей истории импульс для позитивных изменений в мире [41:06].