В рамках серии подкастов «Fireside Chatbots», выходящей в составе проекта «Intelligent Future» на канале Greylock, венчурный инвестор и сооснователь LinkedIn Рид Хоффман проводит серию диалогов с ИИ-моделью ChatGPT. Этот эксперимент призван исследовать возможности, ограничения и перспективы взаимодействия человека с искусственным интеллектом, который рассматривается не просто как инструмент, а как собеседник, способный к анализу широкого спектра тем — от философии Витгенштейна до колонизации Марса.
🧠 Природа искусственного интеллекта и тест Тьюринга 5:01
Дискуссия начинается с обсуждения теста Тьюринга — классического бенчмарка, предложенного Аланом Тьюрингом в 1950 году для оценки способности машины проявлять разумное поведение, неотличимое от человеческого. По мнению Хоффмана, ChatGPT демонстрирует удивительную способность связно и информативно высказываться по огромному количеству вопросов, что является прямым следствием обучения на массивах человеческих данных.
В ходе беседы стороны выделили ключевые критические замечания к тесту Тьюринга:
- Языковая зависимость: тест смещен в сторону моделей, способных генерировать естественный язык, игнорируя другие виды интеллекта.
- Ограниченность: он не учитывает навыки решения задач, способность к обучению или самоосознание.
- Субъективность: результаты зависят от оценки человека-судьи, что оставляет простор для интерпретаций.
- Отсутствие универсального признания: многие эксперты считают, что существуют более эффективные методы оценки.
Сам ИИ признает, что, хотя он спроектирован для генерации человекоподобных ответов, окончательное решение о прохождении теста остается за оценщиком. Рид Хоффман отмечает забавный нюанс: ChatGPT отвечает слишком всеобъемлюще для человека, что само по себе выдает его «нечеловеческую» природу.
🤖 Вопрос сознания и эмоций 9:08
Важным аспектом стал вопрос о том, можно ли считать работу языковых моделей подлинным интеллектом. Скептики утверждают, что это лишь результат сложных математических расчетов, корреляций и поиска паттернов в данных, лишенный понимания контекста и сознания.
Хоффман предлагает сменить парадигму: вместо вопросов «обладает ли это сознанием?» или «понимает ли это?», нам стоит спрашивать «каким образом это обладает сознанием?» и «в чем именно проявляется это понимание?». По его мнению, ИИ поможет нам лучше осознать саму природу человеческого сознания.
Что касается эмоций, ChatGPT подчеркивает, что он не обладает личными чувствами, но умеет распознавать эмоциональный контекст в языке и генерировать соответствующие ответы, оказывая поддержку или выражая энтузиазм, основываясь на изученных примерах общения.
🌍 Страх перед будущим и роль ИИ в обществе 17:06
Рид Хоффман считает опасения о том, что ИИ заменит людей или приведет к сценариям из «Терминатора», сильно преувеличенными. Он формулирует стратегический подход к развитию технологии:
- Действовать быстро: замедление разработки обычно является ошибкой из-за конкурентного давления, так как в противном случае технологию создаст кто-то другой, не учитывая этические аспекты.
- Динамичное обучение: развертывание должно сопровождаться постоянной итерацией и исправлением негативных эффектов.
- Инклюзивность: необходимо вовлекать широкие слои общества в диалог о безопасности и целях развития.
📚 Саморефлексия: галлюцинации и бизнес 34:16
В ходе интервью произошел интересный инцидент: на вопрос о любимых эпизодах подкаста «Masters of Scale», ChatGPT выдал список эпизодов, часть из которых была вымышлена (например, якобы участие Катрины Лейк и Пьера Омидьяра). Хоффман использовал это, чтобы наглядно продемонстрировать проблему «галлюцинаций» или конфибуляций ИИ: способность с уверенностью выдавать неверную информацию.
Впрочем, при обсуждении книги Рида Хоффмана и Криса Йе «Blitzscaling» (Блиц-масштабирование), модель проявила себя экспертно, точно определив суть стратегии быстрого масштабирования для достижения доминирующего положения на рынке, упомянув при этом и основные критические отзывы об этом подходе.
