Разбираемся с ChatGPT: как работают нейросети и стоит ли их бояться? 8:22
Шумиха вокруг больших языковых моделей (LLM), таких как ChatGPT, прошла путь от восторженного удивления до экзистенциальной тревоги. Кэл Ньюпорт, автор книги «Deep Work», в своей статье для журнала The New Yorker утверждает, что для понимания реальных возможностей и угроз этого инструмента необходимо отказаться от восприятия ИИ как «черного ящика» и заглянуть внутрь его цифровой архитектуры.
🧠 Анатомия «ума» ChatGPT: пять ключевых принципов 10:19
По мнению Кэла Ньюпорта, принципы работы современных чат-ботов можно объяснить через пять концептуальных идей, которые лежат в основе функционирования моделей вроде GPT-3.
- Угадывание слов (Word Guessing): В основе работы лежит авторегрессионная генерация текста. Модель не «думает», а просто предсказывает одно следующее слово за другим, основываясь на уже введенном тексте.
- Поиск релевантных слов (Relevant Word Matching): Система анализирует входные данные, находит наиболее релевантные фразы в своей обучающей выборке и смотрит, какие слова обычно следуют за ними в человеческих текстах.
- Голосование (Voting): Вместо поиска точного ответа модель вычисляет вероятности для списка возможных следующих слов. Представьте это как «голосование»: слова, которые чаще встречались в подобных контекстах, получают больше «голосов», и модель выбирает следующее слово, основываясь на этом распределении вероятностей.
- Детекция признаков (Feature Detection): Чтобы ответы соответствовали запросу, модель использует «правила» (алгоритмические инструкции), которые выделяют специфические особенности запроса (например, «инструкции», «VCR», «стиль Библии»). Эти правила модифицируют веса голосов, делая вероятность появления подходящих слов выше.
- Самообучение (Self-Training): Модели обучаются на колоссальных массивах данных. Процесс напоминает бесконечный цикл: модель берет фрагмент реального текста, удаляет последнее слово, пытается угадать его, сравнивает результат с оригиналом и «подталкивает» (nudging) свои внутренние правила, чтобы в следующий раз быть чуть точнее.
С технической точки зрения, эти принципы реализованы в архитектуре Transformer block. Однако Кэл Ньюпорт подчеркивает: все «интеллектуальные» способности — грамматика, стилистика и логика — это лишь результат переработки и перекомбинации огромного массива текстов, написанных реальными людьми.
⚖️ Стоит ли нам бояться? 37:24
Вопрос о том, станут ли такие системы экзистенциальной угрозой, автор считает сильно преувеличенным.
- Ограниченность «интеллекта»: По словам Кэла Ньюпорта, ChatGPT не обладает гибким, человекоподобным сознанием. Это статический набор правил, зафиксированный после обучения. У модели нет памяти, которая обновлялась бы в процессе общения, и нет понимания того, что именно она «пишет».
- Проблема точности: Поскольку у модели нет модели реальности, она часто генерирует убедительные, но фактически неверные ответы. Именно поэтому платформы вроде Stack Overflow запретили использование ответов ChatGPT для программирования: бот может написать код, который выглядит правильно, но не выполняет задачу.
- Экономический эффект: Кэл Ньюпорт полагает, что влияние ИИ будет сопоставимо с появлением поисковых систем, таких как Google. Это станет полезным инструментом для специфических задач (редактирование текста, суммаризация), но не приведет к исчезновению целых профессий.
В завершение автор отмечает, что дискуссии об «инопланетном разуме» часто опираются на философские спекуляции, подобные работам Ника Бострома. Однако при ближайшем рассмотрении «черный ящик» оказывается просто гигантским вычислительным процессом, умножающим миллиарды параметров для выбора следующего слова.
