# No, it's not Sentient - Computerphile

Источник: https://www.youtube.com/watch?v=iBouACLc-hw
Канал: Computerphile
Опубликовано: 17.06.2022

---

## Миф о «разумности» нейросетей: почему ИИ — это просто калькулятор слов
[[JUMP:00:42]]

В последнее время всё чаще возникают дискуссии о том, обладают ли современные большие языковые модели (LLM) зачатками сознания или разума. В видео канала Computerphile ведущие призывают не поддаваться на маркетинговые уловки и объясняют, почему такие системы, как Google LaMDA или GPT, — это лишь сложные статистические модели, а не одушевленные существа.

### Механика «предиктивного текста»
[[JUMP:02:25]]

Фундаментальная суть работы нейросетей — это предсказание следующего слова с высокой степенью вероятности. Упрощенно это выглядит как работа предиктивного ввода в смартфоне, возведенная в абсолют.

* Модель принимает на вход последовательность слов.
* На основе огромного массива данных обучения она высчитывает, какое слово вероятнее всего должно идти следующим.
* Процесс повторяется, создавая связный и логичный текст.

Разработчики объясняют, что модели, называемые «языковыми», не ведут монолог, не размышляют и не опираются на собственный жизненный опыт. Они не знают контекста событий, произошедших две недели назад, так как ограничены фиксированным «окном» входных данных — например, 2048 токенами у GPT-3.

### Роль внимания в архитектуре Transformer
[[JUMP:03:16]]

В основе большинства современных моделей лежит архитектура Transformer, ключевым элементом которой является механизм внимания (*attention*). Этот механизм позволяет сети определять, насколько каждое слово в предложении связано с другими.

1.  При обработке предложения нейросеть анализирует связи между всеми словами.
2.  Например, в фразе «кот сидит на коврике» слова «кот» и «коврик» имеют высокую степень взаимного влияния.
3.  На основе этих связей модель перераспределяет информацию, формируя признаки, которые используются на следующем этапе обработки.

Благодаря этому нейросеть способна генерировать впечатляющие тексты, стилизованные под определенного автора, но это остается математическим вычислением вероятностей, а не актом творчества.

### Иллюзия сознания и «очеловечивание» ИИ
[[JUMP:06:17]]

Основная проблема восприятия ИИ обществом заключается в нашей склонности к антропоморфизму — приписыванию человеческих качеств неодушевленным предметам. Когда нейросеть выдает фразу «я чувствую себя одиноко», человек инстинктивно начинает искать психологические причины такого состояния.

Однако, по мнению авторов, за этим не стоит ничего, кроме весов нейронной сети, которые посчитали данную последовательность слов наиболее вероятной в ответ на вопрос. Система не «дружит», не «скучает» и не «размышляет» в перерывах между запросами. Она работает как любая другая функция в программировании: вы подаете данные, получаете ответ и всё — модель «засыпает» до следующего обращения.

[Image of Transformer model architecture explaining attention mechanism]

### Реальные риски против маркетинга
[[JUMP:08:26]]

Дискуссии о «сентиентности» (разумности) ИИ ведущие называют маркетинговым трюком, который отвлекает от гораздо более серьез