# Майкл Вулдридж: «Нейросети — это прославленный автозаполнитель, а не разум» Источник: https://www.youtube.com/watch?v=b76gsOSkHB4 Канал: The Royal Institution Опубликовано: 19.12.2023 --- В стенах Королевского института (The Royal Institution) профессор Майкл Вулдридж представил глубокий анализ эволюции и будущего генеративного искусственного интеллекта. Исследователь объяснил, почему современный успех технологий — это результат сочетания масштаба данных и вычислительной мощности, а не внезапного обретения машинами человеческого разума. ## 🕰️ От застоя к прорыву: краткая история ИИ [[JUMP:00:18]] Развитие искусственного интеллекта как научной дисциплины началось сразу после Второй мировой войны с появлением первых цифровых компьютеров. Однако, по словам Майкла Вулдриджа, на протяжении десятилетий прогресс в этой области оставался «ледниково медленным». Ситуация начала меняться только в текущем столетии, когда на первый план вышел машинное обучение — класс техник, ставших по-настоящему практически полезными примерно с 2005 года. ### Обучение с учителем и лицо Тьюринга [[JUMP:01:34]] Для объяснения принципов работы ИИ профессор Вулдридж обратился к наследию Алана Тьюринга. Классическая задача ИИ — распознавание лиц — решается через «обучение с учителем» (supervised learning). Механизм обучения выглядит следующим образом: * **Обучающие данные:** Набор пар «вход-выход» (например, фотография лица и подпись «Алан Тьюринг»). * **Задача классификации:** Компьютер учится соотносить входное изображение с правильной категорией или именем. * **Практическое применение:** Эта же технология используется для поиска опухолей на рентгеновских снимках или управления беспилотными автомобилями Tesla, которые должны распознавать знаки «Стоп» и пешеходов. ## 🧠 Биологическая метафора и программная реальность [[JUMP:06:07]] Нейронные сети вдохновлены устройством мозга животных. По оценкам ученых, человеческий мозг содержит около 86 миллиардов нейронов. Каждый нейрон может быть соединен с 8 000 других клеток и выполняет простейшую задачу по распознаванию паттернов. [Image of biological neurons vs artificial neural network] Программная реализация этой идеи, по данным профессора, восходит к 1940-м годам и работам Мак-Каллока и Питтса. Однако реализовать концепцию в полной мере удалось только в XXI веке благодаря трем факторам: 1. Научные достижения в области **глубокого обучения** (deep learning). 2. Доступность **больших данных** (Big Data). 3. Дешевая **вычислительная мощность**. Особую роль в «суперзаряде» технологий в 2012 году сыграли графические процессоры (GPU). Профессор отметил, что именно ИИ, а не видеоигры, превратил компанию NVIDIA в корпорацию с триллионной капитализацией. ## ⚡ Революция трансформеров и эпоха больших ИИ [[JUMP:14:43]] Переломным моментом для отрасли стала публикация статьи «Attention is All You Need» («Внимание — это всё, что вам нужно») в 2017 году. Группа из семи исследователей Google Brain предложила архитектуру «Трансформер». Ключевой инновацией стал «механизм внимания», который позволил моделям гораздо эффективнее обрабатывать контекст. Это привело к появлению больших языковых моделей (LLM), флагманом которых стала GPT-3 от OpenAI, представленная в июне 2020 года. Масштабы GPT-3 поражают воображение: * **Параметры:** 175 миллиардов. * **Обучающие данные:** Около 500 миллиардов слов, включая весь архив Common Crawl (копия всего интернета). * **Стоимость:** Десятки миллионов долларов на оборудование и миллионы на электричество для одного цикла обучения. ## ✍️ Прославленный автозаполнитель: как работают LLM [[JUMP:20:04]] Несмотря на кажущуюся сложность, Майкл Вулдридж утверждает: любая большая языковая модель — это лишь «очень мощный автозаполнитель». Подобно тому, как смартфон предлагает слово «паб» после фразы «Я иду в...», GPT-3 предсказывает наиболее вероятное следующее слово на основе гигантского массива прочитанных текстов. > «В этих нейронных сетях нет никакой внутренней ментальной беседы. Там нет разума, нет процесса рассуждения. Это лишь прославленная версия вашего автозаполнения», — подчеркивает Майкл Вулдридж. ### Феномен эмерджентных способностей [[JUMP:29:50]] Самым удивительным для ученых стало появление «эмерджентных способностей» — навыков, которым систему не обучали специально. В качестве примера приводится тест на здравый смысл (common sense reasoning): * **Успех:** Модель правильно вычисляет, что если Том на 3 дюйма выше Дика, а Дик на 2 дюйма выше Гарри, то Том на 5 дюймов выше Гарри. * **Провал:** Система может ошибиться в простых вопросах о том, что находится слева на карте или в каком порядке были изобретены автомобили и корабли. ## ⚠️ Темная сторона технологий: галлюцинации и токсичность [[JUMP:31:13]] Вулдридж выделил несколько критических проблем современных ИИ-систем: 1. **Недостоверность:** Модели склонны «галлюцинировать», выдавая ложь за факт в очень правдоподобной форме. Пример — утверждение модели, что сам Вулдридж учился в Кембридже (на самом деле нет). 2. **Токсичность и предвзятость:** Поскольку модели обучались на данных из Reddit, они впитали в себя расизм и мизогинию. 3. **Хрупкость «гарнитуры»:** По мнению профессора, современные «фильтры безопасности» (guardrails) — это технологический эквивалент клейкой ленты на двигателе, а не глубокое решение проблемы. 4. **Авторское право и GDPR:** Модели поглощают пиратский контент и персональные данные, которые невозможно «удалить» из нейронной сети, не переучивая её полностью. Для иллюстрации ограниченности машинного интеллекта профессор показал видео с Tesla: бортовой компьютер принимал грузовик, перевозящий светофоры, за серию настоящих светофоров, «летящих» навстречу машине. Система никогда не видела такого в обучающих данных и не смогла логически осмыслить ситуацию. ## 🤖 Будущее: Общий ИИ и вопрос сознания [[JUMP:46:30]] Майкл Вулдридж выделяет четыре версии «общего искусственного интеллекта» (AGI) в зависимости от амбициозности целей: 1. **Полная человекоподобность:** Машина, способная делать все, что делает человек, включая физические задачи. Профессор считает, что создание робота, способного безопасно загрузить посудомоечную машину, сделает компанию триллионером, но это случится не скоро. 2. **Когнитивное превосходство:** Способность решать любые интеллектуальные задачи. Мы приближаемся к этому с выходом мультимодальных моделей вроде Gemini от Google. 3. **Языковое совершенство:** Выполнение любых текстовых задач. 4. **Дополненные LLM:** Системы, которые вызывают специализированные подпрограммы для решения конкретных задач (наиболее вероятный путь в ближайшие 2 года). ### Машины не чувствуют боли [[JUMP:56:07]] В завершение лекции Вулдридж прокомментировал скандал с инженером Google Блейком Лемойном, который в 2022 году заявил о «разумности» (sentience) модели LaMDA. Профессор категорически не согласен с этой оценкой: * У ИИ нет субъективного опыта (тест Нагеля «Каково это — быть чем-то?»). * У ИИ нет непрерывного существования: когда вы уходите в отпуск, модель просто перестает работать, она не «скучает» и не «думает» в ожидании. * Нет никакой эволюционной или практической причины стремиться к созданию сознательных машин.