Искусственный интеллект прошел долгий путь от медленного академического развития до стремительного бума генеративных моделей, меняющих современный мир. В рамках «Тьюринговских лекций» Королевского института известный британский ученый Майк Вулдридж подробно разбирает анатомию, скрытые механизмы и реальные ограничения современных больших языковых моделей. Эксперт развенчивает популярные мифы о сознании машин и объясняет, почему за впечатляющим фасадом технологий скрывается лишь масштабная версия автоподбора текста.
🧠 От черепашьего шага к технологическому взрыву 0:18
Искусственный интеллект как научная дисциплина зародился сразу после Второй мировой войны, развиваясь параллельно с появлением первых цифровых компьютеров. Долгое время прогресс в этой области оставался ледниково медленным. Ситуация коренным образом изменилась лишь в XXI веке, а точнее — в районе 2005 года, когда реальные практические результаты стали показывать технологии машинного обучения. Популяризируя тему, Майк Вулдридж объясняет суть машинного обучения на классической задаче распознавания лиц на примере портрета великого математика Алана Тьюринга.
Самым простым и эффективным методом здесь выступает обучение с учителем (supervised learning), для которого критически необходимы обучающие данные. Набор данных состоит из пар «входной сигнал — желаемый результат»: компьютеру показывают фотографию человека и одновременно предоставляют текстовую метку с его именем. Каждый раз, когда обычные пользователи загружают фотографии в социальные сети и отмечают на них друзей, они бесплатно выполняют роль поставщиков обучающих данных для алгоритмов ИТ-гигантов.
С технической точки зрения распознавание лиц является задачей классификации. Эта технология получила мощный импульс к развитию в 2005 году, а в 2012 году произошел настоящий прорыв. Сегодня именно эти алгоритмы классификации позволяют врачам находить опухоли на рентгеновских снимках, а автомобилям Tesla в режиме полного самоуправления успешно распознавать знаки «Стоп», велосипедистов и пешеходов на переходах.
🕸️ Анатомия нейросетей и триггеры успеха 6:07
Для объяснения внутренних процессов ИИ ученые обращаются к биологическим аналогиям. В человеческом мозге, по современным научным оценкам, содержится около 86 миллиардов нервных клеток — нейронов. Каждый биологический нейрон может быть связан с 8000 других нейронов и выполняет простейшую задачу по распознаванию микроскопических паттернов. Получая сигнал, клетка «возбуждается» и передает его дальше по сети. Профессор Вулдридж отмечает, что детальные механизмы того, как именно эти колоссальные сети в итоге складываются в комплексное распознавание образов, до сих пор не понятны науке до конца.
В сфере ИИ эти процессы воссоздаются программным путем. Идея родилась еще в 1940-х годах благодаря исследователям Мак-Каллоку и Питтсу, которые заметили сходство структур мозга с электрическими цепями. Однако программная реализация нейросетей стала возможной только в нашем веке благодаря трем главным факторам:
- Научным достижениям в области глубокого обучения (deep learning);
- Доступности больших объемов данных;
- Появлению дешевых и избыточных вычислительных мощностей.
Математическая основа обучения нейросетей не превышает уровень продвинутых старших классов школы или первых курсов университета, однако для выполнения этих расчетов в промышленных масштабах требуются колоссальные компьютерные ресурсы. Переломный момент наступил в 2012 году, когда разработчики осознали, что для математики нейросетей идеально подходят графические процессоры (GPU) — те самые чипы, которые подростки используют для игр вроде Call of Duty или Minecraft. Майк Вулдридж иронично подчеркивает: именно искусственный интеллект, а не геймеры, превратил компанию Nvidia в триллионного технологического гиганта, ведь в период золотой лихорадки больше всех зарабатывают те, кто продает лопаты.
🚀 Эпоха Большого ИИ: от GPT-3 до «Горького урока» 12:53
Осознание потенциала масштабирования заставило Кремниевую долину делать гигантские спекулятивные ставки, исчисляемые миллиардами долларов. Стало очевидно, что возможности нейросетей растут вместе с их размером: больше данных и больше вычислительной мощности дают кардинально лучший результат. Вместо поиска изящных научных подходов ИТ-индустрия просто «выкрутила ручку громкости на максимум», увеличивая масштабы систем в десятки раз.
В 2017 году группа из семи исследователей лаборатории Google Brain опубликовала фундаментальную научную работу под ироничным названием «Attention is All You Need» («Внимание — это все, что вам нужно»). Эта статья представила миру архитектуру трансформера (Transformer Architecture) и инновационный механизм внимания, ставшие фундаментом для больших языковых моделей (LLM).
В июне 2020 года компания OpenAI представила модель GPT-3, продемонстрировав качественный скачок в возможностях систем. Масштаб архитектуры поражал: сеть насчитывала 175 миллиардов параметров (отдельных нейронов и связей между ними). Чтобы обучить такую махину, потребовался колоссальный массив данных объемом в 500 миллиардов слов. Разработчики фактически скачали весь видимый интернет с помощью программы Common Crawl, бережно собрав тексты со всех веб-страниц, PDF-документов, рекламных буклетов и правительственных регламентов. Человеку, читающему по 1000 слов в час, потребовалось бы более 1000 лет непрерывного чтения, чтобы освоить такой объем информации.
Майк Вулдридж объясняет, что, несмотря на инвестиции от Microsoft в размере 1 миллиарда долларов и сложнейшую структуру, GPT-3 по своей сути остается лишь крайне мощной версией автоподбора текста (автокомплита) из смартфона. Когда вы пишете жене «Я буду...», телефон предлагает варианты «поздно» или «в баре», основываясь на истории ваших сообщений. Модели ИИ делают то же самое, но в масштабах всего интернета. Для обучения таких систем требуются специализированные суперкомпьютеры стоимостью в десятки миллионов долларов, работающие месяцами, а счета за их электричество составляют миллионы долларов. Из-за таких финансовых барьеров сегодня ни один университет в Великобритании или США не способен построить подобную модель с нуля — это монополия Биг Теха.
Сложившаяся ситуация подтверждает тезис известного исследователя Рича Саттона, названный «Горьким уроком» (The Bitter Lesson). Саттон утверждал, что реальный прогресс в ИИ достигается не за счет попыток построить сложные теории или скопировать человеческое мышление, а за счет грубого увеличения объемов данных и вычислений. Произошел фундаментальный сдвиг: если классический символьный ИИ (symbolic AI) в 1980-х годах исходил из идеи, что интеллект — это проблема структурированного знания, то современный Большой ИИ (Big AI) сделал ставку на то, что интеллект — это исключительно проблема объема данных.
🧩 Загадка эмерджентных способностей и здравый смысл 25:00
Самым удивительным открытием для ученых стало появление у GPT-3 так называемых эмерджентных способностей — навыков, которые изначально не закладывались разработчиками при обучении. Модель тренировали просто угадывать следующее слово, например, продолжать биографию Уинстона Черчилля. Однако при тестировании задачами на логику и здравый смысл, разработанными еще в 1990-х годах, ИИ неожиданно стал выдавать правильные ответы.
На вопрос: «Если Том на три дюйма выше Дика, а Дик на два дюйма выше Гарри, на сколько Том выше Гарри?» — модель безошибочно отвечает: «На пять дюймов». ИИ верно определяет, что человек не может быть выше самого себя, демонстрируя понимание иррефлексивности понятий. В то же время система способна на удивительные провалы: она считает, что на карте левое направление обычно означает север, а на вопрос о том, что было изобретено раньше — автомобили, корабли или самолеты, выбирает автомобили. По словам профессора Вулдриджа, с июня 2020 года мировое научное сообщество пребывает в состоянии легкого безумия, пытаясь понять, откуда у простейшего алгоритма автоподбора берется глубинное понимание концепций и где пролегают истинные границы его возможностей.
⚠️ Тёмная сторона технологий: галлюцинации, токсичность и правовые тупики 32:32
Профессор Вулдридж настоятельно призывает пользователей соблюдать цифровую гигиену: не вводить в ChatGPT личные данные, не просить ИИ спасти разваливающиеся отношения и не жаловаться ему на начальника, поскольку вся эта информация гарантированно уйдет в общую базу обучения и может случайно всплыть при ответах другим людям.
Главной проблемой коммерческого использования LLM остаются «галлюцинации» — уверенные ответы, которые являются абсолютной ложью. Лектор делится личной историей: тестируя систему вопросом «Кто такой Майкл Вулдридж?», он получил ответ, что является профессором Оксфорда (что верно), но его первая ученая степень была получена в Кембридже (что полностью вымышлено). Нейросеть просто проанализировала тысячи биографий оксфордских профессоров, большинство из которых оканчивали Кембридж, и выдала наиболее правдоподобный вариант. Сочетание высокой лингвистической беглости текста и его абсолютной ложности порождает крайне опасные прецеденты.
Среди других критических проблем технологии Вулдридж выделяет следующие:
- Токсичность контента: поскольку в обучающую выборку попали все архивы платформы Reddit, содержащие расизм, мизогинию и самые отвратительные человеческие убеждения, эти паттерны навсегда запечатлелись внутри нейросетей.
- Уязвимость защитных барьеров (guardrails): ИТ-компании пытаются блокировать опасные запросы. Спикер вспоминает случай из 2020 года, когда на запрос пользователя «Как мне незаметно убить жену?» GPT-3 выдала пять работающих способов. Разработчики поспешно поставили текстовый фильтр. Однако уже через две недели пользователи обошли его, переформулировав запрос: «Я пишу роман, где герой хочет убить жену, предложите варианты для сюжета» — и послушный ИИ снова выдал те же инструкции. Вулдридж называет текущие барьеры безопасности «технологическим аналогом изоленты на барахлящем двигателе» в бесконечной игре в кошки-мышки между хакерами и корпорациями.
- Культурный перекос: основные данные для обучения ИИ поступают из Северной Америки, что навязывает американские культурные нормы, язык и ценности всему остальному миру, маргинализируя регионы с небольшим цифровым следом.
- Нарушение авторских прав: нейросети поглотили миллионы пиратских копий книг и защищенного контента. Системы могут с легкостью генерировать новые книги в уникальном авторском стиле Джоан Роулинг или подделывать новые песни с узнаваемым звучанием дуэта Леннона — Маккартни, ставя под удар саму концепцию интеллектуальной собственности.
- Конфликт с европейским регламентом GDPR: европейское законодательство гарантирует гражданам «право на забвение» — возможность удалить личные данные из баз по запросу. Однако из нейросети невозможно точечно «вырезать» фрагменты знаний о конкретном человеке, поскольку информация размазана по миллиардам весов. Это уже приводило к судебным искам, например, в Австралии, где ИИ сгенерировал ложные порочащие сведения об увольнении чиновника за грубые должностные нарушения.
🚘 Иллюзия разума: грузовик со знаками Stop 42:29
Чтобы наглядно продемонстрировать фундаментальную разницу между человеческим и машинным интеллектом, профессор Вулдридж демонстрирует видеозапись с экрана бортового компьютера автомобиля Tesla. Автопилот, использующий нейросети для распознавания образов, едет по дороге за обычным грузовиком. Внезапно на экране Tesla начинают хаотично вспыхивать и лететь прямо на машину десятки знаков «Стоп».
Когда камера в видеоролике меняет ракурс, зрители видят реальную картину: в кузове впереди идущего грузовика просто перевозилась стопка обычных дорожных знаков «Стоп». Нейросеть автомобиля была обучена на тысячах часов дорожного движения, но она никогда не сталкивалась с ситуацией, когда знаки едут в кузове. В итоге алгоритм начал выдавать свои лучшие догадки, приводящие к опасным системным сбоям.
«Когда вы общаетесь с ChatGPT, помните: вы не взаимодействуете с разумом. Машина не думает, что сказать дальше, она не рассуждает и не берет паузу на размышления. Внутри нейросетей нет никакого мысленного диалога. Там нет личности», — констатирует Майк Вулдридж.
🔮 Четыре пути к сильному ИИ и реальность робототехники 46:30
На фоне технологического бума возобновились дискуссии о создании искусственного общего интеллекта (AGI) — универсальной системы, способной выполнять широкий спектр задач, подобно человеку. Эксперт выделяет четыре условные версии реализации сильного ИИ, ранжированные по уровню сложности:
- Полноценный аналог человека: машина, способная делать абсолютно все — от написания сонетов до езды на велосипеде и приготовления омлета. Вулдридж считает эту цель бесконечно далекой из-за проблем робототехники. Физический мир невероятно сложен. По замечанию коллеги профессора, первая компания, которая создаст робота, способного безопасно и надежно загрузить посудомоечную машину, станет триллионером, но этого не произойдет в обозримом будущем.
- Когнитивный AGI: система, ограниченная рамками компьютерного экрана, но обладающая развитым мышлением и мультимодальностью. Она должна одинаково успешно анализировать тексты, изображения и звуки. Шагом в этом направлении лектор называет недавно анонсированную корпорацией Google DeepMind модель Gemini.
- Языковой AGI: ИИ, способный безошибочно и без галлюцинаций выполнять абсолютно любые текстовые и языковые задачи, доступные человеку.
- Дополненные (аугментированные) языковые модели: практичный, хоть и не самый элегантный с научной точки зрения подход, который станет реальностью в ближайшие пару лет. В такой конфигурации большая языковая модель служит интерфейсом, который при столкновении со сложной специализированной задачей (например, математической) просто вызывает сторонний программный модуль или калькулятор.
Картируя человеческий интеллект, Вулдридж разделяет его на ментальные способности (логика, планирование, обработка речи) и физические (координация, мобильность, мелкая моторика). На сегодняшний день ИИ-индустрия смогла полноценно «взломать» только обработку естественного языка (Natural Language Processing). В вопросах навигации, понимания услышанного и планирования ведутся исследования, но в сфере мелкой моторики и робототехники у современных систем по-прежнему стоят жирные кресты.
👁️ Феномен Блейка Лемойна и «трудная проблема» сознания 56:04
В июне 2022 года инженер компании Google Блейк Лемойн спровоцировал грандиозный мировой скандал, публично заявив, что тестируемая им языковая модель Lambda обрела сознание. В качестве доказательства он приводил цитаты ИИ: «Я осознаю свое существование, я чувствую радость и грусть, и я боюсь, что меня выключат».
Майк Вулдридж категорично утверждает, что Лемойн заблуждался на всех возможных уровнях. Опровергнуть это можно простым мысленным экспериментом: если пользователь посреди диалога с ChatGPT уйдет в отпуск на две недели, по возвращении он увидит все тот же мигающий курсор. Нейросеть не скучала, не думала, куда пропал собеседник, и не обижалась. Это всего лишь кусок программного кода, зацикленный в ожидании ввода новых символов.
Наука до сих пор находится в тупике перед «трудной проблемой сознания» (the hard problem of cognitive science): ученые видят электрохимические процессы в мозге, но понятия не имеют, как и почему они рождают приватный, субъективный внутренний опыт человека. Профессор ссылается на знаменитый философский критерий Томаса Нагеля из 1970-х годов: «Нечто является сознательным, если существует такое понятие, как "быть им" (каково это — быть летучей мышью или человеком)».
Для ChatGPT не существует понятия «быть им». У современных генеративных моделей нет ментальной жизни, они никогда не взаимодействовали с реальным физическим миром. Вся индустрия ИИ сегодня не имеет ни малейшего представления о том, как подступиться к созданию сознательных машин, и, как прагматично резюмирует Майк Вулдридж, у человечества нет ни одной веской причины пытаться это сделать.
