Способны ли большие языковые модели (LLM) к настоящему мышлению и разумным рассуждениям, или же они остаются лишь продвинутыми статистическими зеркалами? Популярный технологический блогер Уэс Рот (Wes Roth) подробно разбирает психологические и логические ловушки, в которые попадают критики искусственного интеллекта. Он утверждает, что яростное отрицание способностей нейросетей зачастую продиктовано не объективными фактами, а глубинным страхом человека перед потерей собственной уникальности.
🛑 Религия «всего лишь»: почему мы отрицаем очевидное 0:00
Дискуссия вокруг способности искусственного интеллекта мыслить и понимать является одной из самых ожесточенных в технологическом сообществе. Известный исследователь Скотт Ааронсон, работавший над проектом квантового превосходства в Google и вопросами безопасности в OpenAI совместно с Ильей Суцкевером, называет позицию скептиков «религией всего лишь» (just-aism). Суть этого подхода заключается в попытке свести сложную систему к её базовым механизмам и на этом основании отказать ей в наличии высокоуровневых способностей.
Критики регулярно используют следующие аргументы, чтобы доказать неспособность ИИ к рассуждениям:
- Нейросети — это всего лишь «стохастические попугаи», предсказывающие следующий токен.
- LLM напоминают гигантские доски Гальтона (Plinko boards), которые просто случайно выбирают траекторию для выдачи готовой истории.
- Алгоритмы занимаются исключительно механической обработкой данных и подбором токенов на основе известных паттернов и связей.
- Компьютеры лишены химических процессов, которые принято считать неразрывно связанными с человеческим мышлением.
Уэс Рот отмечает, что подобные аргументы логически несостоятельны. Описывая внутреннее устройство системы, критики почему-то забывают задаться вопросом: «А чем, в таком случае, является сам человек, если разобрать его на базовые биологические составляющие?».
⏰ Уроки хронометрии: может ли палка в грязи показывать время? 3:40
Чтобы наглядно продемонстрировать абсурдность «религии всего лишь», Уэс Рот приводит аналогию с приборами для измерения времени. Если показать скептику набор металлических шестерёнок и пружин, он, следуя своей логике, должен заявить, что этот предмет не способен определять время, ведь это всего лишь куча железяк. Аналогично можно сказать, что солнечные часы — это всего лишь палка, воткнутая в грязь, а электронные часы — всего лишь кусок пластика и микросхема. Однако все эти предметы успешно справляются со своей задачей.
По мнению автора, единственный научный способ проверить наличие той или иной способности у объекта — это создание объективного теста, который система должна либо пройти, либо провалить. Для часов такой тест включает в себя три понятных критерия:
- Наличие регулярных и измеряемых изменений в системе.
- Возможность наглядно фиксировать и оценивать прогресс этих изменений с помощью стрелок, тени или цифр на экране.
- Сохранение стабильных интервалов во времени при увеличении продолжительности наблюдения.
Если устройство соответствует этим критериям, оно обладает способностью показывать время, и его физическая природа (будь то кварцевый кристалл или шестерёнки) не имеет никакого значения. Точно так же, по словам Уэса Рота, должно оцениваться и мышление ИИ.
🏃♂️ Синдром «девятиминутной мили» и ловушка единичных ошибок 6:48
Второй по популярности логической ошибкой критиков блогер называет аппеляцию к локальным неудачам нейросетей. В качестве примера он приводит гипотетический тест: способна ли человеческая популяция пробежать милю быстрее чем за четыре минуты? Если на беговую дорожку выйдет сам Уэс Рот и покажет слабый результат в районе 9 минут, это не будет доказывать, что люди в принципе не способны на такое достижение.
Долгое время в обществе существовало убеждение о наличии биологического лимита человеческого тела. Однако в 1954 году Роджер Баннистер разрушил этот миф, после чего барьер четырех минут начали преодолевать сотни других атлетов. Из этого Рот выводит важное логическое правило: чтобы доказать наличие способности, достаточно одного успешного подтверждения, в то время как миллионы неудач не доказывают её принципиальную невозможность.
Тем не менее, пользователи интернета продолжают публиковать скриншоты, где ИИ ошибается, и делать из этого глобальные выводы:
- Один из комментаторов пожаловался, что модель несколько раз обещала прислать файл, но так и не сделала этого, из чего был сделан вывод о полном отсутствии у неё понимания сути файла.
- Широкое распространение получили мемы о том, что LLM не могут правильно сосчитать количество букв «r» в слове strawberry.
По мнению Уэса Рота, подобные аргументы лишены смысла. Наличие сломанных часов не означает, что исправные часы не умеют показывать время, а глупые поступки конкретного человека не доказывают, что человечество лишено разума.
🥅 Постоянно сдвигающиеся ворота интеллекта 14:58
Защитники человеческой исключительности регулярно меняют правила игры, как только искусственный интеллект берёт очередной технологический барьер. Уэс Рот напоминает, как исторически эволюционировали критерии «настоящего разума» в глазах общественности:
- До того как ИИ победил сильнейших гроссмейстеров в шахматы, считалось, что победа над человеком будет признаком подлинного интеллекта. После победы это назвали простым перебором вариантов и эвристикой.
- Когда алгоритмы разгромили людей в викторинах и продемонстрировали глубокое понимание нюансов языка, критики списали это на обычную статистику.
- Успешное распознавание миллионов сложных объектов (кошек, лиц людей) после достижения коммерческого уровня сразу же окрестили всего лишь сопоставлением паттернов.
- Победа над чемпионами в игру Го, включая знаменитый креативный «ход 37», была отвергнута как проявление узкого, а не общего интеллекта.
Сегодня скептики утверждают, что модели могут работать только в пределах своего обучающего набора данных. Однако инструмент AlphaFold от Google DeepMind и новые открытые модели семейства Gemma уже совершают революционные открытия в биологии и онкологии, находя скрытые закономерности, которые люди за всю историю отыскать не смогли. По мнению блогера, отрицать элемент подлинного научного поиска в этих результатах становится всё труднее.
🧠 Эго под угрозой: истинная причина критики ИИ 19:25
Почему же умные и образованные люди продолжают совершать столь детские ошибки в своих рассуждениях? Уэс Рот убежден, что причина кроется в сильном эмоциональном триггере, который активирует древнюю, амигдалярную часть нашего мозга. Вопрос «Могут ли LLM мыслить?» воспринимается ими не как нейтральная задача вроде «Может ли микроволновка запустить игру Doom?», а как экзистенциальная угроза.
Включается режим «красной тревоги»: если машина способна рассуждать, значит, человек больше не уникален, он станет самым глупым сотрудником в коллективе и потеряет работу. В этот момент мозг подсознательно формулирует для себя скрытую задачу: «Объясни, почему LLM не могут делать то, что заставляет меня чувствовать себя особенным».
Любые аргументы подгоняются под этот внутренний запрос. Критики цепляются за новые исследования, вроде недавней статьи Anthropic «Признаки интроспекции в больших языковых моделях», или за публикации, где ИИ сам утверждает, что не обладает сознанием, не понимая, что ответы моделей часто являются лишь продуктом обучения с подкреплением (RLHF).
🎨 Война за «душу» искусства: от фотографии до нейромузыки 22:25
Этот же психологический механизм работает и в творческой среде. Уэс Рот описывает конфликт в соцсетях, где профессиональный 3D-художник, работающий в Blender, яростно атаковал автора красивой ИИ-анимации, заявляя: «Ты ничего не создал, всё сделала машина!». Блогер иронично сравнил эту позицию со временами зарождения фотографии: тогда живописцы тоже утверждали, что фотографы ни во что не вкладываются, а просто нажимают на кнопку.
Художник гордится высоким уровнем ремесленного мастерства (craft scale), требующимся для ручного моделирования, и появление ИИ, способного выдать сравнимый результат по короткому текстовому запросу, заставляет его чувствовать себя менее ценным. В попытках защитить своё эго критики начинают придумывать новые абстрактные термины, заявляя, что в генеративном искусстве, текстах или музыке «нет души» и «нет глубины». На платформе LinkedIn даже распространяют инфографику в виде айсберга, доказывающую, что человеческий текст наполнен подтекстом, намерениями автора и контекстом, а текст ИИ — это просто буквы.
Однако реальные научные исследования полностью опровергают эти убеждения:
- В слепых тестах обычные люди не могут отличить музыку, созданную нейросетью Suno, от треков, написанных людьми (результаты близки к подбрасыванию монетки — 50/50).
- Исследования поэзии показали, что люди не только не отличают стихи ИИ от классических произведений, но и оценивают сгенерированные стихи выше человеческих по ритму, эмоциональному воздействию и эстетической красоте.
- Как только участникам эксперимента открыто говорили, что текст создан ИИ, их оценки резко падали, что доказывает наличие исключительно психологической предвзятости.
🔮 Ближайшие пять лет: как не обмануть самого себя 34:32
Ссылаясь на знаменитую цитату Фёдора Достоевского «Главное — самому себе не лгите», Уэс Рот прогнозирует, что следующие пять лет станут критически важными для человечества. Из-за страха и уязвленного эго многие люди начнут вести себя неадекватно, не замечая собственного безумия.
Вместо изобретения абстрактных концепций для самоуспокоения, автор рекомендует придерживаться прагматичного подхода:
- Четко анализировать, в чем ИИ действительно хорош, а в чем слаб, используя конкретные проверяемые тесты.
- Не сравнивать технологии исключительно с одним процентом лучших мировых профессионалов. Если ИИ пишет код лучше, чем 50% рядовых программистов, это уже окажет колоссальное влияние на рынок труда.
- Принимать решения на основе сухой статистики, а не личных обид и страхов.
В финале видео Уэс Рот шутит, что единственной безопасной профессией в ближайшем будущем останется ремесло ютубера. Ведь для создания видеоконтента необходим пресловутый жизненный опыт, харизма, присутствие в кадре, энергетика, аура и тот самый неуловимый X-фактор. Что же касается фундаментального вопроса о рассуждениях, автор обращает внимание на официальное определение слова «разум» (reason) — это способность мыслить с помощью логики, в то время как «логика» (logic) определяется как процесс разумного рассуждения. Столь ироничный замкнутый круг в человеческом языке, возможно, и есть лучший ответ на этот бесконечный спор.
