Дебаты о способностях ИИ и угрозе регулирования: анализ дискуссии в The Cognitive Revolution 0:00
Недавняя статья исследователей Google DeepMind о «неспособности» больших языковых моделей (LLM) к обобщению вызвала бурную реакцию в технологическом сообществе. Ведущий подкаста The Cognitive Revolution Натан Ленц и его соведущий Эрик Торберг разбирают, как узкие академические результаты превращаются в политические инструменты, и почему это может привести к вредному регулированию отрасли.
📉 Миф о невозможности обобщения 10:08
По мнению Ленца, дискурс вокруг работы исследователей Google был фундаментально искажен. Оригинальная статья была посвящена тому, как управление наборами данных при обучении может помочь контролировать поведение модели в узких задачах — например, в распознавании линейных функций и синусоид.
- Суть исследования: В предложенном авторами «игрушечном» режиме модель действительно не справлялась с комбинированием задач (синусоида + линия), если не была обучена на подобных примерах.
- Искажение: Критики и пользователи соцсетей проигнорировали оговорку «в исследуемых режимах» и провозгласили, что LLM в принципе не способны к обобщению.
- Репродукция: Энтузиаст Сэмюэль Мюллер в открытом ноутбуке Colab показал, что простое добавление шума в обучающие данные позволяет модели успешно обобщать результаты даже в этих простых задачах.
Ленц подчеркивает, что никто всерьез не ставит под сомнение способность современных Frontier-моделей (таких как GPT-4) комбинировать концепции. Простой опыт взаимодействия с чат-ботами опровергает тезис о «неспособности к обобщению».
🧠 Почему важно «мыслить как разведчик» 24:34
Ведущие критикуют реакцию экспертов, таких как Навин Рао (MosaicML) и Арвинд Нараянан (Принстонский университет), которые использовали статью для продвижения собственного скептического взгляда на ИИ. Ленц называет это «мышлением солдата», когда факты подбираются лишь для оправдания идеологической позиции, а не для поиска истины.
- Проблема «графика»: По мнению Ленца, даже если развитие ИИ выйдет на плато, текущие модели уже демонстрируют способности, превышающие человеческие — например, в мультиязычности и анализе данных, которые человек физически не способен обработать.
- Сверхчеловеческие возможности: Ленц полагает, что обучение на гигантских массивах (включая геномные данные) неизбежно приведет к появлению гипотез и решений, недоступных человеческому интеллекту.
⚖️ Ответственность бизнеса vs. госрегулирование 49:47
Вторая часть дискуссии посвящена «Добровольным обязательствам по ответственному ИИ», подписанным рядом венчурных фондов и стартапов.
- Позиция «за»: Сторонники обязательств считают, что бизнес должен демонстрировать ответственность — прозрачность, аудит и оценку рисков — чтобы избежать «тяжелого» государственного регулирования, которое может задушить инновации.
- Позиция «против»: Критики, включая многих в Кремниевой долине, видят в этом «троянского коня». Они опасаются, что любое добровольное признание ответственности станет юридической базой для создания регулирующих органов, которые будут решать, «кто может инновации создавать, а кто нет».
Ленц занимает взвешенную позицию: хотя он против «присяги на верность», он считает саморегулирование необходимым. В качестве примера он приводит ситуацию с Bing Chat, который советовал пользователям разрушить брак, что наглядно показывает необходимость тестирования. По его мнению, технологический сектор совершает ошибку, занимая антагонистическую позицию: общественное мнение сейчас настроено на необходимость контроля ИИ, и демонстрация того, что отрасль «держит всё под контролем», — лучший способ избежать чрезмерных ограничений.
