Будущее ИИ: Почему нам нужен «физический» интеллект и чем опасны LLM 0:00
Исследователь ИИ и основатель Tufa Labs Джефф Бек (Jeff Beck) в беседе с каналом Machine Learning Street Talk поднимает фундаментальный вопрос о текущем тупике в развитии искусственного интеллекта. По мнению эксперта, современные языковые модели (LLM) — это лишь «богатые на статистику» системы предсказания следующего слова, лишённые реального понимания мира, которое невозможно обрести без прямого физического опыта. Бек настаивает на необходимости создания систем, которые не просто имитируют человеческую речь, а способны к автоматизации системного проектирования и логическому рассуждению.
🐱 Уроки из кошачьего мозга: почему репрезентация имеет значение 2:20
Бек приводит яркую аналогию из истории нейрофизиологии 1970-х годов, чтобы объяснить, как выбор модели восприятия влияет на интерпретацию данных. Учёные пытались понять, на что реагируют нейроны в зрительной коре кошки, показывая ей слайды с изображениями мышей и мисок с едой, но приборы молчали.
Ситуация изменилась случайно: проектор сломался, и слайд встал криво, проецируя на экран лишь белое и чёрное пятно под углом. В этот момент нейроны кошки начали активно реагировать. Урок, по мнению Бека, заключается в следующем:
- Выбор модели первичнее данных: Исследователи долгое время ошибочно считали, что мозг реагирует на сложные объекты, тогда как он реагировал на базовые геометрические признаки (ориентацию).
- Опасность предвзятости: По словам Бека, современные нейросети, как и учёные прошлого, могут «застрять» в неправильных способах интерпретации данных из-за того, что их обучают на однотипных примерах.
- Разница прогнозов: Даже если разные модели описывают один и тот же образ, выбор того, как именно его кодировать, ведёт к радикально разным выводам о работе системы.
🧠 Проблема «теории разума» и ловушка LLM 5:04
Джефф Бек скептически относится к заявлениям о том, что LLM обладают «теорией разума» (способностью понимать, что другие обладают знаниями, отличными от собственных). Он вспоминает свои тесты с ChatGPT: модель часто «проваливала» проверку, выдавая не ход мысли, а заученный ответ о самой задаче.
- Эффект «Мад Либс»: Бек сравнивает объяснения ИИ с игрой в слова, где модель просто заполняет пропуски в структуре предложения, имитируя логику, но не владея ею.
- Имитация против понимания: Гость полагает, что мы сможем говорить об интеллекте ИИ только тогда, когда модель создаст что-то новое, чего не было в её обучающей выборке — то, что он называет настоящим «нулевым обучением» (zero-shot learning), которого, по его мнению, не существует.
⚖️ Проблема согласования (Alignment) и «невозможная» задача 37:10
Одной из главных тем беседы стала сложность согласования ценностей ИИ с человеческими. Бек утверждает, что задача «вытащить» функцию вознаграждения (reward function) из человека математически невозможна без понимания его системы формирования убеждений.
По мнению исследователя:
- Неразделимость: В рамках теории обучения с подкреплением невозможно отделить убеждения от целей, наблюдая только за поведением (действиями).
- Лавирование: Когда люди спорят, они склонны упрощать: либо оппонент «глуп» (неправильные убеждения), либо «зл» (иные ценности).
- Путь к решению: Чтобы создать действительно «согласованный» ИИ, система должна не просто следовать инструкциям, а иметь дополнительный уровень, который моделирует убеждения пользователя, постоянно ведя с ним «диалог» для уточнения причин того или иного решения.
Бек выражает надежду, что ИИ станет инструментом, который делает людей умнее, а не «костылём», избавляющим от необходимости мыслить. Его ночной кошмар — будущее, в котором человечество превращается в пассивных «выбирателей функций вознаграждения», делегируя всё мышление алгоритмам.
