Джефф Хокинс: «Истинный ИИ появится в ближайшие 20 лет»

Talks at Google 29,6 тыс. 1 ч 4 мин 07.08.2021
Главное

Джефф Хокинс и Субутай Ахмад из компании Numenta представили в Google свою «Теорию тысячи мозгов», предлагающую радикально новый взгляд на работу человеческого интеллекта. В основе их подхода лежит идея о том, что мозг — это не иерархическая структура, а распределённая сеть из тысяч автономных моделей, чьи принципы работы могут стать ключом к созданию по-настоящему сильного ИИ (AGI).

🧠 Неокортекс как единый алгоритм моделирования 2:59

Джефф Хокинс подчёркивает, что неокортекс занимает около 75% объёма человеческого мозга и является непосредственным «органом интеллекта» . Это слой ткани толщиной около 2,5 мм и площадью с большую обеденную салфетку, отвечающий за всё: от зрения и осязания до высшей математики, языка и политики .

Ключевым открытием, на которое опирается Джефф Хокинс, стала работа Вернона Маунткасла. В 1978 году Маунткасл предположил, что, поскольку микроструктура неокортекса везде одинакова, он использует один и тот же базовый алгоритм для всех функций .

🌾 Кортикальные колонки: 150 000 «микро-мозгов» 5:43

Согласно теории Хокинса, неокортекс состоит из примерно 150 000 функциональных единиц — кортикальных колонок . Каждая такая колонка имеет площадь около 1 кв. мм, толщину 2,5 мм и содержит примерно 100 000 нейронов. Джефф Хокинс сравнивает их с зёрнышками риса, плотно упакованными друг с другом .

По словам Джеффа Хокинса, каждая колонка — это полноценная система моделирования мира :

☕ Теория тысячи мозгов: знание через голосование 10:03

Важнейший постулат теории заключается в том, что в мозге нет единой централизованной модели объекта. Например, знание о «кофейной чашке» распределено по тысячам колонок: в зрительной коре, в соматосенсорной (осязание) и даже в слуховой .

Джефф Хокинс объясняет это так:

  1. Множественность моделей: Существуют сотни и тысячи независимых моделей одного и того же объекта.
  2. Механизм голосования: Колонки связаны друг с другом длинными нервными волокнами, через которые они «голосуют» для достижения консенсуса .
  3. Перцептивная стабильность: Когда вы берете чашку, ваши пальцы чувствуют разные её части. Каждая колонка выдвигает гипотезу, и через голосование они приходят к единому выводу: «Это чашка» .
  4. Скрытая работа: Мы не осознаем процесс голосования и смены гипотез при движении глаз (3 раза в секунду). Наше сознание воспринимает только стабильный результат этого голосования .

🧬 Биологические нейроны против «точечных» моделей 13:48

Джефф Хокинс и Субутай Ахмад критикуют современные нейросети за чрезмерное упрощение биологических механизмов. В машинном обучении обычно используются «точечные нейроны», которые просто суммируют веса входов.

Реальные нейроны неокортекса (их около 18 миллиардов) гораздо сложнее :

По мнению Субутая Ахмада, разреженность обеспечивает системе невероятную энергоэффективность (мозг потребляет всего около 40 Ватт, как лампочка) и устойчивость к шумам .

🚀 Дорожная карта Numenta: ИИ нового поколения 23:08

Субутай Ахмад представил три ключевых направления, по которым Numenta переносит принципы работы мозга в технологии:

1. Реализация разреженности (Sparsity)

Numenta уже продемонстрировала, что внедрение разреженных вычислений позволяет повысить эффективность нейросетей на два порядка (в 100 раз) на платформах FPGA . Сейчас ведутся работы по адаптации этих принципов для стандартных CPU и GPU. Это позволит масштабировать ИИ до уровней, сопоставимых с человеческим мозгом.

2. Сложные нейронные модели

Вместо простых функций активации предлагается использовать модели нейронов с дендритами и локальными правилами обучения. По мнению Субутая Ахмада, это решит проблему «катастрофического забывания», позволяя ИИ учиться непрерывно (continuous learning) без потери старых навыков . Такие системы будут самообучаться без необходимости в глобальной функции потерь или жестком методе обратного распространения ошибки (backprop) .

3. Опорные системы (Reference Frames)

Это механизм, заимствованный у клеток решётки (grid cells) и клеток места (place cells). Он позволяет мозгу создавать стабильные 3D-модели объектов, которые можно вращать и перемещать в уме . Внедрение опорных систем в ИИ позволит машинам понимать структуру мира так же, как это делают люди: увидев новую машину один раз, человек сразу понимает, как она выглядит с другой стороны и поместится ли она в гараж .

🤖 Будущее ИИ и экзистенциальные риски 58:18

В завершение дискуссии Джефф Хокинс поделился своим видением будущего. По мнению Хокинса, полноценный сильный ИИ (AGI) появится гораздо раньше, чем через 100 лет — скорее всего, в ближайшие 10–20 лет .

Относительно страхов перед «восстанием машин» позиция спикера однозначна:

💬 Цитаты

«Ваш мозг состоит из примерно 150 000 маленьких «зёрнышек риса», каждое из которых является микро-мозгом.»

Джефф Хокинс 06:40

«Неокортекс использует один и тот же алгоритм везде: для зрения, слуха и даже языка.»

Джефф Хокинс 05:17

«Мы показали, что разреженность позволяет улучшить эффективность слоёв нейросетей более чем в 100 раз.»

Субутай Ахмад 26:30
👥 Спикеры
📚 Упомянутые книги
🔗 Упомянутые сайты и проекты
📖 Термины
Неокортекс
Верхний слой коры больших полушарий мозга, отвечающий за высшие нервные функции.
Кортикальная колонка
Группа нейронов в коре головного мозга, расположенная перпендикулярно её поверхности.
Sparsity (Разреженность)
Свойство системы, при котором активно лишь небольшое количество её элементов одновременно.
Клетки решётки (Grid cells)
Нейроны, позволяющие животным понимать своё положение в пространстве.
Дендрит
Разветвлённый отросток нейрона, который получает информацию от других клеток.
📊 Цифры
🗓 Хронология
  1. 1978 Вернон Маунткасл публикует работу о едином алгоритме неокортекса.
  2. 1997 Джефф Хокинс выпускает PalmPilot.
  3. 2004 Выход первой книги Хокинса «On Intelligence».
  4. Март 2021 Выход книги «A Thousand Brains».
⚖️ Другая сторона
Искусственный интеллект Джефф Хокинс Numenta неокортекс A Thousand Brains Субутай Ахмад