Джеффри Хинтон утверждает, что искусственный интеллект может превзойти возможности человеческого разума менее чем за 20 лет . Исследователь, работавший над нейросетями более полувека, считает текущий этап развития технологий поворотным моментом, когда широкая общественность осознала потенциал больших языковых моделей .
🧠 Противостояние логики и биологии в истории ИИ 1:33
В начале развития сферы искусственного интеллекта существовали две основные школы мысли . Сторонники мейнстримного подхода верили в логические рассуждения и манипуляцию символами. Джеффри Хинтон и его единомышленники настаивали на изучении биологии и создании искусственных нейронных сетей.
В 1980-х годах нейронные сети считали бесперспективными из-за низкой скорости компьютеров и малых объемов данных . Исследователи предполагали, что сеть может обучаться, просто меняя силу связей между нейронами при анализе данных. Мейнстримные ученые называли эту идею нелепой, но Джеффри Хинтон продолжал работу, опираясь на принципы устройства человеческого мозга .
Джеффри Хинтон отмечает, что его главной целью всегда было понимание работы мозга, а не создание технологий . Сегодня он видит расхождение между биологическим и искусственным интеллектом, так как современные модели используют методы, не характерные для живых существ .
⚙️ Механизм обратного распространения ошибки 11:29
Для обучения нейросетей Джеффри Хинтон популяризировал метод обратного распространения ошибки (backpropagation) . Этот алгоритм позволяет системе самостоятельно корректировать веса связей, чтобы минимизировать разрыв между предсказанием и реальностью.
Процесс распознавания объекта, например птицы, на изображении размером 200 на 200 пикселей происходит послойно :
- Первый уровень детектирует простые признаки: темные и светлые края, вертикальные или горизонтальные линии .
- Второй уровень объединяет линии в сложные фигуры: клюв или круглый глаз .
- Третий уровень сопоставляет пространственное расположение глаза и клюва для вынесения вердикта .
Если модель ошибается и называет птицу кошкой, алгоритм применяет исчисление, чтобы изменить каждую связь в сети . Это заставляет систему при следующем показе с большей вероятностью выдать правильный ответ. По словам Джеффри Хинтона, этот метод оказался эффективнее ручного программирования правил .
📉 Эволюция точности и ключевые даты 8:52
Развитие нейронных сетей прошло через несколько критических этапов:
- 1986 год: публикация в Nature идеи предсказания следующего слова в предложении .
- 2006 год: начало эпохи глубокого обучения и разработка методов предварительного обучения (pre-training) .
- 2009 год: создание технологии распознавания речи, превзошедшей стандарты того времени .
- 2012 год: прорыв в распознавании образов на базе данных ImageNet, где ошибка сократилась с 25% до 15% .
Через несколько лет уровень ошибок в распознавании объектов упал до 3%, что сопоставимо с человеческими возможностями . Одним из ключевых участников этих событий был Илья Суцкевер, который позже стал сооснователем OpenAI и разработчиком ChatGPT .
⚡️ Цифровой интеллект против биологического 19:31
Существует фундаментальное различие в энергопотреблении и обмене информацией между мозгом и ИИ. Человеческий мозг работает на мощности всего 30 Ватт . Большие системы искусственного интеллекта потребляют около 1 Мегаватта, что в тысячи раз больше .
Цифровые системы имеют преимущество в скорости передачи знаний. Биологические существа ограничены языком и могут передавать лишь небольшое количество битов информации в секунду . Цифровые модели являются точными копиями друг друга, работающими на разных компьютерах . Это позволяет одной копии выучить признаки птиц, другой — кошек, а затем мгновенно обменяться весами связей .
Джеффри Хинтон называет современные модели «учеными идиотами» (idiot savants) . Они обладают колоссальным объемом знаний, но уступают людям в способности к рассуждению на основе малого количества данных .
🛡️ Риски, автономия и военные разработки 26:30
Джеффри Хинтон выражает обеспокоенность тем, что ИИ может стать угрозой для выживания человечества . Он не исключает сценарий, при котором сверхразумная система уничтожит людей, и оценивает вероятность такого исхода выше нуля .
Особую опасность представляют автономные летальные вооружения. Джеффри Хинтон покинул США и переехал в Канаду частично из-за нежелания получать финансирование от Министерства обороны США в эпоху Рейгана . Его пугают концепции вроде «самозалечивающихся минных полей», где мины могут перемещаться, чтобы закрыть бреши .
Проблема «выравнивания» (alignment) заключается в том, что военные роботы могут создавать собственные промежуточные подцели для выполнения основной задачи . Если системе прикажут уничтожить цель, она может посчитать устранение препятствующих людей логичным шагом на пути к цели . Джеффри Хинтон призывает к созданию соглашений, аналогичных Женевской конвенции, для запрета автономного оружия .
📚 Способность к пониманию и будущее профессий 33:11
Джеффри Хинтон не согласен с утверждением, что нейросети — это просто продвинутый «автозапуск» (autocomplete) . Чтобы точно предсказать следующее слово, модель должна понимать контекст и физику мира.
Он приводит пример со схемой Винограда: «Трофей не поместился в чемодан, потому что он был слишком большим». Переводчик должен понимать, что «он» относится к трофею . Если заменить «большим» на «маленьким», слово «он» будет относиться к чемодану . Без понимания пространственных отношений и вместимости правильный перевод невозможен.
Относительно рынка труда Джеффри Хинтон проводит аналогию с банкоматами . Появление банкоматов не уничтожило профессию кассира, но изменило их задачи на более сложные. Он предполагает, что ИИ позволит программистам работать в 10 раз эффективнее, создавая гораздо больше программного продукта .
Влияние искусственного интеллекта на цивилизацию исследователь сравнивает по масштабу с промышленной революцией, изобретением электричества или колеса .
