# Джеффри Хинтон и Фей-Фей Ли о будущем ИИ: от экзистенциального страха до экономики достоинства Источник: https://www.youtube.com/watch?v=QWWgr2rN45o Канал: Arts & Science - University of Toronto Опубликовано: 23.02.2024 --- В стенах Университета Торонто состоялась знаковая встреча двух людей, чьи имена неразрывно связаны с историей и будущим современных технологий. Профессор Джеффри Хинтон, которого называют «крестным отцом ИИ», и профессор Стэнфордского университета Фей-Фей Ли обсудили пройденный путь от первых алгоритмов до эпохи ChatGPT, а также те экзистенциальные и социальные вызовы, которые сегодня стоят перед человечеством. На фоне бурного развития искусственного интеллекта эта дискуссия стала попыткой найти баланс между технологическим прогрессом и ответственностью перед обществом. ## 💥 «Большой взрыв» нейросетей: Истоки ImageNet [[JUMP:07:59]] Современный этап развития ИИ начался не с ChatGPT, а с ключевого момента в 2012 году, когда нейросеть AlexNet одержала убедительную победу в конкурсе ImageNet [07:59]. Как вспоминает Фей-Фей Ли, идея создания гигантской базы данных изображений ImageNet зародилась еще в 2007 году [08:50]. В то время академическое сообщество относилось к этой затее скептически: * Наставники советовали Фей-Фей отказаться от проекта ради сохранения карьеры [09:43]. * Грантодатели отказывали в финансировании [10:15]. * Коллеги по машинному обучению считали, что проект «слишком большой», и его невозможно даже уместить на жестком диске того времени [13:36]. Фей-Фей Ли была убеждена, что машинному обучению нужна перезагрузка. Вместо усложнения моделей она предложила сфокусироваться на данных, создав набор из 15 миллионов изображений для 22 000 концепций [12:05]. Джеффри Хинтон отмечает, что именно этот массив данных позволил его студентам — Илье Суцкеверу (ныне сооснователю OpenAI) и Алексу Крижевскому — доказать мощь глубокого обучения [14:18]. До их победы ведущие научные издания, такие как PAMI, принципиально отказывались рецензировать статьи по нейросетям, считая их «безнадежными» [29:08]. Победа в 2012 году, когда ошибка классификации упала почти вдвое, заставила всё мировое сообщество изменить мнение за один год [30:01]. ## 🇨🇦 Упущенный шанс BlackBerry и десятилетие скрытой эволюции [[JUMP:39:05]] В период между 2012 и 2022 годами ИИ развивался внутри бигтеха, часто незаметно для широкой публики. Джеффри Хинтон поделился малоизвестной историей о том, как Канада могла стать мировым лидером в производстве смартфонов с ИИ [40:51]. В 2009 году студенты Хинтона разработали модель распознавания речи, которая была лучше всего, что существовало на рынке. Они предложили компании BlackBerry (тогда Research In Motion — RIM) бесплатно внедрить эту технологию в свои телефоны. Однако руководство компании ответило, что они «не заинтересованы» [41:16]. В итоге технологию забрала Google, внедрив её в Android, что сделало голосовой поиск Google сопоставимым с Siri [41:44]. Фей-Фей Ли подчеркивает, что за это десятилетие она прошла путь от «чистого ученого» до «гуманиста» [37:17]. Видя влияние алгоритмов на выборы (скандал с Cambridge Analytica) и проблему предвзятости ИИ, она приняла решение вернуться из Google в Стэнфорд, чтобы основать Институт человекоцентричного ИИ (HAI) [38:27]. ## 🤖 Мощь данных и природа интеллекта в GPT [[JUMP:44:07]] Появление ChatGPT стало для мира моментом «публичного пробуждения». Хинтон и Ли сошлись во мнении, что ключевым фактором успеха стала невероятная статистическая эффективность «фундаментальных моделей» [46:47]. По словам Хинтона, современные цифровые агенты имеют колоссальное преимущество перед людьми в способе передачи знаний [55:22]: * Люди обмениваются информацией через слова с низкой пропускной способностью (сотни бит). * Цифровые модели могут обмениваться «градиентами» — триллионами параметров, мгновенно передавая опыт от одной копии модели всем остальным [55:36]. На вопрос о том, понимают ли машины то, что говорят, Хинтон отвечает утвердительно [1:18:20]. Он приводит в пример способность GPT-4 решать логические задачи с подвохом (например, о выцветании краски в комнатах), что невозможно без построения внутренней концептуальной модели мира [1:32:02]. ## 🚨 Экзистенциальные vs. Катастрофические риски [[JUMP:1:00:54]] Спикеры разделили опасения, связанные с ИИ, на две большие категории. **Джеффри Хинтон фокусируется на экзистенциальном риске (X-risk):** * Он опасается, что сверхумный ИИ неизбежно создаст подцель «получения власти», так как это упрощает достижение любой другой задачи [1:03:03]. * Если машины станут умнее нас, мы не сможем их остановить [1:03:17]. * Хинтон упомянул метафору Илона Маска: люди могут стать лишь «загрузчиком» (bootloader) для более совершенного цифрового разума [1:03:58]. **Фей-Фей Ли считает более актуальными «катастрофические риски» сегодняшнего дня:** 1. **Оружие:** Автономные боевые роботы требуют международных договоров [1:10:14]. 2. **Дезинформация:** Угроза демократическим процессам и выборам [1:07:44]. 3. **Рынок труда:** Риск потери человеческого достоинства из-за исчезновения рабочих мест [01:08:45]. 4. **Разрыв между секторами:** На текущий момент ни один университет в США не обладает вычислительной мощностью, достаточной для обучения модели уровня ChatGPT, что создает опасный дисбаланс в пользу корпораций [01:10:27]. ## 🎓 Советы будущему поколению и «экономика достоинства» [[JUMP:1:15:18]] Несмотря на серьезность угроз, оба ученых призывают молодежь идти в ИИ не ради оптимизации рекламы, а ради решения глобальных проблем: поиска лекарств от рака, борьбы с изменением климата и создания новых материалов [1:15:43]. Фей-Фей Ли выразила надежду на переход от «экономики труда» к «экономике достоинства», где машины возьмут на себя рутину (например, заполнение медицинских карт), освободив людям время для творчества и общения с пациентами [1:08:58]. На вопрос о том, как студентам выбрать между индустрией и наукой, Хинтон в своей манере пошутил, что менеджером быть не обязательно — в Google ему советовали пройти курсы управления, но он так этого и не сделал [1:43:27]. Ли же посоветовала сохранять в себе «человека», даже будучи технарем, и всегда следовать за страстью, а не за оценками [1:28:02].