В стенах Университета Торонто состоялась знаковая встреча двух людей, чьи имена неразрывно связаны с историей и будущим современных технологий. Профессор Джеффри Хинтон, которого называют «крестным отцом ИИ», и профессор Стэнфордского университета Фей-Фей Ли обсудили пройденный путь от первых алгоритмов до эпохи ChatGPT, а также те экзистенциальные и социальные вызовы, которые сегодня стоят перед человечеством. На фоне бурного развития искусственного интеллекта эта дискуссия стала попыткой найти баланс между технологическим прогрессом и ответственностью перед обществом.
💥 «Большой взрыв» нейросетей: Истоки ImageNet 7:59
Современный этап развития ИИ начался не с ChatGPT, а с ключевого момента в 2012 году, когда нейросеть AlexNet одержала убедительную победу в конкурсе ImageNet . Как вспоминает Фей-Фей Ли, идея создания гигантской базы данных изображений ImageNet зародилась еще в 2007 году . В то время академическое сообщество относилось к этой затее скептически:
- Наставники советовали Фей-Фей отказаться от проекта ради сохранения карьеры .
- Грантодатели отказывали в финансировании .
- Коллеги по машинному обучению считали, что проект «слишком большой», и его невозможно даже уместить на жестком диске того времени .
Фей-Фей Ли была убеждена, что машинному обучению нужна перезагрузка. Вместо усложнения моделей она предложила сфокусироваться на данных, создав набор из 15 миллионов изображений для 22 000 концепций .
Джеффри Хинтон отмечает, что именно этот массив данных позволил его студентам — Илье Суцкеверу (ныне сооснователю OpenAI) и Алексу Крижевскому — доказать мощь глубокого обучения . До их победы ведущие научные издания, такие как PAMI, принципиально отказывались рецензировать статьи по нейросетям, считая их «безнадежными» . Победа в 2012 году, когда ошибка классификации упала почти вдвое, заставила всё мировое сообщество изменить мнение за один год .
🇨🇦 Упущенный шанс BlackBerry и десятилетие скрытой эволюции 39:05
В период между 2012 и 2022 годами ИИ развивался внутри бигтеха, часто незаметно для широкой публики. Джеффри Хинтон поделился малоизвестной историей о том, как Канада могла стать мировым лидером в производстве смартфонов с ИИ .
В 2009 году студенты Хинтона разработали модель распознавания речи, которая была лучше всего, что существовало на рынке. Они предложили компании BlackBerry (тогда Research In Motion — RIM) бесплатно внедрить эту технологию в свои телефоны. Однако руководство компании ответило, что они «не заинтересованы» . В итоге технологию забрала Google, внедрив её в Android, что сделало голосовой поиск Google сопоставимым с Siri .
Фей-Фей Ли подчеркивает, что за это десятилетие она прошла путь от «чистого ученого» до «гуманиста» . Видя влияние алгоритмов на выборы (скандал с Cambridge Analytica) и проблему предвзятости ИИ, она приняла решение вернуться из Google в Стэнфорд, чтобы основать Институт человекоцентричного ИИ (HAI) .
🤖 Мощь данных и природа интеллекта в GPT 44:07
Появление ChatGPT стало для мира моментом «публичного пробуждения». Хинтон и Ли сошлись во мнении, что ключевым фактором успеха стала невероятная статистическая эффективность «фундаментальных моделей» .
По словам Хинтона, современные цифровые агенты имеют колоссальное преимущество перед людьми в способе передачи знаний :
- Люди обмениваются информацией через слова с низкой пропускной способностью (сотни бит).
- Цифровые модели могут обмениваться «градиентами» — триллионами параметров, мгновенно передавая опыт от одной копии модели всем остальным .
На вопрос о том, понимают ли машины то, что говорят, Хинтон отвечает утвердительно . Он приводит в пример способность GPT-4 решать логические задачи с подвохом (например, о выцветании краски в комнатах), что невозможно без построения внутренней концептуальной модели мира .
🚨 Экзистенциальные vs. Катастрофические риски 1:00:54
Спикеры разделили опасения, связанные с ИИ, на две большие категории.
Джеффри Хинтон фокусируется на экзистенциальном риске (X-risk):
- Он опасается, что сверхумный ИИ неизбежно создаст подцель «получения власти», так как это упрощает достижение любой другой задачи .
- Если машины станут умнее нас, мы не сможем их остановить .
- Хинтон упомянул метафору Илона Маска: люди могут стать лишь «загрузчиком» (bootloader) для более совершенного цифрового разума .
Фей-Фей Ли считает более актуальными «катастрофические риски» сегодняшнего дня:
- Оружие: Автономные боевые роботы требуют международных договоров .
- Дезинформация: Угроза демократическим процессам и выборам .
- Рынок труда: Риск потери человеческого достоинства из-за исчезновения рабочих мест .
- Разрыв между секторами: На текущий момент ни один университет в США не обладает вычислительной мощностью, достаточной для обучения модели уровня ChatGPT, что создает опасный дисбаланс в пользу корпораций .
🎓 Советы будущему поколению и «экономика достоинства» 1:15:18
Несмотря на серьезность угроз, оба ученых призывают молодежь идти в ИИ не ради оптимизации рекламы, а ради решения глобальных проблем: поиска лекарств от рака, борьбы с изменением климата и создания новых материалов .
Фей-Фей Ли выразила надежду на переход от «экономики труда» к «экономике достоинства», где машины возьмут на себя рутину (например, заполнение медицинских карт), освободив людям время для творчества и общения с пациентами .
На вопрос о том, как студентам выбрать между индустрией и наукой, Хинтон в своей манере пошутил, что менеджером быть не обязательно — в Google ему советовали пройти курсы управления, но он так этого и не сделал . Ли же посоветовала сохранять в себе «человека», даже будучи технарем, и всегда следовать за страстью, а не за оценками .
