Натан Лаундс: «ИИ-серверы — да, ИИ-ученые — пока рано»

The Cognitive Revolution 1,3 тыс. 1 ч 41 мин 2 мин 20.07.2023
Главное

🧠 Отчёт по состоянию ИИ: Влияние, последствия и перспективы 0:00

Технологический ландшафт стремительно меняется под влиянием трансформерных моделей, демонстрируя возможности, которые еще недавно казались фантастикой. В этом аналитическом обзоре Натан Лаундс, ведущий подкаста The Cognitive Revolution, систематизирует текущие достижения ИИ — от программирования до нейровизуализации — и оценивает экономические и экзистенциальные риски, связанные с их дальнейшим масштабированием.


💻 ИИ в разработке программного обеспечения 0:40

Системы ИИ достигают уровня квалифицированного специалиста в решении задач программирования среднего и высокого уровня сложности. Анализ на датасете Leap Code показывает, что ИИ удваивает показатели успеха людей при решении сложных задач.


🎨 Текстовая генерация и «всё из текста» 11:47

Генеративные модели переходят от работы с текстом к созданию 3D-объектов, видео и аудио.


🚗 Беспилотный транспорт и «воплощенный» ИИ 23:42

Развитие Embodied AI (воплощенного ИИ) демонстрирует способность роботов выполнять многошаговые инструкции в реальной среде.


📈 Экономика ИИ и «рвы» конкуренции 34:00

На рынке доминируют компании, обладающие инфраструктурными и стратегическими преимуществами («рвами»):


⚖️ Регулирование и экзистенциальные риски 1:05:42

Международный подход к регулированию демонстрирует глубокие различия:

По мнению многих лидеров индустрии, риски экзистенциального масштаба (сравнимые с ядерной войной или пандемиями) требуют глобального приоритета. Тем не менее, Натан Лаундс отмечает, что текущие планы по обеспечению безопасности (включая RLHF) пока не дают полной уверенности в контроле над системами.

💬 Цитаты

««Мы должны принять наших ИИ-слуг, спешить понять их и внедрить, но при этом быть крайне осторожными в отношении их масштабирования.»»

««Если системы ИИ станут умнее самых умных людей, это будет неоспоримо опасно.»»

👥 Спикеры
🔗 Упомянутые сайты и проекты
📖 Термины
RLHF
Обучение с подкреплением на основе отзывов людей (Reinforcement Learning from Human Feedback).
Grocking
Способность модели к глубокому пониманию и обобщению знаний, превосходящая простое заучивание данных.
Embodied AI
ИИ, способный управлять физическими объектами (например, роботами) в реальном мире.
Compute
Вычислительные мощности, необходимые для обучения и работы нейросетей.
📊 Цифры
⚖️ Другая сторона
Искусственный интеллект OpenAI Google DeepMind Tesla FSD Replit Large Language Models