🤖 Обзор индустрии ИИ: от Devin AI до экзистенциальных угроз 0:00
Неделя в мире искусственного интеллекта прошла под знаком громких релизов и спекуляций: от появления автономных систем программирования до странных утечек о будущих моделях OpenAI. Янник Кильхер (Yannic Kilcher) проанализировал ключевые новости, подчеркнув, что за многими технологическими прорывами стоят тщательно выверенные маркетинговые кампании, которые требуют критического осмысления.
🛠 Devin AI: первый «ИИ-инженер-программист» 0:13
Devin AI позиционируется разработчиками как первая автономная система для программной инженерии. По мнению Кильхера, это не просто ассистент вроде GitHub Copilot, а интерактивная система, где код является побочным продуктом достижения цели,.
- Принцип работы: Система объединяет LLM, инструменты планирования, консоль, редактор кода и веб-браузер для выполнения задач.
- Автономность: Devin способен самостоятельно находить ошибки в коде, исправлять их и выполнять программы заново.
- Критика маркетинга: Кильхер отмечает, что представленные видео — это «отполированные» примеры. Он считает, что hype вокруг продукта отчасти искусственно подогрет скоординированной медиа-кампанией, включающей одновременные публикации в крупных изданиях вроде Bloomberg.
🕵️♂️ Утечки, секреты и «кражи» моделей 14:11
Одной из самых интригующих тем недели стала возможность «кражи» архитектуры моделей через API.
- Исследование Google DeepMind и ETH Zurich: Исследователи доказали, что при наличии доступа к API можно восстановить проекционную матрицу эмбеддингов языковых моделей, таких как Ada и Babbage от OpenAI, потратив менее $20.
- Секретные параметры: Ученые подтвердили размер скрытого слоя для GPT-3.5-Turbo и предположили, что полное восстановление матрицы обойдется менее чем в $2000.
- Случай с GPT-4.5-Turbo: Поисковые системы проиндексировали (а затем удалили) страницу блога OpenAI с упоминанием модели GPT-4.5-Turbo и датой отсечки знаний «июнь 2024». Кильхер предполагает, что это могла быть как ошибка верстальщика, так и пасхалка для подогрева интереса.
🛡 Риски и геополитика ИИ 17:30
Обсуждение государственного доклада США об угрозах ИИ вызвало у ведущего скептическую реакцию.
- Экзистенциальные угрозы: Доклад упоминает возможность «угроз уровня вымирания» (extinction-level threat). Кильхер называет этот заголовок одним из глупейших, отмечая, что в тексте документа речь идет о более приземленных рисках — использовании ИИ для кибервойн или создания оружия,.
- Позиция автора: Кильхер считает, что создание страшилок об «апокалипсисе от AGI» мешает обсуждать реальные проблемы, возникающие при внедрении мощного ПО.
🚀 Другие ключевые релизы недели 20:45
Индустрия продолжает демонстрировать высокую активность в разработке специализированных инструментов:
- Anthropic: Выпустила модель Claude 3 Haiku, сфокусированную на высокой скорости, низкой стоимости и работе с длинным контекстом.
- Cohere: Представила Command R — модель на 35 млрд параметров, оптимизированную для многоязычного поиска и суммаризации.
- Google DeepMind: Анонсировала SEMA — мультимировую модель-агента, способную взаимодействовать с игровыми средами (например, в Unity) через клавиатуру и мышь.
- Hardware (Intel): Эмод из Stability AI сообщил об использовании чипов Intel не только для инференса, но и для обучения Stable Diffusion 3, что может стать альтернативой доминированию Nvidia на рынке.
