Технологический дайджест ML News: от термоядерного синтеза до «сознания» нейросетей 0:00
Выпуск «ML News» с Янником Килхером охватывает ключевые события в мире искусственного интеллекта: от прорывного управления плазмой в реакторе с помощью глубокого обучения до дискуссий о потенциальной сознательности современных языковых моделей. В видео обсуждаются не только научные достижения, но и этические вопросы, экологический след обучения ИИ, а также юридические барьеры в авторском праве.
⚛️ Контроль термоядерного синтеза через ИИ 2:37
Компания DeepMind представила результаты исследования по использованию глубокого обучения с подкреплением для управления плазмой в экспериментальном термоядерном реакторе.
- Суть задачи: Управление плазмой в аппарате под названием «токамак» крайне сложно из-за высокой нелинейности и необходимости принятия решений за доли секунды.
- Решение: Разработчики использовали симулированную среду для обучения политики управления магнитными катушками, которые удерживают плазму.
- Результаты: Система успешно достигает стабильных конфигураций плазмы, включая сложные формы (например, «конфигурацию капли»), которые ранее не удавалось получить при человеческом контроле.
По словам Килхера, это важный шаг, который делает термоядерный синтез более перспективным источником энергии в будущем.
🌍 Экология и углеродный след обучения моделей 4:34
В блоге Google AI был опубликован отчет о снижении выбросов углекислого газа при обучении моделей. Компания использует принцип «4M»: оптимизация моделей, оборудования, центров обработки данных и карт (географическое размещение центров).
- Оценка Google: Применение этих практик может снизить энергопотребление в 100 раз, а выбросы — в 1000 раз.
- Критика данных: Google утверждает, что сторонние исследователи из Массачусетского университета значительно завысили (в 88 раз) углеродный след при анализе работы компании по архитектурному поиску (Neural Architecture Search).
- Искажение фактов: По мнению ведущего, проблема усугубляется тем, что последующие статьи ошибочно интерпретировали эти завышенные оценки как стоимость обучения конкретной модели, увеличив ошибку в 120 000 раз.
Янник Килхер полагает, что, хотя крупные компании потребляют значительное количество энергии (10–15% от общего использования Google, из которых 40% приходится на обучение), критика часто становится «нарративом о плохих корпорациях», где желание пожаловаться превалирует над изучением реальных цифр.
🧠 Архитектура JEPA и будущее автономного ИИ 8:48
Meta AI (сохраняющая старое доменное имя ai.facebook.com) представила концепцию «мировых моделей» (World Models), которую продвигает Ян ЛеКун.
- Концепция JEPA: Joint Embedding Predictive Architecture (архитектура объединенного прогнозного эмбеддинга) объединяет идеи энергетических моделей и самообучения с предсказанием.
- Задачи: Система нацелена на обучение моделей, которые взаимодействуют с миром, делают прогнозы в долгосрочной и краткосрочной перспективе, а также обучаются иерархическим абстракциям.
- Отличие: Фокус на «мировых моделях» — это отход от стандартных методов обучения с подкреплением, которые пытаются работать «без модели» напрямую от входа к действию.
🧘 Может ли ИИ обладать сознанием? 12:58
Илья Суцкевер (OpenAI) вызвал бурю дискуссий, написав в Twitter, что «сегодняшние большие нейронные сети могут быть слегка сознательными».
- Реакция медиа: Янник Килхер отмечает, что СМИ отреагировали крайне эмоционально, интерпретируя слова Суцкевера как «заявление о факте» и тиражируя заголовки о «терроризирующем предупреждении».
- Мнение ведущего: Сам Килхер считает, что сознание — это физический процесс, результат взаимодействия материи в мозге, поэтому теоретически оно может возникнуть и в небиологических системах.
- Природа сознания: По его мнению, сознание не бинарно (не «есть» или «нет»), а является спектром, поэтому фразы Суцкевера «может быть» и «слегка сознательные» кажутся автору программы вполне логичными.
⚖️ Юридические споры: ИИ и авторское право 25:56
В США Управление по авторским правам постановило, что искусство, созданное искусственным интеллектом, не может быть защищено авторским правом.
- Дело Стивена Талера: Изобретатель системы DABUS пытался зарегистрировать права на арт-объекты, созданные его ИИ.
- Решение ведомства: Для предоставления патентной защиты или авторских прав необходимо наличие «человеческого вмешательства».
- Сложность вопроса: Килхер подчеркивает, что это сложная юридическая коллизия, так как впервые возникает вопрос: кто является владельцем продукта, созданного алгоритмом, и можно ли считать ИИ изобретателем?
