Э
💬 Заметные цитаты
Удивление от успеха RL
«Это должно быть своего рода шокирующим, что обучение с подкреплением вообще работает.»
Суть обучения на опыте
«Идея в том, чтобы автоматизированный агент обучался на опыте принимать хорошие решения.»
Интеллект как принятие решений
«Интеллект — это не только восприятие, но и умение принимать решения.»
Марковское свойство систем
«Будущее независимо от прошлого, если известно настоящее.»
ИИ как дополнение человека
«Самые ценные инструменты дополняют человеческие способности и открывают новые горизонты возможностей.»
«Мы не меняем мозг, когда выполняем разные задачи, но имеем один и тот же алгоритм обучения.»
«Теоретические границы, хотя официально и подтверждают статус PAC-алгоритма, могут быть очень консервативными в оценке количества возможных ошибок.»
«Трансформер поймет, что может более компактно закодировать структуру, и при развертывании на новой задаче вы получите поведение, будто вы передали ему эту неизвестную структуру.»
📈 Темы
Reinforcement Learning3Stanford University3CS2342DeepMind2Reward Hacking1Claude Code1ChatGPT1Q-learning1DQN1RLHF1Эмма Бранскилл1Markov Decision Processes1
📺 Материалы с участием
55 мин🛠 Как ИИ-агенты меняют программирование: взгляд экспертов из Anthropic и Стэнфорда
1ч 19м🚀 Профессор Бранскилл: «Обучение с подкреплением — это ключ к интеллекту»
1ч 18м🧠 Эмма Бранскилл о DQN: «Реплей-буфер — ключ к прогрессу»
1ч 18м🎓 Как аналитический метод DPO изменил выравнивание LLM и столкнулся со взломом наград
1ч 10м🎮 Профессор Эмма Бранскилл об эволюции алгоритмов исследования в обучении с подкреплением