RDLY
.ru
Тренды
Статьи
Темы
Люди
Б
Борис Князев
Первый автор исследования, научный сотрудник, проходивший стажировку в Facebook AI.
2
статьи
31 тыс.
просмотров
2021
период
1
канал
💬 Заметные цитаты
«У людей сложилось впечатление, будто мы можем предсказывать параметры для совершенно новых задач, но это не так.»
→
Борис Князев о замене SGD и графовых гиперсетях GHN-2
«Мы сделали лишь один маленький шаг к замене SGD, мы еще далеко не у цели.»
→
Борис Князев о замене SGD и графовых гиперсетях GHN-2
«Для новой сети вы не можете просто предсказать параметры; обычно это приводит к появлению 'мусорных' нейронов. То, что мы получили такие цифры, удивляет нас самих.»
→
Как предсказать параметры нейросети без обучения: разбор статьи GHN-2 с Борисом Князевым
«Наша модель не готова заменить SGD. Мы еще очень далеко от этого.»
→
Как предсказать параметры нейросети без обучения: разбор статьи GHN-2 с Борисом Князевым
👥 Часто вместе с
Янник Килчер
2
📺 Где появляется
Yannic Kilcher
2
🧠 Ключевые концепции
SGD (Stochastic Gradient Descent)
2
Тайлинг (Tiling)
2
Графовая гиперсеть (Graph Hypernetwork)
1
Мета-батчинг (Meta-batching)
1
Гиперсеть (Hypernetwork)
1
GNN (Graph Neural Network)
1
📈 Темы
GHN-2
2
DeepNets-1M
2
графовые гиперсети
1
Hypernetworks
1
Boris Knyazev
1
Graph Neural Networks
1
Борис Князев
1
Yannic Kilcher
1
📺 Материалы с участием
48 мин
🧠 Борис Князев о замене SGD и графовых гиперсетях GHN-2
Yannic Kilcher · 24.11.21 · 15,7 тыс. просм.
48 мин
🧠 Как предсказать параметры нейросети без обучения: разбор статьи GHN-2 с Борисом Князевым
Yannic Kilcher · 24.11.21 · 15,7 тыс. просм.