💬 Заметные цитаты
Суть языка против слов
«Общее заблуждение состоит в том, что использование языка связано прежде всего со словами и их значением. Это не так. Оно связано прежде всего с людьми и тем, что они имеют в виду.»
Математика и смысл текста
«Это действительно похоже на магию, что можно просто проделать эту простую математику над большим количеством текста и фактически узнать значения слов.»
Метафора ошибки градиентов
«Взрывные градиенты — это проблема. Вы думаете, что идете в Сьерру, а оказываетесь в Айове.»
Принцип работы памяти LSTM
«Секрет LSTM в этом знаке «плюс».»
Статистика негативности речи
«Если вы хотите быть более позитивным человеком, реже используйте отрицание. Слово «не» само по себе статистически негативно.»
«Вы узнаете слово по компании, которую оно держит.»
«Внимание — это очень фундаментальная идея нейронных сетей, которая изначально была разработана в контексте машинного перевода.»
«Изобретение идеи внимания было полностью трансформационным.»
📺 Где появляется
🧠 Ключевые концепции
📈 Темы
Stanford CS224N4NLP2Neural Networks2Christopher Manning2LSTM1ConvNets1Natural Language Processing1Machine Translation1Attention Mechanism1Neural Machine Translation1Stanford Online1GloVe1
📺 Материалы с участием
1ч 20м🎓 Кристофер Мэннинг: «Язык — это технология, позволившая людям захватить планету»
1ч 19м⚙ Кристофер Мэннинг: Как векторы слов понимают смысл и контекст
1ч 17м📊 От RNN к LSTM: как ИИ научился не забывать прошлое
1ч 17м🧠 Stanford CS224N: Механизмы внимания и исследовательские проекты в NLP
1ч 11м🎓 Stanford CS224N: Анализ CNN и TreeRNN в обработке естественного языка