← Рама Рамакришнан
Рама Рамакришнан
24 цитаты из наших статей · нажмите, чтобы открыть статью-источник
Профессор MIT, специализирующийся на машинном обучении и обработке естественного языка.
«
Каждый раз, когда я увольняю лингвиста, производительность распознавателя речи возрастает.
11:50 · Рама Рамакришнан об основах NLP: «Начинайте с простого»
«
Фильтр — это специалист. Один специализируется на вертикальных линиях, другой на кругах. Вы позволяете системе самой решить, кем быть.
17:49 · От пикселей к смыслам: как сверточные нейросети и HuggingFace изменили компьютерное зрение
«
Трансферное обучение — это идея: возьмите сеть, созданную кем-то другим, и адаптируйте её, вместо того чтобы строить с нуля.
1:01:27 · От пикселей к смыслам: как сверточные нейросети и HuggingFace изменили компьютерное зрение
«
Они захватили всё. Трансформеры трансформировали перевод, поиск Google, извлечение информации, распознавание речи, преобразование текста в речь и даже компьютерное зрение.
0:42 · «Они захватили всё»: Рама Рамакришнан о принципах работы трансформеров
«
Поскольку мы проявили чрезвычайную осторожность, чтобы вещи, которые входят и выходят, имели одинаковый размер, мы можем складывать их друг на друга, как блины.
1:00:37 · «Они захватили всё»: Рама Рамакришнан о принципах работы трансформеров
«
Трансформеры стали настолько эффективной архитектурой нейросетей, что если вы работаете над конкретной задачей, вы почти рефлекторно попробуете трансформер первым.
0:29 · Как устроена архитектура Transformers и зачем ей скалярное произведение
«
Поскольку на входе и выходе соблюдается идеальное равенство размеров, blocks трансформеров можно собирать в глубокие стопки, как блины.
1:00:23 · Как устроена архитектура Transformers и зачем ей скалярное произведение
«
Предсказание следующего слова — это частный случай маскировки, который оказывается странным образом более интересным и мощным.
1:33 · Профессор MIT Рама Рамакришнан о принципах работы LLM и GPT
«
Когда вы видите, как чат-бот печатает ответ, это часто намеренно замедленный процесс, чтобы имитировать человека.
27:45 · Профессор MIT Рама Рамакришнан о принципах работы LLM и GPT
«
LLM занимаются субтрактивной скульптурой: каждое слово отсекает лишнее от глыбы мрамора, пока не проявится фигура Давида.
46:10 · Технологии LLM и RAG в MIT: как работают современные языковые модели
«
Если модель случайно выберет токен из «хвоста» распределения, она часто уже не может вернуться в нормальное русло.
40:21 · Технологии LLM и RAG в MIT: как работают современные языковые модели
«
Если вы понимаете глубокое обучение, для вас становятся возможными многие интересные вещи.
24:32 · Рама Рамакришнан: «Как глубокое обучение меняет мир»
«
Никаких долгосрочных монопольных окон в мире нет. Есть только краткосрочные окна.
16:51 · Рама Рамакришнан: «Как глубокое обучение меняет мир»
«
Ты познаешь слово по компании, которую оно держит.
15:32 · Как нейросети «понимают» смысл: эмбеддинги и метод GloVe
«
Человеческая биология, сведенная к одному предложению.
48:55 · Как нейросети «понимают» смысл: эмбеддинги и метод GloVe
«
Масштаб: если у вас 3 слова, то 9 умножений. Если миллион слов — это триллионы умножений.
11:04 · Как работают трансформеры: От self-attention до BERT и Hugging Face
«
Когда вы думаете, что принимаете ad hoc решение, остановитесь и спросите: можно ли это изучить из данных через обратное распространение ошибки?
45:51 · Как работают трансформеры: От self-attention до BERT и Hugging Face
«
Если вы не уверены, кто является продуктом, то продукт — это вы.
11:48 · Как адаптировать LLM: от обучения инструкциям до RAG
«
Retrieval Augmented Generation — это, на мой взгляд, самое распространенное бизнес-приложение LLM на сегодняшний день.
42:45 · Как адаптировать LLM: от обучения инструкциям до RAG
«
Я занимаюсь бразильским джиу-джитсу.
05:14 · Звёздная викторина: насколько хорошо каст «Never Have I Ever» знает друг друга?
«
Я думаю, мы все согласимся, что хорошо знаем друг друга.
09:17 · Звёздная викторина: насколько хорошо каст «Never Have I Ever» знает друг друга?
«
Я часто лгу людям ради шутки, но не со зла.
04:25 · Актеры сериала «Я никогда не...» раскрыли тайны кастинга на детекторе лжи
«
Я не из тех, кто много знает о сленге, это уж точно.
1:04 · Звезды «Я никогда не...» проходят проверку на детекторе лжи
«
Это как Uber, только ты сам за собой приезжаешь.
02:15 · Майтреи Рамакришнан и коллеги о гаджетах для отношений: «Сплошное разочарование»