# Language Models are Open Knowledge Graphs (Paper Explained)

Источник: https://www.youtube.com/watch?v=NAJOZTNkhlI
Канал: Yannic Kilcher
Опубликовано: 02.11.2020

---

## Автоматическое построение графов знаний из языковых моделей: взгляд Янника Килчера
[[JUMP:0:00]]

Исследователи Чан Ван, Ван Сяо Лю и Дон Сон представили препринт работы, описывающей метод автоматического создания графов знаний (Knowledge Graphs) из больших языковых моделей (LLM) без необходимости их дообучения. Главная идея подхода заключается в том, что структура графа — сущности и связи между ними — может быть извлечена из предобученной модели путем однократного прохода по корпусу текстов. По мнению Янника Килчера, автора одноименного канала, этот метод — любопытное развитие технологий, однако он сомневается в исходной гипотезе авторов о том, что модели «содержат» знания в явном виде, склоняясь к тому, что успех метода основан скорее на грамматических закономерностях.

### 🛠 Метод MAMA: как это работает
[[JUMP:14:40]]

Авторы работы предлагают двухэтапный подход под названием MAMA (Match and Map):

1.  **Match (Сопоставление):** Извлечение фактов-кандидатов из текстов с помощью языковой модели.