Автоматическое построение графов знаний из языковых моделей: взгляд Янника Килчера 0:00
Исследователи Чан Ван, Ван Сяо Лю и Дон Сон представили препринт работы, описывающей метод автоматического создания графов знаний (Knowledge Graphs) из больших языковых моделей (LLM) без необходимости их дообучения. Главная идея подхода заключается в том, что структура графа — сущности и связи между ними — может быть извлечена из предобученной модели путем однократного прохода по корпусу текстов. По мнению Янника Килчера, автора одноименного канала, этот метод — любопытное развитие технологий, однако он сомневается в исходной гипотезе авторов о том, что модели «содержат» знания в явном виде, склоняясь к тому, что успех метода основан скорее на грамматических закономерностях.
🛠 Метод MAMA: как это работает 14:40
Авторы работы предлагают двухэтапный подход под названием MAMA (Match and Map):
- Match (Сопоставление): Извлечение фактов-кандидатов из текстов с помощью языковой модели.
