Имея некоторый опыт в построении классических ML и CV-проектов, я решил разобраться в NLP (Natural Language Processing) и собрать свою RAG-систему без использования сторонних RAG-фреймворков (LangChain, LlamaIndex и т.п.). Моя цель — понять, как на самом деле работает RAG под капотом: от разбиения текста до генерации ответа.
Проблема, которую решает RAG
Готовые LLM модели имеют несколько недостатков:
Источник: Все публикации подряд на Хабре