Инженер Andros Fenollosa опубликовал подробный разбор построения внутреннего RAG-сервиса для компании из offshore-индустрии. Внутри:
локальная LLM,
база технической документации и проектов почти за десять лет,
требование давать ответы со ссылками на первоисточники.Кейс интересен не тем, что RAG собрали, а тем, на каких этапах система ломалась и во что в итоге превратилась архитектура.Старт: стандартная связкаНачальная связка выглядела стандартно:
Локальная модель — Ollama
Эмбеддинги...
