Как тестировать LLM-фичи: пишем автоэвалы и гоняем их в CI (opens in new tab)

Привет! У нас в проде живёт бот, который отвечает на вопросы по документации продукта — обычный RAG. Первые месяца три мы катили его, как все: поправил промпт, прогнал...