Применение и оптимизация работы LLM. RAG, борьба с галлюцинациями

Большие языковые модели легко показать в демо, но в реальном продукте они быстро упираются в две проблемы: модель выдумывает факты и ведёт себя менее стабильно, чем хотелось бы. RAG (retrieval-augmented generation) и продуманная оптимизация — то, что отделяет рабочий продукт от красивой демки.

Азамат Галимжанов — CEO azamat.ai, разработчик с 20-летним опытом, прошедший через два успешных экзита, — разбирает, как применять и оптимизировать LLM на практике: как строить RAG и как бороться с галлюцинациями модели.