Рубрика
AI Engineering
RAG · Поиск по документам · Инженерия LLM
RAG-система: что это, когда она нужна и где ломается
RAG — способ заставить языковую модель отвечать по вашим документам, а не по памяти интернета. Идея простая, а провал предсказуемый: почти все проблемы таких систем возникают не в модели, а в том, как документы нарезаны, найдены и переданы ей.
LLM · Качество · Оценка
Галлюцинации LLM: механизм и инженерные меры против них
Галлюцинация — не сбой модели, а её штатный режим работы, доведённый до неудобного нам результата. Понимание механизма важнее любого списка «промптов против галлюцинаций»: оно показывает, какие меры работают, а какие создают лишь ощущение контроля.