Рубрика
Инженерия ИИ
Как устроены системы на языковых моделях и где они ломаются: RAG, поиск по документам, галлюцинации, проверка качества ответов.
RAG · Поиск по документам · Инженерия LLM
RAG-система: что это, когда она нужна и где ломается
RAG-система нужна, чтобы языковая модель отвечала по вашим документам, а не по тому, что запомнила из интернета. Идея простая, и провалы у неё предсказуемые. Почти все они случаются до модели: там, где документы режут на фрагменты, ищут и передают ей.
LLM · Качество · Оценка
Галлюцинации LLM: механизм и инженерные меры против них
Галлюцинации LLM не сбой модели. Это её штатный режим работы, который привёл к неудобному для нас результату. Механизм важнее любого списка «промптов против галлюцинаций»: он показывает, какие меры работают, а какие создают только ощущение контроля.
Нужен разбор вашей задачи?
Опишите в форме на главной, что не работает или что хотите построить.
Калькулятор AVA: ваши цифры, без формы и без нашей цены.
Новые разборы в TelegramНаписать на hello@xteam.pro