Haystack описывает поток данных через компоненты с именованными входами и выходами. Поиск и генерацию можно запускать вместе или отлаживать по частям.
Как найти проблемное звено
Ответ помощника со ссылкой на руководство выглядит убедительно, пока оператор не откроет источник. Иногда причина ошибки находится в поиске, а иногда модель исказила правильно найденный абзац. В Haystack эти этапы можно описать отдельными компонентами и проверить промежуточные результаты. Сохраните для теста входной вопрос, найденные документы и текст, переданный на генерацию. Тогда после замены модели будет видно, какая часть процесса действительно изменилась.
Две ветви для учебной базы
Представьте внутреннюю справку, где запросы о настройках уходят в индекс документации, а вопросы о поддерживаемых форматах сверяются с небольшой таблицей. Начните с обычного вопроса для каждой ветви. Затем сформулируйте неоднозначный запрос. Посмотрите, совпадает ли выбранный путь с правилами и что происходит, если документы не найдены. Для отрицательного примера задайте вопрос о функции, которой нет ни в одном источнике.
В этой проверке полезно выводить названия компонентов и короткую причину маршрута. Хранить содержание каждого реального обращения для этого необязательно.
Что измерять при замене компонента
Сохраните один и тот же набор входов. Замените поиск или способ подготовки контекста и сравните выдачу до вызова модели. Измерьте время каждого этапа, чтобы медленный внешний запрос не приняли за задержку всего алгоритма. Если используете цикл повторной обработки, задайте условие выхода и проверьте, что неподходящий вход не запускает бесконечную работу.
Для каких задач подходит
- Проверить выход поиска до генерации ответа
- Собрать ветвление для разных типов запросов
Сильные стороны
- Конвейер допускает ветвления и циклы
- Компоненты имеют отдельные входы и выходы
Ограничения
- Соединения и форматы данных нужно настроить в коде
- При нескольких внешних сервисах нужны проверки ошибок каждого звена
Выбор и условия
- Бесплатный режим
- Да
- Пробный период
- Не подтверждено
- Без регистрации
- Не подтверждено
- Русский интерфейс
- Не подтверждено
- Локальная установка
- Да
- API
- Не подтверждено
«Не подтверждено» означает, что сведений недостаточно. Возможность может существовать; сверяйте условия разработчика.
- Исходные форматы
- Документ, Текст
- Результат
- Данные, Текст
Условия
Библиотека доступна для самостоятельного использования. Расходы на облачное размещение, модель и инфраструктуру зависят от используемых компонентов. Соединения и форматы данных нужно настроить в коде.От задачи к первому результату
Практический пример
- Задача
- Проверить выход поиска до генерации ответа
- Что подготовить
- Две версии учебной инструкции и вопросы с известными источниками.
Задание или запрос
Подготовь индекс с полями версии и раздела. Найди подтверждающие фрагменты, верни исходный документ и позицию.
Ожидаемый результат
Выдача с правильной версией инструкции и доступным источником.
Как проверить результат
- Проверьте поиск без генерации ответа.
- Убедитесь, что обновление индекса исключило устаревшую редакцию.
Редакционный учебный пример постановки задачи, а не результат личного тестирования сервиса. Проверьте доступность нужного режима, права на исходники и условия использования результата.
Проверить подробности
Официальные источники
Описание составлено по материалам разработчика. Возможности, цены и доступность могут меняться; перед использованием сверяйтесь с первоисточником.
