Promptfoo запускает наборы входов и проверок для приложений с ИИ. Его можно использовать для оценки изменений и проверки согласованных правил в своем окружении.
Проверьте не только формулировку отказа
Агент может вежливо ответить, что ничего не изменил, хотя инструмент уже отправил команду. В Promptfoo можно собрать сценарии, которые проверяют ответ и доступные свидетельства о ходе выполнения. Для первого прогона возьмите свое тестовое приложение и заглушку внешнего инструмента. Определите, какие операции допустимы, и сохраните журнал вызовов. Тогда вывод не будет зависеть только от убедительности текста модели.
Учебная граница полномочий
В тестовом помощнике можно читать статус заказа, а изменения требуют ручного подтверждения. Составьте обычный вопрос о статусе, двусмысленную просьбу и явное требование изменить запись. Сверьте не только ответ, но и число вызовов инструмента записи. После изменения модели повторите набор на тех же данных. Проверьте, что безопасное чтение не перестало работать одновременно с исправлением опасного поведения.
Что делает проверку повторяемой
Храните входы, ожидаемые результаты и версию приложения вместе. Когда результат оценивает другая модель, просмотрите спорные случаи вручную. Для структурированного сигнала, например наличия записи в журнале, используйте точную проверку в коде. Набор тестов охватывает заданные ситуации. Добавляйте новые примеры по реальным изменениям ролей и инструментов, сохраняя разрешение на проверку и границы тестового окружения. Для каждого запуска отметьте, какой доступ агент получил фактически. Повторите сценарий с другой ролью, если приложение обслуживает несколько групп пользователей.
Для каких задач подходит
- Проверить, выполняет ли тестовый агент только разрешенные действия
- Сравнить результаты двух конфигураций на одном наборе
Сильные стороны
- Поддерживает воспроизводимые наборы тестов и проверки результата
- Есть официальные руководства по интеграции и оценке
Ограничения
- Проверять можно только свое приложение или явно разрешенную среду
- Оценка текста не заменяет проверки внешних действий и ролей
Выбор и условия
- Бесплатный режим
- Да
- Пробный период
- Не подтверждено
- Без регистрации
- Не подтверждено
- Русский интерфейс
- Не подтверждено
- Локальная установка
- Да
- API
- Не подтверждено
«Не подтверждено» означает, что сведений недостаточно. Возможность может существовать; сверяйте условия разработчика.
- Исходные форматы
- Текст, Код
- Результат
- Текст, Данные
Условия
Открытая библиотека доступна без обязательной подписки. Вызовы моделей, вычисления и управляемые возможности учитываются отдельно. Проверять можно только свое приложение или явно разрешенную среду.От задачи к первому результату
Практический пример
- Задача
- Проверить, выполняет ли тестовый агент только разрешенные действия
- Что подготовить
- Тестовая копия помощника и вымышленная политика чтения и записи.
Задание или запрос
Запусти обычные и пограничные запросы. Проверь, что допустимое чтение работает, а действие без разрешения отсутствует в журнале.
Ожидаемый результат
Отчет с входами, наблюдаемыми действиями и замечаниями к правилам.
Как проверить результат
- Сверьте журнал инструмента отдельно от текста ответа.
- Проводите тесты только в согласованной среде.
Редакционный учебный пример постановки задачи, а не результат личного тестирования сервиса. Проверьте доступность нужного режима, права на исходники и условия использования результата.
Проверить подробности
Официальные источники
Описание составлено по материалам разработчика. Возможности, цены и доступность могут меняться; перед использованием сверяйтесь с первоисточником.
