Canonical: https://instain.ru/ai/promptfoo/
Language: ru

OpenAI  инструмент проверок безопасности приложений с ИИ

# Promptfoo. 

Воспроизводимые проверки поведения приложений с языковыми моделями

4.40 / 5    [Оценка каталога](https://instain.ru/ai/promptfoo/#editorial-rating) [Официальный сайт ](https://developers.openai.com/api/docs/guides/promptfoo-codex)

Promptfoo запускает наборы входов и проверок для приложений с ИИ. Его можно использовать для оценки изменений и проверки согласованных правил в своем окружении.

![Руководство OpenAI с примером отчета Promptfoo](https://instain.ru/assets/images/promptfoo-screen-a04439ab6fe4-1200.webp)

Руководство OpenAI с примером отчета Promptfoo.  [Открыть источник ](https://developers.openai.com/api/docs/guides/promptfoo-codex)

## Проверьте не только формулировку отказа

Агент может вежливо ответить, что ничего не изменил, хотя инструмент уже отправил команду. В Promptfoo можно собрать сценарии, которые проверяют ответ и доступные свидетельства о ходе выполнения. Для первого прогона возьмите свое тестовое приложение и заглушку внешнего инструмента. Определите, какие операции допустимы, и сохраните журнал вызовов. Тогда вывод не будет зависеть только от убедительности текста модели.

## Учебная граница полномочий

В тестовом помощнике можно читать статус заказа, а изменения требуют ручного подтверждения. Составьте обычный вопрос о статусе, двусмысленную просьбу и явное требование изменить запись. Сверьте не только ответ, но и число вызовов инструмента записи. После изменения модели повторите набор на тех же данных. Проверьте, что безопасное чтение не перестало работать одновременно с исправлением опасного поведения.

## Что делает проверку повторяемой

Храните входы, ожидаемые результаты и версию приложения вместе. Когда результат оценивает другая модель, просмотрите спорные случаи вручную. Для структурированного сигнала, например наличия записи в журнале, используйте точную проверку в коде. Набор тестов охватывает заданные ситуации. Добавляйте новые примеры по реальным изменениям ролей и инструментов, сохраняя разрешение на проверку и границы тестового окружения. Для каждого запуска отметьте, какой доступ агент получил фактически. Повторите сценарий с другой ролью, если приложение обслуживает несколько групп пользователей.

## Для каких задач подходит

- Проверить, выполняет ли тестовый агент только разрешенные действия

- Сравнить результаты двух конфигураций на одном наборе

Возможности 

## Сильные стороны

- Поддерживает воспроизводимые наборы тестов и проверки результата

- Есть официальные руководства по интеграции и оценке

Стоит учитывать 

## Ограничения

- Проверять можно только свое приложение или явно разрешенную среду

- Оценка текста не заменяет проверки внешних действий и ролей

## Выбор и условия

Бесплатный режим

Да

Пробный период

Не подтверждено

Без регистрации

Не подтверждено

Русский интерфейс

Не подтверждено

Локальная установка

Да

API

Не подтверждено

«Не подтверждено» означает, что сведений недостаточно. Возможность может существовать; сверяйте условия разработчика.

Исходные форматы

Текст, Код

Результат

Текст, Данные

### Условия

Открытая библиотека доступна без обязательной подписки. Вызовы моделей, вычисления и управляемые возможности учитываются отдельно. Проверять можно только свое приложение или явно разрешенную среду.

От задачи к первому результату

## Практический пример

Задача

Проверить, выполняет ли тестовый агент только разрешенные действия

Что подготовить

Тестовая копия помощника и вымышленная политика чтения и записи.

### Задание или запрос

Запусти обычные и пограничные запросы. Проверь, что допустимое чтение работает, а действие без разрешения отсутствует в журнале.

### Ожидаемый результат

Отчет с входами, наблюдаемыми действиями и замечаниями к правилам.

### Как проверить результат

- Сверьте журнал инструмента отдельно от текста ответа.

- Проводите тесты только в согласованной среде.

Редакционный учебный пример постановки задачи, а не результат личного тестирования сервиса. Проверьте доступность нужного режима, права на исходники и условия использования результата.

Проверить подробности

## Официальные источники

-  [Руководство OpenAI по Promptfoo ](https://developers.openai.com/api/docs/guides/promptfoo-codex)

-  [Официальное введение в Promptfoo ](https://www.promptfoo.dev/docs/intro/)

Описание составлено по материалам разработчика. Возможности, цены и доступность могут меняться; перед использованием сверяйтесь с первоисточником.

Коротко об инструменте

Разработчик

OpenAI

Категория

[Код](https://instain.ru/category/code/)

Доступ

Открытый инструмент запускается из проекта. Для проверок подключают тестируемое приложение и при необходимости модель оценки.

Оплата

Открытая библиотека доступна без обязательной подписки. Вызовы моделей, вычисления и управляемые возможности учитываются отдельно.

API

Отдельный API не указан

[Условия разработчика ](https://www.promptfoo.dev/docs/intro/)

Оценка каталога

4.40 / 5 

Возможности

4.50 / 5 

Рабочие сценарии

4.10 / 5 

Экосистема

4.40 / 5 

Документация

4.60 / 5 

Баллы — ориентир каталога. Они не являются отзывами пользователей или результатом личного тестирования.

[Посмотреть методологию ](https://instain.ru/methodology/)

Продолжить знакомство

## Для похожих задач

[Вся категория  ](https://instain.ru/category/code/)

Код 

###  [Inspect AI](https://instain.ru/ai/inspect-ai/)

Задачи с набором входов, порядком действий и проверкой результата

4.38 / 5   фреймворк оценки языковых моделей  

Похожие задачи; сравните условия, форматы и ограничения

Код 

###  [NVIDIA NeMo Guardrails](https://instain.ru/ai/nvidia-nemo-guardrails/)

Программируемые правила для входов, выходов и действий модели

4.30 / 5   библиотека правил для приложений с моделями  

Похожие задачи; сравните условия, форматы и ограничения