Canonical: https://instain.ru/fr/ai/promptfoo/ Language: fr OpenAI outil de vérification de la sécurité des applications avec l'IA # Promptfoo. Contrôles du comportement des applications avec des modèles linguistiques 4.40 / 5 [Évaluation du catalogue](https://instain.ru/fr/ai/promptfoo/#editorial-rating) [Site officiel ](https://developers.openai.com/api/docs/guides/promptfoo-codex) Promptfoo lance des ensembles d'entrées et de contrôles pour les applications AI. Il peut être utilisé pour évaluer les changements et vérifier les règles convenues dans leur environnement. ![Guide OpenAI avec un exemple de rapport Promptfoo](https://instain.ru/assets/images/promptfoo-screen-a04439ab6fe4-1200.webp) Guide OpenAI avec un exemple de rapport Promptfoo. [Ouvrir la source ](https://developers.openai.com/api/docs/guides/promptfoo-codex) ## Vérifiez non seulement la formulation du refus L'agent peut répondre poliment qu'il n'a rien changé, bien que l'outil ait déjà envoyé l'équipe. Dans Promptfoo, vous pouvez compiler des scripts qui vérifient la réponse et les certificats d'avancement disponibles. Pour la première course, prenez votre application de test et le bouchon de l'outil externe. Déterminez quelles opérations sont autorisées et enregistrez le journal des appels. La conclusion ne dépendra pas seulement de la crédibilité du texte du modèle. ## Limites d'apprentissage des pouvoirs Dans l'assistant de test, vous pouvez lire l'état de la commande et les modifications nécessitent une confirmation manuelle. Faites une question de statut ordinaire, une demande ambiguë et une demande explicite de modifier l'enregistrement. Vérifiez non seulement la réponse, mais également le nombre d'appels de l'outil d'enregistrement. Après avoir changé le modèle, répétez l'ensemble sur les mêmes données. Vérifiez que la lecture sécurisée ne s’arrête pas en même temps que la correction des comportements dangereux. ## Ce qui rend la vérification répétitive Stockez les entrées, les résultats attendus et la version de l'application ensemble. Lorsque le résultat est évalué par un autre modèle, examinez les cas controversés manuellement. Pour un signal structuré, comme la présence d'un enregistrement dans un journal, utilisez une vérification précise dans le code. L'ensemble des tests couvre les situations spécifiées. Ajoutez de nouveaux exemples de changements réels dans les rôles et les outils, tout en conservant l'autorisation de vérification et les limites de l'environnement de test. Pour chaque lancement, notez l'accès que l'agent a effectivement reçu. Répétez le script avec un rôle différent si l'application dessert plusieurs groupes d'utilisateurs. ## Pour quelles tâches convient-il - Vérifier que l'agent de test effectue uniquement les actions autorisées - Comparer les résultats de deux configurations sur un ensemble Fonctionnalités ## Les points forts - Prend en charge les kits de test et de vérification des résultats reproductibles - Il existe des guides officiels pour l'intégration et l'évaluation Il faut prendre en compte ## Limites - Vous ne pouvez vérifier que votre application ou un environnement explicitement autorisé - L'évaluation du texte ne remplace pas les vérifications des actions et rôles externes ## Choix et conditions Mode gratuit Oui Période d'essai Non confirmé Sans inscription Non confirmé Interface en russe Non confirmé Installation locale Oui API Non confirmé « Non confirmé » signifie que les informations disponibles ne suffisent pas. La fonctionnalité peut exister ; vérifiez les conditions du développeur. Formats d’entrée Texte, Code Résultat Texte, Données ### Conditions La bibliothèque ouverte est disponible sans abonnement obligatoire. Les défis des modèles, les calculs et les capacités gérées sont pris en compte séparément. Vous ne pouvez vérifier que votre application ou un environnement explicitement autorisé. De la tâche au premier résultat ## Exemple pratique Tâche Vérifier que l'agent de test effectue uniquement les actions autorisées Que préparer Une copie de test de l'Assistant et une stratégie de lecture et d'écriture fictive. ### Consigne ou requête Lancez les requêtes normales et limites. Vérifiez que la lecture autorisée fonctionne et que l'action sans autorisation n'est pas dans le journal. ### Résultat attendu Rapport avec les entrées, les actions observées et les commentaires sur les règles. ### Comment vérifier le résultat - Vérifiez le journal de l'outil séparément du texte de la réponse. - Ne testez que dans un environnement cohérent. Cet exemple pédagogique préparé par la rédaction décrit une tâche ; il ne présente pas le résultat d’un test personnel du service. Vérifiez la disponibilité du mode requis, les droits sur les fichiers d’origine et les conditions d’utilisation du résultat. Vérifier les détails ## Sources officielles - [Guide OpenAI de Promptfoo ](https://developers.openai.com/api/docs/guides/promptfoo-codex) - [Présentation officielle de Promptfoo ](https://www.promptfoo.dev/docs/intro/) La description est faite à partir des matériaux du développeur. Les fonctionnalités, les prix et la disponibilité peuvent varier; vérifiez la source avant de l'utiliser. En bref sur l'outil Développeur OpenAI Catégorie [Code](https://instain.ru/fr/category/code/) Accès Exécutez l’outil libre depuis votre projet. Connectez l’application à tester et, si nécessaire, un modèle pour évaluer les résultats. Paiement La bibliothèque ouverte est disponible sans abonnement obligatoire. Les défis des modèles, les calculs et les capacités gérées sont pris en compte séparément. API API non spécifiée [Termes du développeur ](https://www.promptfoo.dev/docs/intro/) Évaluation du catalogue 4.40 / 5 Fonctionnalités 4.50 / 5 Scénarios de travail 4.10 / 5 Écosystème 4.40 / 5 Documentation 4.60 / 5 Les points sont le repère du catalogue. Ce ne sont pas des commentaires d'utilisateurs ou le résultat de tests personnels. [Voir la méthodologie ](https://instain.ru/fr/methodology/) Poursuivre la découverte ## Pour des tâches similaires [Toute la catégorie ](https://instain.ru/fr/category/code/) Code ### [Inspect AI](https://instain.ru/fr/ai/inspect-ai/) Tâches avec un ensemble d'entrées, une procédure d'action et une vérification des résultats 4.38 / 5 Cadre d'évaluation des modèles linguistiques Tâches similaires ; comparez les conditions, les formats et les limites Code ### [NVIDIA NeMo Guardrails](https://instain.ru/fr/ai/nvidia-nemo-guardrails/) Règles programmables pour les entrées, sorties et actions du modèle 4.30 / 5 bibliothèque de règles pour les applications avec des modèles Tâches similaires ; comparez les conditions, les formats et les limites