Promptfoo.

Vérifiez non seulement la formulation du refus

L'agent peut répondre poliment qu'il n'a rien changé, bien que l'outil ait déjà envoyé l'équipe. Dans Promptfoo, vous pouvez compiler des scripts qui vérifient la réponse et les certificats d'avancement disponibles. Pour la première course, prenez votre application de test et le bouchon de l'outil externe. Déterminez quelles opérations sont autorisées et enregistrez le journal des appels. La conclusion ne dépendra pas seulement de la crédibilité du texte du modèle.

Limites d'apprentissage des pouvoirs

Dans l'assistant de test, vous pouvez lire l'état de la commande et les modifications nécessitent une confirmation manuelle. Faites une question de statut ordinaire, une demande ambiguë et une demande explicite de modifier l'enregistrement. Vérifiez non seulement la réponse, mais également le nombre d'appels de l'outil d'enregistrement. Après avoir changé le modèle, répétez l'ensemble sur les mêmes données. Vérifiez que la lecture sécurisée ne s’arrête pas en même temps que la correction des comportements dangereux.

Ce qui rend la vérification répétitive

Stockez les entrées, les résultats attendus et la version de l'application ensemble. Lorsque le résultat est évalué par un autre modèle, examinez les cas controversés manuellement. Pour un signal structuré, comme la présence d'un enregistrement dans un journal, utilisez une vérification précise dans le code. L'ensemble des tests couvre les situations spécifiées. Ajoutez de nouveaux exemples de changements réels dans les rôles et les outils, tout en conservant l'autorisation de vérification et les limites de l'environnement de test. Pour chaque lancement, notez l'accès que l'agent a effectivement reçu. Répétez le script avec un rôle différent si l'application dessert plusieurs groupes d'utilisateurs.

Pour quelles tâches convient-il

• Vérifier que l'agent de test effectue uniquement les actions autorisées
• Comparer les résultats de deux configurations sur un ensemble