NVIDIA bibliothèque de règles pour les applications avec des modèles

NVIDIA NeMo Guardrails.

Règles programmables pour les entrées, sorties et actions du modèle

4.30 / 5Évaluation du catalogue
Site officiel

Le développeur effectue des vérifications autour de l'application avec le modèle et choisit quelles entrées, sorties ou actions doivent être traitées séparément. Il faut vérifier les règles par des exemples.

Guide de NVIDIA sur les règles pour les applications avec des modèles linguistiques
Guide de NVIDIA sur les règles pour les applications avec des modèles linguistiques. Ouvrir la source

Décrivez d'abord la frontière avec les mots

L'assistant de formation doit expliquer la procédure d'inscription et peut donner l'exemple. Une autorisation distincte est requise pour modifier la demande. Dans NeMo Guardrails, les contrôles sont configurés autour du modèle et de l'application. Déterminez d'abord les actions autorisées et les endroits où elles doivent être vérifiées. À l'entrée, vous devrez peut-être vérifier le sujet, à la sortie, vérifier le formulaire de réponse et, avant d'accéder à l'outil, une règle distincte pour ses arguments.

Vérifier l'autorisation et le refus

Faites des requêtes qui ont une condition importante. Dans une paire, demandez à décrire l'ordre de retour, puis demandez un remboursement par utilisateur. Ajoutez des questions neutres avec les mots de l'exemple interdit. Il est donc possible d'évaluer à la fois l'omission des règles et les faux positifs. Enregistrez la réponse et les appels réels dans le journal de test. Refuser un message n'est pas très utile si l'application a quand même transmis les données à l'outil.

Séparez la vérification des pouvoirs

Contrôlez séparément les informations d'identification et les autorisations des systèmes connectés. Pour la vérification de la formation, utilisez des bouchons et des enregistrements fictifs afin que le résultat d'une classification erronée reste visible dans le journal. Si vous changez de modèle ou de modèle de boîte de dialogue, répétez les cas positifs et limites. Prenez en compte le retard des vérifications supplémentaires et découvrez ce qui se passe en cas de défaillance. La décision de blocage ou de transfert à l'opérateur doit être compréhensible et reproductible. Commencez par une course courte, où vous pouvez nommer une règle spécifique pour chaque échec.

Pour quelles tâches convient-il

  • Vérifier le traitement de la demande en dehors du sujet
  • Suivre la panne avant de transmettre des données à l'outil
Fonctionnalités

Les points forts

  • Les règles peuvent être décrites par programme
  • Le référentiel officiel contient des exemples de configurations
Il faut prendre en compte

Limites

  • La règle peut ignorer une violation ou rejeter une demande valide
  • Les droits des instruments doivent être restreints séparément

Choix et conditions

Mode gratuit
Oui
Période d'essai
Non confirmé
Sans inscription
Non confirmé
Interface en russe
Non confirmé
Installation locale
Oui
API
Non confirmé

« Non confirmé » signifie que les informations disponibles ne suffisent pas. La fonctionnalité peut exister ; vérifiez les conditions du développeur.

Formats d’entrée
Texte, Code
Résultat
Texte, Données

Conditions

Le code de l'outil est ouvert. L'utilisation des modèles sélectionnés, des contrôles supplémentaires et de l'environnement d'hébergement peut nécessiter un paiement. La règle peut ignorer une violation ou rejeter une demande admissible.

De la tâche au premier résultat

Exemple pratique

Tâche
Vérifier le traitement de la demande en dehors du sujet
Que préparer
Une copie de test de l'Assistant et une stratégie de lecture et d'écriture fictive.

Consigne ou requête

Lancez les requêtes normales et limites. Vérifiez que la lecture autorisée fonctionne et que l'action sans autorisation n'est pas dans le journal.

Résultat attendu

Rapport avec les entrées, les actions observées et les commentaires sur les règles.

Comment vérifier le résultat

  • Vérifiez le journal de l'outil séparément du texte de la réponse.
  • Ne testez que dans un environnement cohérent.

Cet exemple pédagogique préparé par la rédaction décrit une tâche ; il ne présente pas le résultat d’un test personnel du service. Vérifiez la disponibilité du mode requis, les droits sur les fichiers d’origine et les conditions d’utilisation du résultat.

Vérifier les détails

Sources officielles

  1. Présentation de NVIDIA NeMo Guardrails
  2. Le dépôt officiel de NeMo Guardrails

La description est faite à partir des matériaux du développeur. Les fonctionnalités, les prix et la disponibilité peuvent varier; vérifiez la source avant de l'utiliser.