Canonical: https://instain.ru/de/ai/nvidia-nemo-guardrails/ Language: de NVIDIA Regelbibliothek für Anwendungen mit Modellen # NVIDIA NeMo Guardrails. Programmierbare Regeln für Eingaben, Ausgaben und Modellaktionen 4.30 / 5 [Katalogbewertung](https://instain.ru/de/ai/nvidia-nemo-guardrails/#editorial-rating) [Offizielle Website ](https://docs.nvidia.com/nemo-guardrails/) Der Entwickler gibt die Überprüfungen um die Anwendung mit dem Modell und wählt, welche Eingaben, Ausgänge oder Aktionen separat verarbeitet werden. Die Regeln müssen an Beispielen überprüft werden. ![NVIDIA-Richtlinien für Sprachmodelle](https://instain.ru/assets/images/nvidia-nemo-guardrails-screen-a7e7a64bfcbe-1200.webp) NVIDIA-Richtlinien für Anwendungen mit Sprachmodellen [Quelle öffnen ](https://docs.nvidia.com/nemo-guardrails/) ## Beschreibe zuerst die Grenze mit Worten Der Assistent für das Lehrbuch sollte die Reihenfolge der Bewerbung erklären und ein Beispiel zeigen. Für die Änderung des Antrags ist eine gesonderte Genehmigung erforderlich. In NeMo Guardrails werden die Überprüfungen um das Modell und die Anwendung herum konfiguriert. Bestimmen Sie zunächst die zulässigen Aktionen und die Orte, an denen sie überprüft werden müssen. Am Eingang müssen Sie möglicherweise das Thema überprüfen, am Ausgang das Antwortformular überprüfen und vor dem Zugriff auf das Werkzeug eine separate Regel für seine Argumente festlegen. ## Überprüfen Sie die Berechtigung und Ablehnung Formulieren Sie Anfragepaare, die sich in einer entscheidenden Bedingung unterscheiden. Bitten Sie etwa zuerst um eine Erklärung der Rückgaberegeln und danach darum, die Rückgabe im Namen des Nutzers auszuführen. Ergänzen Sie unbedenkliche Fragen mit Wörtern aus unzulässigen Beispielen. So erkennen Sie sowohl übersehene Verstöße als auch Fehlalarme. Protokollieren Sie Antworten und tatsächliche Werkzeugaufrufe. Eine Ablehnung im Text hilft wenig, wenn die Anwendung die Daten trotzdem an das Werkzeug weitergibt. ## Trennen Sie die Überprüfung von der Autorität Kontrollieren Sie die Anmeldeinformationen und Berechtigungen der angeschlossenen Systeme separat. Verwenden Sie für die Schulungsvalidierung Stopfen und fiktive Einträge, damit das Ergebnis der fehlerhaften Klassifizierung im Protokoll sichtbar bleibt. Wenn Sie das Modell oder die Dialogvorlage ändern, wiederholen Sie die erfolgreichen und Grenzfälle. Berücksichtigen Sie die Verzögerung zusätzlicher Überprüfungen und finden Sie heraus, was passiert, wenn sie ausfallen. Die Entscheidung, den Betreiber zu sperren oder zu übertragen, muss klar und reproduzierbar sein. Beginnen Sie mit einem kurzen Lauf, bei dem Sie für jede Ablehnung eine bestimmte Regel nennen können. ## Für welche Aufgaben geeignet - Überprüfen Sie die Bearbeitung der Anfrage außerhalb des angegebenen Themas - Verfolgen Sie den Fehler vor der Übertragung der Daten an das Tool Funktionen ## Stärken - Regeln können programmatisch beschrieben werden - Das offizielle Repository enthält Beispiele für Konfigurationen Zu berücksichtigen ## Einschränkungen - Eine Regel kann einen Verstoß übersehen oder eine zulässige Anfrage blockieren - Beschränken Sie Werkzeugberechtigungen separat ## Auswahl und Bedingungen Kostenlose Nutzung Ja Testphase Nicht bestätigt Keine Registrierung erforderlich Nicht bestätigt Russische Benutzeroberfläche Nicht bestätigt Lokale Installation Ja API Nicht bestätigt „Nicht bestätigt“ bedeutet, dass nicht genügend Informationen vorliegen. Die Funktion kann dennoch verfügbar sein; prüfen Sie die Angaben des Entwicklers. Eingabeformate Text, Code Ergebnis Text, Daten ### Bedingungen Die Werkzeugsammlung ist quelloffen. Ausgewählte Modelle, zusätzliche Prüfungen und Hosting können Kosten verursachen. Eine Regel kann einen Verstoß übersehen oder eine zulässige Anfrage blockieren. Von der Aufgabe zum ersten Ergebnis ## Praxisbeispiel Aufgabe Überprüfen Sie die Bearbeitung der Anfrage außerhalb des angegebenen Themas Was Sie vorbereiten sollten Testkopie des Assistenten und fiktive Lese- und Schreibrichtlinien. ### Aufgabenbeschreibung oder Prompt Führen Sie normale und Grenzanfragen aus. Stellen Sie sicher, dass das zulässige Lesen funktioniert und die Aktion ohne Erlaubnis nicht in der Zeitschrift enthalten ist. ### Erwartetes Ergebnis Bericht mit Eingaben, beobachteten Aktionen und Anmerkungen zu den Regeln. ### So prüfen Sie das Ergebnis - Überprüfen Sie das Werkzeugprotokoll getrennt vom Antworttext. - Führen Sie Tests nur in einer vereinbarten Umgebung durch. Ein redaktionelles Lernbeispiel für eine Aufgabenbeschreibung, kein Ergebnis eines eigenen Praxistests des Dienstes. Prüfen Sie die Verfügbarkeit des benötigten Modus, die Rechte am Ausgangsmaterial und die Bedingungen für die Nutzung des Ergebnisses. Details überprüfen ## Offizielle Quellen - [NVIDIA NeMo Guardrails Übersicht ](https://docs.nvidia.com/nemo-guardrails/) - [Offizielles Repository von NeMo Guardrails ](https://github.com/NVIDIA-NeMo/Guardrails) Die Beschreibung basiert auf den Materialien des Entwicklers. Die Funktionen, Preise und Verfügbarkeit können variieren. Bitte überprüfen Sie die Quelle vor der Verwendung. Das Tool im Überblick Entwickler NVIDIA Kategorie [Code](https://instain.ru/de/category/code/) Zugang Sie benötigen eine kompatible Umgebung, eine Anwendung mit Sprachmodell und eine eigene Regelkonfiguration. Manche Prüfungen erfordern ein zusätzliches Modell. Zahlung Die Werkzeugsammlung ist quelloffen. Ausgewählte Modelle, zusätzliche Prüfungen und Hosting können Kosten verursachen. API Keine separate API angegeben [Entwicklerbedingungen ](https://github.com/NVIDIA-NeMo/Guardrails) Katalogbewertung 4.30 / 5 Funktionen 4.40 / 5 Arbeitsszenarien 4.00 / 5 Ökosystem 4.40 / 5 Dokumentation 4.40 / 5 Die Punkte dienen der Orientierung im Katalog. Sie sind weder Nutzerbewertungen noch Ergebnisse persönlicher Tests. [Siehe Methodik ](https://instain.ru/de/methodology/) Weiter erkunden ## Für ähnliche Aufgaben [Gesamte Kategorie ](https://instain.ru/de/category/code/) Code ### [Promptfoo](https://instain.ru/de/ai/promptfoo/) Wiederholbare Verhaltenstests für Anwendungen mit Sprachmodellen 4.40 / 5 Sicherheitsüberprüfungs-Tool für AI-Anwendungen Ähnliche Aufgaben; vergleichen Sie Bedingungen, Formate und Einschränkungen Code ### [Inspect AI](https://instain.ru/de/ai/inspect-ai/) Aufgaben mit festgelegten Eingaben, Schritten und Ergebnisprüfungen 4.38 / 5 Framework zur Bewertung von Sprachmodellen Ähnliche Aufgaben; vergleichen Sie Bedingungen, Formate und Einschränkungen