Mit Nemotron lässt sich ein eigenes Werkzeug auf Basis von NVIDIA-Modellen entwickeln: ein Dokumentenassistent, eine Sprachverarbeitung oder ein Agent mit angebundenen Funktionen. Die Bereitstellung und unterstützten Eingaben hängen vom gewählten Modell ab.
Ein Modell für die eigene Anwendung
Nemotron bietet fertige Wege für programmatische Anfragen sowie Modellgewichte für den eigenen Betrieb. Die Anwendung sendet eine Anfrage an das Modell, erhält eine Antwort und entscheidet, wie sie dem Nutzer angezeigt wird. Bei der Arbeit mit Werkzeugen ist die Anwendung auch für die Ausführung erlaubter Aktionen verantwortlich. Modellgewichte allein geben einem Agenten keinen selbstständigen Zugriff auf Dateien oder einen Browser.
NVIDIA veröffentlicht Modelle, Daten und Trainingsrezepte in verschiedenen Konfigurationen. Zum Einstieg können Sie die offizielle API erkunden und anschließend eine passende Möglichkeit für den eigenen Betrieb wählen. Das ist hilfreich, wenn Sie die Rechenumgebung, Verbindungen und Verarbeitung Ihrer Materialien kontrollieren müssen.
Welche Daten das Modell versteht
Zu den Textaufgaben gehören Schlussfolgern, das Schreiben von Code und die Auswahl einer angebundenen Funktion. Multimodale Varianten unterstützen zusätzliche Eingaben. Die Modellkarte von Nemotron 3.5 Super VL nennt beispielsweise Text, Bilder und Video als Eingabe sowie Text als Ausgabe. Das Bild einer Dokumentseite muss in einem Format vorliegen, das die gewählte Umgebung unterstützt.
Für Sprache gibt es das separate Modell Nemotron 3.5 Transcribe. Es wandelt Aufnahmen in Text um und unterstützt verschiedene Darstellungsformen für Transkripte. Der Familienname bedeutet nicht, dass jedes Modell Audio oder Video annimmt: Die passende Variante wird vor der Vorbereitung der Eingabedateien gewählt.
Womit die Prüfung beginnt
Nehmen Sie eine kurze technische Anleitung ohne personenbezogene Daten und lassen Sie Fragen zum Textverständnis erstellen. Jede Antwort soll einen belegenden Satz aus dem Original enthalten. Entfernen Sie anschließend eine Bedingung aus der Anleitung und prüfen Sie, ob das Modell die fehlende Information bemerkt. Das ist ein Übungsszenario und kein von uns durchgeführter Nemotron-Test. Verwenden Sie für den Vergleich von Konfigurationen dieselben Eingaben und prüfen Sie die Antworten anhand des Originals.
Was für den Betrieb benötigt wird
Das Repository des Entwicklers enthält Anleitungen, Beispiele und Rezepte für unterschiedliche Aufgaben. Modellgewichte, Zahlenformat, Laufzeitumgebung und Hardware müssen zusammenpassen. Prüfen Sie die Anforderungen in der jeweiligen Modellkarte: Eine kompakte Variante benötigt andere Ressourcen als eine große Serverkonfiguration.
Prüfen Sie nach der Bereitstellung die Latenz und den Speicherverbrauch auf Ihrem Gerät. Lange Eingaben und parallele Anfragen erhöhen die Last. Konfigurieren Sie für einen Agenten die erlaubten Werkzeuge und die Prüfung seiner Aktionen gesondert; eine ausführliche Modellantwort bestätigt für sich genommen nicht, dass das Ergebnis korrekt ist.
Zugangsbedingungen
Lesen Sie die Lizenz der gewählten Modellgewichte. Die geprüfte Modellkarte von Nemotron 3.5 Super VL nennt OpenMDW 1.1. Für den Programmcode des Repositorys, Daten und andere Modelle können abweichende Bedingungen gelten. Der eigene Betrieb erfordert außerdem Hardware und Wartung.
NVIDIA API Catalog bietet einen kostenlosen Endpunkt für Prototypen. Das ist ein eigener Weg, das Modell kennenzulernen: Kontingente, Kontoanforderungen und Verfügbarkeit prüfen Sie direkt im Dienst. Für den Produktivbetrieb, Cloudanbieter und Software gelten eigene Bedingungen; einen festen Preis nennen wir hier nicht.
Für welche Aufgaben geeignet
- Einen Assistenten für eigene Textmaterialien erstellen
- Das Modell mit erlaubten Anwendungsfunktionen verbinden
- Ein Dokumentenbild mit einem passenden visuellen Modell analysieren
- Sprache mit einem spezialisierten Modell der Familie transkribieren
Stärken
- Offizielle Gewichte, Modellkarten und Anleitungen von NVIDIA
- Programmatischer Zugang und Betrieb auf eigener Infrastruktur
- Spezialisierte Varianten für unterschiedliche Eingabedaten
Einschränkungen
- Modalitäten und Anforderungen unterscheiden sich je nach Variante
- Betrieb und Wartung erfordern eine geeignete Rechenumgebung
- Antworten und Aktionen des Agenten müssen geprüft werden
Auswahl und Bedingungen
- Kostenlose Nutzung
- Ja
- Testphase
- Nicht bestätigt
- Keine Registrierung erforderlich
- Nicht bestätigt
- Russische Benutzeroberfläche
- Nicht bestätigt
- Lokale Installation
- Ja
- API
- Ja
„Nicht bestätigt“ bedeutet, dass nicht genügend Informationen vorliegen. Die Funktion kann dennoch verfügbar sein; prüfen Sie die Angaben des Entwicklers.
- Eingabeformate
- Text, Code, Bild, Video, Audio
- Ergebnis
- Text, Code
Bedingungen
Die kostenlose Option bezieht sich auf die Gewichte des geprüften Modells unter OpenMDW 1.1; für die Recheninfrastruktur fallen gesonderte Kosten an. API für Prototypen, Kontozugang, Modalitäten und Hardwareanforderungen müssen für die gewählte Variante geprüft werden.Von der Aufgabe zum ersten Ergebnis
Praxisbeispiel
- Aufgabe
- Einen Assistenten für eigene Textmaterialien erstellen
- Was Sie vorbereiten sollten
- Kurzanleitung zur Rücksendung der Ware, die in normalem Text gespeichert ist.
Aufgabenbeschreibung oder Prompt
Erstelle anhand dieser Anleitung drei Verständnisfragen. Gib jeweils die richtige Antwort und einen belegenden Satz aus dem Eingabetext an. Falls eine Frist oder Bedingung fehlt, sage dies ausdrücklich.
Erwartetes Ergebnis
Drei zu überprüfende Frage-Antwort-Paare, basierend auf dem übermittelten Text.
So prüfen Sie das Ergebnis
- Vergleichen Sie jede Antwort mit dem ursprünglichen Satz.
- Wiederholen Sie die Aufgabe mit dem ausgewählten lokalen Modell und bewerten Sie die Zeit und den Speicherverbrauch auf Ihrem Gerät.
Ein redaktionelles Lernbeispiel für eine Aufgabenbeschreibung, kein Ergebnis eines eigenen Praxistests des Dienstes. Prüfen Sie die Verfügbarkeit des benötigten Modus, die Rechte am Ausgangsmaterial und die Bedingungen für die Nutzung des Ergebnisses.
Details überprüfen
Offizielle Quellen
- Die offizielle Modellfamilie NVIDIA Nemotron
- Anleitungen für Betrieb und Entwicklung mit Nemotron
- Gewichte, Modalitäten und Bedingungen von Nemotron 3.5 Super VL
- Beispiel für den Zugriff auf Nemotron über die NVIDIA API
- Ein Nemotron-Modell zur Sprachtranskription
- Entwicklung der Modellfamilie und Einsatzmöglichkeiten
- Bedingungen der Lizenz OpenMDW 1.1
Die Beschreibung basiert auf den Materialien des Entwicklers. Die Funktionen, Preise und Verfügbarkeit können variieren. Bitte überprüfen Sie die Quelle vor der Verwendung.
