Gemma ist eine Modellfamilie von Google mit verfügbaren Modellgewichten und Entwicklerdokumentation. Eine passende Konfiguration lässt sich in der eigenen Anwendung, auf einem Server oder einem unterstützten Gerät ausführen.
Ein Modell für Ihre Aufgabe auswählen
Gemma eignet sich, wenn ein Team die Bereitstellung und Konfiguration einer AI-Funktion selbst steuern möchte. Die Familie umfasst verschiedene Varianten: allgemeine Sprachmodelle und spezialisierte Entwicklungen. Ausgewählt wird ein konkretes Modell mit passenden Eingabeformaten, Lizenzbedingungen und Hardwareanforderungen, nicht bloß ein bekannter Name.
Der Gemini-Chat für Endnutzer und heruntergeladene Gemma-Modellgewichte sind unterschiedliche Möglichkeiten, Google-Technologien zu nutzen. Bei einem offenen Modell müssen Oberfläche, Anfrageverarbeitung und Ergebnisprüfung selbst organisiert werden. Modellgewichte ermöglichen nicht automatisch eine Internetsuche oder den Zugriff auf Dokumente der Organisation.
Text und multimodale Optionen
Die offizielle Dokumentation beschreibt Fragen und Antworten, Zusammenfassen, Schlussfolgern und Programmieren. Aktuelle Varianten unterstützen visuelle und weitere Modalitäten in unterschiedlichem Umfang. Prüfen Sie vor der Einrichtung die Modellkarte des gewählten Modells, statt die Beschreibung der gesamten Familie auf jede Modellgröße zu übertragen.
Bestimmen Sie bei Aufgaben mit Dateien zunächst, wie die Anwendung daraus Daten extrahiert. PDF-Text, Seitenbild und Tabelle sind unterschiedliche Darstellungen. Das Modell erhält die von Ihrer Pipeline aufbereiteten Daten und kann bei unvollständiger oder ungeeigneter Extraktion Fehler machen.
Beispiel: Anfragen in der eigenen Infrastruktur bearbeiten
Angenommen, ein Unternehmen möchte kurze Anfragen nach Themen sortieren: Lieferung, Zahlung, Rückgabe und Sonstiges. Erstellen Sie klare Definitionen und eine kleine Auswahl anonymisierter Beispiele. Bitten Sie das Modell um eine Kategorie und eine kurze Begründung, wobei auch „nicht genügend Daten“ zulässig ist.
Prüfen Sie mehrdeutige Nachrichten und Anfragen, die zwei Themen gleichzeitig betreffen. Ein Klassifizierungsfehler darf eine Anfrage nicht automatisch schließen oder Kundenbedingungen ändern. Dies ist ein Schema für eine mögliche Anwendung, keine fertige Funktion des Modells selbst und kein von uns durchgeführter Test.
Speicher, Größe und Konfiguration
Die Google-Dokumentation enthält Möglichkeiten zur lokalen Ausführung, Integration und Konfiguration von Modellen. Kleine Konfigurationen sind auf begrenzte Ressourcen ausgelegt, größere benötigen mehr Speicher. Eine geringere numerische Präzision kann helfen, die Modellgewichte im Speicher unterzubringen; Ergebnis und Geschwindigkeit müssen jedoch in der eigenen Umgebung beurteilt werden.
Berücksichtigen Sie Eingabelänge, parallele Anfragen und Speicher für Zwischenzustände gesondert. Dass Modellgewichte geladen werden konnten, bedeutet noch nicht, dass das System die Arbeitslast bewältigt. Beginnen Sie mit einem eng gefassten Anwendungsfall und messen Sie ihn unter den tatsächlichen Gerätebeschränkungen.
Bedingungen für die Nutzung offener Modelle
Zwischen Generationen und einzelnen Gemma-Releases können sich die Lizenzen unterscheiden. Die offizielle Seite verweist ausdrücklich auf das Dokument des jeweiligen Releases; ersetzen Sie es nicht durch eine allgemeine Vorstellung von Open Source. Verbreitung, Fine-Tuning und ein eigener Dienst erfordern die Lektüre dieser Bedingungen.
Kostenlos verfügbare Modellgewichte beseitigen nicht die Kosten für Hardware, Speicherung und Wartung. Prüfen Sie Modellantworten anhand der Ausgangsdaten; eine öffentliche Anwendung erfordert Zugriffsbeschränkungen, sichere Materialverarbeitung und ein verständliches Verfahren zur Fehlerkorrektur.
Für welche Aufgaben geeignet
- Eine AI-Funktion auf eigener Hardware aufbauen
- Text klassifizieren und zusammenfassen
- Einen Programmierassistenten vorbereiten
- Eine multimodale Konfiguration der geeigneten Größe prüfen
Stärken
- Offizielle offene Modellgewichte und technische Dokumentation
- Optionen für unterschiedliche Rechenbedingungen
- Unterstützung für die Anpassung und Integration in Ihre Anwendung
Einschränkungen
- Anforderungen und Modalitäten hängen vom jeweiligen Modell ab
- Eine eigene Anwendungsinfrastruktur ist erforderlich
- Lizenz und Bedingungen unterscheiden sich zwischen Releases
Auswahl und Bedingungen
- Kostenlose Nutzung
- Ja
- Testphase
- Nicht bestätigt
- Keine Registrierung erforderlich
- Nicht bestätigt
- Russische Benutzeroberfläche
- Nicht bestätigt
- Lokale Installation
- Ja
- API
- Nicht bestätigt
„Nicht bestätigt“ bedeutet, dass nicht genügend Informationen vorliegen. Die Funktion kann dennoch verfügbar sein; prüfen Sie die Angaben des Entwicklers.
- Eingabeformate
- Text, Code, Bild, Audio, Video
- Ergebnis
- Text, Code
Bedingungen
Eigener Betrieb unter der Lizenz des jeweiligen Modells; Modalitäten und Anforderungen unterscheiden sich. Offene Modellgewichte bedeuten keine kostenlose Cloud-API.Von der Aufgabe zum ersten Ergebnis
Praxisbeispiel
- Aufgabe
- Eine AI-Funktion auf eigener Hardware aufbauen
- Was Sie vorbereiten sollten
- Ein kleiner Ausschnitt Ihres eigenen Projekts und eine reproduzierbare Fehlerbeschreibung ohne Tokens und Passwörter.
Aufgabenbeschreibung oder Prompt
Erklären Sie, warum diese Funktion eine leere Liste falsch verarbeitet. Beschreiben Sie zunächst das aktuelle Verhalten und schlagen Sie dann eine minimale Korrektur sowie Prüfungen für leere, normale und ungültige Eingaben vor. Ändern Sie andere Projektteile nur, wenn es erforderlich ist.
Erwartetes Ergebnis
Eine Erklärung der Ursache, ein kleiner vorgeschlagener Diff und lokal auszuführende Prüfungen.
So prüfen Sie das Ergebnis
- Lesen Sie den Diff, bevor Sie ihn anwenden.
- Führen Sie die Prüfungen in einer separaten Arbeitskopie aus und stellen Sie sicher, dass keine Zugangsdaten oder anderen Geheimnisse in die Anfrage gelangt sind.
Ein redaktionelles Lernbeispiel für eine Aufgabenbeschreibung, kein Ergebnis eines eigenen Praxistests des Dienstes. Prüfen Sie die Verfügbarkeit des benötigten Modus, die Rechte am Ausgangsmaterial und die Bedingungen für die Nutzung des Ergebnisses.
Details überprüfen
Offizielle Quellen
Die Beschreibung basiert auf den Materialien des Entwicklers. Die Funktionen, Preise und Verfügbarkeit können variieren. Bitte überprüfen Sie die Quelle vor der Verwendung.
