Nemotron, NVIDIA modelleriyle kendi aracınızı oluşturmanızı sağlar: belgeler üzerinde çalışan bir yardımcı, konuşma işleme aracı veya bağlı işlevleri kullanan bir ajan. Çalıştırma yöntemi ve kabul edilen girdi türleri seçilen modele bağlıdır.
Kendi uygulamanız için bir model
Nemotron, programatik erişim için hazır yollar ve kendi ortamınızda barındırabileceğiniz ağırlıklar sunar. Uygulama modele bir istek gönderir, yanıtı alır ve kullanıcıya nasıl göstereceğine karar verir. Araçlar kullanıldığında izin verilen eylemleri gerçekleştirmekten de uygulama sorumludur. Ağırlıklar tek başına ajana dosyalara veya tarayıcıya bağımsız erişim sağlamaz.
NVIDIA farklı yapılandırmalarda modeller, veriler ve eğitim tarifleri yayımlar. İlk tanışma için resmi API’yi inceleyebilir, ardından kendi ortamınızda çalıştırmak için uygun yöntemi seçebilirsiniz. Bu yaklaşım, hesaplama ortamını, bağlantıları ve materyallerin işlenmesini denetlemeniz gerektiğinde yararlıdır.
Model hangi verileri anlar
Metin görevleri akıl yürütmeyi, kod hazırlamayı ve bağlı bir işlevi seçmeyi kapsar. Çok modlu varyantlar ek girdiler kabul eder. Örneğin Nemotron 3.5 Super VL kartında girdi olarak metin, görüntü ve video; çıktı olarak metin belirtilir. Belge sayfasının görüntüsü, seçilen ortamın desteklediği biçimde gönderilmelidir.
Konuşma için ayrı bir Nemotron 3.5 Transcribe modeli vardır. Kaydı metne dönüştürür ve farklı transkripsiyon biçimlerini destekler. Aile adı, her modelin ses veya video kabul ettiği anlamına gelmez: gerekli varyantı girdi dosyalarını hazırlamadan önce seçin.
Kontrole nereden başlamalı
Kişisel veri içermeyen kısa bir teknik yönerge alın ve anlaşılmasını sınamak için sorular hazırlanmasını isteyin. Her yanıta kaynak metinden bir cümle eşlik etsin. Ardından yönergeden bir koşulu çıkarın ve modelin bilgi eksikliğini fark edip etmediğini kontrol edin. Bu bir öğretici senaryodur, bizim gerçekleştirdiğimiz bir Nemotron testi değildir. Yapılandırmaları karşılaştırırken aynı girdi materyallerini saklayın ve yanıtları özgün metinle doğrulayın.
Çalıştırmak için gerekenler
Geliştiricinin deposunda farklı görevler için yönergeler, örnekler ve tarifler bulunur. Ağırlıklar, hesaplama biçimi, çalıştırma ortamı ve donanım birbiriyle uyumlu olmalıdır. Belirli model kartının gereksinimlerini kontrol edin: kompakt bir varyant ile büyük bir sunucu yapılandırması farklı kaynaklar ister.
Yerleştirdikten sonra kendi cihazınızdaki gecikmeyi ve bellek kullanımını değerlendirin. Uzun girdiler ve eşzamanlı istekler yükü artırır. Ajan için izin verilen araçları ve eylem denetimini ayrıca yapılandırın; modelin içerikli bir yanıt vermesi sonucun doğruluğunu tek başına kanıtlamaz.
Erişim koşulları
Lisansı, seçtiğiniz ağırlıkların belgelerinden okuyun. Doğrulanan Nemotron 3.5 Super VL kartında OpenMDW 1.1 belirtilir. Depo kodunun, verilerin ve başka bir modelin koşulları farklı olabilir. Kendi ortamınızda çalıştırma ayrıca donanım ve bakım gerektirir.
NVIDIA API Catalog, prototip geliştirmek için ücretsiz bir uç nokta sunar. Bu, modeli tanımanın ayrı bir yoludur: kotaları, hesap koşulları ve kullanılabilirliği hizmetin kendisinden kontrol edilmelidir. Üretim ortamında dağıtımın, bulut sağlayıcısının ve yazılımın koşulları ayrı değerlendirilmelidir; burada kesin bir fiyat vermiyoruz.
Hangi görevler uygun
- Kendi metin materyallerinizden bir yardımcı oluşturma
- Modeli uygulamanın izin verilen işlevlerine bağlama
- Belge görüntüsünü uygun bir görsel modelle çözümleme
- Ailenin ayrı bir modeliyle konuşmayı metne dönüştürme
Güçlü yönler
- NVIDIA’nın resmi ağırlıkları, model kartları ve tarifleri
- Programatik erişim ve kendi ortamınızda çalıştırma
- Farklı girdi türleri için özel varyantlar
Sınırlamalar
- Modaliteler ve gereksinimler varyantlar arasında değişir
- Çalıştırma ve bakım için uygun bir hesaplama ortamı gerekir
- Ajanın yanıtları ve eylemleri kontrol edilmelidir
Seçim ve koşullar
- Ücretsiz kullanım
- Evet
- Deneme süresi
- Doğrulanmadı
- Kayıt gerektirmez
- Doğrulanmadı
- Rusça arayüz
- Doğrulanmadı
- Yerel kurulum
- Evet
- API
- Evet
“Doğrulanmadı”, yeterli bilgi bulunmadığı anlamına gelir. Özellik mevcut olabilir; geliştiricinin koşullarını kontrol edin.
- Girdi biçimleri
- Metin, Kod, Görsel, Video, Ses
- Sonuç
- Metin, Kod
Koşullar
Ücretsiz seçenek, OpenMDW 1.1 kapsamındaki doğrulanmış model ağırlıklarını ifade eder; hesaplama altyapısının ayrı giderleri vardır. Prototip API’si, hesap erişimi, modaliteler ve donanım gereksinimleri seçilen varyant için kontrol edilmelidir.Görevden ilk sonuca
Uygulama örneği
- Görev
- Kendi metin materyallerinizden bir yardımcı oluşturma
- Ne hazırlamalısınız?
- Basit metinde kaydedilen malları iade etmek için kısa talimatlar.
Görev veya istem
Bu kılavuza dayanarak anlamayı ölçen üç soru hazırla. Her biri için doğru yanıtı ve girdi metninden bunu destekleyen bir cümleyi belirt. Süre veya koşul eksikse açıkça söyle.
Beklenen sonuç
Üç soru-cevap çiftleri, gönderilen metin dayalı.
Sonuç nasıl kontrol edilir
- Her cevabı ilk cümleyle karşılaştırın.
- Seçilen yerel modelle görevi tekrarlayın ve cihazınızdaki zaman ve bellek tüketimini değerlendirin.
Bu, görevin nasıl tanımlanabileceğini gösteren editoryal bir eğitim örneğidir; servisi bizzat test ederek elde edilmiş bir sonuç değildir. Gerekli modun kullanılabilirliğini, kaynak dosyalar üzerindeki hakları ve sonucun kullanım koşullarını kontrol edin.
Ayrıntıları kontrol et
Resmi kaynaklar
- Resmi NVIDIA Nemotron model ailesi
- Nemotron ile çalıştırma ve geliştirme tarifleri
- Nemotron 3.5 Super VL ağırlıkları, modaliteleri ve koşulları
- NVIDIA API üzerinden Nemotron’a istek gönderme örneği
- Konuşmayı metne dönüştüren Nemotron modeli
- Ailenin gelişimi ve kullanım yolları
- OpenMDW 1.1 lisansının koşulları
Açıklama geliştiricinin materyallerine dayanmaktadır. Fırsatlar, fiyatlar ve kullanılabilirlik değişebilir; kullanımdan önce orijinal kaynağa bakın.
