Jan Desktop, yerel ve uzak modeller için tek bir arayüz sağlar. Yerel sunucu, indirilen modeli diğer uygulamalarda kullanmanıza izin verir ve harici bir sağlayıcıyı bağlamak işlem konumunu değiştirir.

Jan resmi belgeleri: masaüstü uygulaması ve yerel API hakkında yardım. Kaynağı aç

Asistanın nerede çalıştığını seçin

Jan Desktop, kullanıcı tarafından seçilen modellerle diyalog için tasarlanmıştır. Bir uygulamada, yüklü ağırlıklar ve yapılandırılmış uzak sağlayıcılarla çalışabilirsiniz. Fark önemlidir: yerel model bilgisayar kaynaklarını kullanır ve bulut isteği ilgili hizmete iletilir. Bu nedenle, sadece modelin adını değil, aynı zamanda bağlantı yöntemini de seçmeniz gerekir.

Proje açık bir şekilde geliştirilmekte ve ücretsiz olarak dağıtılmaktadır. Jan Desktop ve Jan Agent resmi yardımda ayrı olarak temsil edilir. Bir talimat seçerken, bir masaüstü uygulamasının yeteneklerini ayrı olarak yüklü bir ajanın davranışıyla karıştırmamak önemlidir.

Yerel erişim ayarlaması

Jan, dil modellerine sorguların ortak formatı ile uyumlu yerleşik API-sunucusuna sahiptir. İlk olarak, uygulamanın gerçekten indirebileceği yerel bir modeli indirmeniz veya içe aktarmanız gerekir. Ancak bundan sonra sunucuyu başlatır ve uygulamalarını bağlarlar. Uzak sağlayıcı göstergesi, ilk yerel başlangıç için belgeleme gereksinimini geçersiz kılmaz.

Varsayılan olarak, sunucu yalnızca aynı bilgisayardan kullanılabilir. Adres ve erişim anahtarını ayarlarda değiştirebilirsiniz. Diğer cihazlara açarsanız, erişim, ağ koruması ve istek göndermesine izin verilen müşterilerin çemberi hakkında düşünmeniz gerekir.

Açık bir ilk senaryo

Siparişlerle çalışma kurallarını açıklayan kısa bir metin alın ve Jan’dan yeni çalışan için sorular hazırlamasını isteyin. Yanıtı metindeki bilgilerle sınırlayın ve her doğru seçenek için destekleyici bir alıntı isteyin. Böylece seçilen modelin koşullara uyup uymadığı ve bilgi eksikliğini kabul edip etmediği görülebilir.

Kaynak metinde müşteriye yanıt verme süresi yoksa model bunu belirtmelidir. İkna edici biçimde sunulan uydurma bir sayı yine hatadır. Başarılı talimatı saklayıp görevi başka materyalle tekrarlayın: tek bir iyi yanıt, tüm sürecin güvenilirliğini göstermez. Bu bir başlangıç senaryosudur; ürünün bizzat test edildiği iddia edilmez.

Uyumluluk boyuttan daha önemlidir

Yerel modeller için, llama.cpp ve MLX dahil olmak üzere Apple Silicon uyumlu motorlar kullanılır. Belgeler, mevcut motorun Intel Mac üzerindeki sınırlamaları hakkında ayrı ayrı uyarır. Büyük model ağırlıkları yüklemeden önce, sisteminizin gereksinimlerini, kullanılabilir belleği ve format desteğini kontrol edin.

Ücretsiz uygulama ücretsiz bulut anlamına gelmez inference. Dış sağlayıcının kendi anahtarları, tarifeleri ve işlem kuralları vardır. Ayrıca, duyurulan özellikleri zaten mevcut olarak dikkate almayın: örneğin, ana sayfadaki bellek vaadi mevcut belgeler ve yüklü sürüm için kontrol edilmelidir.

Hangi görevler uygun

Bir bilgisayarda açık bir modelle çalışmak
Uyumlu uygulama için yerel API'yi yapılandır
Ayrı projeler ve asistanların talimatları
Belirli bir görev için uzak bir sağlayıcı seçin

Özellikler

Güçlü yönler

Ücretsiz Açık Uygulama
Yerel API uyumlu format
Modellerin ve sağlayıcıların ayrı ayarları

Dikkate alınması gerekenler

Sınırlamalar

Bir API sunucusu başlatmak erişilebilir bir yerel model gerektirir
Motor gereksinimleri cihazlar arasında farklılık gösterir
Harici sağlayıcı isteği yerel ortamın dışına taşır

Seçim ve koşullar

Ücretsiz kullanım: Evet
Deneme süresi: Doğrulanmadı
Kayıt gerektirmez: Doğrulanmadı
Rusça arayüz: Doğrulanmadı
Yerel kurulum: Evet
API: Evet

“Doğrulanmadı”, yeterli bilgi bulunmadığı anlamına gelir. Özellik mevcut olabilir; geliştiricinin koşullarını kontrol edin.

Girdi biçimleri: Metin, Kod
Sonuç: Metin, Kod

Koşullar

Jan Desktop açık kaynak ile ücretsiz olarak kullanılabilir. Harici modeller ve bilgisayarınızın kaynakları için ödeme ücretsiz uygulamaya dahil değildir. Jan Desktop desteklenen bir masaüstü sistemine yüklenir; Jan Agent ayrı olarak dağıtılır.

Görevden ilk sonuca

Uygulama örneği

Görev: Bir bilgisayarda açık bir modelle çalışmak
Ne hazırlamalısınız?: Basit metinde kaydedilen malları iade etmek için kısa talimatlar.

Görev veya istem

Bu kılavuza dayanarak anlamayı ölçen üç soru hazırla. Her biri için doğru yanıtı ve girdi metninden bunu destekleyen bir cümleyi belirt. Süre veya koşul eksikse açıkça söyle.

Beklenen sonuç

Üç soru-cevap çiftleri, gönderilen metin dayalı.

Sonuç nasıl kontrol edilir

Her cevabı ilk cümleyle karşılaştırın.
Seçilen yerel modelle görevi tekrarlayın ve cihazınızdaki zaman ve bellek tüketimini değerlendirin.

Bu, görevin nasıl tanımlanabileceğini gösteren editoryal bir eğitim örneğidir; servisi bizzat test ederek elde edilmiş bir sonuç değildir. Gerekli modun kullanılabilirliğini, kaynak dosyalar üzerindeki hakları ve sonucun kullanım koşullarını kontrol edin.

Ayrıntıları kontrol et

Resmi kaynaklar

Açıklama geliştiricinin materyallerine dayanmaktadır. Fırsatlar, fiyatlar ve kullanılabilirlik değişebilir; kullanımdan önce orijinal kaynağa bakın.

Jan.