Nemotron арқылы NVIDIA модельдеріне негізделген өз құралыңызды жасауға болады: құжаттар бойынша көмекші, сөйлеуді өңдейтін құрал немесе қосылған функциялары бар агент. Іске қосу тәсілі мен кіріс деректерінің түрлері таңдалған модельге байланысты.
Өз қолданбаңызға арналған модель
Nemotron бағдарламалық түрде сұрау жіберудің дайын тәсілдерін және өз ортаңызда орналастыруға арналған салмақтарды ұсынады. Қолданба модельге сұрау жіберіп, жауабын алады да, оны пайдаланушыға қалай көрсететінін анықтайды. Құралдармен жұмыс істегенде рұқсат етілген әрекеттердің орындалуына да қолданба жауап береді. Агенттің файлдарға немесе браузерге өздігінен қол жеткізуі үшін салмақтардың өзі жеткіліксіз.
NVIDIA түрлі конфигурациядағы модельдерді, деректерді және оқыту нұсқаулықтарын жариялайды. Алғаш танысу үшін ресми API мүмкіндіктерін қарап, кейін өз ортаңызда іске қосудың лайықты тәсілін таңдауға болады. Бұл тәсіл есептеу ортасын, қосылымдарды және материалдарды өңдеуді басқару қажет болғанда пайдалы.
Қандай деректерді түсінеді
Мәтіндік міндеттерге пайымдау, код дайындау және қосылған функцияны таңдау кіреді. Мультимодаль нұсқалар қосымша кіріс түрлерін қабылдайды. Мысалы, Nemotron 3.5 Super VL карточкасында кіріс ретінде мәтін, сурет және видео, ал шығыс ретінде мәтін көрсетілген. Құжат бетінің суретін таңдалған орта қолдайтын форматта беру керек.
Сөйлеуге арналған бөлек Nemotron 3.5 Transcribe моделі бар. Ол жазбаны мәтінге айналдырып, транскрипцияны әртүрлі тәсілмен рәсімдеуді қолдайды. Модельдер жиынтығының атауы оның кез келген нұсқасы дыбысты немесе видеоны қабылдайды дегенді білдірмейді: қажет нұсқаны кіріс файлдарын дайындамай тұрып таңдайды.
Тексеруді неден бастау керек
Жеке деректері жоқ қысқа техникалық нұсқаулық алып, оны түсінгенін тексеруге арналған сұрақтар дайындауды сұраңыз. Әр жауапқа бастапқы мәтіннен бір сөйлем қосуды талап етіңіз. Содан кейін нұсқаулықтан бір шартты алып тастап, модель ақпараттың жетіспейтінін байқай ма, соны тексеріңіз. Бұл оқу сценарийі, біз өткізген Nemotron сынағы емес. Конфигурацияларды салыстыру үшін бірдей кіріс материалдарын сақтап, жауаптарды түпнұсқамен тексеріңіз.
Іске қосу үшін не қажет
Әзірлеушінің репозиторийінде әртүрлі міндеттерге арналған нұсқаулықтар, мысалдар және дайын тәсілдер бар. Салмақтар, есептеу форматы, іске қосу ортасы мен жабдық біріне бірі сәйкес келуі керек. Нақты модель карточкасының талаптарын тексеріңіз: ықшам нұсқа мен ірі серверлік конфигурацияға әртүрлі ресурс қажет.
Орналастырғаннан кейін өз құрылғыңыздағы кідіріс пен жад шығынын бағалаңыз. Ұзын кіріс және қатар орындалатын сұраулар жүктемені арттырады. Агент үшін рұқсат етілген құралдар мен әрекеттерді тексеруді бөлек баптаңыз; модельдің мазмұнды жауабы нәтиженің дұрыстығын өздігінен растамайды.
Қолжетімділік шарттары
Лицензияны таңдалған салмақтардың құжатынан оқу керек. Тексерілген Nemotron 3.5 Super VL карточкасында OpenMDW 1.1 көрсетілген. Репозиторий кодының, деректердің және басқа модельдің шарттары өзгеше болуы мүмкін. Өз ортаңызда іске қосу жабдық пен оған қызмет көрсетуді де талап етеді.
NVIDIA API Catalog прототип жасауға арналған тегін endpoint ұсынады. Бұл модельмен танысудың бөлек тәсілі: оның квоталарын, есептік жазбасын және қолжетімділігін сервистің өзінен тексереді. Өндірістік орналастырудың, бұлт провайдерінің және бағдарламалық жасақтаманың шарттарын бөлек ескеру керек; мұнда нақты баға бекітілмейді.
Қандай тапсырмаларға жарайды
- Өз мәтіндік материалдарыңыз бойынша көмекші жасау
- Модельді қолданбаның рұқсат етілген функцияларына қосу
- Құжат суретін лайықты визуал модельмен талдау
- Жиынтықтағы бөлек модель арқылы сөйлеу транскрипциясын алу
Артықшылықтары
- NVIDIA ұсынған ресми салмақтар, модель карточкалары және нұсқаулықтар
- Бағдарламалық қол жеткізу және өз ортаңызда орналастыру
- Әртүрлі кіріс деректеріне арналған мамандандырылған нұсқалар
Шектеулер
- Модальдықтар мен талаптар нұсқаға қарай өзгереді
- Іске қосу мен қызмет көрсетуге лайықты есептеу ортасы қажет
- Агенттің жауаптары мен әрекеттерін тексеру қажет
Таңдау және шарттар
- Тегін режим
- Иә
- Сынақ кезеңі
- Расталмаған
- Тіркелусіз
- Расталмаған
- Орысша интерфейс
- Расталмаған
- Жергілікті орнату
- Иә
- API
- Иә
«Расталмаған» деген белгі мәліметтің жеткіліксіз екенін білдіреді. Мүмкіндік бар болуы ықтимал; әзірлеушінің шарттарын тексеріңіз.
- Бастапқы пішімдер
- Мәтін, Код, Сурет, Бейне, Аудио
- Нәтиже
- Мәтін, Код
Шарттар
Тегін нұсқа OpenMDW 1.1 бойынша тексерілген модельдің салмақтарына қатысты; есептеу инфрақұрылымының шығындары бөлек. Прототип жасау API, есептік жазбаға қол жеткізу, модальдықтар мен жабдық талаптары таңдалған нұсқа үшін тексеріледі.Тапсырмадан алғашқы нәтижеге
Практикалық мысал
- Тапсырма
- Өз мәтіндік материалдарыңыз бойынша көмекші жасау
- Не дайындау керек
- Кәдімгі мәтін ретінде сақталған тауарды қайтару туралы қысқа нұсқаулық.
Тапсырма немесе сұрау
Осы нұсқаулық негізінде түсінуді тексеретін үш сұрақ құрастыр. Әрқайсысына дұрыс жауап пен кірістен растаушы сөйлемді көрсет. Мерзім не шарт болмаса, оны тікелей айт.
Күтілетін нәтиже
Берілген мәтінге негізделген, тексерілетін үш сұрақ-жауап жұбы.
Нәтижені қалай тексеруге болады
- Әр жауапты бастапқы сөйлеммен салыстырыңыз.
- Тапсырманы таңдалған жергілікті модельмен қайталап, өз құрылғыңызда уақыт пен жад шығынын бағалаңыз.
Бұл сервисті жеке сынаудың нәтижесі емес, тапсырманы қоюға арналған редакциялық оқу мысалы. Қажетті режимнің қолжетімділігін, бастапқы материалдарға құқықтарды және нәтижені пайдалану шарттарын тексеріңіз.
Толық мәліметті тексеру
Ресми дереккөздер
- Ресми NVIDIA Nemotron модельдер жиынтығы
- Nemotron арқылы іске қосу және әзірлеу нұсқаулықтары
- Nemotron 3.5 Super VL салмақтары, модальдықтары және шарттары
- NVIDIA API арқылы Nemotron моделіне сұрау жіберу мысалы
- Сөйлеуді мәтінге айналдыратын Nemotron моделі
- Модельдер жиынтығының дамуы және қолдану тәсілдері
- OpenMDW 1.1 лицензиясының шарттары
Сипаттама әзірлеуші материалдары бойынша жасалған. Мүмкіндіктер, бағалар мен қолжетімділік өзгеруі мүмкін; пайдаланбас бұрын бастапқы дереккөзбен салыстырыңыз.
