Mistral atvėrė trilijono parametrų modelio svorius

„Mistral“ išleido patobulinto „Large 4“ modelio svorius, kuriuos organizacijos gali atsisiųsti ir paleisti savo valdomoje infrastruktūroje. Spalio 29 dienos pranešime bendrovė šį leidimą atskiria nuo spalio 6 dieną pradėtos viešos peržiūros per programavimo sąsają.

Pasak „Mistral“, dar trys savaitės papildomo mokymo pagerino programavimo rezultatus ir sumažino užduotims sunaudojamų žetonų kiekį. Apie naują leidimą pranešusi „ZDNET“ taip pat pabrėžia, kad dabar paskelbti svoriai, o ne vien pažadas juos atverti.

Oficialioje modelio kortelėje nurodyta maždaug trilijono parametrų ekspertų mišinio architektūra ir 49 milijardai aktyvių parametrų vienam žetonui. Įskaičiavus įterpimo ir išvesties sluoksnius, aktyvių parametrų skaičius siekia 52 milijardus, todėl abu aprašyme vartojami skaičiai turi skirtingą apibrėžimą.

„Mistral“ nurodo milijono žetonų konteksto langą, tekstinę ir vaizdinę įvestį bei tekstinę išvestį, įskaitant struktūrizuotus atsakymus. Modelis palaiko funkcijų kvietimą ir tris samprotavimo lygius: žemą, vidutinį bei aukštą, kuris pasirinktas kaip numatytasis režimas.

Bendrovės pateikiamame „Artificial Analysis Coding Agent Index“ naujasis leidimas surinko 48 procentus, o užduočiai vidutiniškai sunaudojo 47 procentais mažiau žetonų nei „GLM-5.3“. Tai konkretaus testų rinkinio palyginimas, ne pažadas tokiu pačiu procentu sumažinti kiekvienos organizacijos sąskaitą ar visus infrastruktūros kaštus.

Oficialiame pranešime „Terminal-Bench 4.0“ rezultatas padidėjo nuo 28 iki 41 procento, kartu išvesties žetonų sunaudojimą sumažinus 30 procentų. Atskirame kibernetinio saugumo indekse bendrovė pateikia 51 procento rezultatą, apimantį spragų paiešką, jų atkūrimą ir taisymą.

Modelio kortelėje nurodyta „Mistral Ecosystem Open-Weight License“ leidžia komercinį ir nekomercinį naudojimą, tačiau ji nėra standartinė MIT licencija. Norint vykdyti modelio kaip paslaugos verslą, pagal paskelbtas sąlygas reikia atskiros komercinės sutarties su „Mistral“; atviri svoriai šio apribojimo nepanaikina.

Paleidimui bendrovė pateikia „vLLM“, „SGLang“, „Transformers“ ir „llama.cpp“ integracijas, tačiau pavyzdinė serverio konfigūracija darbą paskirsto aštuonioms vaizdo plokštėms. Taip pat išleistas NVFP4 variantas, orientuotas į „Blackwell“ lustus ir mažesnį atminties poreikį, o ne įprastą nešiojamąjį kompiuterį.

Pasak „Mistral“, modelis nuo pradžių mokytas Europoje su 3 800 „Nvidia Grace Blackwell“ procesorių, o mokymo duomenys apėmė daugiau kaip 160 kalbų. Kortelėje atskirai įtraukta lietuvių kalba, tačiau atskiro jos kokybės įvertinimo bendrovė šiame leidime nepateikia, todėl daugiakalbiškumo sąrašas nėra toks matavimas.

Modelio kortelėje pateikiamas ir bendras „Artificial Analysis Intelligence Index v5“ rezultatas – 26 balai, skiriamas nuo programavimo indekso. Bendrovė pripažįsta, kad šiame bendrame įvertyje pirmaujantys Kinijos atvirų svorių modeliai pasiekia daugiau, nors atskirose užduotyse palyginimas kitoks.

Toliau „Mistral“ siūlo bendruomenei kurti demonstracijas ir viešoje galerijoje dalytis konkrečiais modelio pritaikymo pavyzdžiais bei bandymų rezultatais. Savarankiškai diegiančioms organizacijoms lieka infrastruktūros ir licencijos sąlygos, o paskelbti palyginimai bus tikrinami naudojant dabar prieinamus modelio svorius.