Liquid AI išleido atvirus d1 modelius krašto įrenginiams

Liquid AI paskelbė du atviro svorio d1 sprendimų modelius, skirtus greitam darbui krašto įrenginiuose su tekstu, vaizdais ir garsu.

Hugging Face spalio 7 dieną paskelbtame įraše Liquid AI autoriai nurodo, kad d1-3B palaiko tekstą ir vaizdus, o eksperimentinis d1-omni-600M palaiko tekstą su vaizdu arba tekstą su garsu. Abu modeliai pasiekiami Hugging Face platformoje tiesioginėmis nuorodomis į LiquidAI d1-3B ir LiquidAI d1-omni-600M.

Skirtingai nuo generatyvinių modelių, d1 šeimos modeliai nekuria teksto po vieną tokeną, o atsako vienu perėjimu per modelį. Pasak Liquid AI, tai tinka užduotims, kur reikia greito struktūruoto sprendimo, pavyzdžiui, ketinimo atpažinimo, toksiškumo aptikimo, medicininių klausimų klasifikavimo ar daugiakalbio supratimo.

Bendrovė nurodo, kad d1-3B Decision Index 0.2.1 teste surinko 48,57 balo ir aplenkė kiekvieną 4B bei 9B modelį, taip pat Decider 35B-A3B. Septynių viešų duomenų rinkinių vidurkyje d1-3B surinko 82,9 balo, o d1-omni-600M pasiekė 78,4 balo.

Hugging Face įraše išvardyti septyni vieši duomenų rinkiniai: SQuAD 2.0, Civil Comments, MASSIVE intent, PubMedQA, BoolQ, XNLI ir PAWS-X. Toks rinkinys apima skaitymo supratimą, klasifikavimą, medicininius klausimus ir daugiakalbį vertinimą.

Pasak Liquid AI, d1-3B sukurtas iš LFM2.5-VL-3B vaizdo ir kalbos modelio, o d1-omni-600M remiasi LFM2.5-Encoder-350M pagrindu. Mažesnis modelis prideda vaizdo ir garso koduoklius, todėl jis skirtas platesniam jutiklių scenarijų ratui.

Liquid AI taip pat pateikia greičio skaičius su NVIDIA įranga. Pasak įrašo, d1-3B į vieną klausimą atsako per 16 milisekundžių Jetson AGX Thor, per 26 milisekundes Jetson AGX Orin ir per 50 milisekundžių Jetson Orin Nano.

Modelių licenciją ir technines naudojimo sąlygas skaitytojai turi tikrinti pačiuose Hugging Face modelių puslapiuose, nes įraše akcentuojamas atvirų svorių prieinamumas. Praktinis paleidimas priklausys nuo pasirinktos įrangos, atminties ir programinės aplinkos.

Toliau bus svarbu, ar atviro svorio d1 modeliai prigis praktiniuose krašto DI scenarijuose, kur svarbi ne ilga kalba, o greitas sprendimas. Projekto autoriai nurodo, kad d1-omni-600M dar yra ankstyva tyrimų laida, todėl jos galimybės bus plėtojamos toliau.