Veikiančias programas Maxwell spartins nekeisdamas jų šaltinio

doubleAI pristatė Maxwell modelį, kuris turi spartinti jau veikiančias programas, keisdamas vykdomą kodą pagal konkrečią įrangą ir apdorojamus duomenis. Bendrovės paskelbtame pristatyme akcentuojama, kad pradinis programos tekstas lieka nepakeistas, o optimizuojama po juo veikianti realizacija.

Spalio 19 dieną bendrovė taip pat paskelbė bendradarbiavimo su LTX rezultatą, susijusį su 4K vaizdo generavimo sparta. Pagal jos pateiktą bandymą, vieno klipo generavimo trukmė dviem Nvidia B200 lustais sumažėjo nuo 250 iki 134 sekundžių.

doubleAI tai vadina kodo vykdymo modeliu, atskirdama jį nuo programavimo asistentų, kurie daugiausia padeda parašyti arba redaguoti programą. Oficialus paaiškinimas numato, kad Maxwell stebi veikimą, nustato siaurąsias vietas ir parengia konkrečiam procesoriui bei duomenims tinkamesnę realizaciją.

Pristatyme bendrovė teigia kiekvieną pakeitimą lydinti formaliu semantinio lygiavertiškumo įrodymu, o ne vien sėkmingai atliktų testų rinkiniu. Ši sąvoka reiškia reikalavimą, kad pakeistas kodas tomis pačiomis sąlygomis duotų tokį pat rezultatą ir tokį pat poveikį aplinkai.

Pasak doubleAI, tokie įrodymai gali turėti aiškias prielaidas, o joms nebegaliojant vykdymas turi būti grąžinamas pradinei programos versijai. Tai bendrovės aprašytas saugumo mechanizmas; pristatymas savaime nėra nepriklausomas patvirtinimas, kad produktas vienodai tiks bet kokiai programai.

LTX publikacijoje nurodoma, kad optimizuotas procesas jau prieš tai buvo kompiliuojamas ir paskirstomas kelioms vaizdo plokštėms, taigi nebuvo neoptimizuotas pradinis pavyzdys. Maxwell pasiūlė daugiau nei tuziną reikšmingų pakeitimų, nuo darbų paskirstymo iki atskirų žemo lygio skaičiavimo branduolių.

Vienas aprašytas pakeitimas sumažino tarp plokščių siunčiamų duomenų kiekį: vietoj maždaug 262 megabaitų perduodamas maždaug vieno megabaito dalinis rezultatas. Kitas pakeitimas sumažino persidengiančių vaizdo sričių pakartotinį skaičiavimą, o dalis procesoriaus darbo buvo perkelta į vaizdo plokštę.

Bendrovė pateikia ir kokybės palyginimą: garso takelis išsaugotas bitų tikslumu, o vaizdo PSNR rodiklis pasirinktoje užklausoje siekė 41 decibelą. Vis dėlto tai aprašyto bandymo rezultatas, o ne pažadas, kad kiekvienas skirtingos trukmės ar turinio klipas spartės vienodai.

Oficialiame Maxwell puslapyje pateikiami ir kitokie pavyzdžiai: Whisper-small transkripcijų bandymas RTX 4090 plokštėje bei NetworkX skaičiavimas įprastu procesoriumi. Pirmame nurodyta trukmė sumažėjo nuo 106,23 iki 49,82 sekundės, antrame — nuo 61,44 iki 17,50 sekundės.

LTX bandymo aprašyme doubleAI nurodo aptikusi ir retą branduolio užstrigimą, susijusį su bendro sinchronizavimo barjero atnaujinimu tarp skaičiavimo dalių. Paskelbtoje analizėje teigiama, kad papildomas sinchronizavimo žingsnis pašalino šią lenktyniavimo sąlygą, pasireikšdavusią dalijantis plokšte su kitu CUDA kontekstu.

doubleAI šiuo metu kviečia registruotis ankstyvai prieigai, todėl produkto pristatymas dar nereiškia neriboto viešo naudojimo visiems norintiesiems. Bendrovė LTX optimizavimo pakeitimus sieja su viešu projekto kodu, o toliau planuoja juos tikrinti platesniame realių darbo krūvių rate.