OpenAI atvėrė modelį greitiems programėlių sprendimams
Decisions API tapo visuotinai prieinama: vietoj ilgo atsakymo ji grąžina pasirinkimą, tikimybę arba balą. OpenAI pridėjo balso integraciją ir daugiau klausimų.
OpenAI visuotinai atvėrė Decisions API, skirtą programėlėms greitai pasirinkti kitą veiksmą, suskirstyti duomenis arba įvertinti pateiktą informaciją. Spalio 22 dienos pranešime bendrovė nurodo, kad paslauga veikia su GPT-6 Luna ir priima tekstą, vaizdus bei struktūrinius duomenis.
Pasak OpenAI, šios užklausos gali veikti iki dešimties kartų greičiau už to paties modelio naudojimą per Responses API. Sistema skirta iš anksto apibrėžtiems atsakymams, todėl programėlė gauna sprendimą, o ne ilgą laisvos formos paaiškinimą.
Bendrovė skelbia pridėjusi tiesioginę GPT-Live integraciją, kartojamo konteksto podėlį ir duomenų apdorojimo pasirinkimą Jungtinėse Valstijose bei Europos Sąjungoje. Vienoje užklausoje dabar galima pateikti iki 400 klausimų, dvigubai daugiau nei ankstesniame bandymo etape.
OpenAI aprašo tris rezultato formas: sąlygos tikimybę, pasirinkimą iš pateikto sąrašo arba įvertinimą pagal nurodytą skalę. Toks formatas leidžia sistemai nuspręsti, ar tęsti užduotį, bandyti dar kartą, ar perduoti klausimą žmogui patikrinti.
Oficialiame kainyne prie pranešimo nurodyta 0,10 dolerio kaina už milijoną įvesties žetonų ir atskiro mokesčio už išvesties žetonus nėra. Bendrovė taip pat skelbia, kad reikalavimus atitinkantiems klientams prieinamas duomenų nesaugojimo režimas ir regioninis apdorojimas.
Apie produkto kilmę papildomai rašo TechCrunch, kalbinęs OpenAI programavimo sąsajų produktų vadovą Nikunj Handa. Pasak jo, komanda ne sukūrė atskirai sukalibruotą modelį, o pertvarkė Luna veikimą, siekdama trumpesnio atsako ir mažesnių sąnaudų.
Handa leidiniui teigė, kad anksčiau nuo vienos iki trijų sekundžių trukę sprendimai dabar gali užimti 100–180 milisekundžių. TechCrunch pabrėžia, kad sprendimų modelių tinkamumas priklauso nuo konkrečios užduoties, todėl bendras greitis savaime neįrodo geresnio tikslumo.
Leidinys pateikia kalbų mokymosi platformos Speak pavyzdį: jos technologijų vadovas Andrew Hsu nurodo sutrumpėjusį laukimą tarp veiksmų nuo 1,4 iki 0,13 sekundės. Tai konkretaus kliento bandymo rezultatas, o ne pažadas, kad kiekviena šią paslaugą įdiegusi programėlė pasieks tokį patį laiką.
TechCrunch rašo, kad OpenAI šią technologiją pritaikė ir Dots balso asistento reakcijai spartinti, o pirmieji klientai apima Box, Datadog bei Ramp. Bendrovės modelis konkuruoja su TypeSafe Jev ir kitais sprendimų modeliais, kurių skirtingi testai pateikia nevienodą rikiuotę.
OpenAI pranešime Box platformos produktų viceprezidentas Biswaroop Palit pateikia draudimo pažymų rūšiavimo bandymą su 30 atvejų. Jo teigimu, maršruto parinkimas veikė maždaug penkis kartus greičiau, išlaikydamas tokį patį tikslumą kaip Responses API ir perduodamas mažesnio patikimumo atvejus tikrintojams.
Handa leidiniui taip pat aptarė galimybę ateityje trumpinti atsaką tiek, kad sprendimus būtų galima priimti apie atskirus vaizdo kadrus. Kol kas tai tolesnė produkto kryptis: paskelbtas visuotinis prieinamumas dar nereiškia, kad tokia vaizdo analizė jau tapo atskira garantuojama funkcija.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
