Gemini 3.6 Flash: Google mažina agentų kainą ir laukimą
Google pristatė Gemini 3.6 Flash ir 3.5 Flash-Lite. Pagrindinė žinia verslui - agentai turi veikti pigiau, greičiau ir mažiau kalbėti tuščiai.
Šiame straipsnyje · 5 dalys
- Kuo svarbus 17% mažesnis tokenų naudojimas? Agentų užduotyse tokenai tiesiogiai veikia kainą ir greitį. Mažiau perteklinio teksto gali reikšti pigesnį darbą.
- Ar 3.5 Flash-Lite tinka verslui? Taip, ypač didelio kiekio, greitoms ir pasikartojančioms užduotims, kur nereikia brangiausio modelio.
Gemini 3.6 Flash yra naujas Google modelis, skirtas agentams, kodui, žinių darbui ir multimodalinėms užduotims. Sausa? Gal. Bet po paviršiumi yra labai praktiškas klausimas: kiek kainuoja, kai DI agentas mąsto per ilgai?
Kas naudojo agentus realiam darbui, žino tą jausmą. Paleidi užduotį. Jis mąsto. Tada dar mąsto. Tada parašo 14 eilučių apie tai, kaip jis planuoja planuoti. Ir tu tyliai žiūri į sąskaitą.
Google liepos 21 d. paskelbė Gemini 3.6 Flash, 3.5 Flash-Lite ir 3.5 Flash Cyber. Bendrovė teigia, kad 3.6 Flash naudoja 17% mažiau išvesties tokenų nei 3.5 Flash, o kai kuriuose testuose skirtumas dar didesnis.
Kodėl tokenai svarbūs
Tokenai skamba kaip programuotojų buhalterija. Bet verslui tai labai paprasta: kuo daugiau modelis rašo, galvoja ir kviečia įrankius, tuo daugiau kainuoja užduotis.
Jei agentas dirba vieną kartą per dieną, nieko tokio. Jei jis analizuoja tūkstančius dokumentų, kainos skirtumas pradeda skaudėti. Čia jau ne centai.
Google akcentuoja ne tik kokybę, bet ir mažesnį bereikalingą išsiplėtimą. Man tai patinka. Nes kartais geriausias DI patobulinimas yra ne protingesnis atsakymas, o trumpesnis kelias iki rezultato.
3.5 Flash-Lite – greitam darbui
Kartu pristatytas 3.5 Flash-Lite orientuotas į greitį ir didelį kiekį. Google mini 350 išvesties tokenų per sekundę pagal Artificial Analysis. Tokie modeliai įdomūs tada, kai reikia apdoroti daug mažų užduočių.
Pavyzdžiui, e. parduotuvės produktų aprašymų rūšiavimas, kvitų vertimas, dokumentų santraukos, paieškos agentai. Darbai, kurių daug. Ir kiekvienas atskirai nėra vertas brangaus modelio.
Čia kaip samdyti žmogų. Ne kiekvienam darbui reikia stratego. Kartais reikia greito, tvarkingo vykdytojo.
Cyber modelis – tik ribotai
Trečia naujiena – 3.5 Flash Cyber CodeMender sistemoje. Ji skirta saugumo spragoms rasti ir taisyti, bet Google nurodo, kad prieiga bus ribota vyriausybėms ir patikimiems partneriams.
Tai logiška. Kibernetinio saugumo DI yra dviašmenis peilis. Tas pats modelis gali padėti gynėjams, bet blogose rankose tapti puolimo įrankiu.
Verslui čia signalas aiškus: DI saugumas taps vis labiau automatizuotas. Bet prieiga ir kontrolė bus tokios pat svarbios kaip pats modelis.
Ką daryti įmonėms
Jei šiandien kuri DI agentus, pradėk matuoti ne tik atsakymo kokybę. Matuok kainą vienai užduočiai, laiką iki rezultato, klaidų skaičių ir kiek kartų agentas kvietė įrankius.
Be šių skaičių modelių pasirinkimas tampa skonių karu. „Man labiau patinka šitas.“ Puiku, bet kiek kainuoja tavo patikimas jausmas?
Geras testas: tą pačią realią užduotį paleisk per kelis modelius. Ne vieną promptą. Visą darbo eigą. Tada lygink rezultatą, kainą ir taisymo laiką.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
