Amazon Bedrock web search: agentams nebeužtenka senos modelio atminties
·
Amazon Bedrock web search šiandien nėra teorinis žaislas. Tai jau darbas, pinigai, duomenys ir kartais labai žemiškas klausimas: kas prisiims atsakomybę, kai DI pradės veikti už žmogų?
AWS rugpjūčio 4 d. pristatė Web Search on Amazon Bedrock. Paprastai: modelis gali ne tik remtis tuo, ką jau turi savo atmintyje, bet ir gauti naujesnį interneto kontekstą su šaltiniais.
Turiu prisipažinti, tokias naujienas skaitau ne kaip blizgančią vitriną. Skaitau kaip žmogus, kuris iš karto galvoja apie komandą pirmadienio rytą. Kas iš to bus naudinga? Kur bus painiava? Ir kur po mėnesio kas nors pasakys: „mes galvojom, kad čia automatiškai susitvarkys“.
KAS NUTIKO
AWS rašo, kad web search veikia kaip Bedrock įrankis modelio atsakymams pagrįsti. Sistema gali nuspręsti, kada reikia naujos informacijos, atlikti paiešką, paimti aktualius fragmentus ir grąžinti atsakymą su nuorodomis į šaltinius.
Čia kaip darbuotojas, kuris pagaliau turi teisę nueiti į archyvą, o ne spėlioti iš galvos. Tik archyvas turi būti valdomas, nes kitaip gausime greitesnį spėliojimą.
Čia svarbi detalė: kalbame ne apie dar vieną gražų demonstracinį video. Kalbame apie produktus, politiką, infrastruktūrą arba tyrimus, kurie keičia, kaip žmonės dirba su DI realiose organizacijose.
KODĖL TAI SVARBU
Agentams nauja informacija yra deguonis. Kainos, taisyklės, tiekėjų puslapiai, produktų aprašymai ir reguliavimas keičiasi greičiau nei modelių mokymo ciklai.
DI jau išlipo iš „parašyk tekstą“ dėžutės. Jis naršo, jungiasi prie įrankių, analizuoja duomenis, planuoja veiksmus, kartais tvarko dokumentus ar padeda priimti sprendimą. Trumpai: jis artėja prie darbo proceso, ne tik prie pokalbio lango.
Ir čia smegenys mėgsta paslysti. Norisi sakyti: „ai, čia dar užsienyje“. Bet tas pats modelis ar funkcija rytoj atsiras kliento kompiuteryje, darbuotojo naršyklėje arba partnerio pasiūlyme.
KĄ TAI REIŠKIA VERSLUI
Verslui tai reiškia, kad grounding pamažu tampa baziniu reikalavimu, ne priedu gražiam demo. Jei agentas atsako apie šiandienos situaciją, jis turi parodyti, iš kur tą žino.
- atskirti klausimus, kuriems reikia šviežios informacijos
- tikrinti, kokius šaltinius agentas cituoja
- jautrias užklausas leisti tik per aiškias taisykles
- matuoti ne atsakymo grožį, o teisingą šaltinį
Pirmas bandymas gali būti tiekėjų palyginimas: agentas turi surasti trijų paslaugų kainas, grąžinti šaltinius ir pažymėti, kada informacija paskutinį kartą atnaujinta.
Man patinka paprastas testas: ar po šios naujienos tavo komanda turi vieną aiškesnį sprendimą? Jei ne, vadinasi dar tik skaitome. Skaityti galima. Tik nereikia apsimesti, kad tai jau strategija.
KUR GALI SKAUDĖTI
Rizika – web search supainioti su tiesa. Paieška padeda, bet blogas šaltinis vis tiek lieka blogu šaltiniu, tik gražiau įdėtu į atsakymą.
Dažniausia klaida labai ūkiška. Žmonės įsijungia įrankį, pabando, nustemba, pasidžiaugia ir tada palieka viską savieigai. Po kelių savaičių paaiškėja, kad vieni darbuotojai kelia jautrius failus, kiti matuoja naudą iš jausmo, o treti net nežino, kas leidžiama.
Ne tragedija. Bet tvarkos reikia.
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Šią savaitę peržiūrėkite vieną agento scenarijų ir pažymėkite, kur jam reikia naujausios informacijos. Ten prasideda tikras grounding dizainas.
Šaltinis: Amazon Web Services.
DUK
Kas yra Amazon Bedrock web search?
Tai Bedrock įrankis, leidžiantis modeliams remtis aktualia interneto informacija ir grąžinti šaltinius.
Kodėl tai svarbu DI agentams?
Agentai dažnai sprendžia užduotis, kuriose reikia naujų duomenų, ne vien modelio atminties.
Ką turėtų tikrinti verslas?
Šaltinių kokybę, prieigos teises, logus ir ar agentas nepainioja paieškos su patvirtintu faktu.
Jei nori DI naudoti praktiškai, pradėk nuo vieno proceso. Vienas pasikartojantis darbas. Vienas atsakingas žmogus. Vienas matavimas. Daugiau praktikos rasi MasterSprint.
