Web Search on Amazon Bedrock: DI atsakymai gauna šviežią kontekstą
AWS pristatė Web Search on Amazon Bedrock. DI agentams šviežias web kontekstas tampa įmontuota funkcija, o ne dar vienas išorinis įrankis.
Šiame straipsnyje · 4 dalys
- Kas yra Web Search on Amazon Bedrock? Tai AWS įmontuotas web paieškos įrankis, skirtas modelių atsakymams pagrįsti aktualia vieša informacija.
- Kodėl grounding svarbus? Jis padeda sumažinti pasenusios arba išgalvotos informacijos riziką, kai klausimas priklauso nuo naujo konteksto.
- Ar web paieška panaikina klaidas? Ne. Ji suteikia šaltinius ir šviežią informaciją, bet atsakymus vis tiek reikia tikrinti pagal svarbą ir riziką.
Web Search on Amazon Bedrock sprendžia labai paprastą DI problemą: modelis nežino, kas įvyko po jo mokymo.
O versle tai skauda. Kainos keičiasi, reguliacijos keičiasi, konkurentai paleidžia naujus produktus, klientai klausia apie šiandieną.
AWS rugpjūčio 4 d. pristatė Web Search on Amazon Bedrock kaip server-side įmontuotą įrankį modelių atsakymams pagrįsti šviežia web informacija.
Kodėl modelio atminties nepakanka
Didelis modelis gali daug žinoti, bet jo žinojimas turi ribą. Jei klausi apie naujausią kainą, naują taisyklę ar šiandienos produktą, reikia šaltinio.
Be grounding DI atsakymas gali skambėti užtikrintai, bet remtis pasenusia informacija. O pasenusi informacija vadovui kartais blogiau nei jokio atsakymo.
Nes atrodo įtikinamai.
Ką siūlo aws
AWS teigia, kad Web Search on Amazon Bedrock veikia kaip įmontuotas įrankis, be papildomo trečios šalies tiekėjo ir atskiro API orkestravimo.
Agentui tai reiškia paprastesnį kelią gauti aktualius web ištraukas, kurios padeda atsakymą pagrįsti dabartine informacija.
Čia nėra magija. Čia tvarkingesnis konteksto tiekimas modeliui.
Kur naudoti
Klientų aptarnavimas, rinkos analizė, reguliacijų stebėjimas, konkurentų apžvalgos, vidiniai tyrimai – visur, kur atsakymas turi remtis nauja informacija.
Bet reikia išlikti blaiviems. Web paieška nereiškia, kad atsakymas automatiškai teisingas. Reikia šaltinių, citavimo, tikrinimo ir ribų, kur DI gali spręsti pats.
Šviežias kontekstas padeda. Žmogaus sprendimas vis tiek lieka reikalingas.
Jei jūsų DI atsako apie kintančius dalykus, paklauskite: iš kur jis žino? Jei atsakymo nėra, reikia grounding plano.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
