HippoRAG su Bedrock: kai RAG reikia ne tik atminties, bet ir ryšių
·
HippoRAG skamba kaip techninis terminas. Bet kai pažiūri praktiškai, čia yra labai žemiškas klausimas: kiek darbo darome rankomis tik todėl, kad niekas neprisėdo sutvarkyti proceso?
AWS parodė HippoRAG įgyvendinimą su Amazon Bedrock, Amazon Neptune ir Personalized PageRank. Skamba kaip trijų techninių žodžių sumuštinis. Bet esmė labai žemiška: kartais dokumentų paieškai neužtenka rasti panašų tekstą. Reikia suprasti ryšius.
Man tokiose naujienose visada įsijungia mažas vidinis buhalteris. Ne tas, kuris skaičiuoja sąskaitas, o tas, kuris klausia: kiek tai kainuos, kas prižiūrės ir kur gali lūžti?
KAS NUTIKO
HippoRAG remiasi idėja, kad žinios gali būti organizuojamos panašiau į asociacijų tinklą. AWS pavyzdyje LLM galimybės jungiamos su grafų duomenų baze, algoritmais ir vektoriais, kad sistema geriau rastų susijusią informaciją.
Įmonėse žinios retai būna viename tvarkingame faile. Jos guli sutartyse, el. laiškuose, wiki puslapiuose, ticketuose, prezentacijose ir žmonių galvose. Kai paklausi DI klausimo, jam reikia ne tik rasti žodį. Jam reikia suprasti, kas su kuo susiję.
KODĖL TAI SVARBU
HippoRAG svarbus todėl, kad paprastas RAG gali strigti, kai atsakymui reikia kelių šaltinių ir netiesioginių ryšių. Grafas padeda matyti sąsajas tarp subjektų, dokumentų, temų ir sprendimų.
DI jau nebe vien langelis, į kurį įmetame tekstą. Jis jungiasi prie įrankių, moka kviesti servisus, gali veikti keliais žingsniais ir pradeda liesti tikrus verslo pinigus. Čia romantika baigiasi. Prasideda tvarka.
KĄ TAI REIŠKIA VERSLUI
Verslui tai aktualu ten, kur žinių bazė didelė ir paini: teisė, medicina, finansai, gamyba, techninis supportas. Kuo daugiau konteksto, tuo mažiau užtenka paprasto „surask panašų paragrafą“.
- atskirti dokumentų paiešką nuo žinių ryšių
- žymėti svarbius subjektus ir temas
- testuoti klausimus, kuriems reikia kelių šaltinių
- nepamiršti duomenų savininkų ir leidimų
Pavyzdys: support agentui reikia atsakyti į klausimą pagal produkto versiją, kliento sutartį ir ankstesnį incidentą. Vieno dokumento paieška čia gali nepakakti.
KUR PASISLĖPUSI RIZIKA
Rizika – pridėti grafų technologiją vien todėl, kad skamba protingai. Jei neturite klausimų, kuriems reikia ryšių, paprastesnis RAG gali būti pigesnis ir aiškesnis.
Blogiausia DI klaida dažnai neatrodo kaip klaida. Ji ateina gražiai parašytu sakiniu, mandagiu tonu ir labai užtikrintu veidu. Todėl verslui reikia ne tik įrankių, bet ir įpročio tikrinti.
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Suraskite penkis klausimus, į kuriuos jūsų žinių bazė dabar atsako blogai. Jei atsakymui reikia kelių dokumentų ryšio, verta žiūrėti į grafą.
Šaltinis: Amazon Web Services.
DUK
Kas yra HippoRAG?
Tai RAG metodas, kuris derina kalbos modelius, grafų ryšius ir paieškos algoritmus.
Kuo jis skiriasi nuo paprasto RAG?
Jis bando geriau naudoti ryšius tarp informacijos vienetų, ne tik tekstinį panašumą.
Kam tai naudinga?
Didelėms žinių bazėms, kur atsakymai priklauso nuo kelių susijusių šaltinių.
Jei norite DI naudoti ne dėl mados, pradėkite nuo vieno proceso. Paimkite užduotį, kuri kartojasi kas savaitę, susirašykite žingsnius ir tik tada junkite įrankį. Daugiau praktinių DI taikymo pavyzdžių rasite MasterSprint.
