Beyond RAG: kai įmonės dokumentų jau per daug paprastai paieškai
AWS aprašė task-aware knowledge compression metodą, skirtą analitinėms užduotims su šimtais dokumentų.
Šiame straipsnyje · 6 dalys
- Kas yra Beyond RAG? Tai kryptis, kai įmonės žinių paieška peržengia paprastą fragmentų suradimą ir ruošia informaciją pagal užduotį.
- Kas yra task-aware knowledge compression? Tai metodas, kai dokumentų bazė suspaudžiama į užduočiai tinkamas reprezentacijas.
- Kada paprasto RAG nebeužtenka? Kai klausimas reikalauja analizuoti daug dokumentų, palyginti sąlygas ar daryti platesnę išvadą.
Beyond RAG yra viena iš tų DI temų, kur lengva pasiklysti techniniuose žodžiuose. Aš žiūriu paprasčiau: ką žmogus rytoj darbe darys kitaip?
AWS liepos 27 d. parašė apie Beyond RAG ir task-aware knowledge compression. Paprastai tariant: kai dokumentų daug, vien paieškos langelio su DI nebeužtenka. Sistema turi iš anksto suspausti žinias pagal užduotį.
Atvirai? Man tokiose naujienose visada įdomiausia ne gražiausias pavadinimas. Įdomiausia, kur prasideda realus darbas, reali rizika ir realus sutaupytas laikas.
Kas nutiko
Tradicinis RAG gerai veikia, kai reikia rasti kelis aktualius fragmentus. AWS aprašytas TAKC kelias skirtas užduotims, kur reikia analizuoti šimtus dokumentų, paruošti skirtingo tikslumo reprezentacijas ir nukreipti užklausą į tinkamą sluoksnį.
Čia kaip su spinta. Jei turi penkis marškinius, rasi ir tamsoje. Jei turi dvidešimt metų dokumentų archyvą, „paieškokime“ tampa savaitės sportu.
Kodėl tai svarbu
Beyond RAG svarbus todėl, kad įmonių DI projektai dažnai užstringa ant dokumentų. Modelis atsako gražiai, bet praleidžia svarbią sutartį, seną priedą ar lentelę, kuri viską pakeičia.
DI jau nebe vien langelis, į kurį įmetame tekstą. Jis jungiasi prie įrankių, skaito dokumentus, kviečia servisus, kartais veikia keliais žingsniais ir pradeda liesti tikrus procesus. Čia romantika baigiasi. Prasideda tvarka.
Ir taip, tvarka skamba nuobodžiai. Bet kai kalba pasisuka apie klientų duomenis, pinigus, sveikatą ar prieigas, nuobodumas staiga tampa privalumu.
Ką tai reiškia verslui
Verslui tai reiškia, kad žinių bazė nėra failų sąvartynas. Jei nori gerų atsakymų, turi galvoti, kokioms užduotims ruoši dokumentus: auditui, pardavimams, teisei, klientų aptarnavimui ar vadovo analizei.
- atskirti paieškos užduotis nuo analizės užduočių
- dokumentus grupuoti pagal realius klausimus
- tikrinti atsakymus su šaltiniais
- turėti atnaujinimo ritmą
Pirmas bandymas gali būti vienas katalogas. Pavyzdžiui, visos standartinės sutartys ir jų priedai. Užduotis: rasti neatitikimus tarp naujo kliento sutarties ir tipinės sąlygos.
Jei skamba per paprastai, vadinasi, judame teisinga kryptimi. Geras DI diegimas dažnai atrodo ne kaip fejerverkai, o kaip tvarkingas darbo stalčius.
Kur gali skaudėti
Rizika – manyti, kad daugiau dokumentų visada reiškia geresnį atsakymą. Kartais daugiau reiškia daugiau triukšmo. Modelis pavargsta kitaip nei žmogus, bet triukšmas jam irgi kenkia.
Blogiausia DI klaida dažnai neatrodo kaip klaida. Ji ateina gražiai parašytu sakiniu, mandagiu tonu ir labai užtikrintu veidu. Dėl to reikia ribų, logų ir žmogaus sprendimo ten, kur kaina didesnė.
Ką pasidaryti šią savaitę
Išsirink vieną dokumentų rinkinį ir parašyk tris klausimus, kuriuos žmonės jam užduoda dažniausiai. Nuo jų ir pradėk žinių tvarkymą.
Mano taisyklė paprasta: jei negali pasakyti, kaip matuosi rezultatą, dar ne automatizuoji. Dar tik žaidi.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
