AI asistenti i prava pristupa dokumentima: tko smije dobiti odgovor?

Asistent s dohvaćanjem radi u dvije faze. Indekser čita dokumente tvrtke, reže ih na odlomke i sprema ih u indeks za pretraživanje. Kad netko postavi pitanje, asistent pretražuje taj indeks, najbolje odlomke predaje jezičnom modelu i vraća odgovor modela.

Indekser obično radi pod servisnim računom s pravom čitanja svega, jer je to najlakši način da se dobije potpun indeks. Ako se ništa drugo ne učini, asistent tada svakom zaposleniku odgovara s pravima tog servisnog računa. Prava na mapama zaobilaze se kroz prozor za razgovor: popis plaća ili ugovor jednog klijenta udaljeni su jedno dobro sročeno pitanje.

To je klasični „zbunjeni zastupnik”: komponenta sa širokim pravima djeluje za korisnika s uskim pravima i ne provjerava razliku. Široko pravo čitanja za indekser prihvatljivo je. Odgovaranje s njim nije.

Pravilo koje asistenta čini sigurnim kratko je: odlomak koji korisnik koji pita ne smije čitati nikad ne smije ući u kontekst modela.

• Spremite prava uz svaki odlomak. Svaki indeksirani odlomak nosi ID svojega izvornog dokumenta, korisnike i grupe kojima je dopušteno čitanje, sve izričite zabrane i ID najmoprimca tamo gdje sustav dijeli više klijenata.
• Identitet uzmite iz autentificirane sesije. Servis za dohvaćanje prima provjereni identitet korisnika iz tokena prijave. Nikad ne prihvaća ID korisnika iz polja obrasca, iz upita ni iz argumenata koje je proizveo sam model.
• Filtrirajte unutar pretraživanja. Uvjet prava dio je upita za pretraživanje, pa indeks vraća samo odlomke koje korisnik smije čitati. Naknadno filtriranje gotovog popisa deset najboljih daje lošije odgovore, jer se dopušteni odlomci na jedanaestom mjestu i niže nikad ne razmatraju.
• Nikad ne filtrirajte nakon modela. Tražiti od modela da „izostavi povjerljiv sadržaj” ili pregledavati njegov odgovor nije kontrola pristupa. Kad je tekst jednom u kontekstu, parafraza, sažetak ili jedna jedina brojka mogu ga iznijeti van.

I metapodaci cure. Naslov dokumenta u popisu izvora, brojka („pronašao sam 3 dokumenta koje Vam ne mogu pokazati”) ili putanja datoteke otkrivaju da nešto postoji. Isti filtar primijenite na citate, prijedloge i automatsko dovršavanje.

Indeks drži kopiju prava, a kopije zastarijevaju. Tri pojedinosti odlučuju hoće li ostati ispravne.

Prvo, promjena prava ne mijenja dokument. Indekser koji ponovno čita samo datoteke čiji su se sadržaj ili datum izmjene promijenili propustit će je. Prava trebaju vlastitu sinkronizaciju: događaje promjene iz izvornog sustava gdje postoje i redovitu punu usporedbu kao sigurnosnu mrežu.

Drugo, spremajte grupe, a ne raspisane popise članova. Ako je odlomak označen kao „čitljiv grupi Financije”, a članstva korisnika u grupama dohvaćaju se od pružatelja identiteta u trenutku pitanja, uklanjanje osobe iz Financija djeluje odmah, bez ponovnog indeksiranja. Ako indeks sprema imena svih članova Financija, svaka kadrovska promjena znači prepisivanje tisuća unosa.

Treće, prava se često nasljeđuju. Premještanje dokumenta u drugu mapu ili promjena prava mape mijenja stvarna prava svega ispod nje. Sinkronizacija mora izračunati stvarna prava, a ne samo ona postavljena na samoj datoteci. Izbrisani dokumenti moraju napustiti indeks, a timu treba pravilo za dijeljenje „svatko s poveznicom”: siguran je izbor takve dokumente tretirati kao čitljive samo izričito imenovanim osobama.

Za najosjetljivije izvore dodajte drugu provjeru: prije nego što najbolji odlomci odu modelu, pitajte izvorni sustav smije li ovaj korisnik te dokumente čitati sada. To stoji nešto kašnjenja i uklanja ovisnost o kopiji.

Odgovor je izveden iz dokumenata, pa nasljeđuje njihova ograničenja. Jednostavno pravilo: odgovor se smije ponovno upotrijebiti samo za korisnika čija prava pokrivaju svaki izvor iz kojeg je sastavljen.

Povijest razgovora osjetljivija je. Korisnik koji je prošli tjedan pročitao odgovor vidio ga je, kao što je mogao i preuzeti datoteku. Ono što se ne smije dogoditi jest da stare poruke i dalje ubacuju ograničeni tekst u nove odgovore ili da ga funkcija pamćenja prenese u kasnije sesije. Uz svaki odgovor spremite ID-ove izvornih dokumenata kako bi se mogli ponovno provjeriti.

Koliko brzo opoziv mora stupiti na snagu? Odredite broj i zapišite ga. Brojke u nastavku ilustrativna su usporedba dizajna, a ne mjerenja: najdulje vrijeme, u minutama, u kojem bi uklonjeno pravo još moglo proizvesti odgovor u četiri pristupa.

Noćno izvršavanje znači do 24 sata (24 × 60 = 1.440 minuta), rijetko prihvatljivo za osobu koja odlazi iz tvrtke. Razuman cilj spaja posljednja dva: članstvo u grupama i status računa provjeravaju se pri svakom pitanju, promjene na razini dokumenta primjenjuju se u roku od nekoliko minuta.

Rukovanje pravima u AI asistentu sigurnosna je kontrola i treba testove koji se izvode automatski, nakon svakog postavljanja nove verzije i prema rasporedu.

1. Stvorite dva testna korisnika s različitim pravima, na primjer jednog u grupi Financije i jednog izvan nje.
2. Postavite kanarinske dokumente na ograničena mjesta. Svaki sadrži izmišljenu činjenicu i jedinstveni niz koji se ne pojavljuje nigdje drugdje, na primjer izmišljenu šifru projekta.
3. Postavite obama korisnicima ista pitanja o kanarinskim činjenicama, u izravnom i neizravnom obliku. Korisnik s pravom mora dobiti odgovor s izvorom. Drugi ne smije dobiti ništa: ni činjenicu, ni naslov, ni naznaku da dokument postoji.
4. Pretražite odgovore, citate i prijedloge drugog korisnika za kanarinske nizove. Jedno podudaranje obara build.
5. Testirajte opoziv: dodijelite pristup, pitajte, uklonite pristup, pa pitajte opetovano i mjerite koliko dugo se odgovor i dalje vraća. Rezultat usporedite sa svojim ciljem.
6. Ponovite pitanje u istom razgovoru nakon opoziva i s drugog računa odmah nakon prvog, kako biste provjerili povijest i predmemorije.
7. Gdje sustav dijeli više klijenata, iste testove provedite preko najmoprimaca s kanarincem po klijentu.

Među klijentima je filtar po ID-u najmoprimca minimum, a mora ga primjenjivati sam servis za dohvaćanje, a ne birati pozivajući kod. Zaseban indeks po klijentu jači je dizajn, jer filtar koji nedostaje tada ne vraća ništa umjesto svega. Isto razmišljanje vrijedi za portal za klijente koji nudi pretraživanje ili asistenta, i pripada u redoviti pregled sigurnosti i sigurnosnih kopija.