Postoji tačan trenutak u kojem firma prestaje da veruje AI asistentu: prvi put kada samouvereno i pogrešno odgovori na pitanje. Nakon toga svaki odgovor mora da se proverava – a asistent čiji odgovori svi moraju da se proveravaju nikome ne štedi vreme.
Odakle odgovor dolazi važnije je od toga koji se model koristi
Opšti chatbot odgovara na osnovu onoga što je naučio tokom treniranja. Ne zna vaše cene, uslove isporuke ni interne procedure – pa kada ga pitate o njima, proizvodi nešto verovatno umesto nečeg tačnog. To nije greška koju možete ispraviti boljim uputstvima, već posledica pitanja za koje sistem nema izvor.
Koristan poslovni asistent radi obrnuto. Prvo pretražuje vaše sopstvene dokumente, zatim odgovara koristeći samo ono što je pronašao i prikazuje iz kog dokumenta svaka tvrdnja potiče. Ako ne postoji ništa relevantno, to i kaže umesto da nagađa.
Kako to izgleda u praksi
Svaki odgovor navodi svoje izvore, tako da skeptičan kolega može da ga proveri jednim klikom.
Postojeća pravila pristupa se čuvaju – ljudi dobijaju odgovore samo iz dokumenata koje već imaju dozvolu da čitaju.
Pitanja na koja se ne može odgovoriti prosleđuju se čoveku zajedno sa tokom razgovora, umesto da se popunjavaju nagađanjem.
Slabi odgovori mogu se označiti, a te oznake unapređuju sistem umesto da nestanu u redu za podršku.
Zašto je ovo još važnije na više jezika
Kada asistent odgovara klijentima na više jezika, izmišljen odgovor ne samo da zavede – teže ga je i primetiti, jer osoba koja ga čita možda je jedina u firmi koja govori taj jezik. Zasnivanje odgovora na sopstvenom odobrenom sadržaju čini višejezičnu podršku bezbednom, a ne rizičnom.
Praktičan test za bilo kog AI asistenta je jednostavan: pitajte ga nešto što vaši dokumenti ne pokrivaju i vidite da li će to priznati. Taj odgovor govori više nego bilo koja lista funkcija.