RAG w obsłudze klienta: dane, testy i odpowiedzialność

Klient pyta o warunki usługi. Odpowiedź jest w firmowych dokumentach, ale pracownik musi znaleźć właściwą wersję, sprawdzić wyjątki i ułożyć wiadomość. W takim zadaniu warto rozważyć RAG: połączenie wyszukiwania informacji z AI przygotowującą odpowiedź. Zanim jednak udostępnisz asystenta klientom, potrzebujesz uporządkowanych źródeł i decyzji, za które odpowiedzi firma może wziąć odpowiedzialność.

Co RAG rzeczywiście robi

RAG, czyli Retrieval-Augmented Generation, polega na wyszukaniu materiałów związanych z pytaniem i przekazaniu ich modelowi jako kontekstu do przygotowania odpowiedzi. Mechanizm opisali badacze w pracy Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. W firmie źródłami mogą być instrukcje, opisy produktów czy uzgodnione zasady obsługi.

Samo podłączenie dokumentów nie daje asystentowi dostępu do aktualnego statusu zamówienia. Taka odpowiedź wymaga odpowiedniego źródła bieżących danych i uprawnień. Najpierw ustal więc, czy potrzebujesz wyszukiwarki wiedzy, pomocy w pisaniu odpowiedzi, czy integracji z systemem operacyjnym.

Najpierw uporządkuj źródła

Wybierz jeden zakres, w którym powtarzają się pytania, a firma potrafi wskazać obowiązującą odpowiedź. Nie zaczynałbym od wrzucenia wszystkich plików do wspólnego zbioru. Stary cennik obok nowego albo dwie sprzeczne instrukcje tworzą problem, którego sam model nie rozstrzygnie w imieniu właściciela procesu.

• Wskaż właściciela każdego obszaru wiedzy i sposób zatwierdzania zmian.
• Oznacz aktualne dokumenty i wycofaj nieobowiązujące wersje z zakresu wyszukiwania.
• Uzupełnij wyjątki, warunki i informacje, które dotąd przekazywano tylko ustnie.
• Ustal, kiedy zmiana dokumentu ma pojawić się w odpowiedziach asystenta.

Dostęp do dokumentów musi odpowiadać roli

Asystent dla klienta i pomocnik pracownika mogą korzystać z różnych zbiorów. Wewnętrzne ustalenia handlowe, dane innych klientów czy instrukcje administracyjne nie powinny trafiać do odpowiedzi tylko dlatego, że znalazły się w tym samym katalogu. Kontrola dostępu musi działać w rozwiązaniu, a nie ograniczać się do polecenia „nie ujawniaj”. Potrzebę pobierania wyłącznie uprawnionych treści opisuje również dokumentacja RAG Microsoft.

Przed próbą uzgodnij także, jakie materiały wolno przekazać wybranemu dostawcy. Nie wszystkie dane potrzebne człowiekowi do obsługi sprawy muszą znaleźć się w kontekście modelu.

Sprawdź odpowiedzi oraz sytuacje bez odpowiedzi

RAG nie eliminuje halucynacji: model nadal może dopowiedzieć nieistniejący warunek albo użyć fragmentu, który nie dotyczy pytania. Sam link do dokumentu nie potwierdza poprawności całej wiadomości. Dokumentacja Amazon Q opisuje osobną kontrolę halucynacji w odpowiedziach RAG.

Przygotuj pytania typowe, niejednoznaczne i takie, na które materiały nie odpowiadają. Dodaj przypadek nieaktualnej instrukcji, sprzecznych źródeł oraz próby uzyskania informacji spoza uprawnień. Sprawdzaj osobno, czy znaleziono właściwe źródło i czy odpowiedź wiernie oddaje jego sens. Oczekiwanym wynikiem części prób będzie odmowa odpowiedzi lub prośba o doprecyzowanie.

Ustal, kiedy sprawę przejmuje człowiek

Wyjątek od warunków, reklamacja wymagająca decyzji czy brak wiarygodnego źródła powinny mieć ustaloną ścieżkę przekazania pracownikowi. Klient potrzebuje wiedzieć, co stanie się dalej. Pracownik powinien dostać pytanie, dotychczasową rozmowę i wykorzystane źródła, żeby nie zaczynać wszystkiego od nowa.

Na początku asystent może przygotowywać propozycje odpowiedzi do zatwierdzenia. Taka próba pokaże, gdzie rzeczywiście ułatwia pracę, a gdzie koszt sprawdzania i poprawiania przewyższa korzyść.

Zacznij od małej próby w codziennej pracy

Wybierz z zespołem jeden obszar, określ akceptowalny wynik i porównaj pracę z asystentem z dotychczasowym sposobem obsługi. Zapisuj brakujące informacje, błędne odpowiedzi i sprawy przekazane człowiekowi. Wynik próby powinien prowadzić do decyzji: poprawiamy źródła, zmieniamy zakres albo rozwijamy rozwiązanie.

Najczęstsze pytania

Czym RAG różni się od wgrania pliku do czatu?

Wgrany plik działa w jednej rozmowie. RAG przeszukuje uporządkowaną bazę dokumentów przy każdym pytaniu, z uprawnieniami i wskazaniem źródła — dzięki temu można go testować i utrzymywać.

Pomagam w doborze analiz i narzędzi do konkretnego zadania firmy. Jeśli rozważasz asystenta korzystającego z firmowej wiedzy, porozmawiajmy o pytaniach, na które ma odpowiadać.