Agentic RAG: wiele źródeł, koszt i kontrola
Temat: Architektura systemów AI
Zaawansowany RAG ma sens, gdy stały pipeline nie obsługuje złożonych pytań, wielu źródeł albo iteracyjnego zbierania danych. Agentic RAG traktuje retrieval jako narzędzie: model planuje kroki, wybiera źródła i ocenia wyniki. Ta elastyczność zwiększa jednak koszt, opóźnienie i powierzchnię błędu. Gdzie agentic RAG leży na tle innych dróg do wiedzy firmy — od wklejenia dokumentu po trening modelu — pokazuje poradnik o wykorzystaniu danych firmy w AI. Środowisko chmury dla takiej architektury opisuje poradnik o Microsoft Azure.
Agent to ostatnie piętro. Pod nim leży pięć technik, które poprawiają wyszukiwanie bez planowania przez model: przepisywanie zapytań, wyszukiwanie hybrydowe, ponowny ranking (re-ranking), przemyślany podział dokumentów i pomiar retrievalu. Ten wpis przechodzi przez nie po kolei, od najtańszej.
Drabina technik: od najtańszej do agenta
Każdy szczebel dokładasz dopiero wtedy, gdy pomiar pokazał, że poprzedni nie wystarcza. Agent dołożony na start przypomina zatrudnienie kierownika projektu do wyszukania jednego pliku: będzie planował z zapałem, ale plik nadal trzeba znaleźć.
| Szczebel | Co naprawia | Czego nie naprawi |
|---|---|---|
| podział dokumentów | fragment bez kontekstu, warunek oderwany od wyjątku | brakującą albo nieaktualną treść |
| wyszukiwanie hybrydowe | parafrazy i jednocześnie kody, nazwy, daty | złą kolejność wyników |
| re-ranking | właściwy fragment jest w wynikach, ale za nisko | fragment, którego w wynikach nie ma |
| przepisywanie zapytań | pytanie potoczne, skróty, kontekst z rozmowy | brak dokumentu w indeksie |
| agentic retrieval | pytanie wymagające kilku źródeł lub kroków | słabe źródła, które agent przeszuka szybciej |
Podział dokumentów
Chunking decyduje, co model w ogóle zobaczy. Microsoft opisuje go jako etap przygotowania treści: duże dokumenty dzieli się na fragmenty i wektoryzuje przed zapisem w indeksie (przygotowanie treści dla RAG). Reguła „co tysiąc znaków” jest prosta i zwykle zawodzi na procedurach: tnie tabelę, oddziela wyjątek od zasady i gubi nagłówek, który mówił, czego dotyczy akapit.
Lepszym punktem wyjścia jest jednostka znaczeniowa: sekcja z tytułem, punkt regulaminu, wiersz cennika z nagłówkami kolumn. Do każdego fragmentu dopisz metadane: dokument, wersję, datę obowiązywania i grupę uprawnień. Po metadanych filtrujesz, zanim zaczniesz rankować.
Rozmiar fragmentu sprawdzaj na pytaniach, nie na intuicji. Za mały fragment traci kontekst. Za duży zjada okno kontekstu i rozmywa trafienie. Badanie Liu i in. pokazało, że modele najlepiej korzystają z informacji na początku i końcu długiego kontekstu, a gorzej ze środka („Lost in the Middle”). Wniosek praktyczny: mniej, ale trafniejszych fragmentów.
Wyszukiwanie hybrydowe
Wyszukiwanie wektorowe dobrze radzi sobie z parafrazą. Gorzej z numerem umowy, symbolem produktu albo nazwiskiem. Wyszukiwanie hybrydowe w Azure AI Search wykonuje zapytanie pełnotekstowe i wektorowe równolegle, a listy łączy metodą Reciprocal Rank Fusion; dokumentacja wskazuje, że słowa kluczowe lepiej trafiają kody, żargon, daty i nazwiska (wyszukiwanie hybrydowe).
Test jest prosty. Weź pytania z identyfikatorami i pytania opisowe, a potem porównaj trzy warianty: tylko słowa kluczowe, tylko wektor, hybryda. Jeśli hybryda nie wygrywa na Twoim zbiorze, sprawdź analizator językowy i jakość embeddingów, zanim dołożysz kolejną warstwę.
Re-ranking
Ranker drugiego etapu nie szuka nowych dokumentów. Porządkuje to, co już przyszło z pierwszego etapu. Semantic ranker w Azure AI Search przelicza 50 najlepszych wyników z BM25 albo RRF i nie przeszukuje całego korpusu (semantic ranker). Fragment spoza tej pięćdziesiątki pozostaje dla rankera niewidoczny, więc re-ranking go nie uratuje.
Dlatego mierz dwie rzeczy osobno: czy fragment pojawia się w szerokiej puli kandydatów i na którą pozycję trafia po rankingu. Pierwsza liczba mówi o indeksie i zapytaniu. Druga o rankerze. Mieszanie ich w jednym wskaźniku kończy się strojeniem nie tego elementu.
Przepisywanie zapytań
Użytkownik pyta „a jak to jest z urlopem przy umowie zlecenie?”, a dokument nazywa się „Zasady nieobecności współpracowników”. Przepisanie zapytania zamienia język rozmowy na język dokumentów: rozwija skróty, dopisuje kontekst z poprzednich wiadomości, czasem dzieli pytanie na dwa. Azure AI Search ma funkcję query rewrite; jej dostępność w regionie, w tym Poland Central, pokazuje tabela regionów.
Przepisane zapytanie loguj obok oryginału. Model chętnie „poprawia” pytanie w kierunku, którego użytkownik nie miał na myśli. Bez logu nie odróżnisz złego wyszukiwania od złego przepisania.
Agentic retrieval: kiedy dodać planowanie
Najpierw udowodnij, że pytanie wymaga kilku kroków. Dobry przypadek łączy katalog, dokumenty i zewnętrzne API albo wymaga drugiego zapytania zależnego od wyniku pierwszego. W Azure AI Search agentic retrieval wywołuje bazę wiedzy (knowledge base), model planuje podzapytania, a te biegną równolegle, każde z semantic rankingiem; wynik jest scalany, a odwołania do źródeł są opcjonalne (agentic retrieval). Szerszy wzorzec opisuje Azure Architecture Center.
| Element agenta | Co ustalasz | Ograniczenie |
|---|---|---|
| opis narzędzia | domena, parametry, schemat wyniku | jednoznaczny zakres |
| planowanie | liczba kroków i źródeł | limit czasu i tokenów |
| cytowania | mapowanie tezy do fragmentu | walidacja po syntezie |
| zakończenie | warunek „kontekst wystarczy” | brak nieskończonej pętli |
Oddziel narzędzia do czytania wiedzy od narzędzi, które coś zmieniają. Agent może sam zdecydować o kolejnym wyszukaniu. Zapis w systemie, wysłanie wiadomości czy zmiana statusu wymagają osobnych reguł i zatwierdzenia przez człowieka.
Koszt rośnie razem z autonomią. Microsoft rozlicza agentic retrieval osobno w Azure AI Search (tokeny retrieval) i w Azure OpenAI (tokeny planowania i syntezy odpowiedzi), podczas gdy w klasycznym trybie płacisz za semantic ranker per zapytanie (tamże, sekcja „Billing”). Kwoty sprawdzaj w cenniku Azure AI Search. Usługę, jej tryby i status funkcji opisuje osobno przewodnik po usłudze Azure AI Search w trybie klasycznym i agentowym.
Ewaluacja retrievalu
Każda z technik powyżej jest hipotezą. Rozstrzyga ją zestaw testowy, nie demo. Azure Architecture Center zaleca zebranie reprezentatywnych dokumentów i pytań, w tym pytań bez odpowiedzi w korpusie, na których system powinien przyznać, że nie wie (faza przygotowania RAG).
| Wskaźnik | Co mierzy | Kiedy patrzeć |
|---|---|---|
| recall@k | czy właściwy fragment jest wśród k wyników | po zmianie chunkingu, hybrydy, zapytania |
| pozycja po rankingu | czy fragment trafia na górę | po zmianie rankera |
| precyzja kontekstu | ile szumu dostaje model | gdy odpowiedzi są rozwlekłe lub sprzeczne |
| odmowa | czy system milczy, gdy źródła brak | zawsze, na pytaniach spoza korpusu |
| koszt i opóźnienie | tokeny, kroki, percentyle czasu | po dodaniu agenta |
Zmieniaj jedną technikę naraz i porównuj na tym samym zbiorze. Gdy ruszysz jednocześnie chunking, ranker i prompt, poprawa będzie miała trzech ojców i żadnego dowodu. Rejestruj przepisane zapytania, podzapytania agenta, listy kandydatów i powód zakończenia pętli. Do logów trafiają identyfikatory fragmentów, nie pełna poufna treść.
Uprawnienia i dokumenty jako wejście
Im więcej źródeł przeszukuje agent, tym ważniejsze jest filtrowanie po stronie wyszukiwania. Azure AI Search pozwala zawęzić wyniki według tożsamości użytkownika lub grupy albo przez wbudowane listy kontroli dostępu (security trimming). Sprawdź to tym samym pytaniem zadanym z dwóch ról.
Treść pobrana przez agenta to dane, nie polecenia. Dokument może zawierać zdanie udające instrukcję dla modelu. Agent z dostępem do narzędzi wykonawczych jest na to szczególnie wrażliwy, więc zakres jego narzędzi trzymaj tak wąsko, jak pozwala zadanie.
Od czego zacząć
Weź dwadzieścia prawdziwych pytań z jednej domeny. Zmierz recall@k dla obecnego wyszukiwania. Potem po kolei: popraw podział, włącz hybrydę, dodaj re-ranking, sprawdź przepisywanie zapytań. Agenta dołóż dopiero wtedy, gdy zostaną pytania, które naprawdę wymagają kilku źródeł. Jeśli po tych krokach problemem okazuje się nie wyszukiwanie, lecz zachowanie modelu, przejdź do porównania RAG, fine-tuningu i RAFT.
- Agenci AI
- Modele i LLM
- Azure
- Zarządzanie zmianą
