Retrieval-Augmented Generation (RAG) to fundament współczesnej sztucznej inteligencji

Generatywne modele językowe wniosły do informatyki imponującą umiejętność tworzenia tekstu, lecz ogranicza je fakt, że wiedza zapisana w ich parametrach prędzej czy później się dezaktualizuje. RAG proponuje na to rozwiązanie: przed stworzeniem odpowiedzi model pobiera zewnętrzne dokumenty, a następnie splata je z własną reprezentacją językową. Dzięki temu treść jest bogatsza i bardziej aktualna. Szczegółowo opisuje to przegląd technologiczny przygotowany przez firmę Glean, podkreślając, że RAG „pozwala modelowi adaptować się do nowych pytań bez ciągłego trenowania”.

Mechanizm RAG można ująć w dwóch krokach. Najpierw moduł wyszukiwania buduje zapytanie semantyczne i odnajduje najbardziej pasujące fragmenty korpusu. Następnie moduł generacji łączy zapytanie z otrzymanym kontekstem, zachowując spójność stylistyczną i logiczną. Ta architektura, łącząca gęste wektory w fazie retrievu z transformatorowym dekoderem w fazie generacji, tworzy most pomiędzy klasycznym IR a LLM-ami.

Znaczenie RAG wykracza poza wygodę dostępu do aktualnych danych. W literaturze na temat „halucynacji” dużych modeli wskazuje się, że wprowadzenie zewnętrznej wiedzy redukuje liczbę twierdzeń niepodpartych faktami. Autorzy szerokiego przeglądu na arXiv notują wprost, iż „oddzielając wiedzę od parametrów LLM, RAG skutecznie łagodzi halucynacje wynikające z luki informacyjnej”.

REKLAMA

Z punktu widzenia biznesu RAG minimalizuje koszty personalizacji modeli. McKinsey zwraca uwagę, że dzięki dostępowi do firmowych baz wiedzy system potrafi generować odpowiedzi specyficzne dla organizacji „bez kosztownego, szeroko zakrojonego fine-tuningu”, a jednocześnie może podawać cytaty do źródeł, zwiększając zaufanie odbiorcy. To sprawia, że RAG staje się preferowaną drogą budowy wewnętrznych copilotów oraz chatbotów obsługi klienta.

RAG zyskał na znaczeniu

W ciągu ostatniego roku rozwiązania oparte na RAG trafiły do sektorów tak odległych jak opieka zdrowotna, handel elektroniczny czy centra wsparcia, gdzie pozwalają łączyć wiedzę domenową z najnowszymi danymi i w ten sposób poprawiają precyzję odpowiedzi oraz satysfakcję użytkowników.

Na tym tle rośnie popularność agentów AI, czyli systemów, które samodzielnie planują, podejmują decyzje i korzystają z narzędzi. Jak zauważa analiza DigitalOcean, agenci są niezbędni, gdy zadania wymagają sekwencyjnych działań, elastyczności i reakcji na zmieniające się środowisko, jednak same w sobie nie rozwiązują problemu wiedzy faktograficznej.

Połączenie obu paradygmatów następuje w konstrukcji zwanej agentic RAG. Tutorial LangChain-LangGraph pokazuje, jak agent potrafi najpierw zdecydować, czy w danym kroku potrzebuje dodatkowego kontekstu, a dopiero potem uruchomić wyszukiwanie. W innym przypadku odpowiada natychmiast, oszczędzając zasoby.

DigitalOcean definiuje agentic RAG jako „syntezę faktograficznego ugruntowania RAG z autonomią agentów”, co przekłada się na systemy zdolne do wieloetapowego rozumowania, samokorekty i działania w pętli zwrotnej. Integracja redukuje ryzyko błędów wynikających z przestarzałej wiedzy i pozwala stosować rozwiązania w diagnostyce medycznej, doradztwie prawnym czy zaawansowanej obsłudze klienta.

Wyzwania dla RAG-ów

Korzyści idą w parze z wyzwaniami. Agentic RAG wymaga dodatkowej infrastruktury do przechowywania wektorów, monitorowania jakości danych oraz kontroli kosztów obliczeń. Mimo to trend jest wyraźny: rosnąca złożoność zadań i potrzeba aktualnego kontekstu sprzyjają systemom, które łączą planowanie, podejmowanie decyzji i dynamiczne pozyskiwanie wiedzy.

RAG stał się więc nie tylko remedium na halucynacje modeli językowych, lecz także kluczowym modułem pamięci długoterminowej dla agentów AI. W miarę udoskonalania retrieverów, metod rerankingu i mechanizmów oceny pewności, a także rozwoju standaryzacji protokołów narzędziowych, można oczekiwać, że agentic RAG będzie fundamentem kolejnej fali aplikacji wykorzystujących AI do zadań wymagających zarówno trafnej informacji, jak i autonomicznego działania.

RAG w świecie agentów AI

Wiemy już, że retrieval-augmented generation (RAG) to generowanie wspomagane wyszukiwaniem — zastosowanie sztucznej inteligencji, które łączy generatywny model AI z zewnętrzną bazą wiedzy. Dane z tej bazy uzupełniają zapytania użytkownika o dodatkowy kontekst. Dzięki temu duży model językowy (LLM) może generować dokładniejsze odpowiedzi. RAG umożliwia LLM-om większą precyzję w kontekstach branżowych bez potrzeby ich dodatkowego dostrajania.

Zamiast polegać wyłącznie na danych treningowych, modele AI wspierane przez RAG mogą uzyskiwać aktualne dane w czasie rzeczywistym dzięki interfejsom API i innym połączeniom ze źródłami danych. Standardowy pipeline RAG składa się z dwóch modeli AI:

• Komponent wyszukiwania informacji, zazwyczaj model osadzający (embedding model) współpracujący z bazą wektorową zawierającą dane do wyszukania
• Komponent generatywny AI, najczęściej LLM

W odpowiedzi na zapytania użytkownika w języku naturalnym, model embeddingowy przekształca zapytanie w osadzenie wektorowe, a następnie wyszukuje podobne dane z bazy wiedzy. System AI łączy te dane z zapytaniem użytkownika, aby wygenerować odpowiedź uwzględniającą kontekst.

Czym jest agentyczna AI?

Agentyczna AI to rodzaj sztucznej inteligencji, która potrafi samodzielnie wyznaczyć i zrealizować plan działania. Większość dostępnych obecnie agentów to LLM-y z funkcją wywoływania narzędzi (function calling), czyli zdolne do korzystania z narzędzi w celu wykonania zadań. Teoretycznie agent AI to LLM z trzema kluczowymi cechami:

• Pamięć – zarówno krótkoterminowa, jak i długoterminowa – umożliwia planowanie i wykonywanie złożonych zadań. Pamięć pozwala też odwoływać się do wcześniejszych zadań i wykorzystywać te dane w przyszłych procesach. Agentowe systemy RAG stosują cache semantyczny do przechowywania i przywoływania wcześniejszych zapytań, kontekstu i wyników
• Routing zapytań, planowanie krok po kroku i podejmowanie decyzji – agenci używają pamięci, by zapamiętać informacje i zaplanować odpowiedni przebieg działania w odpowiedzi na złożone zapytania
• Wywoływanie narzędzi przez API – bardziej zaawansowani agenci potrafią wybierać odpowiednie narzędzia do zadań wynikających z interakcji z użytkownikiem

Agentowe workflow mogą być realizowane przez pojedynczego agenta AI lub systemy multiagentowe, które łączą kilku agentów.

Agentyczny RAG vs tradycyjny RAG

Agentyczny RAG wnosi istotne usprawnienia względem tradycyjnych implementacji RAG:

Elastyczność – agentyczne aplikacje RAG korzystają z wielu zewnętrznych baz wiedzy i umożliwiają użycie narzędzi zewnętrznych. Standardowy pipeline RAG łączy LLM z jedną bazą danych. Przykładowo, firmowe systemy RAG często łączą chatbot z bazą danych zawierającą wewnętrzne informacje organizacji.

Adaptacyjność – tradycyjne systemy RAG to reaktywne narzędzia do wyszukiwania danych, działające na podstawie konkretnych zapytań. Nie mają zdolności dostosowania się do zmieniających się kontekstów ani dostępu do innych danych. Często wymagają skomplikowanego prompt engineeringu. Z kolei agentyczny RAG to przejście od statycznych zapytań do inteligentnego, adaptacyjnego rozwiązywania problemów. Systemy multiagentowe pozwalają na współpracę i wzajemną kontrolę AI.

Dokładność – tradycyjne systemy RAG nie optymalizują ani nie weryfikują swoich wyników. To użytkownik musi ocenić, czy system działa poprawnie. System sam nie wie, czy znajduje właściwe dane i poprawnie je wykorzystuje. Agenci AI potrafią iterować swoje działania i optymalizować wyniki w czasie.

Skalowalność – sieci agentów RAG, korzystające z wielu źródeł danych oraz funkcji planowania i wywoływania narzędzi, są znacznie bardziej skalowalne. Można tworzyć elastyczne i wydajne systemy RAG do obsługi szerokiego zakresu zapytań.

Multimodalność – agentyczne systemy RAG korzystają z nowych, multimodalnych LLM-ów, by pracować z różnymi typami danych, takimi jak obrazy i dźwięki. Modele multimodalne przetwarzają dane strukturalne, częściowo strukturalne i niestrukturalne. Na przykład, nowsze modele GPT potrafią generować treści wizualne i dźwiękowe, oprócz tekstu.

Porównanie do zespołu pracowników

Tradycyjny system RAG to pracownik, który dobrze wykonuje zadania, jeśli są mu wyraźnie wskazane, ale nie wychodzi poza ramy instrukcji i nie podejmuje inicjatywy.

Z kolei agentyczny RAG to proaktywny i kreatywny zespół – także dobrze wykonuje polecenia, ale chętnie samodzielnie rozwiązuje problemy i proponuje rozwiązania trudnych zadań, które mogłyby przerosnąć innych.

Czy agentyczny RAG jest lepszy od tradycyjnego?

Agentyczny RAG oferuje optymalizację dzięki wywoływaniu funkcji, wieloetapowemu rozumowaniu i systemom multiagentowym, ale nie zawsze jest najlepszym wyborem. Więcej agentów to wyższe koszty – zwykle oznacza to zużycie większej liczby tokenów. Mimo że agentyczny RAG może być szybszy, LLM-y mogą wprowadzać opóźnienia w generowaniu wyników.

Poza tym agenci nie zawsze są niezawodni. Mogą mieć trudności lub nie wykonać zadania w zależności od jego złożoności i użytych agentów. Współpraca między agentami bywa trudna. Mogą konkurować np. o zasoby. Im więcej agentów w systemie, tym większe ryzyko komplikacji. Nawet najlepiej zaprojektowany system RAG nie jest odporny na halucynacje.

Jak działa agentyczny RAG?

Agentyczny RAG działa poprzez integrację jednego lub kilku rodzajów agentów AI z systemem RAG. Przykładowo, system może zawierać kilku agentów wyszukiwania informacji – każdy wyspecjalizowany w innym źródle danych. Jeden agent może przeszukiwać zewnętrzne bazy danych, inny e-maile i wyniki z sieci.

Frameworki do agentycznej AI, takie jak LangChain, LlamaIndex czy framework orkiestracyjny LangGraph, są dostępne na GitHubie. Umożliwiają one eksperymentowanie z agentycznymi architekturami RAG przy niskich kosztach. Przy użyciu open-source’owych modeli takich jak Granite czy Llama-3, projektanci systemów RAG mogą obniżyć koszty i zyskać większą kontrolę niż w przypadku dostawców takich jak OpenAI.

Rodzaje agentów w agentycznym RAG:

Agenci routujący – decydują, które źródła danych i narzędzia należy wykorzystać do zapytania użytkownika. Analizują prompt i wybierają najbardziej odpowiedni pipeline RAG.

Agenci planowania zapytań – zarządzają zadaniami w pipeline RAG. Dzielą złożone zapytania na etapy i przekazują je innym agentom, a następnie łączą odpowiedzi w jedną spójną całość.

Agenci ReAct (reasoning and action) – tworzą rozwiązania krok po kroku i wykonują je. Potrafią też dynamicznie dostosowywać workflow w zależności od wyników poszczególnych etapów.

Agenci planująco-wykonawczy – ewolucja agentów ReAct. Potrafią realizować wieloetapowe workflow bez potrzeby komunikacji z agentem głównym, co zmniejsza koszty i zwiększa efektywność. Ponieważ muszą przemyśleć wszystkie etapy, ich skuteczność jest często wyższa.

Zastosowania agentycznego RAG

Choć agentyczny RAG może być używany tam, gdzie tradycyjny RAG, to ze względu na większe zapotrzebowanie na zasoby obliczeniowe lepiej sprawdza się tam, gdzie trzeba odpytywać wiele źródeł danych. Przykłady:

• Odpowiadanie na pytania w czasie rzeczywistym – chatboty zasilane RAG mogą dostarczać pracownikom i klientom aktualnych, precyzyjnych informacji
• Wsparcie klienta – firmy mogą automatyzować proste zapytania klientów, a trudniejsze przekazywać ludziom
• Zarządzanie danymi – pracownicy mogą łatwo znajdować informacje w wewnętrznych zasobach danych bez ręcznego przeszukiwania baz