Czy agent AI powinien pamiętać rozmowy z klientem?

Temat: Bezpieczeństwo i utrzymanie AI

Agent powinien pamiętać tylko te informacje, które są potrzebne do obsługi sprawy i które firma potrafi poprawić lub usunąć. Pełna historia rozmów bywa wygodna, lecz łatwo utrwala nieaktualne ustalenia, opinie pracowników i dane niewłaściwej osoby. Pamięć nie zastępuje rejestru klienta ani źródła obowiązujących warunków.

Pamięć agenta to dane jak każde inne: ma zakres, właściciela i uprawnienia. Cały temat, od tożsamości agenta po zatwierdzanie jego działań, porządkuje poradnik o uprawnieniach i tożsamości agentów AI.

Rozróżnij kontekst sprawy od wiedzy o kliencie

Do dokończenia otwartego zgłoszenia potrzebne są identyfikator sprawy, dotychczasowe ustalenia i następny krok. Do przyszłych rozmów nie zawsze potrzebny jest pełny zapis prywatnych uwag i każdego szkicu odpowiedzi. Ustal, które pola stanowią trwałą historię klienta, a które są roboczym kontekstem wygasającym po zamknięciu sprawy. Jeden widok klienta pokazuje, że nawet poprawne dane mogą mieć różne znaczenie w różnych relacjach.

Przykład dydaktyczny: klient prosi o zmianę adresu dostawy tylko dla jednego zamówienia. Agent, który zapamięta to jako stały adres firmy, może później pomylić kolejną wysyłkę. Ważne jest więc nie tylko „co pamięta”, lecz także do jakiej sprawy informacja należy i kiedy traci ważność.

Pamięć jako cel ataku

Błędne wspomnienie nie musi być przypadkiem. OWASP Top 10 for Agentic Applications (grudzień 2025) wymienia osobno ryzyko Memory & Context Poisoning (ASI06): ktoś celowo wprowadza do pamięci lub kontekstu agenta treść, która wpływa na jego późniejsze decyzje. W obsłudze klienta takim wejściem może być zwykła wiadomość od klienta, zapisana jako „ustalenie”. Dlatego pamięć zapisywana z rozmowy powinna mieć źródło i datę, a ustalenia zmieniające warunki — potwierdzenie człowieka, zanim agent zacznie z nich korzystać.

Zaprojektuj korektę i dostęp

Pracownik powinien móc wskazać błędne wspomnienie, poprawić je u źródła i zobaczyć, gdzie było użyte. Dostęp do historii musi odpowiadać roli i relacji z klientem. Agent nie powinien przenosić notatek z jednego konta na inne tylko dlatego, że nazwy są podobne. Minimalny dostęp do danych dla agenta pomaga określić tę granicę: pamięć innych klientów to dla agenta dane zakazane, nie tylko zbędne.

Ustal także okres przechowywania i sposób usuwania. To decyzja organizacyjna zależna od celu oraz obowiązków firmy; nie wpisuj jednego uniwersalnego terminu dla wszystkich danych. Właściciel procesu, osoba odpowiedzialna za ochronę danych i IT powinni wspólnie określić, co musi zostać dla ciągłości obsługi, a co jest zbędne.

Testuj pomyłki, nie tylko wygodę

W pilotażu sprawdź, czy agent odróżnia klientów o podobnych nazwach, rozpoznaje cofnięte ustalenia i nie używa zamkniętej sprawy jako aktualnej instrukcji. Jeśli nie potrafi tego zrobić, ogranicz pamięć do identyfikowanej sprawy i każ mu pytać o brakujące informacje.

Korzyścią pamięci jest mniej powtarzania przez klienta. Warunkiem jest możliwość wyjaśnienia, skąd agent zna daną informację i czy wciąż wolno mu jej użyć.

Próba usunięcia błędnej pamięci

W teście celowo umieść nieaktualną informację w historii sprawy, a potem ją popraw. Sprawdź, czy agent przestaje z niej korzystać, czy potrafi wskazać nowsze źródło oraz czy nadal odtwarza błędny szczegół w kolejnej rozmowie. To prosty sposób oceny mechanizmu korekty. Bez niego firma może dopisywać poprawki do CRM, a asystent nadal będzie korzystał ze starego streszczenia.

Zapisuj tylko pamięć, którą ktoś potrafi utrzymywać. Jeśli nie ma właściciela aktualności, lepiej pobierać bieżący stan z systemu przy każdym ważnym pytaniu. Pamięć podręczna może pomagać w wygodzie, lecz powinna mieć ograniczony czas życia i wyraźny identyfikator sprawy. Gdy klient pyta o podstawę odpowiedzi, pracownik musi móc pokazać źródło, a nie zasłaniać się tym, że agent „to zapamiętał”.

Portret Krzysztofa Majchrzyckiego

O autorze

Krzysztof Majchrzycki jest architektem systemów i AI Business Partnerem. Od wielu lat łączy technologię z biznesem i zarządzaniem. Współtworzył firmy technologiczne i kierował polskim oddziałem międzynarodowej grupy. Dziś projektuje modele firm i inteligentne systemy operacyjne, które z nich wynikają. Ukończył Executive MBA i ma certyfikat Prosci® Certified Change Practitioner.

Ustalmy, co Wasz agent może pamiętać

Prezentacja dla zarządu: weźmiemy jeden proces obsługi klienta i rozpiszemy, co agent pamięta, skąd to wie, kto to poprawia i kiedy informacja wygasa. Niezależnie od vendora i partnera.