Jak prowadzić rejestr decyzji agenta AI?

Rejestr ma pozwolić odtworzyć działanie i naprawić błąd, nie zapisywać każdej linijki rozmowy bez celu. Dla ważnych decyzji potrzebujesz informacji: jaka sprawa, jakie dane i reguły były dostępne, co agent zaproponował, kto zatwierdził działanie i jaki był skutek. Szczegółowość zależy od ryzyka procesu.

Szerszy kontekst pokazuje filar „Bezpieczeństwo i utrzymanie AI”.

Rozróżnij rekomendację od działania

Streszczenie dokumentu, projekt odpowiedzi i zmiana terminu zamówienia to trzy różne zdarzenia. Pierwsze może wymagać jedynie wersji źródła i czasu. Drugie — także śladu weryfikacji przed wysyłką. Trzecie — identyfikatora upoważnionej osoby, starej i nowej wartości oraz potwierdzenia w systemie źródłowym. Jeden uniwersalny log albo będzie zbyt ubogi, albo sparaliżuje codzienną pracę.

Przykład dydaktyczny: agent proponuje rabat na podstawie polityki handlowej. Rejestr pokazuje wersję zasad i wyliczenie, ale dopiero akceptacja handlowca zmienia ofertę. Jeśli zapisuje się tylko końcową cenę, nie da się później ustalić, czy błąd tkwił w danych, regule czy decyzji człowieka.

Zapisz minimalny zestaw pól

Wybierz identyfikator sprawy, czas, typ czynności, źródła danych, wersję reguły, wynik, status akceptacji, wykonawcę i identyfikator zapisu w systemie. Treść swobodnej rozmowy przechowuj tylko wtedy, gdy służy ustalonemu celowi; może zawierać dane klienta i informacje niepotrzebne do audytu. Kto zatwierdza decyzję agenta pomaga ustalić właściwe punkty kontroli.

Pomyśl także o korekcie. Gdy człowiek zmieni rekomendację, rejestr powinien pokazać zarówno propozycję, jak i powód odrzucenia. To materiał do poprawy procesu, nie oceny pracownika za każdy wyjątek. NIST AI RMF 1.0 porządkuje zarządzanie ryzykiem wokół nadzoru, rozpoznania kontekstu, pomiaru i działania. Rejestr wspiera te czynności tylko wtedy, gdy ktoś go przegląda.

Zaplanuj odwołanie

Osoba obsługująca klienta musi wiedzieć, jak znaleźć decyzję i kto może ją skorygować. Sprawdź na próbce zdarzeń, czy z rejestru da się odtworzyć przyczynę błędu w rozsądnym czasie. Jeśli nie, zmień pola. Jeśli rejestr zapisuje wszystko, ale nikt nie potrafi znaleźć konkretnej sprawy, zwiększenie liczby logów niczego nie naprawi.

Sprawdź rejestr od końca

Wyobraź sobie reklamację klienta: twierdzi, że agent zmienił termin bez zgody. Czy w ciągu kilku minut znajdziesz sprawę, wersję danych, propozycję agenta, akceptację i faktyczny zapis w systemie? Jeśli tak, rejestr spełnia cel. Jeśli potrzebujesz przejrzeć setki komunikatów bez identyfikatora sprawy, sama objętość logów nie daje kontroli. Takie ćwiczenie warto przeprowadzić z obsługą klienta, IT i właścicielem procesu.

Ustal też, kto i jak długo może oglądać zapis. Osoba naprawiająca błąd potrzebuje szczegółów, ale nie każdy pracownik powinien mieć dostęp do pełnej historii rozmów. Po zmianie reguły zachowaj możliwość rozpoznania, według której wersji agent działał wcześniej. Bez tego firma będzie oceniać dawną decyzję według dzisiejszej polityki i przypisywać błąd niewłaściwej przyczynie.