Jak podzielić role przy akceptacji działań agenta?

Jedna osoba nie powinna jednocześnie ustalać reguły, akceptować wyjątku i potwierdzać wykonania działania agenta w sprawie o wysokiej stawce. Rozdział obowiązków nie oznacza czterech podpisów pod każdą wiadomością. Chodzi o granice, które odpowiadają ryzyku konkretnego działania.

Szerszy kontekst pokazuje filar „Bezpieczeństwo i utrzymanie AI”.

Nazwij cztery role

Właściciel procesu ustala, jaki wynik jest poprawny. Właściciel danych odpowiada za źródła. Osoba zatwierdzająca podejmuje decyzję w sprawie przekraczającej próg. IT lub operator sprawdza, czy wykonanie w systemie nastąpiło i da się je odtworzyć. W małej firmie jedna osoba może pełnić kilka ról, ale wtedy warto wskazać, które połączenia tworzą ryzyko i kto je okresowo przegląda.

Przykład dydaktyczny: agent przygotowuje korektę faktury. Opiekun klienta potwierdza powód, finanse zatwierdzają kwotę, a system zapisuje zmianę. Agent może przeprowadzić sprawę przez te kroki. Nie powinien tworzyć powodu korekty i równocześnie sam jej zatwierdzać.

Ustal progi i zastępstwa

Niski wpływ może pozwalać na automatyczne przygotowanie i wykonanie po spełnieniu sztywnych warunków. Wyższe kwoty, nowe konto bankowe, zmiana umowy lub ujawnienie danych powinny uruchamiać dodatkową akceptację. Opisz, co dzieje się przy nieobecności osoby zatwierdzającej. Zastępca musi mieć rzeczywiste uprawnienie, nie tylko dostęp do przycisku. Kto odpowiada za decyzję agenta rozwija zasadę odpowiedzialności.

Podział ról zapisz przy konkretnym typie czynności, nie jako ogólne hasło „human in the loop”. Czasem człowiek powinien zatwierdzić propozycję przed działaniem, czasem wystarczy przegląd próbki po działaniu. Różnica zależy od odwracalności i skutku błędu.

Sprawdź ślad i możliwość cofnięcia

Rejestr powinien pokazać, kto zaproponował, kto zatwierdził i co rzeczywiście zmieniło się w systemie. Rejestr decyzji agenta jest wtedy narzędziem kontroli, nie archiwum dla samego archiwum. Przetestuj przypadek błędnej akceptacji: kto zatrzyma kolejne działania, poprawi zapis i powiadomi klienta?

Jeśli nie da się odpowiedzieć, nie zwiększaj autonomii. Najpierw przygotuj drogę korekty, a dopiero potem deleguj agentowi więcej pracy.

Prosty test konfliktu ról

Wybierz jedno działanie o znaczącym skutku, na przykład zmianę limitu kredytowego klienta. Rozpisz, kto może zaproponować zmianę, kto widzi dane, kto ją zatwierdza i kto potwierdza zapis. Następnie sprawdź, czy jedna osoba lub jedno konto techniczne mogłoby wykonać całą drogę bez niezależnego śladu. Jeśli tak, zaprojektuj dodatkową kontrolę albo zawęź uprawnienia.

Nie wszystkie czynności potrzebują tego samego rozdziału. Automatyczne przypomnienie o brakującym załączniku nie wymaga komisji. Jednak przy cenie, płatności i ujawnianiu danych koszt błędu jest większy. Zapisz zasadę proporcjonalności, aby zespół nie obchodził systemu z powodu nadmiernej liczby akceptacji. Raz na jakiś czas przejrzyj wyjątki, bo praktyka może ujawnić lukę, której nie widać w schemacie ról.