Agent przygotował decyzję. Kto za nią odpowiada?

Temat: Bezpieczeństwo i utrzymanie AI

Za decyzję przygotowaną przez agenta odpowiada człowiek, który uczynił ją skuteczną, w granicach reguł ustalonych przez właściciela procesu. Agent przygotowuje wariant, osoba z umocowaniem zatwierdza skutek, właściciel procesu odpowiada za reguły, progi i pomiar błędów. Inne ryzyko ma szkic maila, inne wysłanie oferty, a jeszcze inne zmiana limitu kredytowego klienta. Dobra zasada nie brzmi „człowiek zawsze klika”, lecz „prawo działania odpowiada skutkom błędu i możliwości wycofania”.

Ten wpis odpowiada na pytanie „kto odpowiada”. Jak system technicznie egzekwuje zatwierdzenie i uprawnienia agenta, wyjaśnia poradnik o uprawnieniach agentów AI.

Co mówi NIST AI RMF

NIST AI Risk Management Framework nie przypisuje odpowiedzialności systemowi AI. Trzy podkategorie są tu najważniejsze:

  • GOVERN 2.1 — role, odpowiedzialności i drogi komunikacji w zarządzaniu ryzykiem AI mają być udokumentowane i jasne dla ludzi w całej organizacji,
  • GOVERN 2.3 — kierownictwo bierze odpowiedzialność za decyzje o ryzykach związanych z wdrożeniem systemu AI,
  • GOVERN 3.2 — polityki rozróżniają role i odpowiedzialności w układach człowiek–AI oraz w nadzorze nad systemem.

Praktycznym odpowiednikiem jest macierz: dla każdego typu decyzji zapisujesz, co przygotowuje agent, kto zatwierdza skutek i kto odpowiada za reguły. To opis funkcji, nie wymóg tworzenia nowych stanowisk. W małej firmie zatwierdzający i właściciel procesu bywają tą samą osobą.

Macierz na trzech przykładach

Poniższy podział jest moją propozycją do dostosowania. Progi i nazwy ról ustala firma.

DecyzjaPrzygotowuje agentZatwierdza człowiekOdpowiada właściciel procesu
Ofertazbiera wymagania, przygotowuje szkic, wskazuje brakujące danehandlowiec sprawdza zakres i cennik; rabat powyżej progu — osoba z limitempróg rabatu, wersja cennika, przegląd odrzuconych ofert
Reklamacjastreszcza zgłoszenie, proponuje decyzję ze wskazaniem źródłaspecjalista uznaje albo odrzuca reklamacjęreguły uznawania, przegląd próbki zatwierdzonych spraw
Zmiana danych klienta (np. limit kredytowy)przygotowuje wniosek: stara i nowa wartość, podstawaosoba z umocowaniem w finansachkto ma umocowanie, ślad zmiany, droga cofnięcia
Macierz odpowiedzialności dla trzech decyzji. Oferta: agent przygotowuje szkic i wskazuje braki, handlowiec sprawdza zakres i cennik, rabat powyżej progu zatwierdza osoba z limitem, właściciel procesu odpowiada za próg i cennik. Reklamacja: agent streszcza i proponuje decyzję ze źródłem, specjalista uznaje albo odrzuca, właściciel odpowiada za reguły i przegląd próbki. Zmiana danych klienta: agent przygotowuje wniosek ze starą i nową wartością, zatwierdza osoba z umocowaniem w finansach, właściciel odpowiada za umocowania, ślad i cofnięcie. Uproszczenie autora.
Macierz: przygotowuje agent, zatwierdza człowiek, odpowiada właściciel procesu — na przykładzie oferty, reklamacji i zmiany danych klienta. Uproszczenie autora na podstawie NIST AI RMF (GOVERN 2.1, 2.3, 3.2). Stan na 6.10.2026.

We wszystkich trzech wierszach agent może przeprowadzić sprawę przez kolejne kroki, ale nie zmienia jej skutku sam. Najwyższą stawkę ma zwykle trzeci wiersz: zmiana danych klienta działa na wszystkie jego kolejne sprawy, więc na grafice jest wyróżniona. Jeżeli agent proponuje działanie wbrew regule, system powinien zatrzymać akcję i skierować wyjątek do człowieka. Jeśli nie ma takiej drogi, pracownik zacznie omijać system albo agent zacznie pozornie „rozwiązywać” sprawy bez umocowania.

Zacznij od skutku, nie od nazwy narzędzia

Rozpisz działania w jednym procesie: odczyt danych, przygotowanie propozycji, zapis wersji roboczej, zatwierdzenie, wysłanie do klienta i ewentualne cofnięcie. Przy każdym zapytaj, czy akcja jest odwracalna, kogo dotyczy i jaki jest koszt pomyłki. Agent, który streszcza zgłoszenie, może mieć mniejszy zakres kontroli niż agent, który samodzielnie przyznaje rabat. Obydwu nie należy traktować jako jednego poziomu „autonomii”.

Ustal też, kto może agenta zatrzymać. NIST w podkategorii MANAGE 2.4 wymaga przypisanej odpowiedzialności za zastąpienie, odłączenie albo wyłączenie systemu, który działa niezgodnie z zamierzonym użyciem. W macierzy to zwykle właściciel procesu.

Gdy człowiek klika „zatwierdź” bez sprawdzenia

Sama obecność przycisku akceptacji nie dowodzi kontroli. Jeśli agent przygotowuje sto propozycji dziennie, a pracownik ma kilka sekund na każdą, zatwierdzanie może stać się automatycznym gestem. Zmierz czas potrzebny na rzeczywiste sprawdzenie źródeł i porównaj go z liczbą spraw. Gdy obciążenie jest zbyt duże, zmniejsz zakres automatyzacji, popraw jakość danych albo skieruj do człowieka tylko te przypadki, w których jego osąd coś wnosi.

Projektuj ekran zatwierdzenia tak, by pokazywał nie tylko odpowiedź, ale również dane, na których się opiera, różnice względem poprzedniej wersji i niepewność. Co pewien czas sprawdź próbkę zaakceptowanych działań. Jeżeli błędy regularnie przechodzą przez kontrolę, odpowiedzią nie jest wyłącznie szkolenie pracownika. Trzeba zapytać, czy miał dane, czas i realną możliwość odmowy.

Kto odpowiada za błąd?

Nie wpisuj do procedury, że „odpowiada AI”. Właściciel procesu odpowiada za reguły i pomiar, administrator za działanie narzędzia, osoba zatwierdzająca za decyzję w granicach swojej roli. Agent nie ma tu rubryki — co najwyżej ma bardzo przekonujący szkic. Rozdzielenie odpowiedzialności pozwala wyciągać wnioski z błędu bez zrzucania winy na ostatniego użytkownika.

Dwa sąsiednie pytania mają osobne wpisy. Jak uniknąć sytuacji, w której jedna osoba ustala regułę, zatwierdza wyjątek i potwierdza wykonanie, opisuje podział obowiązków przy akceptacji działań agenta. Co zapisać, żeby po miesiącu dało się odtworzyć, kto i na jakiej podstawie zatwierdził, opisuje rejestr decyzji agenta.

Portret Krzysztofa Majchrzyckiego

O autorze

Krzysztof Majchrzycki jest architektem systemów i AI Business Partnerem. Od wielu lat łączy technologię z biznesem i zarządzaniem. Współtworzył firmy technologiczne i kierował polskim oddziałem międzynarodowej grupy. Dziś projektuje modele firm i inteligentne systemy operacyjne, które z nich wynikają. Ukończył Executive MBA i ma certyfikat Prosci® Certified Change Practitioner.

Macierz odpowiedzialności dla Waszego pierwszego agenta

Prezentacja dla zarządu: weźmiemy jeden proces i rozpiszemy, co przygotowuje agent, kto zatwierdza skutek i kto jako właściciel procesu odpowiada za reguły i pomiar. Niezależnie od vendora i partnera.