Cerbos: dostęp agentów AI
Temat: Bezpieczeństwo i utrzymanie AI
Silnik autoryzacji oddzielający decyzję polityki od kodu aplikacji. Przed wywołaniem narzędzia agent pyta, czy wolno wykonać działanie na zasobie.
Szeroką architekturę opisuje filar bezpieczeństwa AI. Źródłem opisu projektu jest dokumentacja lub repozytorium twórców. Cały temat, od tożsamości agenta po zatwierdzanie jego działań, porządkuje poradnik o uprawnieniach i tożsamości agentów AI.
Czym jest i do czego służy?
Silnik autoryzacji oddzielający decyzję polityki od kodu aplikacji. Przed wywołaniem narzędzia agent pyta, czy wolno wykonać działanie na zasobie. W praktyce trzeba oddzielić rolę tej technologii od całej platformy: komponent rozwiązuje określony problem, a tożsamość, polityka danych i obserwowalność nadal wymagają własnego projektu.
W praktyce aplikacja wysyła do silnika polityk tożsamość, akcję, zasób i kontekst. Wynik „allow” albo „deny” musi zostać wykonany w kodzie narzędzia, również wtedy, gdy model proponuje inny przebieg. Dodaj test tabelaryczny dla odczytu, zapisu i odmowy; prompt injection nie może zmienić polityki.
Dlaczego warto rozważyć ją w suwerennym AI OS?
Centralna, testowalna polityka zmniejsza ryzyko niespójnych warunków w usługach. Suwerenność oceniamy przez możliwość uruchomienia, kontrolę danych i uprawnień, przenośność formatu oraz plan zmiany vendora. Jeśli rozwiązanie jest usługą zarządzaną, należy jawnie wskazać granicę kontroli; otwarty klient czy API nie czynią całej usługi open source.
Jak wykorzystać ją przy kodowaniu z AI?
W AI SDLC agent kodujący może przygotować konfigurację, adapter i test integracyjny, lecz człowiek powinien sprawdzić uprawnienia, koszty oraz skutki błędu. Punktem odbioru jest działający scenariusz: przed wywołaniem narzędzia agent pyta, czy wolno wykonać działanie na zasobie. Agent nie powinien sam zatwierdzać swojej zmiany ani otrzymywać szerszych uprawnień niż wymaga zadanie. Przed wdrożeniem warto zachować ślad: wymaganie, wersję zależności, wynik testu i osobę akceptującą.
Alternatywy i ograniczenia
Możliwe alternatywy: Open Policy Agent, Cedar, własny moduł ACL. Silnik polityk nie identyfikuje użytkownika ani nie egzekwuje decyzji sam. Wybór powinien wynikać z pomiaru na własnych danych, zgodności z obecnym zespołem i możliwości wycofania rozwiązania. Sama liczba gwiazdek repozytorium lub obietnica marketingowa nie zastępuje próby.
Co sprawdzić przed decyzją?
Zbuduj małą próbę realizującą ten przypadek: przed wywołaniem narzędzia agent pyta, czy wolno wykonać działanie na zasobie. Zmierz opóźnienie, koszt, jakość wyniku i zachowanie po błędzie. Sprawdź też, czy inny członek zespołu potrafi odtworzyć wynik na podstawie zapisanej konfiguracji. Przy szerszym projekcie porównaj RBAC, ABAC i ReBAC oraz Cedar Policy i zapisz kryterium, po którym rozwiązanie będzie można wymienić.
- Agenci AI
