Fabryka agentów działa u dostawcy. Czyja jest wiedza, którą w niej zgromadzisz?

Temat: Bezpieczeństwo i utrzymanie AI

Najcenniejszą częścią fabryki agentów nie jest model, tylko to, czego fabryka nauczy się o twojej firmie. Instrukcje, które twoi ludzie poprawiali przez miesiące, historia każdego przebiegu, oceny jakości, pamięć o tym, co zadziałało, a co nie. Jeśli to wszystko leży u dostawcy, w jego formacie i na jego warunkach, to nie masz fabryki. Wynajmujesz ją, razem z własnym know-how. Dlatego pytanie „który model jest najlepszy” jest dziś mniej ważne niż pytanie „co zostanie u mnie, gdy zmienię dostawcę”.

Skąd w ogóle bierze się ten problem

Dopóki agenci działają na laptopach pojedynczych osób, sprawa suwerenności wygląda niewinnie. W praktyce wygląda tak:

— Jakich agentów używamy w firmie? — pyta prezes. — Standardowych — odpowiada dyrektor IT. (Standardowych jest jedenaście, każdy z innym dostępem do poczty, dysku i repozytorium.)

Każda osoba instaluje inne narzędzie i daje mu szeroki dostęp do systemów. Instrukcje i podłączone narzędzia nie są nigdzie spisane. Rozmowy z agentami, czyli najdokładniejszy zapis tego, jak naprawdę pracuje twój zespół, przepadają po zamknięciu okna. Nie da się zmierzyć, czy praca z agentami się poprawia, bo nie ma z czego mierzyć.

Fabryka agentów porządkuje ten chaos. Zbiera pracę agentów w jedną pętlę, z jednym zestawem uprawnień, z metrykami i pamięcią. I właśnie dlatego pytanie, gdzie ta pętla działa i do kogo należy, staje się decyzją zarządu, a nie wyborem narzędzia przez zespół.

Co właściwie posiadasz, kiedy masz fabrykę

Fabryka agentów to nie jeden program. To kilka warstw i każda z nich może należeć do ciebie albo do dostawcy.

WarstwaCo to jestCo tracisz, jeśli należy do dostawcyMinimum, które warto mieć u siebie
Definicja fabrykizapis etapów, agentów, wyzwalaczy i reguł przejścianie odtworzysz pętli gdzie indziej; nie cofniesz złej zmianydefinicja jako kod w twoim repozytorium, z historią wersji
Instrukcje i umiejętności agentówjak agent ma recenzować, opisywać, weryfikować w twojej firmiewiedzę, którą zespół zgromadził przez miesiące poprawekpliki w twoim repozytorium, czytelne bez narzędzia dostawcy
Narzędzia i uprawnieniado czego agent ma dostęp i co może zmienićkontrolę nad tym, kto widzi twoje danejeden spis uprawnień zarządzany przez ciebie
Pamięć i historia przebiegówrozmowy, decyzje, wyniki każdego zadanianajdokładniejszą dokumentację procesów, jaką firma kiedykolwiek miałaprzechowywanie w twojej chmurze albo serwerowni
Oceny i metrykijak mierzysz jakość, koszt i przepustowośćmożliwość porównania dostawców na własnych zadaniachwłasny zestaw zadań testowych i wyników
Model i środowisko uruchomieniowektóry model wykonuje pracę i w jakim narzędziuswobodę zmiany, gdy cennik albo jakość się zmieniąmożliwość wymiany modelu bez przepisywania instrukcji
Moc obliczeniowagdzie fizycznie wykonuje się pracakontrolę nad tym, gdzie trafiają danewybór: własna, w chmurze z umową bez retencji, albo mieszana

Zauważ, że model jest w tej tabeli przedostatni. Modele tanieją i zmieniają się co kilka miesięcy. Instrukcje, pamięć i oceny rosną w wartości z każdym tygodniem pracy fabryki. Gdyby trzeba było wybrać jedną warstwę do zabrania ze sobą, wybierz pamięć i instrukcje.

Trzy drogi i ich cena

Rynek oferuje dziś trzy podejścia. Żadne nie jest darmowe, każde ma inną cenę.

Gotowa fabryka jako usługa. Kupujesz „wirtualnego członka zespołu”, który robi pracę. Start jest najszybszy. Ceną jest to, że definicja pracy, pamięć i oceny leżą u dostawcy, a dostosowanie kończy się tam, gdzie kończą się ustawienia w panelu.

Własna fabryka od zera. Zespół skleja skrypty, kolejki i wywołania modeli. Zacząć jest łatwo, pierwszy agent działa po tygodniu. Ceną jest to, że po pół roku twoi najlepsi inżynierowie utrzymują hydraulikę zamiast budować produkt, a każdy nowy etap pętli to nowy projekt.

Otwarta infrastruktura u ciebie. Dostawca daje warstwę sterowania: kolejkę pracy, panel, metryki, mechanizm uruchamiania agentów. Definicja fabryki, instrukcje, pamięć i dane zostają w twoim repozytorium i w twojej chmurze. Możesz używać różnych modeli, w tym otwartych, i porównywać je na własnych zadaniach. Ceną jest konieczność posiadania kogoś, kto rozumie tę infrastrukturę i za nią odpowiada.

Moje stanowisko jest takie: rozwiązania, które buduję dla klientów, stoją na suwerennym oprogramowaniu open source. Nie z ideologii. Chodzi o to, żeby zmiana cennika u dostawcy chmury nie wymuszała zmiany strategii twojej firmy.

Gdzie suwerenność staje się kosztownym hobby

Uczciwie trzeba powiedzieć, że suwerenność można przedobrzyć.

Firma, która zatrudnia osiemdziesiąt osób, nie potrzebuje własnych serwerów z kartami graficznymi, żeby mieć suwerenną fabrykę agentów. Kupowanie sprzętu „żeby dane nie wyjeżdżały”, kiedy nikt w firmie nie potrafi go utrzymać, kończy się tym, że agenci działają na laptopach jak wcześniej, tylko drożej. Dla większości firm wystarczy, że definicje, instrukcje i pamięć są u nich, umowa z dostawcą modelu wyklucza trenowanie na ich danych i przechowywanie zapytań, a architektura pozwala w ciągu tygodnia przełączyć się na inny model.

Druga pułapka to modele otwarte traktowane jako cel sam w sobie. Model otwarty bywa tańszy i daje się uruchomić u siebie, ale na części zadań będzie słabszy. Fabryka ma sens wtedy, gdy na każdym etapie możesz wybrać model pasujący do zadania: tańszy do sortowania zgłoszeń, mocniejszy do opisu zmian, a ten, który wypada najlepiej w twoich własnych testach, do recenzji.

Czym zmierzyć suwerenność

Suwerenności nie mierzy się deklaracją w polityce bezpieczeństwa. Mierzy się ją tym, ile kosztuje wyjście.

Metryka próżnościMetryka wyniku
„nasz dostawca jest zgodny ze wszystkimi przepisami”ile dni roboczych zajęłoby przeniesienie fabryki do innego dostawcy modelu
liczba modeli dostępnych w panelujaka część zadań wykonuje się na modelach, które możesz uruchomić u siebie
„mamy wszystko w chmurze”czy możesz odtworzyć historię przebiegów z ostatniego kwartału bez dostępu do konta dostawcy

Od czego zacząć w poniedziałek

Zrób jeden test. Zapytaj zespół, gdzie dziś leżą instrukcje, których używają z agentami, i gdzie zapisują się ich rozmowy. Potem zadaj drugie pytanie: gdybyśmy jutro musieli zmienić dostawcę modelu, co trzeba by napisać od nowa? Jeśli odpowiedź brzmi „wszystko”, to wasza fabryka, nawet jeśli dopiero raczkuje, już należy do kogoś innego.

Dlaczego fabryki nie zostaną w dziale IT, piszę w tekście Fabryki agentów nie skończą się na oprogramowaniu.

Jeśli chcesz przejść przez decyzję o tym, co zostaje w firmie, a co może działać u dostawcy, razem z zarządem, umów prezentację dla zarządu.

Wybór jest prosty do nazwania i trudny do podjęcia. Możesz zbudować fabrykę szybko na cudzej infrastrukturze i zaakceptować, że wiedza o tym, jak pracuje twoja firma, będzie u dostawcy. Albo możesz zbudować ją odrobinę wolniej i zostawić tę wiedzę u siebie. Obie decyzje mają cenę. Gorzej, jeśli żadnej nie podejmiesz świadomie.

Portret Krzysztofa Majchrzyckiego

O autorze

Krzysztof Majchrzycki jest architektem systemów i AI Business Partnerem. Od wielu lat łączy technologię z biznesem i zarządzaniem. Współtworzył firmy technologiczne i kierował polskim oddziałem międzynarodowej grupy. Dziś projektuje modele firm i inteligentne systemy operacyjne, które z nich wynikają. Ukończył Executive MBA i ma certyfikat Prosci® Certified Change Practitioner.

Co zostaje w firmie, a co może działać u dostawcy?

Na prezentacji dla zarządu przechodzimy przez warstwy fabryki agentów i ustalamy, które z nich muszą zostać u Was: definicje, instrukcje, pamięć i dane.