Fabryka agentów działa u dostawcy. Czyja jest wiedza, którą w niej zgromadzisz?
Temat: Bezpieczeństwo i utrzymanie AI
Najcenniejszą częścią fabryki agentów nie jest model, tylko to, czego fabryka nauczy się o twojej firmie. Instrukcje, które twoi ludzie poprawiali przez miesiące, historia każdego przebiegu, oceny jakości, pamięć o tym, co zadziałało, a co nie. Jeśli to wszystko leży u dostawcy, w jego formacie i na jego warunkach, to nie masz fabryki. Wynajmujesz ją, razem z własnym know-how. Dlatego pytanie „który model jest najlepszy” jest dziś mniej ważne niż pytanie „co zostanie u mnie, gdy zmienię dostawcę”.
Skąd w ogóle bierze się ten problem
Dopóki agenci działają na laptopach pojedynczych osób, sprawa suwerenności wygląda niewinnie. W praktyce wygląda tak:
— Jakich agentów używamy w firmie? — pyta prezes. — Standardowych — odpowiada dyrektor IT. (Standardowych jest jedenaście, każdy z innym dostępem do poczty, dysku i repozytorium.)
Każda osoba instaluje inne narzędzie i daje mu szeroki dostęp do systemów. Instrukcje i podłączone narzędzia nie są nigdzie spisane. Rozmowy z agentami, czyli najdokładniejszy zapis tego, jak naprawdę pracuje twój zespół, przepadają po zamknięciu okna. Nie da się zmierzyć, czy praca z agentami się poprawia, bo nie ma z czego mierzyć.
Fabryka agentów porządkuje ten chaos. Zbiera pracę agentów w jedną pętlę, z jednym zestawem uprawnień, z metrykami i pamięcią. I właśnie dlatego pytanie, gdzie ta pętla działa i do kogo należy, staje się decyzją zarządu, a nie wyborem narzędzia przez zespół.
Co właściwie posiadasz, kiedy masz fabrykę
Fabryka agentów to nie jeden program. To kilka warstw i każda z nich może należeć do ciebie albo do dostawcy.
| Warstwa | Co to jest | Co tracisz, jeśli należy do dostawcy | Minimum, które warto mieć u siebie |
|---|---|---|---|
| Definicja fabryki | zapis etapów, agentów, wyzwalaczy i reguł przejścia | nie odtworzysz pętli gdzie indziej; nie cofniesz złej zmiany | definicja jako kod w twoim repozytorium, z historią wersji |
| Instrukcje i umiejętności agentów | jak agent ma recenzować, opisywać, weryfikować w twojej firmie | wiedzę, którą zespół zgromadził przez miesiące poprawek | pliki w twoim repozytorium, czytelne bez narzędzia dostawcy |
| Narzędzia i uprawnienia | do czego agent ma dostęp i co może zmienić | kontrolę nad tym, kto widzi twoje dane | jeden spis uprawnień zarządzany przez ciebie |
| Pamięć i historia przebiegów | rozmowy, decyzje, wyniki każdego zadania | najdokładniejszą dokumentację procesów, jaką firma kiedykolwiek miała | przechowywanie w twojej chmurze albo serwerowni |
| Oceny i metryki | jak mierzysz jakość, koszt i przepustowość | możliwość porównania dostawców na własnych zadaniach | własny zestaw zadań testowych i wyników |
| Model i środowisko uruchomieniowe | który model wykonuje pracę i w jakim narzędziu | swobodę zmiany, gdy cennik albo jakość się zmienią | możliwość wymiany modelu bez przepisywania instrukcji |
| Moc obliczeniowa | gdzie fizycznie wykonuje się praca | kontrolę nad tym, gdzie trafiają dane | wybór: własna, w chmurze z umową bez retencji, albo mieszana |
Zauważ, że model jest w tej tabeli przedostatni. Modele tanieją i zmieniają się co kilka miesięcy. Instrukcje, pamięć i oceny rosną w wartości z każdym tygodniem pracy fabryki. Gdyby trzeba było wybrać jedną warstwę do zabrania ze sobą, wybierz pamięć i instrukcje.
Trzy drogi i ich cena
Rynek oferuje dziś trzy podejścia. Żadne nie jest darmowe, każde ma inną cenę.
Gotowa fabryka jako usługa. Kupujesz „wirtualnego członka zespołu”, który robi pracę. Start jest najszybszy. Ceną jest to, że definicja pracy, pamięć i oceny leżą u dostawcy, a dostosowanie kończy się tam, gdzie kończą się ustawienia w panelu.
Własna fabryka od zera. Zespół skleja skrypty, kolejki i wywołania modeli. Zacząć jest łatwo, pierwszy agent działa po tygodniu. Ceną jest to, że po pół roku twoi najlepsi inżynierowie utrzymują hydraulikę zamiast budować produkt, a każdy nowy etap pętli to nowy projekt.
Otwarta infrastruktura u ciebie. Dostawca daje warstwę sterowania: kolejkę pracy, panel, metryki, mechanizm uruchamiania agentów. Definicja fabryki, instrukcje, pamięć i dane zostają w twoim repozytorium i w twojej chmurze. Możesz używać różnych modeli, w tym otwartych, i porównywać je na własnych zadaniach. Ceną jest konieczność posiadania kogoś, kto rozumie tę infrastrukturę i za nią odpowiada.
Moje stanowisko jest takie: rozwiązania, które buduję dla klientów, stoją na suwerennym oprogramowaniu open source. Nie z ideologii. Chodzi o to, żeby zmiana cennika u dostawcy chmury nie wymuszała zmiany strategii twojej firmy.
Gdzie suwerenność staje się kosztownym hobby
Uczciwie trzeba powiedzieć, że suwerenność można przedobrzyć.
Firma, która zatrudnia osiemdziesiąt osób, nie potrzebuje własnych serwerów z kartami graficznymi, żeby mieć suwerenną fabrykę agentów. Kupowanie sprzętu „żeby dane nie wyjeżdżały”, kiedy nikt w firmie nie potrafi go utrzymać, kończy się tym, że agenci działają na laptopach jak wcześniej, tylko drożej. Dla większości firm wystarczy, że definicje, instrukcje i pamięć są u nich, umowa z dostawcą modelu wyklucza trenowanie na ich danych i przechowywanie zapytań, a architektura pozwala w ciągu tygodnia przełączyć się na inny model.
Druga pułapka to modele otwarte traktowane jako cel sam w sobie. Model otwarty bywa tańszy i daje się uruchomić u siebie, ale na części zadań będzie słabszy. Fabryka ma sens wtedy, gdy na każdym etapie możesz wybrać model pasujący do zadania: tańszy do sortowania zgłoszeń, mocniejszy do opisu zmian, a ten, który wypada najlepiej w twoich własnych testach, do recenzji.
Czym zmierzyć suwerenność
Suwerenności nie mierzy się deklaracją w polityce bezpieczeństwa. Mierzy się ją tym, ile kosztuje wyjście.
| Metryka próżności | Metryka wyniku |
|---|---|
| „nasz dostawca jest zgodny ze wszystkimi przepisami” | ile dni roboczych zajęłoby przeniesienie fabryki do innego dostawcy modelu |
| liczba modeli dostępnych w panelu | jaka część zadań wykonuje się na modelach, które możesz uruchomić u siebie |
| „mamy wszystko w chmurze” | czy możesz odtworzyć historię przebiegów z ostatniego kwartału bez dostępu do konta dostawcy |
Od czego zacząć w poniedziałek
Zrób jeden test. Zapytaj zespół, gdzie dziś leżą instrukcje, których używają z agentami, i gdzie zapisują się ich rozmowy. Potem zadaj drugie pytanie: gdybyśmy jutro musieli zmienić dostawcę modelu, co trzeba by napisać od nowa? Jeśli odpowiedź brzmi „wszystko”, to wasza fabryka, nawet jeśli dopiero raczkuje, już należy do kogoś innego.
Dlaczego fabryki nie zostaną w dziale IT, piszę w tekście Fabryki agentów nie skończą się na oprogramowaniu.
Jeśli chcesz przejść przez decyzję o tym, co zostaje w firmie, a co może działać u dostawcy, razem z zarządem, umów prezentację dla zarządu.
Wybór jest prosty do nazwania i trudny do podjęcia. Możesz zbudować fabrykę szybko na cudzej infrastrukturze i zaakceptować, że wiedza o tym, jak pracuje twoja firma, będzie u dostawcy. Albo możesz zbudować ją odrobinę wolniej i zostawić tę wiedzę u siebie. Obie decyzje mają cenę. Gorzej, jeśli żadnej nie podejmiesz świadomie.
- Agenci AI
- Fabryka agentów
- Suwerenność
- Open source
