Technologie AI dla firm: jak porównać warstwy systemu
Temat: Architektura systemów AI
Czy lepszy model AI rozwiąże problem, jeśli aplikacja pobiera nieaktualne dane i nie potrafi przekazać sprawy właściwej osobie? Technologie AI dla firmy porównuj na poziomie całego procesu: od źródła informacji do sprawdzonego działania. Wynik testu modelu jest ważny, ale nie opisuje samodzielnie jakości wdrożenia.
Ten przewodnik porządkuje role narzędzi, zanim przejdziesz do konkretnych produktów. Przyda się, gdy masz kilka propozycji od dostawców, a każda obejmuje inny zestaw aplikacji, modeli i integracji. Wspólnym punktem odniesienia powinno być zadanie firmy oraz warunki jego poprawnego wykonania.
Rozdziel zapis, decyzję i działanie
Praktycznym sposobem opisania rozwiązania są trzy warstwy. Pierwsza przechowuje obowiązujące dane, druga pomaga je interpretować, a trzecia prowadzi pracę do rezultatu. To model porządkujący projekt, nie wymaganie zakupu trzech oddzielnych platform.
Warstwa zapisu obejmuje na przykład system księgowy, ERP lub CRM. Warstwa decyzji może wykorzystywać reguły, analitykę i modele AI. Warstwa działania obsługuje zadania, zatwierdzenia oraz integracje wykonujące czynności. Jeden produkt może obejmować kilka z tych ról.
| Warstwa | Przykład przy obsłudze reklamacji | Pytanie do dostawcy |
|---|---|---|
| Zapis | Zamówienie i uzgodnione warunki | Który system jest źródłem obowiązującej informacji? |
| Decyzja | Ocena zgłoszenia i propozycja odpowiedzi | Na jakich danych opiera się rekomendacja? |
| Działanie | Przekazanie, zatwierdzenie i realizacja | Kto lub co wykonuje kolejny krok? |
Nie wymieniaj stabilnego systemu zapisu tylko dlatego, że powstaje nowa aplikacja AI. Najpierw sprawdź, czy można wykorzystać istniejące dane przez odpowiednią integrację. Z drugiej strony nie zakładaj, że każdą zmianę procesu da się rozwiązać dodatkowym oknem czatu obok starego systemu.
Model nie jest całym rozwiązaniem
Model językowy może przygotować tekst, sklasyfikować zgłoszenie lub pomóc w analizie. Wybór zależy od zadania, języka, czasu odpowiedzi i kosztu. Nie ma podstaw, aby uznać jeden model za najlepszy do wszystkich czynności firmy wyłącznie na podstawie ogólnego rankingu.
Przygotuj własne przykłady. Dla obsługi zgłoszeń uwzględnij niekompletne informacje, sprzeczne żądania i sytuację, w której poprawną reakcją jest przekazanie sprawy człowiekowi. Porównuj warianty przy tej samej próbce i takich samych kryteriach.
Oceniaj również aplikację wokół modelu: logowanie, wybór źródeł, obsługę błędów i prezentację wyniku. Dokumentacja Azure Well-Architected dla AI rozdziela projekt danych, aplikacji oraz utrzymania. Taki podział pomaga wskazać, gdzie powstał problem, zamiast każdą niepoprawną odpowiedź przypisywać modelowi.
Wspólny opis firmy jest częścią projektu
Ustal, co oznaczają podstawowe obiekty: klient, zamówienie, projekt, reklamacja i umowa. Potrzebujesz także relacji między nimi oraz informacji, który system odpowiada za aktualizację. Taki opis bywa nazywany modelem domenowym lub ontologią, zależnie od zakresu i sposobu reprezentacji.
Nie zaczynaj od rozbudowanego słownika całej organizacji. Dla pierwszego procesu wystarczy uzgodnić kilka pojęć, identyfikatory i najważniejsze zależności. Reklamacja powinna odnosić się do właściwego zamówienia, a klient do konkretnej relacji handlowej, nie tylko do podobnej nazwy w dokumentach.
Jeżeli finanse i sprzedaż inaczej rozumieją wartość kontraktu, zapisz obie definicje oraz ich zastosowanie. Model AI nie powinien samodzielnie rozstrzygać sporu organizacyjnego na podstawie częściej występującego sformułowania.
W umownym przykładzie kontrakt ma wartość 120 000 PLN, ale obejmuje usługę świadczoną przez dwanaście miesięcy. Pytanie o wartość podpisanych umów i pytanie o przychód jednego miesiąca nie są równoważne. Nawet poprawne wyszukanie dokumentu nie wystarczy, jeśli system odpowiada na inne pytanie niż użytkownik.
Kiedy potrzebujesz RAG
RAG to wzorzec, w którym aplikacja wyszukuje materiały i przekazuje odpowiedni kontekst modelowi przed przygotowaniem odpowiedzi. Obejmuje więc zarówno przygotowanie źródeł, jak i ich wyszukiwanie. Microsoft opisuje te etapy oraz potrzebę ich oddzielnej oceny w przewodniku projektowania RAG.
Nie każda informacja firmowa wymaga wyszukiwania wektorowego. Status zamówienia może być dostępny przez dokładne zapytanie do systemu, a krótki dokument można przekazać bezpośrednio w kontekście. Wybierz mechanizm odpowiadający źródłu oraz potrzebie aktualności.
W RAG sprawdź dwa błędy osobno: czy znaleziono właściwy fragment i czy odpowiedź poprawnie go wykorzystała. Odnośnik do dokumentu nie dowodzi, że dokument potwierdza całą treść wypowiedzi. Użytkownik powinien móc dotrzeć do miejsca, na którym oparto istotne twierdzenie.
| Rodzaj informacji | Sposób dostępu do rozważenia | Główna kontrola |
|---|---|---|
| Aktualny status zamówienia | Zapytanie do systemu źródłowego | Identyfikator i moment odczytu |
| Procedura z wielu dokumentów | Wyszukiwanie i kontekst RAG | Wersja oraz trafność fragmentu |
| Krótka treść dostarczona przez użytkownika | Bezpośredni kontekst | Kompletność i właściwa interpretacja |
| Wskaźnik finansowy | Zatwierdzone obliczenie lub model danych | Definicja, okres i zakres |
Asystent, przepływ i agent
Nazwy „asystent” i „agent” bywają używane niejednoznacznie. W ofercie pytaj o rzeczywisty przebieg: czy narzędzie tylko przygotowuje odpowiedź, wykonuje z góry ustalone kroki, czy dobiera działania z dostępnego zestawu. Sam interfejs czatu nie rozstrzyga tej różnicy.
Agent może korzystać z narzędzi, ale ich wybór i zakres muszą być ograniczone projektem. Wielu agentów oznacza również dodatkową koordynację, opóźnienia i koszt. Przewodnik wzorców agentowych Microsoft zaleca rozpoczęcie od najprostszego poziomu, który spełnia wymagania.
Przy reklamacji możesz potrzebować zwykłego przepływu: odczytaj zamówienie, zbierz brakujące dane, przygotuj szkic i przekaż do zatwierdzenia. Jeśli reguły są stałe, samodzielne planowanie przez model może nie wnosić wartości. Agent staje się kandydatem wtedy, gdy droga dojścia do wyniku rzeczywiście zależy od sytuacji.
Integracja musi rozumieć skutek działania
Zapisanie rekomendacji, utworzenie zlecenia i wysłanie wiadomości to różne czynności. Dla każdej ustal uprawnienia oraz wymagane potwierdzenie. Nie dawaj systemowi szerokiego dostępu tylko dlatego, że ułatwia to demonstrację.
Zaprojektuj reakcję na ponowienie. Jeśli połączenie zerwie się po utworzeniu zlecenia, aplikacja musi sprawdzić stan, zanim spróbuje utworzyć je ponownie. Inaczej poprawne lokalnie kroki mogą skończyć się podwójną realizacją.
Ślad wykonania powinien pozwalać rozróżnić próbę od potwierdzonego rezultatu. Komunikat „przekazano do obsługi” ma znaczenie dopiero wtedy, gdy właściwy system lub osoba faktycznie przyjęła sprawę. Użytkownik nie powinien odgadywać, czy po błędzie ma zacząć od początku.
Chmura czy własna infrastruktura
Porównuj warianty według danych, dostępności usług, obciążenia i kompetencji utrzymania. Własne uruchomienie modelu nie oznacza automatycznie niższego kosztu ani pełnego rozwiązania kwestii bezpieczeństwa. Chmura również nie zwalnia firmy z kontroli dostępu i zasad wykorzystania danych.
Do oceny lokalnego wariantu dodaj sprzęt, aktualizacje, obserwację działania oraz zastępstwo osób utrzymujących. Przy usłudze zewnętrznej sprawdź miejsce i warunki przetwarzania, limity, dostępność potrzebnych funkcji i sposób reagowania na zmianę oferty.
Nie porównuj kosztu modelu działającego przez całą dobę z kosztem kilku wywołań demonstracyjnych. Ustal podobny profil użycia i wymagania jakości. Dopiero wtedy licz całkowity koszt obsługi procesu.
Jak porównać dostawców
Poproś każdego wykonawcę o przedstawienie tego samego scenariusza oraz jego trudnego wariantu. Jeśli jeden pokazuje gotową odpowiedź na przygotowanym dokumencie, a drugi pełną integrację, samo porównanie ceny będzie mylące.
Sprawdź możliwość zmiany modelu, źródła danych i wykonawcy. Nie zakładaj, że wymiana jest bezkosztowa: inne zachowanie modelu wymaga ponownej oceny. Warto jednak znać zakres zależności i mieć dostęp do konfiguracji, dokumentacji oraz danych potrzebnych do dalszego utrzymania.
| Kryterium | Dowód w ofercie lub pilotażu | Sygnał niejasności |
|---|---|---|
| Jakość | Wyniki na uzgodnionej próbce | Wyłącznie wybrane udane odpowiedzi |
| Dane | Właściciele, źródła i reguły aktualizacji | Ogólne zapewnienie o „wiedzy firmy” |
| Działania | Uprawnienia i obsługa wyjątków | Brak granicy samodzielności |
| Utrzymanie | Wersje, zgłoszenia i zastępstwa | Wszystko zależy od autora prototypu |
| Zmiana dostawcy | Zakres przekazywanych zasobów | Brak dostępu do konfiguracji |
| Koszt | Założenia i pomiar całego przebiegu | Cena samego modelu jako cena rozwiązania |
Koszt oceniaj razem z pracą ludzi
W syntetycznym porównaniu aplikacja A kosztuje 500 PLN miesięcznie, ale wymaga 20 godzin sprawdzania wyników. Aplikacja B kosztuje 900 PLN i wymaga 8 godzin. Przy umownej wartości pracy 100 PLN za godzinę łączny koszt wynosi odpowiednio 2500 PLN i 1700 PLN. To przykład rachunkowy, nie ceny produktów ani wynik klienta.
Warunkiem porównania jest taka sama jakość końcowa i podobny zakres spraw. Krótsza kontrola nie jest korzyścią, jeśli użytkownicy po prostu przestali zauważać błędy. Uwzględnij również przypadki wymagające ręcznej obsługi od początku.
Zapisz koszt przygotowania i utrzymania źródeł. Aplikacja może działać sprawnie, a mimo to przestać być użyteczna po zmianie oferty lub procedury. W budżecie musi znaleźć się osoba odpowiedzialna za aktualność treści.
Kompetencje i odbiór procesu
Użytkownik powinien wiedzieć, kiedy ufać wynikowi, co sprawdzić i jak zgłosić problem. Komisja Europejska w wyjaśnieniach dotyczących AI literacy podkreśla znaczenie kontekstu zastosowania, ryzyka i przygotowania osób korzystających z systemów. Nie sprowadzaj tego do jednego ogólnego szkolenia niezwiązanego z pracą zespołu.
Przećwicz sytuację z brakującym dokumentem, niepoprawną odpowiedzią i próbą działania poza uprawnieniami. Sprawdź także, czy pracownik potrafi kontynuować sprawę podczas niedostępności aplikacji. Człowiek zatwierdzający wynik musi mieć czas i informacje potrzebne do rzeczywistej oceny.
Ustal z góry, które błędy zatrzymują wdrożenie. Ujawnienie danych innego klienta lub wykonanie niezatwierdzonej czynności nie powinno znikać w średniej ocenie poprawnych odpowiedzi. Drobna niezręczność językowa może wymagać innej reakcji. Właściciel procesu powinien zatwierdzić tę hierarchię przed oceną końcową, aby presja uruchomienia nie zmieniała zasad odbioru.
Zachowaj zestaw prób do późniejszych zmian. Nowy model, inny sposób wyszukiwania lub rozszerzenie narzędzi może poprawić jeden obszar i pogorszyć drugi. Powtórz przypadki związane ze zmianą oraz najważniejsze scenariusze całego procesu. Porównanie powinno wskazywać wersje, użyte dane i warunki, a nie tylko datę udanej prezentacji. Dzięki temu kolejna decyzja technologiczna ma podstawę w obserwacji, którą zespół potrafi odtworzyć i wyjaśnić.
Po pilotażu zapisz, co przyjęto, jakie ograniczenia pozostają i kto odpowiada za każdą poprawkę. Rozszerzenie zakresu powinno wynikać z potwierdzonego działania, a nie tylko z zainteresowania nową funkcją.
Jeżeli główną przeszkodą okazują się rozproszone źródła, przeczytaj jak ocenić Microsoft Fabric jako platformę danych. Technologie dobieraj do systemu pracy firmy, w którym możesz wskazać źródło, decyzję, działanie i właściciela.
Na najbliższą rozmowę z dostawcą przygotuj jedną zwykłą sprawę oraz jedną trudną. Poproś o pokazanie całego przebiegu, łącznie z kontrolą wyniku, uprawnieniami i kosztem. Na tej podstawie wybierz zakres pierwszej próby.
- Agenci AI
- Modele i LLM
- Regulacje
- Strategia
