Przewodnik tematyczny

Architektura systemów AI

Jak dobrać architekturę AI do zadania, danych i dopuszczalnego ryzyka?

Model językowy nie jest całym systemem. Rozwiązanie dla firmy obejmuje także interfejs, źródła wiedzy, reguły dostępu, narzędzia wykonujące działania oraz sposób wykrywania błędów. Odpowiednia architektura to najmniejszy układ, który spełnia cel i daje się kontrolować; samo zwiększanie liczby agentów nie jest postępem.

Jak podejść do tematu

  1. Krok 1

    Opisz wynik i źródła

    Ustal, jaką odpowiedź lub działanie ma otrzymać użytkownik, skąd pochodzi wiedza i kto może ją zobaczyć. Przygotuj przykłady pytań, dobrych wyników i błędów, które muszą zostać wychwycone.

  2. Krok 2

    Wybierz najmniejszy potrzebny mechanizm

    Dla prostego opracowania tekstu wystarczy asystent. Dla odpowiedzi z firmowych dokumentów potrzebne może być wyszukiwanie i wskazanie źródeł. Agent z narzędziami jest uzasadniony dopiero, gdy system ma wykonać kroki w procesie.

  3. Krok 3

    Ustal granice i ocenę

    Oddziel polecenia użytkownika od zasad biznesowych, nadaj narzędziom minimalne uprawnienia i określ punkty potwierdzenia przez człowieka. Mierz całą ścieżkę zadania, nie tylko jakość pojedynczej odpowiedzi modelu.

Pięć pytań przed wyborem technologii

Po pierwsze: skąd system bierze wiedzę i czy jej wersja jest aktualna? Po drugie: czy tylko odpowiada, czy również zmienia stan w innym systemie? Po trzecie: czyje uprawnienia obowiązują przy odczycie i zapisie? Po czwarte: jak użytkownik sprawdzi podstawę odpowiedzi? Po piąte: co ma się stać, gdy brakuje danych albo model nie jest pewny?

Odpowiedzi pozwalają ustalić warstwy: interfejs użytkownika, przepływ zadania, model, wyszukiwanie w źródłach, narzędzia do działania oraz obserwację i kontrolę. Granice między nimi są ważne, bo zmiana modelu nie powinna zmieniać reguł zatwierdzania przelewu, a zmiana dokumentu nie powinna wymagać przebudowy interfejsu.

Asystent, RAG i agent to trzy różne odpowiedzi

Asystent pomaga człowiekowi przygotować tekst lub analizę. RAG łączy generowanie odpowiedzi z wyszukaniem materiału źródłowego, więc ma sens, gdy pytanie wymaga wiedzy spoza samego modelu. Nie usuwa jednak błędów w dokumentach, słabego podziału tekstu ani problemów z uprawnieniami.

Agent może wywoływać narzędzia, na przykład odczytać status sprawy i przygotować zmianę w CRM. Każde narzędzie zwiększa zakres możliwego działania, dlatego trzeba jawnie określić jego dostęp, skutki błędu i warunki zatwierdzenia. Wiele agentów w jednym procesie podnosi koszt diagnozowania błędów; stosuj taki układ tylko wtedy, gdy prosta orkiestracja nie wystarcza.

Pilot ma sprawdzać system, nie demonstrację modelu

Próba powinna obejmować typowe sprawy, wyjątki, brakujące dane i próby przekroczenia uprawnień. Sprawdź, czy użytkownik widzi źródło, czy zapis w systemie jest audytowalny i czy można odtworzyć decyzję po błędzie. Własność źródeł danych i ich jakość należą do osobnego problemu opisanego w filarze B02; sama architektura ich nie naprawi.

Web3 lub rozproszony rejestr może być szczególną odpowiedzią na wymaganie niezależnego potwierdzania działań przez wiele stron. Nie jest domyślną warstwą systemu AI. W większości projektów należy najpierw wykazać, jakiego zaufania i audytu brakuje w zwykłej architekturze, zanim doda się nową technologię.

Jak podjąć decyzję

Wybierz sygnał, który najlepiej opisuje obecny problem, i sprawdź właściwy następny krok.

SygnałCo oznaczaNastępny krok
Zadanie kończy się na szkicu odpowiedzi dla pracownikaNajpierw oceń istniejącego asystenta i sposób weryfikacji wyniku.Przetestuj kilka rzeczywistych zadań bez nadawania uprawnień do działania.
Odpowiedź musi wskazywać aktualne dokumenty firmyPotrzebna jest kontrola źródeł, wyszukiwania i dostępu.Zbuduj mały zbiór pytań z prawidłowymi cytowaniami i odpowiedziami odmownymi.
System ma wykonywać działania w procesieDochodzą narzędzia, skutki zapisu i odpowiedzialność za wyjątki.Ogranicz pierwsze działanie i dodaj zatwierdzenie człowieka przed zapisem.

Wybierz zagadnienie

Każda grupa odpowiada na węższe pytanie. Zacznij od obszaru, który jest najbliższy Twojej decyzji.

Modele i metody ich adaptacji

Pokaż pozostałe materiały (4)

RAG i łączenie modeli z wiedzą

Pokaż pozostałe materiały (3)

Warstwy systemu i orkiestracja agentów

Pokaż pozostałe materiały (9)

Blockchain i Web3 w architekturze AI

Pokaż pozostałe materiały (3)

Następny krok

Po wybraniu architektury opisz jej wymagania i testy w cyklu AI SDLC. Jeśli rozwiązanie ma służyć konkretnemu procesowi, zakres danych, integracji i kontroli można uporządkować w Blueprintcie Firmy.

Omów projekt systemu AI