Przewodnik tematyczny

Amazon Web Services AI

Jak dobrać Amazon Web Services AI do zadania i sposobu utrzymania?

Amazon Web Services AI obejmuje różne poziomy odpowiedzialności: asystenta dla użytkownika, usługę do budowy aplikacji oraz infrastrukturę własnego rozwiązania. Zespół działający w AWS powinien oddzielić te potrzeby, zanim zacznie porównywać modele. Wybór zależy od danych, uprawnień, wymaganego działania i kosztu eksploatacji.

Jak podejść do tematu

  1. Krok 1

    Rozdziel użytkownika i system

    Jeśli potrzebny jest asystent do pytań o wiedzę firmy, opisz pracę użytkownika. Jeśli aplikacja ma wykonać proces, spisz integracje, reguły i odpowiedzialność.

  2. Krok 2

    Przygotuj źródła i role

    Ustal, które dokumenty i systemy są dostępne, kto może je czytać oraz jak aktualizować wiedzę. Osobno zdefiniuj uprawnienia do działań.

  3. Krok 3

    Zrób próbę kosztową

    Na typowym i szczytowym obciążeniu zmierz jakość, czas odpowiedzi, koszt wywołań oraz pracę zespołu utrzymującego. Ustal próg zatrzymania pilota.

Asystent, platforma modeli i własna infrastruktura

Dokumentacja AWS rozróżnia Amazon Q Business jako asystenta dla potrzeb organizacji i Amazon Q Developer jako pomoc w pracy nad oprogramowaniem. Amazon Bedrock jest inną ścieżką: usługą do budowy aplikacji korzystających z modeli przez API. To rozróżnienie porządkuje pierwszy wybór, ale nie rozstrzyga jakości dla danych konkretnej firmy.

Własna infrastruktura daje dodatkową kontrolę nad uruchomieniem, lecz wymaga obsługi wersji, skalowania, obserwowalności i awarii. Nie przyjmuj, że najniższy koszt pojedynczego wywołania oznacza najniższy koszt całego procesu.

Dane i uprawnienia przed modelem

Asystent odpowiadający na podstawie dokumentów powinien respektować właścicieli informacji oraz reguły dostępu. Aplikacja wykonująca akcje potrzebuje odrębnej kontroli narzędzi: zakresu operacji, potwierdzenia przez człowieka i rejestru działań. Te wymagania warto opisać przed wyborem usługi, bo od nich zależy architektura pilota.

Przykład: system ma przygotować odpowiedź na reklamację. W pierwszej wersji tylko proponuje tekst z podaniem źródła. Dopiero po ocenie błędów można rozważyć pobieranie danych ze zgłoszenia. Automatyczne wysłanie odpowiedzi jest kolejną decyzją, z własnymi warunkami kontroli.

  • Źródła: aktualność, właściciel, uprawnienia i możliwość usunięcia.
  • Akcje: zakres, potwierdzenie i zapis audytowy.
  • Jakość: próbka spraw i kryteria odmowy.
  • Koszt: wywołania, transfer, monitoring i praca zespołu.

Jak ocenić pilota w AWS

Przeprowadź test na sprawach zwykłych, nietypowych i takich, dla których system nie ma danych. Oceniaj wynik, źródła, opóźnienie i zachowanie po błędzie integracji. Rozdziel koszt eksperymentu od kosztu produkcji: ten drugi obejmuje dostępność, alerty, przegląd jakości i aktualizacje.

Porównanie Redshift z Fabric należy do decyzji o platformie danych, nie do samego ekosystemu AI. Jeśli to dane są ograniczeniem projektu, zacznij od ich mapy, a dopiero później wybieraj usługi modelowe.

Jak podjąć decyzję

Wybierz sygnał, który najlepiej opisuje obecny problem, i sprawdź właściwy następny krok.

SygnałCo oznaczaNastępny krok
Pracownik potrzebuje odpowiedzi z wiedzy organizacjiOceń asystenta, jakość źródeł i dostęp użytkowników.Pilot z pytaniami i testem odmowy bez źródła.
Zespół buduje aplikację z modelem przez APIPotrzebny jest projekt integracji, ewaluacji i utrzymania.Sprawdź usługę na jednej ścieżce procesu i realnym ruchu.
Koszt obliczeń jest główną przesłanką wyboruSam cennik modelu pomija koszty operacyjne.Policz pełny koszt na typowym i szczytowym obciążeniu.

Wybierz zagadnienie

Każda grupa odpowiada na węższe pytanie. Zacznij od obszaru, który jest najbliższy Twojej decyzji.

Modele i asystenci Amazon Web Services AI

Następny krok

Istniejący artykuł o Amazon Q jest punktem wejścia do ścieżki asystenta. Przed wyborem platformy lub infrastruktury przygotuj mapę zadania, danych i odpowiedzialności. Tę mapę można wykorzystać do rozmowy o zakresie projektu.

Omów zakres projektu AI