Jak odebrać integrację danych w Fabric Data Factory

Temat: Microsoft AI

Połączenie z bazą przeszło test, ale tydzień później raport pokazuje nieaktualną wartość zamówienia. Integrację w Data Factory trzeba odebrać na zmianach danych i awariach, nie tylko na udanym połączeniu. Test dostępu odpowiada na pytanie, czy system potrafi dotrzeć do źródła. Nie potwierdza, że wynik pozostanie kompletny po korekcie, usunięciu albo przerwie w pracy.

Jeżeli zarządzasz procesem, który korzysta z tych danych, poproś o demonstrację kilku zaplanowanych przypadków. Wykonawca powinien pokazać, co trafiło do celu, czego zabrakło i jak to rozpoznać. Właśnie te dowody pozwalają zatwierdzić integrację do codziennego użycia.

Jeżeli zamiast kryteriów odbioru szukasz wprowadzenia — czym Data Factory jest i kiedy go użyć — zacznij tutaj.

Zacznij od umowy o danych

Przed testem zapisz znaczenie rekordu, klucz identyfikujący go i zakres pobieranych informacji. Ustal, czy wynik ma przedstawiać bieżący stan, czy historię zmian. To różne wymagania: usunięte zamówienie może zniknąć z tabeli aktualnego stanu, ale nadal należeć do historii zdarzeń.

Dodaj termin gotowości i warunek kompletności. „Odświeżamy codziennie” nie wyjaśnia, czy dane muszą być dostępne o siódmej rano, ani co zrobić, gdy jeden oddział nie przesłał pliku. Odbiorca powinien wiedzieć, kiedy wynik nadaje się do decyzji.

Data Factory udostępnia mechanizmy przenoszenia, transformacji i koordynowania zadań. Dokumentacja produktu rozdziela te funkcje. Kryteria odbioru muszą więc dotyczyć zarówno pobrania, jak i późniejszych operacji, które mogą zmienić liczbę oraz znaczenie rekordów.

Sprawdź pełny cykl życia rekordu

Przygotuj dane testowe o znanym wyniku. Poniższa tabela jest propozycją prób biznesowych; sposób ich realizacji zależy od konektora i przyjętej architektury.

PróbaZmiana w źródleCo sprawdzić w celu
DodanieNowy dokument z unikalnym kluczemPojawia się raz i we właściwym zakresie
AktualizacjaKorekta wartości starego dokumentuWynik odpowiada uzgodnionej regule korekt
UsunięcieDokument znika lub dostaje znacznik usunięciaStan albo historia odzwierciedla to zgodnie z umową
PowtórzeniePonownie dostarczony ten sam zakresBrak przypadkowego zwielokrotnienia
OpóźnienieStarszy dokument przychodzi późniejNie zostaje pominięty przez filtr czasu

Nie zakładaj, że pole „ostatnia modyfikacja” rozwiązuje wszystkie przypadki. Sprawdź, kto i kiedy je aktualizuje oraz czy źródło zachowuje informację o usunięciach. Jeżeli nie ma takiej informacji, projekt musi mieć inny sposób uzgadniania stanu albo jawnie zaakceptowane ograniczenie.

Szczególną uwagę poświęć granicom okresów. Dokument zmieniony dokładnie na granicy dwóch pobrań nie powinien zniknąć między nimi. Zespół techniczny powinien wyjaśnić sposób wyznaczania zakresu i obsługi powtórzeń, a próba powinna potwierdzić wynik.

Liczba wierszy to dopiero początek

Przykład syntetyczny: źródło zawiera 500 faktur na łączną kwotę 200 000 PLN. Cel też zawiera 500 wierszy, ale suma wynosi 204 000 PLN. Jedna faktura na 1000 PLN została pominięta, a inna na 5000 PLN występuje dodatkowo. Liczba wierszy się zgadza, mimo że dane są błędne.

Dlatego uzgadniaj przynajmniej klucze i istotne wartości. Dla większego zbioru podziel kontrolę według okresu lub oddziału. Jedna zgodna suma globalna może ukryć przeciwne błędy w dwóch grupach. Odbiorca biznesowy powinien wskazać przekroje, w których różnica ma znaczenie.

Zapisuj wyniki kontroli razem z identyfikatorem dostawy. Sam zrzut ekranu raportu nie wystarczy, jeśli później nie będzie wiadomo, które dane i reguły go utworzyły. Protokół powinien pozwalać wrócić do konkretnego porównania.

Zaplanuj przerwę i wznowienie

Odbiór na danych testowych powinien obejmować kontrolowaną awarię, na przykład brak dostępu do źródła albo nieprawidłowy format jednego pola. Celem jest sprawdzenie zachowania procesu, a nie wywołanie problemu w produkcji. Właściciel utrzymania musi wiedzieć, kiedy może ponowić zadanie i jakie dane wymagają wcześniej sprawdzenia.

Monitorowanie uruchomień pipeline pozwala przeglądać historię, statusy i szczegóły, w tym identyfikator uruchomienia oraz błędy. Wykorzystaj te informacje do powiązania incydentu z konkretnym przebiegiem. Nie utożsamiaj jednak statusu technicznego z potwierdzeniem kompletności biznesowej.

SytuacjaDecyzja do ustalenia przed startemDowód w próbie
Źródło niedostępneIle razy i kiedy ponawiać?Kontrolowane zakończenie i zgłoszenie
Częściowy zapisCo wolno wykonać ponownie?Zgodny wynik po wznowieniu
Zmiana typu polaZatrzymać czy odizolować rekord?Widoczny wyjątek z przyczyną
Brak oczekiwanej dostawyKiedy ogłosić niekompletność?Odbiorca widzi brak aktualizacji
Błąd regułyJak przywrócić poprzedni wynik?Udokumentowana procedura odtworzenia

Uzgodnij także, kto otrzymuje informację o błędzie i kto potwierdza jej obsługę. Powiadomienie wysłane na nieużywaną skrzynkę nie jest skutecznym utrzymaniem. Potrzebny jest zastępca oraz zasada eskalacji, jeżeli problem zagraża terminowi raportu.

Zmiana integracji jest osobnym zdarzeniem

Dodanie kolumny, zmiana poświadczeń lub poprawka transformacji może wpłynąć na wynik. Przechowuj opis zmian i powtarzaj próby istotne dla modyfikowanego fragmentu. Nie trzeba za każdym razem sprawdzać wszystkich możliwych scenariuszy, ale zakres ponownej kontroli powinien wynikać z ryzyka zmiany.

Jeżeli wykorzystujesz Dataflow Gen2, rozróżniaj zapis projektu i sprawdzenie jego działania na danych. Opis Dataflow Gen2 przedstawia publikowanie i monitorowanie odświeżeń. Żaden z tych etapów nie zwalnia odbiorcy z potwierdzenia, że nowa reguła daje właściwą interpretację biznesową.

Przed przekazaniem do utrzymania wskaż właściciela połączenia i procedurę zmiany dostępu. Zespół powinien umieć odnowić konfigurację bez poszukiwania osoby, która kiedyś przygotowała demonstrację. Dostępy ogranicz do zakresu potrzebnego integracji i sprawdź działanie w docelowym środowisku.

Co zrobić w poniedziałek

Wybierz jeden ważny przepływ i przygotuj pięć prób z pierwszej tabeli. Zapisz oczekiwany wynik, wykonawcę i osobę zatwierdzającą. Nie podpisuj odbioru wyłącznie na podstawie komunikatu o udanym połączeniu.

Jeśli problem leży w przygotowaniu tabel po pobraniu danych, przejdź do poradnika o Data Engineering w Fabric. Jeśli dopiero dobierasz mechanizm, zacznij od wprowadzenia: co to jest Data Factory i kiedy go użyć. Szerszą perspektywę odpowiedzialności przedstawia podejście do systemu firmy. Integracja jest gotowa do codziennej pracy wtedy, gdy potrafisz wyjaśnić jej wynik i obsłużyć przewidywalne odstępstwa.

Przełóż temat na projekt w Twojej firmie

Zobacz zakres współpracy: od rozpoznania procesu i danych po projekt rozwiązania AI.