NVIDIA Linux dla AI: DGX OS i Jetson Linux

„NVIDIA Linux” oznacza co najmniej dwa różne przypadki: DGX OS dla systemów DGX i Jetson Linux dla urządzeń brzegowych. Nie ma jednej dystrybucji NVIDIA, która równie dobrze zastąpi uniwersalnego Linuksa na laptopie, serwerze i kamerze przemysłowej. Wybór zależy przede wszystkim od sprzętu i miejsca wykonywania modelu.

DGX OS: host dla infrastruktury GPU

NVIDIA opisuje DGX OS jako dostosowaną dystrybucję opartą na Ubuntu, z walidowanymi sterownikami, konfiguracją i diagnostyką dla sprzętu DGX. Jest to atut przy trenowaniu i uruchamianiu dużych modeli: zespół dostaje zestaw system–akcelerator–narzędzia sprawdzony przez producenta. DGX Spark także używa DGX OS, lecz ma własny proces odzyskiwania obrazu; dokumentacja ostrzega, by nie stosować na nim zwykłego ISO dla systemów enterprise DGX.

DGX OS nie jest sam w sobie platformą agentów. Potrzebuje osobno serwera modeli, orkiestracji zadań, tożsamości, katalogu danych i monitoringu. Jeśli firma chce zarządzać różnymi markami serwerów jednym obrazem, certyfikowany Ubuntu, RHEL lub SUSE może dać większą jednolitość — pod warunkiem potwierdzenia zgodności sprzętu.

Jetson Linux: AI na urządzeniu

Jetson Linux obejmuje BSP, jądro, bootloader, sterowniki i przykładowy system plików dla modułów Jetson. Tu chodzi o inferencję na brzegu: kamera, robot, linia produkcyjna lub urządzenie działające z ograniczonym łączem. Model może działać blisko danych, lecz trzeba policzyć energię, pamięć, temperaturę i proces aktualizacji urządzeń w terenie. Wersję JetPack i Jetson Linux należy dobierać do konkretnego modułu; instrukcja dla jednego wydania nie musi pasować do innego.

Czy to suwerenny stos?

Oba systemy mogą działać lokalnie, więc dane nie muszą opuszczać firmy. Zależność od NVIDIA jest jednak głęboka: firmware, sterowniki, CUDA oraz narzędzia sprzętowe mogą ograniczać przeniesienie na inny akcelerator. Suwerenność oznacza tu kontrolę nad danymi, obrazami i procesem wdrożenia, a nie brak zależności sprzętowej. W AI OS warto izolować model za standardowym API i przechowywać artefakty w formatach możliwych do eksportu.

AI SDLC i alternatywy

Agent może przygotować kontener inferencyjny, ale test na x86 nie zastąpi testu na DGX lub Jetsonie. Dla DGX mierzymy pamięć GPU, przepustowość i zachowanie po aktualizacji; dla Jetsona — opóźnienie, pobór energii, pracę offline i bezpieczny rollback. AI SDLC powinien przechowywać macierz: model, wersja systemu, JetPack lub CUDA, sterownik i urządzenie. Jeśli potrzebujesz swobody sprzętowej, porównaj Ubuntu, RHEL i dostępne akceleratory AMD lub Intel, zamiast utożsamiać całą strategię AI z jednym producentem GPU.

Dwie różne próby odbiorowe

Dla DGX przygotuj model o rzeczywistej wielkości i test równoległych zapytań. Mierz czas do pierwszego tokenu, przepustowość, pamięć GPU oraz zachowanie po restarcie jednego węzła. Zweryfikuj, skąd pobierane są sterowniki i obrazy kontenerów, i czy można je odtworzyć z lokalnego rejestru. To jest próba zdolności operacyjnej serwera, a nie tylko demonstracja możliwości akceleratora.

Dla Jetsona scenariusz wygląda inaczej: model widzenia pracuje przy kamerze w zakładzie, łącze bywa niedostępne, a urządzenie ma ograniczony budżet energii. Test obejmuje temperaturę w obudowie, opóźnienie na docelowym strumieniu, czas uruchomienia po utracie zasilania i powrót do poprzedniej wersji po nieudanej aktualizacji. Wynik z laboratorium na zasilaczu i otwartej płytce nie jest jeszcze wynikiem urządzenia w produkcyjnej obudowie.

Granica zależności sprzętowej

Standardowe kontenery i API zmniejszają koszt zmiany systemu, ale nie przenoszą automatycznie zoptymalizowanych kerneli obliczeniowych ani sterowników na inną architekturę. W katalogu artefaktów przechowuj model źródłowy, wersję po konwersji, konfigurację optymalizacji i wyniki jakości obu wariantów. Jeżeli migracja na inny akcelerator będzie potrzebna, ten zestaw pozwoli ocenić utratę wydajności i jakości bez odtwarzania projektu od początku. To bardziej wiarygodna strategia suwerenności niż deklaracja, że system działa lokalnie.

Ostatni warunek wyboru jest sprzętowy. DGX OS wybieraj wtedy, gdy serwer DGX ma pracować długo i wsparcie całego zestawu daje wartość. Jetson Linux wybieraj, gdy model musi działać na konkretnym module przy określonym budżecie energii. Jeśli żadna z tych przesłanek nie występuje, nie ma powodu dobierać systemu NVIDIA tylko ze względu na markę; uniwersalna dystrybucja z właściwym sterownikiem może być łatwiejsza w utrzymaniu.