AMD i Unsloth uruchomiły w aplikacji Unsloth Desktop obsługę jednostek NPU w architekturze AMD XDNA 2, czyli układów AI wbudowanych w procesory Ryzen AI. Dzięki temu ponad 100 zgodnych narzędzi i zadań agentowych AI, m.in. GitHub Copilot, LangChain, Cline, Open WebUI, OpenClaw i Hermes Agent, może uruchamiać modele lokalnie na NPU, bez angażowania karty graficznej.
- AMD i Unsloth uruchomiły w aplikacji Unsloth Desktop obsługę jednostek NPU w architekturze AMD XDNA 2, dzięki czemu ponad 100 narzędzi agentowych AI, m.in. GitHub Copilot, LangChain i Cline, może uruchamiać modele lokalnie na NPU bez angażowania karty graficznej.
- Najwydajniejszy obsługiwany model, Qwen3.6-35B-A3B (mixture-of-experts, 35 mld parametrów), generuje na NPU ponad 17 tokenów na sekundę, wymaga jednak co najmniej 64 GB RAM ze względu na domyślny podział pamięci w Windows 11.
- Obsługa NPU w Unsloth Desktop opiera się na silniku FastFlowLM, który AMD przejęło w lipcu 2026 r. i włączyło do platformy ROCm jako FastFlow-SDK; wymagana jest architektura XDNA 2, co wyklucza starsze procesory takie jak Ryzen 7040.
XDNA 2 to pierwsza architektura NPU obsługiwana przez Unsloth Desktop
AMD ogłosiło współpracę z Unsloth 19 listopada 2026 r. Jednostki NPU w architekturze AMD XDNA 2 są pierwszymi układami tego typu, które obsługuje Unsloth Desktop. NPU (Neural Processing Unit) to wyspecjalizowany układ w procesorze, zaprojektowany do energooszczędnego wykonywania obliczeń AI.
Unsloth Desktop to darmowa aplikacja open source na Windows, macOS i Linuksa, wydana 11 sierpnia 2026 r. Za projektem stoją bracia Daniel i Michael Han. W jednym oknie łączy uruchamianie modeli, ich dostrajanie (fine-tuning), przygotowanie danych, podłączanie agentów i eksport. Nie trzeba przy tym pisać kodu.
Mechanizm działania jest prosty. Zgodna aplikacja wysyła zapytanie do API Unsloth Desktop, które działa jak interfejs OpenAI. Za serwowanie modelu i samą inferencję na NPU odpowiadają dwa narzędzia:
- Lemonade, czyli otwarty lokalny serwer modeli AI z interfejsem zgodnym z OpenAI,
- FastFlowLM (FLM), czyli silnik inferencji napisany specjalnie pod NPU w procesorach Ryzen AI.
Unsloth trzyma własne kopie Lemonade i FastFlowLM z osobnymi katalogami na środowisko uruchomieniowe, konfigurację i modele. Pobierane wersje są przypięte i sprawdzane sumami kontrolnymi SHA-256. Serwer Lemonade uruchamiany przez Unsloth przyjmuje połączenia wyłącznie z komputera użytkownika i przy każdym starcie generuje nowy klucz uwierzytelniający.
AMD pisze w komunikacie: „Dzięki obsłudze Unsloth Desktop AMD poszerza zakres zasobów obliczeniowych dostępnych dla programistów i użytkowników” / „With support for Unsloth Desktop, AMD is expanding the supported compute resources for developers and users”.
Unsloth Desktop obsłuży procesory Ryzen AI 300, Ryzen AI 400 i Ryzen AI Max
Według dokumentacji Unsloth potrzebny jest procesor z NPU XDNA 2 lub nowszym. Obecnie oznacza to trzy rodziny:
- Ryzen AI 300 (Strix Point i Krackan Point),
- Ryzen AI Max (Strix Halo),
- Ryzen AI 400 (Gorgon Point).
Wymagany system to Windows 11 lub Linux x64. Na Linuksie potrzebne jest jądro 7.0 lub nowsze ze sterownikiem amdxdna (na starszych jądrach pakiet amdxdna-dkms), aktualne oprogramowanie układowe NPU i brak limitu memlock. Na Windowsie Unsloth sam sprawdza wersję sterownika NPU i podpowiada, co zaktualizować. Starsze procesory z NPU pierwszej generacji XDNA, takie jak Ryzen 7040, nie spełniają tego wymogu.
Uruchomienie modelu sprowadza się do kilku kroków. W zakładce z modelami trzeba ustawić filtr NPU, kliknąć „Enable NPU” i pobrać wybrany model. Model pojawi się potem w sekcji NPU listy rozwijanej w nowym czacie.
Qwen3.6-35B-A3B generuje na NPU ponad 17 tokenów na sekundę
NPU uruchamia wyłącznie modele w formacie Q4NX, czyli 4-bitowej kwantyzacji przygotowanej pod FastFlowLM. Dokumentacja Unsloth podaje taką listę modeli wraz z zalecaną ilością pamięci RAM:
| Model | Rozmiar | Zalecany RAM | Tokeny/s | Czas do pierwszego tokena |
|---|---|---|---|---|
| Qwen3.6-35B-A3B | 20,6 GB | 64 GB | 17,2 | 3,13 s |
| Qwen3.8-27B (MTP) | 18,1 GB | 48 GB | 2,0 | 3,80 s |
| Gemma4-12B-IT | 8,7 GB | 32 GB | 6,8 | 1,70 s |
| Qwen3.5-9B | 7,6 GB | 32 GB | 9,5 | 1,11 s |
| Qwen3-VL-4B-Instruct | 3,9 GB | 16 GB | 20,5 | 1,05 s |
| LFM3-1.7B | 1,5 GB | 16 GB | 40,7 | 0,12 s |
Najlepiej wypada Qwen3.6-35B-A3B. To model typu mixture-of-experts, który ma 35 mld parametrów, z czego przy generowaniu każdego tokena aktywnych jest około 3 mld. AMD pokazało go na nagraniu demonstracyjnym. Według AMD przy pełnym kontekście potrzebuje on około 28 GB pamięci dostępnej dla NPU. Windows domyślnie udostępnia współdzieloną pamięć w proporcji 50 proc., więc w praktyce komputer musi mieć 64 GB RAM. Gęsty Qwen3.8-27B mieści się w mniejszej pamięci, generuje jednak tylko 2 tokeny na sekundę.
Własne modele w formacie GGUF można przekonwertować do Q4NX na stronie eksportu w Unsloth Desktop. Konwersja odbywa się na procesorze. Plików GGUF nie da się na razie wczytać bezpośrednio z listy modeli NPU.
Unsloth twierdzi, że NPU zużywa 2-4 razy mniej energii na wygenerowany token niż tradycyjne GPU. Dokumentacja nie opisuje jednak metodologii tego pomiaru. AMD podkreśla też, że przeniesienie inferencji na NPU zostawia procesor i kartę graficzną do innych zadań, jeśli pozwala na to ilość pamięci.
NPU w laptopach przez długi czas było dla mnie głównie liczbą TOPS na naklejce. Brakowało popularnej aplikacji, która realnie by z niego korzystała. Unsloth Desktop to zmienia, bo całą procedurę sprowadza do kliknięcia „Enable NPU” i pobrania modelu.
Hasło o „ponad 100 aplikacjach” czytam jednak ostrożnie. Unsloth Desktop udostępnia API zgodne z OpenAI. Każde narzędzie, które potrafi połączyć się z takim API, trafia więc na listę automatycznie. Dla użytkownika to duża wygoda. Nie mówimy jednak o stu osobnych integracjach.
Drugie zastrzeżenie dotyczy pamięci. Najmocniejszy model z listy wymaga 64 GB RAM, a moim zdaniem taką konfigurację spotyka się głównie w droższych laptopach. Na typowych 16 GB zostają małe modele. Czy to wystarczy agentowi programistycznemu w rodzaju Cline? Chętnie to sprawdzę. Deklarowana oszczędność energii brzmi dobrze, potwierdzić ją mogą jednak dopiero niezależne pomiary.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
AMD od miesięcy szuka zastosowań dla NPU w laptopach
Integracja z Unsloth to kolejny krok w strategii, którą AMD nazywa „Agentic PC”. Chodzi o komputery łączące CPU, GPU i NPU tak, żeby agenty AI mogły działać lokalnie. W październiku 2026 r. AMD podało, że dostarczyło już ponad 500 tys. takich komputerów w ponad 50 konstrukcjach.
Wydajność NPU w procesorach Ryzen AI 300 wynosi 50 TOPS, czyli 50 bilionów operacji na sekundę. W procesorach Ryzen AI PRO 300 jest to do 55 TOPS. Microsoft wymaga od komputerów Copilot+ co najmniej 40 TOPS. Sama moc obliczeniowa nie wystarczała jednak, bo do niedawna mało który program potrafił z NPU korzystać.
Tę lukę miał wypełnić FastFlowLM. Projekt powstał niezależnie od AMD i miał jeden cel: uprościć uruchamianie modeli językowych na NPU XDNA 2. AMD przejęło go w lipcu 2026 r., a wersja 1.0 ukazała się już jako oficjalny projekt w ramach ROCm, otwartej platformy programistycznej AMD. W najnowszych materiałach AMD nazywa go po prostu FastFlow i włącza do pakietu FastFlow-SDK. Unsloth współpracował z AMD już wcześniej. Biblioteka oficjalnie obsługuje karty graficzne AMD i według Unsloth przyspiesza na nich trenowanie nawet dwukrotnie przy zużyciu pamięci wideo mniejszym o około 70 proc.
Kto w Polsce może już uruchomić modele na NPU Ryzen AI
Z nowej funkcji skorzystają właściciele laptopów i komputerów z procesorami Ryzen AI 300, Ryzen AI 400 i Ryzen AI Max. Laptopy z Ryzen AI sprzedają w Polsce m.in. Acer, ASUS i HP. Przed instalacją warto sprawdzić dwie rzeczy: generację NPU (musi to być XDNA 2) i ilość pamięci RAM, bo od niej zależy, jaki model da się uruchomić:
- 16 GB RAM: LFM3-1.7B albo Qwen3-VL-4B-Instruct,
- 32 GB RAM: dodatkowo Gemma4-12B-IT i Qwen3.5-9B,
- 48-64 GB RAM: Qwen3.8-27B i Qwen3.6-35B-A3B.
Polskim firmom wnoszę też kwestię danych. Serwer modeli w Unsloth Desktop przyjmuje połączenia wyłącznie z lokalnego komputera, więc zapytania do modelu nie trafiają do zewnętrznej chmury. Uważam, że dla firm pracujących na danych osobowych objętych RODO to mocny argument za lokalną inferencją. Odpowiedzialności administratora danych to oczywiście nie zdejmuje.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz dodatkowych źródeł, w tym materiału prasowego AMD przesłanego redakcji 19.11.2026, wpisu na blogu AMD z dnia 19.11.2026 oraz komunikatu AMD Newsroom i dokumentacji Unsloth dotyczącej NPU AMD. Kontekst rynkowy uzupełniono na podstawie publikacji IT Brief, Hardware Busters, InfoWorld i HP.
Cytat z komunikatu AMD został zweryfikowany z oryginalnym anglojęzycznym materiałem źródłowym.
Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl.
Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji o obsłudze NPU w Unsloth Desktop.
