AI bez karty graficznej: co realnie uciągnie zwykły komputer

W skrócie

Tak, model językowy działa na samym procesorze i pamięci RAM, bez karty graficznej. O prędkości decyduje głównie przepustowość pamięci: górna granica to w przybliżeniu przepustowość RAM podzielona przez rozmiar pliku modelu. Przy 8 GB RAM wybieraj modele 1,5–4 mld parametrów, przy 16 GB modele około 7–9 mld w kwantyzacji 4-bitowej (np. Bielik-Minitron-7B), a przy 32 GB zmieszczą się modele 11–12 mld (np. Bielik-11B w wariancie Q5 lub Q6) i Gemma 4 26B A4B.

Nie masz karty graficznej do gier? Nic straconego. Model językowy może działać na zwykłym procesorze i pamięci RAM – w laptopie do pracy, w domowym komputerze, nawet w kilkuletnim sprzęcie. Trzeba tylko dobrać model do możliwości komputera i wiedzieć, czego się spodziewać. Tłumaczymy to bez technicznego żargonu.

Czy AI w ogóle zadziała bez karty graficznej?

Tak. Programy takie jak LM Studio i Ollama potrafią uruchomić model na samym procesorze (CPU). Karta graficzna (GPU) jedynie przyspiesza pracę. Bez niej odpowiedzi pojawiają się wolniej, ale małe i średnie modele wystarczą do pisania maili, streszczania tekstów czy odpowiadania na pytania.

LM Studio podaje jako zalecenie dla Windowsa 16 GB RAM i kartę z co najmniej 4 GB własnej pamięci, ale to zalecenie, a nie warunek. Na zwykłym komputerze z Windowsem (procesor x64) twardy warunek LM Studio jest jeden: procesor musi obsługiwać instrukcje AVX2 (o tym niżej).

Dlaczego to pamięć, a nie procesor, decyduje o prędkości?

Model językowy to w praktyce ogromny plik z liczbami, tzw. parametrami. Odpowiedź powstaje kawałek po kawałku – po jednym tokenie, czyli fragmencie słowa. I tu jest sedno: żeby wypisać każdy kolejny token, komputer musi przeczytać z pamięci cały model.

Wyobraź sobie kucharza, który do każdego kolejnego zdania przepisu musi przekartkować całą grubą książkę kucharską. Nieważne, jak szybko myśli – i tak czeka na kartkowanie. Procesor jest kucharzem, a pamięć RAM tempem kartkowania. Ile danych pamięć przesyła w ciągu sekundy, nazywamy przepustowością. Karty graficzne mają pamięć o dużo większej przepustowości i dlatego są szybsze.

Z tego wynikają dwie praktyczne zasady: mniejszy plik modelu = szybsze odpowiedzi oraz szybsza pamięć = szybsze odpowiedzi. Konkretny model do swojej ilości pamięci dobierzesz w kreatorze na stronie głównej.

Jak oszacować rozmiar modelu i prędkość?

Nie musisz niczego liczyć – ale dwa proste wzory pomagają uniknąć rozczarowania.

Wniosek praktyczny: jeśli laptop ma jeden moduł pamięci, a w obudowie jest wolne gniazdo, dołożenie drugiego takiego samego modułu może wyraźnie przyspieszyć lokalne AI. Sprawdź jednak w instrukcji laptopa, czy pamięć da się rozbudować – w wielu cienkich modelach jest wlutowana na stałe.

Jaki model uciągnie komputer z 8, 16 lub 32 GB RAM?

Poniższa tabela pokazuje rozsądne klasy modeli przy pracy na samym procesorze. Rozmiary plików pochodzą z oficjalnych stron Ollamy i Hugging Face.

Przy 32 GB zmieszczą się nawet większe pliki, ale na samym procesorze każdy dodatkowy gigabajt modelu proporcjonalnie obniża prędkość (patrz szacunek 2). Często lepiej mieć szybszy model 7B niż powolny 11B. Do tekstów po polsku warto zacząć od Bielika, rozwijanego z myślą o polszczyźnie – szczegóły w poradniku Bielik na zwykłym laptopie. Jeśli wolisz, by komputer sam podpowiedział model, użyj Kreatora: dobierz model do komputera.

Szczególnym przypadkiem jest Gemma 4 26B A4B (15,6 GB w katalogu LM Studio), która też zmieści się przy 32 GB. To model typu MoE (od ang. mixture of experts, „mieszanka ekspertów”): ma łącznie 25,2 mld parametrów, ale przy każdym tokenie pracuje tylko ok. 3,8 mld z nich. Komputer nie musi więc za każdym razem czytać całego pliku, dlatego szacunek 2 jest dla takiego modelu zbyt pesymistyczny.

A grafika zintegrowana w procesorze?

Większość laptopów ma grafikę wbudowaną w procesor (Intel lub AMD). Taka grafika nie ma własnej pamięci – korzysta z tej samej pamięci RAM co procesor. Dlatego nie zmienia ona podstawowego ograniczenia: tempo nadal wyznacza przepustowość RAM. Nie spodziewaj się więc dużego przyspieszenia; traktuj szacunki z tego poradnika jako punkt odniesienia także dla takich komputerów.

Komputery Mac z procesorem Apple (M1, M2, M3, M4)

To szczególny przypadek. Maki z procesorami Apple mają tzw. pamięć zunifikowaną: procesor i wbudowana grafika dzielą jedną pamięć, a Ollama na takich Makach korzysta i z procesora, i z grafiki. LM Studio zaleca na Macu 16 GB pamięci lub więcej; przy 8 GB radzi trzymać się mniejszych modeli i krótszego kontekstu. Uwaga: LM Studio nie wspiera starszych Maków z procesorem Intel – na nich zostaje Ollama, która działa wtedy tylko na procesorze.

Jak sprawdzić, czy procesor obsługuje AVX2?

AVX2 to zestaw instrukcji procesora, który przyspiesza obliczenia na wielu liczbach naraz. LM Studio na Windowsie z procesorem x64 go wymaga.

1. Otwórz Menedżera zadań. Naciśnij jednocześnie Ctrl+Shift+Esc.
2. Przejdź do wydajności. Wybierz kartę „Wydajność”, a w niej pozycję procesora (CPU). W prawym górnym rogu zobaczysz pełną nazwę procesora, np. „Intel Core i5-…” albo „AMD Ryzen 5 …”.
3. Sprawdź nazwę u producenta. Wpisz ją na stronie Intela lub AMD i poszukaj w specyfikacji rozszerzeń instrukcji (Instruction Set Extensions) – powinno tam być AVX2.

Zasada ogólna: AVX2 mają procesory Intel od generacji Haswell (2013) i AMD od generacji Excavator (2015). Wyjątek to tańsze Intele Celeron i Pentium – one dostały AVX2 dopiero w generacji Tiger Lake (2020). Jeśli komputer ma mniej niż 10 lat i nie jest najtańszym modelem, najpewniej wszystko jest w porządku.

Jak przyspieszyć AI na słabszym komputerze?

• Zamknij zbędne karty przeglądarki i programy. Każdy zwolniony gigabajt RAM to miejsce dla modelu. Gdy pamięci braknie, system zaczyna korzystać z dysku i wszystko bardzo zwalnia.
• Wybierz mniejszą kwantyzację. Wariant Q4_K_M zamiast Q8_0 to mniejszy plik, a więc szybsze odpowiedzi. LM Studio radzi nie schodzić poniżej wariantu 4-bitowego, jeśli komputer da radę.
• Wybierz mniejszy model. Bielik-Minitron-7B zamiast Bielika 11B to według SpeakLeash do 50% szybsze generowanie przy zachowaniu ok. 90% jakości.
• Nie wydłużaj niepotrzebnie kontekstu. Kontekst to „pamięć rozmowy” – ile tekstu model widzi naraz. Dłuższy zajmuje więcej RAM i spowalnia pracę. Ollama na komputerach bez karty graficznej z co najmniej 24 GiB pamięci domyślnie ustawia 4 tys. tokenów i do codziennych rozmów to wystarcza. Gdy temat się zmienia, zacznij nowy czat.
• Podłącz laptop do zasilania. Na baterii laptopy często ograniczają wydajność. Po podłączeniu ładowarki wybierz w ustawieniach zasilania Windowsa tryb nastawiony na najlepszą wydajność.

Czego realnie się spodziewać?

Bez karty graficznej lokalne AI nie będzie tak szybkie jak ChatGPT w przeglądarce. Odpowiedź będzie się „wypisywać” na ekranie w Twoim tempie, a dłuższe teksty mogą zająć chwilę. Za to wszystko dzieje się na Twoim komputerze: rozmowy nie trafiają na cudze serwery, a model działa także bez internetu. Do prywatnych notatek, listów, streszczeń czy pomocy w lekcjach to bardzo uczciwa wymiana: trochę cierpliwości w zamian za pełną prywatność.

Gotowy, by spróbować? Instrukcję instalacji krok po kroku znajdziesz w poradniku Prywatny ChatGPT na komputerze.

Najczęstsze pytania

Czy da się uruchomić AI na komputerze bez karty graficznej?

Tak. LM Studio i Ollama potrafią uruchomić model na samym procesorze, korzystając z pamięci RAM. Odpowiedzi pojawiają się wolniej niż na mocnej karcie graficznej, ale z małymi i średnimi modelami da się wygodnie pracować.

Ile RAM potrzeba do lokalnego AI?

Minimum praktyczne to 8 GB dla małych modeli, a wygodnie robi się od 16 GB. Plik modelu powinien być wyraźnie mniejszy niż cała pamięć, bo system, przeglądarka i sama rozmowa też jej potrzebują.

Dlaczego AI na procesorze działa wolno?

Przy każdym nowym fragmencie odpowiedzi komputer musi odczytać z pamięci cały model. Zwykła pamięć RAM przesyła dane wolniej niż pamięć karty graficznej, więc to ona wyznacza tempo.

Jak sprawdzić, czy mój procesor obsługuje AVX2?

Odczytaj nazwę procesora w Menedżerze zadań (Ctrl+Shift+Esc, karta „Wydajność”, pozycja procesora – CPU) i sprawdź ją na stronie producenta. Ogólnie: procesory Intel od generacji Haswell (2013) i AMD od Excavator (2015) mają AVX2; wyjątkiem są tańsze Celerony i Pentiumy sprzed generacji Tiger Lake (2020).

Czy jeden moduł RAM spowalnia AI?

Tak. Przy jednym module pamięć pracuje w trybie jednokanałowym, co mniej więcej o połowę zmniejsza przepustowość, a więc i szacowaną maksymalną prędkość generowania tekstu.

Źródła (10)

1. LM Studio – wymagania systemowelmstudio.ai
2. LM Studio – wybór wariantu modelulmstudio.ai
3. Wikipedia: Advanced Vector Extensions (AVX2)en.wikipedia.org
4. Ollama – długość kontekstudocs.ollama.com
5. Ollama – macOSdocs.ollama.com
6. Ollama: biblioteka qwen3.5ollama.com
7. Ollama: biblioteka gemma4ollama.com
8. Ollama: profil SpeakLeash (Bielik)ollama.com
9. LM Studio – Gemma 4lmstudio.ai
10. Bielik-Minitron – premiera na NVIDIA GTC (bielik.ai)bielik.ai

Sprawdzone 21 października 2026. Widzisz błąd albo coś się zmieniło? Napisz: miki.jaroszek@gmail.com.