Zapomnij o wierszu poleceń.Flagi dobierze AI.

Wszystko lokalnie w jednym interfejsie.
Zarządzaj modelami.Czatuj z AI.Benchmarkuj wydajność.Generuj obrazy.

Czym różni się Q4_K_M od Q8_0 i którego użyć na 12 GB VRAM?
Q8_0 jest niemal bezstratny, ale zajmuje ok. dwa razy więcej pamięci niż Q4_K_M. Przy 12 GB VRAM model 14B w Q4_K_M (ok. 9 GB) mieści się razem z kontekstem 32K, a jakość spada tylko minimalnie.
Qwen3 14B · Q4_K_M

02 / RUNTIME CONTROL

Interfejs i terminal. W jednym oknie.

Steruj llama.cpp i KVMem (fork zoptymalizowany pod KV cache) przez GUI z przełącznikiem backendu jednym kliknięciem albo wejdź do wbudowanego terminala, gdy chcesz pełnej kontroli. Dodaj model, klikaj, obserwuj status na żywo.

03 / PRACA HYBRYDOWA

Dziel ekran i pracuj hybrydowo.

Odpal Claude Code obok OpenCode i miej oba na oku. Wybierz układ (kolumny, jeden duży panel z małym albo stos) i przeciągnij sesję w menu bocznym, żeby zamienić je miejscami. Twój lokalny model i chmura Claude, obok siebie.

HuggingFace · „qwen”GGUF
SearchqwenTrending
meta-llama/Llama-4-Scout-GGUF
Do rozmowy · 412K pobrań
✓ zmieści się
Qwen/Qwen3.8-Max-GGUF
MoE · 268K pobrań
✓ zmieści się
llava-hf/llava-v1.7-GGUF
Obraz i tekst · 94K pobrań
⚠ za duży
Estimated GPU memory14.2 / 24 GB

04 / MODEL DISCOVERY

Przeglądaj i pobieraj z HuggingFace.

Szukaj, sortuj (trendujące / pobierane / polubienia) i filtruj po kategorii wprost w aplikacji. Przy każdym modelu podpowiedź czy zmieści się w Twoim VRAM-ie, z uwzględnieniem MoE, kwantyzacji i plików mmproj dla modeli wizyjnych.

MoE-awareVRAM fitVision models

05 / MEASURE, THEN TUNE

Cztery sposoby na benchmark.

Nie jeden pomiar na oko, tylko cztery różne testy, każdy do innego pytania.

04tests
01tokens/s

Szybkość

Surowe tokeny/s przez llama-bench, oficjalne narzędzie llama.cpp. Dla KVMem pomiar idzie przez żywy serwer, więc jest orientacyjny.

0218 tasks

Jakość

18 zadań (matematyka, logika, kod, format, wiedza, precyzja) ocenianych deterministycznie, bez udziału AI.

03wikitext-2

Perplexity

Pełny zbiór wikitext-2, ten sam korpus co w przykładach llama.cpp, więc wyniki są porównywalne z publikowanymi.

04A/B

Porównanie

Twój własny prompt na kilku modelach obok siebie, opcjonalnie oceniany przez AI-sędziego.

LLAMA CONTROL

Gotowy, aby przejąć kontrolę?

Pobierz Llama Control za darmo i zacznij zarządzać swoim lokalnym AI już dziś. Bez konta, bez chmury.

Pobierz za darmo

v0.1.68 · Windows 10/11 (~110 MB) · macOS Apple Silicon (~130 MB) · Linux wkrótce