v0.1.68
v0.1.68October 1, 2026
What’s new
What's new
Chat: paste or drop images into a message (needs the model's vision projector — add --mmproj <file> to its flags)
Image and video generation is now a mode of Chat's mode menu, with its options in the composer and an image-model picker; the separate tab is gone
New Quantize card on a model: make a smaller GGUF from a BF16/F16 model with llama-quantize, with progress and cancel
Basic settings above the raw flags: context, KV cache quality, flash attention, batch, threads and the KVMem budget, with a live VRAM estimate
Auto-tune measures properly: warm-up, three runs on a ~1.5k-token prompt (median), free-VRAM check, KVMem-aware variants that build on each other
KVMem updates: the newest prebuilt release (including builds like rc3-prism.3) is now detected correctly
Remote chat from a phone: model picker, optional agent mode and an optional internet tunnel
Fixed: saving flags for a stopped server used to start it, and a second Start loaded two copies at once; Quick Start and Stop now follow the engine chosen for the model
Settings restyled with a dark look and the title in the top bar
Co nowego
Czat: wklejaj lub przeciągaj obrazy do wiadomości (wymaga projektora wizji modelu — dopisz do jego flag --mmproj <plik>)
Generowanie obrazów i wideo jest teraz trybem w menu trybów czatu, z opcjami w polu wiadomości i wyborem modelu obrazkowego; osobna zakładka zniknęła
Nowa karta Kwantyzacja przy modelu: zrób mniejszy plik GGUF z modelu BF16/F16 przez llama-quantize, z postępem i anulowaniem
Ustawienia podstawowe nad surowymi flagami: kontekst, jakość cache KV, flash attention, batch, wątki i budżet KVMem, z żywym szacunkiem VRAM
Auto-tune mierzy rzetelnie: rozgrzewka, trzy przebiegi na prompcie ~1,5 tys. tokenów (mediana), kontrola wolnego VRAM, warianty uwzględniające KVMem, które się na siebie nakładają
Aktualizacje KVMem: najnowsze gotowe wydanie (także takie jak rc3-prism.3) jest teraz poprawnie wykrywane
Czat zdalny z telefonu: wybór modelu, opcjonalny tryb agenta i opcjonalny tunel internetowy
Naprawiono: zapis flag zatrzymanego serwera uruchamiał go, a drugi Start ładował dwie kopie naraz; Quick Start i Stop zależą teraz od silnika wybranego dla modelu
Ustawienia w ciemnym stylu, z tytułem na górnym pasku