llama.cpp b10763 aktiviert das Chat-Template-Argument „preserve_reasoning“ in den Komponenten common und server standardmäßig, wenn Nutzende keine explizite Vorgabe machen. Das geht aus den offiziellen Release-Notizen des Projekts hervor.
Explizite Schalter haben Vorrang
Nach den Release-Notizen greift der neue Standard nach der Argumentverarbeitung, wenn „preserve_reasoning“ nicht über „--reasoning-preserve“ oder „--no-reasoning-preserve“ ausdrücklich festgelegt wurde. Damit bleiben beide Kommandozeilenoptionen der dokumentierte Weg, das Verhalten gezielt zu bestimmen.
Für bestehende Server- oder common-Konfigurationen ist vor allem die Änderung des Standardwerts relevant: Fehlt eine explizite Einstellung, wird „preserve_reasoning“ nun aktiviert. Die Release-Notizen treffen keine Aussage dazu, wie sich dies bei einzelnen Modellen oder Chat-Templates auf Ausgaben auswirkt.
Server meldet wirksame Konfiguration
Zusätzlich soll der Server den effektiven Zustand des Arguments protokollieren. Das schafft eine direkt überprüfbare Angabe darüber, welche Einstellung nach der Verarbeitung der übergebenen Argumente tatsächlich verwendet wird.
Die Änderung betrifft laut Release-Notizen ausdrücklich common und server. Ob weitere llama.cpp-Werkzeuge denselben Standard oder dieselbe Protokollierung nutzen, geht aus dem vorliegenden Material nicht hervor.
Konfiguration über chat-template-kwargs wird abgelöst
Die Release-Notizen erklären das Setzen von „preserve_reasoning“ über „--chat-template-kwargs“ für veraltet. Ein unmittelbarer Entfernungszeitpunkt oder ein Ersatz über die genannten Optionen hinaus wird darin nicht genannt.
Praktisch bedeutet das für Integrationen, die den veralteten Weg verwenden: Sie sollten ihre Konfiguration prüfen und für eine eindeutige Steuerung auf „--reasoning-preserve“ beziehungsweise „--no-reasoning-preserve“ umstellen. Das ist eine Folgerung aus der dokumentierten Deprecation, keine angekündigte Frist.
Weitere bereitgestellte Pakete
Zu b10763 gehören unter anderem ein macOS-Binärpaket für Apple Silicon auf arm64 sowie ein als Vorschau gekennzeichnetes Windows-arm64-Paket für CUDA 13.4. Für Letzteres verweist die Veröffentlichung außerdem auf CUDA-13.4-DLLs.
Die vorliegenden Angaben enthalten keine Tests, Leistungswerte oder Hinweise auf Kompatibilitätsänderungen, die mit der Standardaktivierung von „preserve_reasoning“ verbunden wären.
Wie es weitergeht
Betreiber von llama.cpp-Servern können ihre Startparameter und Protokolle nach einem Update auf b10763 prüfen. Besonders Konfigurationen ohne expliziten Schalter sowie Aufrufe mit „--chat-template-kwargs“ sollten auf den neuen Standard und die als bevorzugt genannten Optionen abgeglichen werden.
Änderungsvermerk: Release b10763 aktiviert preserve_reasoning standardmäßig in common und server, protokolliert den effektiven Wert im Server und markiert die Konfiguration per --chat-template-kwargs als veraltet.