Die Version b10844 von llama.cpp ergänzt das Vulkan-Backend um fusionierte DeepSeek-V4-Hyper-Connection-Operationen. Laut den Release-Notizen heißen sie DSV4_HC_COMB, DSV4_HC_PRE und DSV4_HC_POST.
Was sich im Vulkan-Backend ändert
Die drei neuen Operationen werden in den Release-Notizen zusammen als „DeepSeek-V4 hyper-connection fused ops“ bezeichnet. Damit benennt das Projekt eine konkrete Erweiterung seines Vulkan-Pfads für die Ausführung von DeepSeek-V4-bezogenen Berechnungen.
Für DSV4_HC_COMB nennt die Veröffentlichung zudem ein Implementierungsdetail: Die Operation führt die vollständige Sinkhorn-Berechnung mit 20 Iterationen in Registern aus. Leistungswerte oder Vergleiche mit der bisherigen Implementierung enthält das vorliegende Release-Material nicht.
Schalter zum Abschalten vorhanden
Die Umgebungs- beziehungsweise Konfigurationseinstellung GGML_VK_DISABLE_DSV4_HC deaktiviert laut Release alle drei neuen Operationen. Das bietet Nutzern einen dokumentierten Weg, die DSV4-Hyper-Connection-Funktionen im Vulkan-Backend auszuschalten.
Aus den vorliegenden Angaben geht nicht hervor, unter welchen konkreten Hardware-, Treiber- oder Modellbedingungen das Abschalten erforderlich oder sinnvoll sein könnte.
Binärpakete für mehrere Plattformen
Für Vulkan listet b10844 herunterladbare Binärdateien für Windows x64 sowie Ubuntu x64 und Ubuntu Arm64. Die Release-Seite führt daneben weitere Pakete für andere Betriebssysteme und Beschleunigungs-Backends auf.
Das ist vor allem für Anwender relevant, die die Vulkan-Erweiterung über vorgefertigte Builds statt über einen lokalen Build nutzen wollen. Ob alle aufgeführten Pakete die neuen Operationen in identischer Weise verfügbar machen, wird in den bereitgestellten Angaben nicht weiter ausgeführt.
Einordnung
Die Änderung ist eine gezielte Backend-Erweiterung, keine allgemeine Aussage über die Inferenzleistung von llama.cpp. Die Release-Notizen belegen die Aufnahme der drei Operationen und das Register-basierte 20-Iterations-Verfahren für DSV4_HC_COMB, liefern aber keine Benchmarks, Kompatibilitätsmatrix oder Angaben zu messbaren Laufzeit- oder Speicherfolgen.
Unabhängige Tests lagen im bereitgestellten Material nicht vor; die Informationen stammen aus der primären GitHub-Veröffentlichung des Projekts.
Wie es weitergeht
Nutzer können die bereitgestellten Vulkan-Binärdateien testen oder b10844 selbst bauen. Für eine belastbare Bewertung der praktischen Auswirkungen wären reproduzierbare Benchmarks und Kompatibilitätstests für DeepSeek-V4-Konfigurationen erforderlich.
Änderungsvermerk: Erstbericht auf Basis der Release-Notizen zu llama.cpp b10844.