IBM hat mit Granite 4.2 eine Modellfamilie aus drei dichten, Decoder-only Reasoning-Sprachmodellen in den Größen 3B, 8B und 30B vorgestellt. Nach Angaben in einem offiziellen Hugging-Face-Blogbeitrag stehen alle Modelle unter der Apache-2.0-Lizenz.
Ausrichtung auf Tool-Nutzung und Reasoning-Modi
Alle Granite-4.2-Modelle verfügen laut Beitrag über einen Umschalter zwischen Thinking- und Non-Thinking-Modus. Zusätzlich gibt es einen Thinking-Modus mit geringem Aufwand, der für einfache Fragen ein kurzes Reasoning-Budget verwenden soll.
Die gesamte Familie unterstützt natives Tool Calling. Über einen OpenAI-kompatiblen Endpunkt, etwa mit vLLM, können die Modelle demnach Tool-Aufrufe im OpenAI-Format für Function Calling ausgeben. Der Beitrag beschreibt zudem eine Einbindung in agentische Harnesses ohne zusätzlichen Anpassungsaufwand.
Das ist vor allem für Entwickler relevant, die Modelle nicht nur für Textausgabe, sondern für Abläufe einsetzen wollen, in denen Software Werkzeuge aufruft oder weitere Schritte ausführt. Die Angaben stammen jedoch vom Anbieter; unabhängige Leistungs- oder Zuverlässigkeitstests liegen im vorliegenden Material nicht vor.
Unterschiede in der Trainingspipeline
Jedes Modell wurde laut IBM von Grund auf mit ungefähr 15 Billionen Token vortrainiert. Die dabei verwendete Trainingsstrategie umfasste demnach fünf Phasen und erweiterte das Kontextfenster auf 512.000 Token.
Die größeren Varianten mit 8B und 30B durchlaufen zusätzlich einen Block für agentisches Reinforcement Learning. Dieser soll ihnen beibringen, Werkzeuge aufzurufen, Code zu bearbeiten und auszuführen, ein Terminal zu bedienen sowie im Web innerhalb realer Umgebungen zu suchen.
Am Ende der Trainingspipeline aller Modelle steht nach Darstellung des Beitrags RLHF, also Reinforcement Learning aus menschlichem Feedback, für menschliche Präferenzen und Sicherheit. Trainiert wurden die Granite-4.2-Sprachmodelle auf einem von CoreWeave gehosteten NVIDIA-GB200-NVL72-Cluster.
Bereitstellung und offene Lizenz
Neben den regulären Modellen wurden laut Beitrag vier quantisierte Granite-4.2-Varianten für die Inferenz mit vLLM veröffentlicht. Quantisierte Varianten zielen typischerweise auf einen veränderten Ressourcenbedarf bei der Ausführung; konkrete Eigenschaften oder Messwerte dieser Varianten nennt das vorliegende Material nicht.
Die Apache-2.0-Lizenz ist ein zentraler Teil der Veröffentlichung: Sie betrifft nach Angaben des Beitrags alle Granite-4.2-Modelle. Damit positioniert IBM die Familie als offen lizenzierte Option für Einsätze, die Reasoning-Modi, Tool Calling und bei zwei Modellgrößen ein gesondertes Training für agentische Aufgaben kombinieren sollen.
Wie es weitergeht
Für die praktische Einordnung werden unabhängige Tests zu Reasoning, Tool Calling, agentischen Aufgaben, Sicherheit und Betriebskosten entscheidend sein. Ebenso bleibt zu prüfen, wie sich die quantisierten Varianten im Vergleich zu den Standardmodellen verhalten.
Änderungsvermerk: Erstfassung auf Grundlage eines offiziellen Hugging-Face-Blogbeitrags über Aufbau, Lizenzierung und Training von Granite 4.2.