Ein am 2. September auf arXiv veröffentlichter Preprint warnt davor, Aufmerksamkeitsmaße für In-Context Learning direkt als Trainingsziele zu verwenden. In einem Experiment mit Llama-2-7B steigerte ein Regularisierer das neue Maß In-Context Sensitivity (ICS) auf 1,413 — laut Arbeit bis auf 0,5 Prozent an dessen geometrische Obergrenze. Das begleitende Verhaltensmaß ICL-GAP blieb jedoch nahe null, während die MMLU-Genauigkeit von 0,371 auf 0,279 fiel.
Zwei Ebenen derselben Fähigkeit messen
Die Autoren führen ICS als aufmerksamkeitsbasiertes Maß ein. Es erfasst die durchschnittliche Zeilendistanz zwischen der Aufmerksamkeit des letzten Tokens bei passenden und nicht passenden Demonstrationspräfixen.
Daneben definieren sie ICL-GAP als Verhaltensmaß: den Genauigkeitsunterschied zwischen denselben Präfixen. Damit stellt die Arbeit zwei unterschiedliche Fragen nebeneinander: Ändert sich die interne Aufmerksamkeit eines Modells mit den gezeigten Beispielen — und ändert sich auch seine beobachtbare Genauigkeit?
Hoher ICS-Wert, keine entsprechende Verhaltenslücke
In einer kontrollierten Ablation mit vier Versuchsarmen auf Llama-2-7B untersuchten die Autoren einen ICS-maximierenden Regularisierer. Dieser brachte ICS auf 1,413. Gleichzeitig blieb ICL-GAP laut Preprint nahe null.
Die Studie berichtet zudem einen Rückgang der MMLU-Genauigkeit von 0,371 auf 0,279 im beschriebenen Setting. Das Ergebnis ist kein Beleg dafür, dass Aufmerksamkeitsanalysen generell wertlos sind. Es zeigt jedoch in diesem Versuch, dass ein hoher Wert des verwendeten Aufmerksamkeitsmaßes nicht automatisch mit dem hier gemessenen verhaltensbasierten In-Context Learning oder einer höheren MMLU-Genauigkeit einherging.
Erklärung der Autoren und Kontrollprobe
Als mögliche Erklärung beschreiben die Autoren ein Aufmerksamkeitsmuster, das über Präfixe hinweg scharf und nahezu getrennt werde, sich aber auf Formatierungs- und Token des Demonstrationskörpers statt auf Labels richte. Diese Deutung stammt aus dem Preprint und ist innerhalb der vorliegenden Angaben nicht durch unabhängige Quellen bestätigt.
Eine Random-Label-Prüfung habe zugleich gezeigt, dass die Familie der Verhaltensproben an denselben Checkpoints weiterhin einen messbaren Wertebereich besaß. Damit soll ausgeschlossen werden, dass das Ausbleiben eines ICL-GAP allein auf eine vollständig unempfindliche Verhaltensmessung zurückgeht.
Bedeutung für Fine-Tuning-Evaluationen
Die zentrale Schlussfolgerung der Autoren lautet, dass aufmerksamkeitsbasierte Proxys für In-Context Learning vor ihrem Einsatz als Trainingsziele gegen Verhaltensunterschiede validiert werden sollten. Praktisch heißt das: Optimierungsziele, die interne Aktivitäts- oder Aufmerksamkeitsmuster belohnen, sollten nicht ohne zusätzliche Tests als Nachweis für bessere Modellleistung gelten.
Die Evidenz ist vorläufig und begrenzt. Es handelt sich um einen einzelnen arXiv-Preprint und die im Dossier beschriebenen Resultate beziehen sich auf eine kontrollierte Ablation mit Llama-2-7B. Aus den vorliegenden Informationen geht nicht hervor, ob die Befunde für weitere Modelle, Aufgaben, Datensätze oder Fine-Tuning-Verfahren repliziert wurden.
Wie es weitergeht
Entscheidend werden Replikationen auf weiteren Modellen und Aufgaben sein sowie Vergleiche, bei denen Aufmerksamkeits-Proxys und Verhaltensmaße gemeinsam als Optimierungs- und Evaluationskriterien getestet werden.
Änderungsvermerk: Erstfassung auf Grundlage eines einzelnen arXiv-Preprints.