inferwire
/
KI·5 Min. Lesezeit

Ω-QVLA drückt Robotermodelle auf 4 Bit, samt Aktionskopf

Ein Verfahren ohne Nachtraining quantisiert Sprach-Backbone und Diffusions-Aktionskopf zweier Robotermodelle auf 4 Bit, und in der Simulation bleibt ihre Erfolgsquote erhalten.

TL;DR

  • Ω-QVLA komprimiert die Robotermodelle Pi 0.5 und GR00T N1.5 samt ihren Diffusions-Aktionsköpfen auf 4-Bit-Gewichte und -Aktivierungen, ohne Nachtraining [^1].
  • Im Simulator LIBERO erreichten die quantisierten Modelle 98,0 und 87,8 Prozent Erfolgsquote, gegenüber 97,1 und 87,0 Prozent bei voller Präzision [^1].

Hintergrund

Vision-Language-Action-Modelle (VLA) setzen Kamerabilder und eine Textanweisung in einer einzigen Policy in Roboterbewegungen um und bauen dabei auf Backbones von Sprachmodellen auf [^1]. Sie sind groß: OpenVLA, ein offenes Modell von 2024, hat 7 Milliarden Parameter und braucht in bfloat16-Präzision 15 GB GPU-Speicher [^2]. Quantisierung verkleinert ein Modell, indem sie seine Zahlen mit weniger Bits speichert. Neuere VLAs ergänzen einen Diffusion-Transformer-Aktionskopf (DiT), der seine Ausgabe über mehrere Entrauschungsschritte verfeinert [^1].

Was passiert ist

Forschende der McGill University, der Université de Montréal, von Mila und weiteren Einrichtungen stellen Ω-QVLA vor, ein Verfahren zur Quantisierung nach dem Training, das kein Nachtraining braucht [^1]. Laut den Autoren ließen frühere Arbeiten zur VLA-Quantisierung den DiT-Aktionskopf entweder in voller Präzision oder quantisierten ihn nur teilweise, weil deren Autoren ihn für zu empfindlich hielten [^1]. Ω-QVLA bringt dagegen jede lineare Schicht im Sprach-Backbone und im Aktionskopf auf W4A4, also 4-Bit-Gewichte und 4-Bit-Aktivierungen. Das Paper weist darauf hin, dass GPUs nur dann schneller rechnen, wenn Gewichte und Aktivierungen dieselbe Bitbreite haben; sonst müssen die Werte mit geringerer Präzision hochkonvertiert werden [^1].

Das Verfahren hat zwei Teile [^1]. Eine zusammengesetzte Rotation aus einer Singulärwertzerlegung (SVD) jeder Gewichtsmatrix und einer Hadamard-Matrix mischt die Kanäle vor dem Runden. Der SVD-Teil gleicht aus, wie viel Energie jeder Gewichtskanal trägt, und der Hadamard-Teil verteilt Ausreißer in den Aktivierungen, also die wenigen Kanäle mit sehr großen Werten, die sonst den Rundungsfehler dominieren würden [^1]. Zweitens driften die Wertebereiche der Aktivierungen im Aktionskopf über die Entrauschungsschritte. Deshalb speichert Ω-QVLA eine eigene Skala pro Schritt, Schicht und Kanal, die vorab aus 10 unbeschrifteten Kalibrierungs-Trajektorien berechnet wird [^1].

Das Team testete Pi 0.5 und GR00T N1.5 auf den vier Aufgabenreihen des Simulators LIBERO [^1]. Bei W4A4 erreichte Ω-QVLA im Schnitt 98,0 Prozent Erfolg mit Pi 0.5 und 87,8 Prozent mit GR00T N1.5, gegenüber 97,1 und 87,0 Prozent für die 16-Bit-Originale (FP16) [^1]. Wurde das ganze Pi-0.5-Modell mit den reinen Gewichtsverfahren GPTQ, AWQ und OmniQuant quantisiert, fiel es auf 16,0, 11,5 und 10,3 Prozent. QuantVLA, ein eigens für VLAs entwickeltes Verfahren, kam bei W4A4 auf 82,0 Prozent und bei den Langzeitaufgaben auf 56,0 Prozent, wo Ω-QVLA 96,0 erreichte [^1]. Auf einem zweiarmigen ARX-R5-Roboter mit fünf echten Aufgaben, vom Abstellen einer Tasse auf einem Teller bis zum Falten eines Handtuchs, kam das quantisierte Pi 0.5 im Schnitt auf einen Fortschrittswert von 51,0, gegenüber 49,6 für das Original und 25,0 für QuantVLA, dessen Bewegungen ruckelten [^1].

Warum es wichtig ist

Das Ergebnis stellt eine Annahme infrage, die in den von den Autoren gesichteten Vorarbeiten galt: dass der Aktionskopf eines Roboters eine einheitliche Quantisierung mit wenigen Bits nicht übersteht [^1]. Der Aktionskopf schickt in einem geschlossenen Regelkreis kontinuierliche Steuersignale an echte Motoren, deshalb verstärken Kontaktkräfte Fehler, die in einem Sprach-Benchmark gar nicht auffallen würden [^1]. Genau darauf führen die Autoren die Fehlschläge von QuantVLA bei langen Aufgaben zurück: ruckelnde Trajektorien, deren Fehler sich aufsummieren [^1]. Auch die Speicherersparnis liegt nahe an der Obergrenze. Ω-QVLA verkleinerte den statischen Speicherbedarf von Pi 0.5, in FP16 4,27 GB, um 72,0 Prozent und den von GR00T N1.5 um 71,3 Prozent, nahe an den rund 74 Prozent des reinen Gewichtsverfahrens GPTQ. QuantVLA, das die Attention in FP16 belässt, sparte bei GR00T N1.5 nur 61,3 Prozent [^1].

Die praktischste Frage lässt das Paper offen. Es misst Speicher und Erfolgsquote, aber keine tatsächliche Laufzeit, weil der Geschwindigkeitsgewinn von W4A4 Kernel-Unterstützung braucht, die von Hardware und Toolchain abhängt [^1]. Alle Experimente liefen auf NVIDIA-A100-GPUs, der Vision-Encoder bleibt in FP16, und die Auswertung umfasst zwei Modelle, einen Simulator und einen echten Roboteraufbau, mit 10 Durchläufen pro realer Aufgabe [^1]. Die Studie zeigt also, dass sich diese Modelle ohne Verlust an Erfolgsquote komprimieren lassen; ob sie danach auf der Hardware eines Roboters auch schneller laufen, ist noch nicht gemessen.

Ein Beispiel aus der Praxis

Angenommen, Lena leitet die Softwareentwicklung bei einer kleinen Firma, die einen zweiarmigen Roboter zum Wäschefalten baut. Das Team hat Pi 0.5 feinjustiert, das laut Paper in FP16 4,27 GB groß ist [^1], und der Bordrechner des Roboters hat kaum Speicher übrig.

Lena versucht es zuerst auf dem üblichen Weg aus der Welt der Sprachmodelle: GPTQ, 4-Bit-Gewichte, ganzes Modell. In der Simulation bricht die Policy zusammen, so wie die vollständige reine Gewichtsquantisierung Pi 0.5 im Paper auf 16,0 Prozent Erfolg in LIBERO drückte [^1]. Bleiben die DiT-Attention-Schichten in voller Präzision, erholt sich der Wert auf 81 bis 83 Prozent im Paper, aber ein Teil des Modells bleibt unkomprimiert [^1].

Dann folgt Lena dem Rezept von Ω-QVLA. Es braucht nur einen kleinen Kalibrierungssatz, im Paper 10 unbeschriftete Trajektorien, aus dem es die Rotationen und eine Skalentabelle für jeden der 8 Entrauschungsschritte berechnet, ganz ohne Nachtraining [^1]. Jede lineare Schicht in Backbone und Aktionskopf landet bei 4 Bit, nur der Vision-Encoder bleibt in FP16 [^1]. Auf dem zweiarmigen Roboter im Paper, der ebenfalls Handtücher faltete, schnitt diese Version so gut ab wie das Original, während QuantVLA mit ruckelnden Bewegungen auf 25,0 fiel [^1].

Bevor Lena die Version ausliefert, bleibt eine Prüfung: die Geschwindigkeit. Das Paper hat keine Latenz gemessen, und 4-Bit-Aktivierungen lohnen sich nur, wenn der Chip des Roboters passende Kernel hat [^1]. Also misst Lena das quantisierte Modell auf der echten Hardware, bevor es das Original ersetzt.

Passende Produkte

Wir empfehlen dieses Buch, weil es praxisnah zeigt, wie man neuronale Netze klein genug für sparsame Geräte macht, unter anderem durch Quantisierung, also dasselbe Problem, das Ω-QVLA für Robotermodelle angeht.

WerbungAmazon

TinyML: Machine Learning with TensorFlow Lite on Arduino and Ultra-Low-Power Microcontrollers

Quellen

  1. [1]arXiv — Ω-QVLA: Robust Quantization for Vision-Language-Action Models via Composite Rotation and Per-step Scaling
  2. [2]arXiv — OpenVLA: An Open-Source Vision-Language-Action Model