Kurz gesagt: Ich nutze Quantisierung, um KI-Modelle für die Schadenserkennung kleiner, schneller und leichter auf Smartphone, Tablet oder CPU laufen zu lassen. Dabei sinkt die Rechengenauigkeit meist von FP32 auf INT8, während der Trefferverlust oft bei unter 1 % bleibt.

Für mich heißt das vor allem:

  • weniger Speicherbedarf
  • mehr Tempo bei der Inferenz
  • niedrigerer Energieverbrauch auf Endgeräten
  • bessere Eignung für Vor-Ort-Gutachten ohne starke Cloud-Anbindung

Ein paar Zahlen aus dem Beitrag zeigen den Kern sofort:

  • INT8-Modelle können etwa 4x kleiner sein
  • mehr als 3x mehr Tempo ist oft drin
  • auf der CPU sind teils 11,3 ms statt 53,3 ms möglich
  • für die Kalibrierung reichen oft schon 100 bis 500 Bilder
  • Fälle mit unter 75 % Konfidenz sollte ich manuell prüfen
  • ohne Kontrolle kann die Modellgüte in 6 Monaten um 15 bis 20 Prozentpunkte fallen

Wenn ich ein Modell für Fahrzeugschäden einsetze, achte ich auf drei Punkte: passende Quantisierungsmethode, saubere Kalibrierung und Test gegen das Float32-Modell mit mAP, Precision, Recall oder F1-Score. Für viele CNN-Modelle ist statische INT8-Quantisierung der Standard. Wenn kleine Kratzer sehr sauber erkannt werden sollen, ist QAT oft die bessere Wahl. Wenn ich mit wenig Umbau starten will, nehme ich oft dynamische Quantisierung.

Mein Kurzfazit: Quantisierung macht KI in der digitalen Begutachtung alltagstauglicher, aber ich verlasse mich nicht blind auf die Ausgaben. Tempo hilft nur dann, wenn die Trefferquote im Feld stabil bleibt.

Methode Aufwand Tempo Genauigkeit Typischer Einsatz
Dynamisch niedrig mittel leicht schwächer schneller Einstieg
Statisch INT8 mittel hoch meist guter Kompromiss CNNs für Inferenz
QAT hoch hoch am nächsten an Float32 kleine Schäden, hohe Ansprüche

Im Rest des Beitrags fasse ich genau das ein: welche Verfahren es gibt, wann ich welches nutze und wie ich prüfe, ob das quantisierte Modell im Gutachtenprozess sauber läuft.

Grundlagen der Quantisierung für Schadenserkennung

Welche Modelle bei der Fahrzeugschadenserkennung eingesetzt werden

Bei der Fahrzeugschadenserkennung kommen vor allem Objekterkennung und Klassifikation zum Einsatz. Die Objekterkennung zeigt, wo sich ein Schaden im Bild befindet. Die Klassifikation ordnet dann ein, welche Art von Schaden vorliegt und wie stark er ausfällt. Für digitale Fahrzeuggutachten ist genau das der Knackpunkt: Findet ein Modell einen Schaden nur, oder kann es ihn auch direkt bewerten?

Dazu kommen Segmentierungsmodelle. Sie teilen das Fahrzeug in einzelne Bereiche auf, zum Beispiel Motorhaube, Felgen oder Spiegel. Das hilft, Fehlalarme durch Reflexionen zu senken. Welche dieser Modellarten sich besonders gut komprimieren lassen, zeigt der nächste Abschnitt.

Die wichtigsten Quantisierungsverfahren

Zu den wichtigsten Verfahren zählen Post-Training-Quantisierung (PTQ) und Quantization-Aware Training (QAT). Im Alltag spielen dabei vor allem statische und dynamische Quantisierung eine Rolle.

Quantisierung lässt sich auf zwei Ebenen anwenden:

  • auf die Gewichte, also die gespeicherten Parameter des Modells
  • auf die Aktivierungen, also die Zwischenergebnisse während der Bildanalyse

Gewichte lassen sich einmalig vor dem Einsatz komprimieren. Aktivierungen entstehen erst zur Laufzeit und brauchen deshalb eine andere Behandlung.

Bei der statischen Quantisierung werden die Skalierungsfaktoren für Aktivierungen vorab mit Kalibrierungsdaten berechnet. Bei der dynamischen Quantisierung passieren diese Berechnungen erst während der Inferenz. Das ist meist leichter umzusetzen, kostet aber etwas mehr Zeit. Für den Einsatz in der Produktion sind statische Verfahren oft sparsamer. Am Ende läuft es immer auf denselben Zielkonflikt hinaus: mehr Tempo oder mehr Genauigkeit.

Begriff Bedeutung im Kontext der Schadenserkennung
Symmetrisch Nullzentrierte Skalierung; hardwarefreundlich.
Asymmetrisch Mit Nullpunkt; oft besser für ReLU-Aktivierungen.
Pro Tensor Ein Skalierungsfaktor pro Tensor.
Pro Kanal Eigener Faktor je Kanal; genauer bei großen Wertebereichen.

Welche Methode am besten passt, hängt von Latenz, Genauigkeit und der eingesetzten Hardware ab.

Wo leichtere Modelle auf dem Gerät den Unterschied machen

Quantisierte Modelle spielen ihre Stärke vor allem dort aus, wo keine stabile Cloud-Verbindung da ist oder jede Millisekunde zählt. Auf Endgeräten kann das die Schadenserkennung im mobilen Einsatz spürbar beschleunigen, etwa mit einer Latenz von 11,3 ms statt 53,3 ms auf der CPU.

Vor allem INT8-Quantisierung senkt den Speicherbedarf und die Rechenlast auf mobilen Endgeräten. Dadurch werden lokale Analysen besser umsetzbar. Welche Quantisierungsart sich im Einzelfall anbietet, klärt der nächste Abschnitt.

Die richtige Quantisierungsmethode wählen

Quantisierungsmethoden im Vergleich: Dynamisch vs. Statisch INT8 vs. QAT

Quantisierungsmethoden im Vergleich: Dynamisch vs. Statisch INT8 vs. QAT

Methode und Anwendungsfall zusammenbringen

Nach den Grundlagen geht es jetzt vor allem um die passende Wahl für Hardware, Latenz und Genauigkeit. Gerade bei digitalen Tools für Gutachter ist die Zielhardware oft der Punkt, der am meisten zählt.

Die Faustregel ist einfach: Wählen Sie nach Zielhardware und Genauigkeitsbedarf. Dynamische Quantisierung passt gut, wenn es schnell und ohne viel Umbau gehen soll. Statische Quantisierung ist oft die beste Wahl für CNNs im Inferenzbetrieb. Und QAT bietet sich an, wenn bei kleinen Schäden möglichst wenig verloren gehen darf.

Qualitätsmetriken vor dem Einsatz festlegen

Messen Sie die Modellgüte vor und nach der Quantisierung auf einem separaten Testdatensatz. Wichtig ist auch, jeden Schadenstyp einzeln zu bewerten. Ein Modell kann bei größeren Dellen gut abschneiden und bei feinen Kratzern trotzdem schwächeln.

Für die Fahrzeugschadenserkennung sind vor allem mAP für die Objekterkennung sowie Precision und Recall je Schadenstyp wichtig. Bei reinen Klassifikationsaufgaben kommen Accuracy und der F1-Score dazu.

Geschwindigkeit, Aufwand und Genauigkeitsverlust im Vergleich

Die folgende Gegenüberstellung fasst die typischen Unterschiede der Verfahren zusammen:

Methode Typische Bit-Breite Aufwand Inferenzgeschwindigkeit Genauigkeitsverlust Typischer Einsatz
Dynamische Quantisierung 8-Bit Niedrig Mittel Gering Mobile Schadenserkennung (einfache Umsetzung)
Statische Quantisierung 8-Bit Mittel Hoch Moderat CNN-basierte Bildmodelle
QAT 8-Bit Hoch Hoch Minimal Wenn kleine Kratzer und Dellen sicher erkannt werden müssen

Für die meisten CNN-basierten Schadenserkenner ist statische INT8-Quantisierung die Standardwahl. Der Genauigkeitsverlust liegt meist unter 1 %, während die Inferenz spürbar schneller wird.

QAT lohnt sich vor allem dann, wenn kleine Kratzer und Dellen sicher erkannt werden müssen. Dynamische Quantisierung ist dagegen oft der einfachste Einstieg, wenn die Umsetzung zügig erfolgen soll.

Im nächsten Schritt folgt der praktische Test mit Kalibrierungs- und Testdaten.

Quantisierung Schritt für Schritt anwenden und validieren

Steht die Methode fest, kommt der Teil, der in der Praxis zählt: kalibrieren, konvertieren, messen. Genau hier zeigt sich, ob ein quantisiertes Modell im Alltag sauber läuft oder später im Betrieb schwächelt.

Kalibrierungs- und Testdaten vorbereiten

Für die INT8-Quantisierung reichen oft schon 100 bis 500 repräsentative Bilder für die Kalibrierung. Diese Bilder sollten nicht zufällig gewählt sein. Sie müssen unterschiedliche Schäden, Lichtreflexe und Blickwinkel enthalten. Der Kalibrierungssatz sollte also eine kleine, gemischte Teilmenge der Trainings- oder Validierungsdaten sein und echte Bedingungen wie Farbe, Licht, Kameraqualität und Schadentypen abdecken.

Fehlt diese Abdeckung, werden die Quantisierungsparameter leicht schief gesetzt. Das kann dazu führen, dass die Modellgenauigkeit im Betrieb sinkt. Gerade bei Bildern aus dem Gutachtenprozess ist das heikel: Ein Modell, das im Test gut aussieht, kann bei anderem Licht oder bei schlechterer Kamera plötzlich danebenliegen.

Vor der Quantisierung sollte man außerdem Shape Inference ausführen und Convolution- mit BatchNorm-Schichten fusionieren. Das ist kein nettes Extra, sondern gehört zum sauberen Ablauf dazu.

Post-Training-Quantisierung in PyTorch und TensorFlow Lite anwenden

PyTorch

In TensorFlow Lite startet man am besten mit einer Konvertierung ohne Quantisierung. So lässt sich zuerst prüfen, ob die Operatoren überhaupt sauber unterstützt werden. Danach kann man schrittweise weitergehen.

Für die dynamische Quantisierung reicht:

  • converter.optimizations = [tf.lite.Optimize.DEFAULT]

Dabei werden die Gewichte auf 8 Bit reduziert. Ein Kalibrierungsdatensatz ist dafür nicht nötig.
Für die INT8-Quantisierung kommt zusätzlich ein representative_dataset-Generator mit den 100 bis 500 Kalibrierungsbildern dazu.

In PyTorch/ONNX Runtime ist der Ablauf ähnlich klar: erst quant_pre_process(), dann die Kalibrierung mit CalibrationDataReader, danach quantize_static(). Die statische INT8-Quantisierung ist hier der normale Pfad für die Konvertierung.

Auf x86-64-Maschinen ist das symmetrische S8S8-Format mit QDQ ein guter Startpunkt, wenn man Tempo und Genauigkeit in Balance halten will. Treten auf älteren CPU-Architekturen Clipping-Probleme auf, kann man reduce_range oder das U8U8-Format testen.

Prüfen, ob das quantisierte Modell die Produktionsanforderungen erfüllt

Nach der Quantisierung zählt nicht das Bauchgefühl, sondern der Vergleich mit dem ursprünglichen Float32-Modell auf demselben Testdatensatz. Dafür eignen sich Kennzahlen wie mAP oder F1-Score. Besonders wichtig ist das bei kleinen Kratzern und Dellen, denn genau dort fallen Fehler oft zuerst auf.

Die Zahlen dahinter sind stark: INT8-Quantisierung kann Modelle viermal kleiner machen und eine mehr als 3-fache Beschleunigung bringen. Die dynamische Quantisierung schafft auf CPUs oft eine 2- bis 3-fache Beschleunigung.

Wenn die Genauigkeit zu stark fällt, sollte man Gewichte und Aktivierungen zwischen Float32- und INT8-Modell direkt vergleichen, um die fehlerhafte Schicht zu finden. Das ist meist der schnellste Weg, statt im ganzen Modell im Nebel zu stochern.

Für besonders empfindliche Bildaufgaben kann auch das experimentelle 16x8-Schema in TFLite helfen. Dabei werden 16-Bit-Aktivierungen mit 8-Bit-Gewichten kombiniert.

Erst nach diesem Check ist klar, ob das Modell für den digitalen Gutachtenprozess taugt.

Quantisierte Modelle im digitalen Gutachtenprozess einsetzen

Wie quantisierte Modelle digitale Fahrzeuggutachten unterstützen

Hat das Modell die Produktionsprüfung bestanden, geht es in den eigentlichen Gutachtenprozess. Dann wertet es Fotos direkt am Container-Standort oder beim mobilen Termin aus und markiert auffällige Schadenstellen wie Kratzer, Dellen oder Glasbruch in 1 bis 3 Sekunden. Außerdem stuft es die Schwere grob ein.

Das bringt im Alltag spürbar Entlastung: Pro Fall lassen sich oft 15 bis 35 Minuten manueller Sichtung sparen. Gerade bei digitalisierten Abläufen an Container-Standorten und im mobilen Einsatz macht das einen klaren Unterschied.

Trotzdem sollte man die Ergebnisse nicht blind übernehmen. Liegt der Konfidenzwert unter 75 %, sollte der Fall automatisch zur manuellen Prüfung markiert werden. Das gilt vor allem dann, wenn bereits Vorschäden vorhanden sind oder wenn zwischen oberflächlichen und strukturellen Schäden sauber getrennt werden muss.

Damit ist der Job des Modells aber nicht erledigt. Im Alltag zählt nicht nur Tempo, sondern auch saubere Kontrolle.

Quantisierte Modelle nach dem Rollout überwachen und pflegen

Ohne Monitoring fällt die Genauigkeit innerhalb von sechs Monaten oft um 15 bis 20 Prozentpunkte. Gründe dafür sind zum Beispiel neue Fahrzeugmodelle, veränderte Lacktechnologien oder andere Kameraqualitäten.

Darum hat sich ein vierteljährliches Audit bewährt. Dabei werden mindestens 100 zufällig ausgewählte Fälle manuell mit den KI-Klassifikationen abgeglichen. Liegt die Fehlerquote über 15 %, steht eine Nachtrainierung an. Die manuellen Korrekturen gehen dann in das nächste Retraining ein.

Fazit: Was Quantisierung verbessert und wo Vorsicht geboten ist

Unterm Strich bringt Quantisierung mehr Tempo und macht den Einsatz auf mobilen Geräten einfacher. Gleichzeitig braucht sie laufende Kontrolle. Ob der Vorteil im Alltag standhält, hängt stark davon ab, wie sauber Methode, Kalibrierung und Validierung gewählt wurden.

Edge/Mobil senkt Latenz und spart Bandbreite. Cloud/Server hat meist mehr Reserven, bringt aber mehr Aufwand bei der Infrastruktur mit. Die KI dient damit als zweite Meinung; die letzte Entscheidung bleibt beim Sachverständigen.

FAQs

Wann lohnt sich QAT statt INT8?

QAT lohnt sich im Vergleich zur einfachen Post-Training-Quantisierung, wenn der Wechsel auf INT8 zu viel Genauigkeit kostet.

Im Unterschied zu PTQ fließt die Quantisierung bei QAT schon in die Feinabstimmung ein. Das Modell lernt also früh, mit der geringeren Präzision umzugehen. Dadurch bleibt es auf Hardware mit knappen Ressourcen oft genauer.

Wie wähle ich gute Kalibrierungsbilder aus?

Wählen Sie gute Bilder, die verschiedene Fahrzeugmodelle, Lackfarben und Schadensarten zeigen. Achten Sie dabei auf unterschiedliche Lichtverhältnisse und Perspektiven. Weiches Licht hilft, harte Schatten und störende Reflexionen zu vermeiden.

Für eine gleichmäßige Datenbasis passen standardisierte Aufnahmen aus 1 bis 2 Metern Abstand sowie genaue Nahaufnahmen der Schäden. Unscharfe oder schwache Bilder sollten vor der Kalibrierung aussortiert werden.

Wie oft sollte ich das Modell nachtrainieren?

Da sich Fahrzeugdesigns, Materialien und Lackierungen laufend ändern, sollte das Modell regelmäßig nachtrainiert werden. Nur so bleibt die Genauigkeit auf Dauer stabil.

Professionelle Systeme werden dafür fortlaufend mit neuen Bilddaten aktualisiert. Das hilft, auch neue Fahrzeugmodelle oder besondere Schadensbilder sauber zu erkennen und auf dem neuesten Stand zu bleiben.

Verwandte Blogbeiträge