Für den Einsatz exportieren

Beispiel: Nach ONNX exportieren#

yolo export model=runs/detect/pills_v1/weights/best.pt format=onnx

PyTorch: starting from 'runs/detect/pills_v1/weights/best.pt' with input shape (1, 3, 320, 320) BCHW and output shape(s) (1, 5, 2100) (5.2 MB)
ONNX: export success ✅ 0.9s, saved as 'runs/detect/pills_v1/weights/best.onnx' (9.3 MB)
Predict:         yolo predict task=detect model=runs/detect/pills_v1/weights/best.onnx imgsz=320
Validate:        yolo val task=detect model=runs/detect/pills_v1/weights/best.onnx imgsz=320 data=my_dataset/data.yaml

Zeile für Zeile:

• input shape (1, 3, 320, 320): ein Bild, 3 Farbkanäle, ein festes Quadrat mit 320×320 Pixeln — die beim Training verwendete imgsz, fest in der Datei hinterlegt.
• output shape(s) (1, 5, 2100): 4 Boxwerte plus 1 Klassenwert für 2.100 Kandidatenboxen; NMS wird standardmäßig außerhalb des Graphen ausgeführt.
• 9.3 MB: Die ONNX-Datei speichert FP32-Gewichte und ist daher größer als die Datei mit FP16-.pt.
• Predict: / Validate:: fertige Befehle für die exportierte Datei, bereits mit der passenden imgsz.

Einige Argumente decken die meisten Anwendungsfälle ab; der ONNX-Integrationsleitfaden führt die übrigen auf.

Beispiel: Nachweisen, dass der Export übereinstimmt#

Die Klasse YOLO lädt auch exportierte Dateien, sodass der zuvor gezeigte Predict-Code unverändert funktioniert. Vergleiche beide Dateien anhand desselben Validierungsbildes:

from ultralytics import YOLO

image = "my_dataset/images/val/Frame_144.jpg"
pt = YOLO("runs/detect/pills_v1/weights/best.pt")(image, rect=False, verbose=False)[0]  # square input, like ONNX
onnx = YOLO("runs/detect/pills_v1/weights/best.onnx")(image, verbose=False)[0]

print(f"pt:   {len(pt.boxes)} pills, mean conf {pt.boxes.conf.mean():.3f}")
print(f"onnx: {len(onnx.boxes)} pills, mean conf {onnx.boxes.conf.mean():.3f}")
print(f"max box difference: {(pt.boxes.xyxy - onnx.boxes.xyxy).abs().max():.4f} px")

pt:   25 pills, mean conf 0.870
onnx: 25 pills, mean conf 0.870
max box difference: 0.0002 px

Gleiche Anzahl, gleiche Konfidenz, Boxen bis auf einen Bruchteil eines Pixels identisch. Jetzt folgt die aussagekräftigere Prüfung: Validierung über die gesamte Aufteilung:

from ultralytics import YOLO

pt = YOLO("runs/detect/pills_v1/weights/best.pt").val(data="my_dataset/data.yaml", rect=False, verbose=False)
onnx = YOLO("runs/detect/pills_v1/weights/best.onnx").val(data="my_dataset/data.yaml", verbose=False)
print(f".pt   mAP50-95 {pt.box.map:.4f}")
print(f".onnx mAP50-95 {onnx.box.map:.4f}")

.pt   mAP50-95 0.6570
.onnx mAP50-95 0.6570

Identisch. (Die rechteckige Validierung mit Standardeinstellungen für die Datei .pt ergab 0.659: eine kleine Abweichung durch das Auffüllen der Eingabe, nicht durch den Export.)

Sobald die Ergebnisse übereinstimmen, miss die Laufzeit mit yolo benchmark auf dem Zielgerät, damit du die tatsächliche Geschwindigkeit kennst, bevor du das Modell bereitstellst.

Ein Format für dein Ziel auswählen#

from ultralytics import YOLO

model = YOLO("runs/detect/pills_v1/weights/best.pt")

model.export(format="onnx")  # plattformübergreifend: ONNX Runtime
model.export(format="openvino")  # Intel-CPU / integrierte GPU
model.export(format="engine", quantize=16)  # NVIDIA TensorRT, FP16 (auf der Ziel-GPU ausführen)
model.export(format="coreml")  # Apple iOS / macOS
model.export(format="litert", quantize=8, data="my_dataset/data.yaml")  # Android / Edge, INT8
model.export(format="qnn", name="73", data="my_dataset/data.yaml")  # Qualcomm Snapdragon NPU (HTP v73); kalibriere mit deinen eigenen Daten

Jeder Export wird neben den Gewichten gespeichert: best.onnx, best_openvino_model/, best.engine usw. Beginne mit ONNX, auch wenn du später ein anderes Format verwendest: Es lässt sich am schnellsten überprüfen und dient als Eingabe für mehrere andere Toolchains. Der Leitfaden zu den Bereitstellungsoptionen vergleicht alle Formate, und Ein Bereitstellungsziel auswählen führt dich durch die Entscheidung.

Modellquantisierung tauscht Genauigkeit gegen geringere Größe und höhere Geschwindigkeit. FP16 (quantize=16) halbiert die Dateigröße bei nahezu unveränderter Genauigkeit. INT8 (quantize=8) ist noch kleiner und schneller, benötigt aber Kalibrierungsbilder – repräsentative Frames, die beim Export verarbeitet werden, um Wertebereiche festzulegen; Ultralytics empfiehlt mindestens 300. Überprüfe ein INT8-Modell immer, bevor du es einsetzt: Der Genauigkeitsverlust kann je nach Modell und Kalibrierungsdatensatz vernachlässigbar oder erheblich sein.

Diese Fehler vermeiden#

Du hast es ausgeliefert#

Du hast jetzt ein trainiertes best.pt, Validierungsnachweise neben einer Baseline, eine exportierte Datei für deine Laufzeitumgebung und den Beleg, dass der Export mit dem Original übereinstimmt. Das ist der vollständige Ablauf – Daten, Training, Validierung, Export, Bereitstellung – und Produktionsteams führen ihn regelmäßig aus. Ultralytics YOLO in der Produktion knüpft an deinen geprüften Export an und behandelt optimierte Laufzeitumgebungen, Tracking-Pipelines, die Bereitstellung mehrerer Streams und Monitoring.