Exporter pour le déploiement

Exemple pratique : exporter vers ONNX#

yolo export model=runs/detect/pills_v1/weights/best.pt format=onnx

PyTorch: starting from 'runs/detect/pills_v1/weights/best.pt' with input shape (1, 3, 320, 320) BCHW and output shape(s) (1, 5, 2100) (5.2 MB)
ONNX: export success ✅ 0.9s, saved as 'runs/detect/pills_v1/weights/best.onnx' (9.3 MB)
Predict:         yolo predict task=detect model=runs/detect/pills_v1/weights/best.onnx imgsz=320
Validate:        yolo val task=detect model=runs/detect/pills_v1/weights/best.onnx imgsz=320 data=my_dataset/data.yaml

Ligne par ligne :

• input shape (1, 3, 320, 320) : une image, 3 canaux couleur, un carré fixe de 320×320 — le imgsz utilisé pour l'entraînement, intégré au fichier.
• output shape(s) (1, 5, 2100) : 4 valeurs de boîte plus 1 score de classe pour 2 100 boîtes candidates ; NMS est exécuté en dehors du graphe par défaut.
• 9.3 MB : le fichier ONNX stocke des poids FP32 ; il est donc plus volumineux que le .pt en FP16.
• Predict: / Validate: : des commandes prêtes à l'emploi pour le fichier exporté, avec le imgsz approprié.

Quelques arguments couvrent la plupart des besoins ; le guide d'intégration ONNX répertorie les autres.

Exemple pratique : vérifier que l'export correspond au modèle#

La classe YOLO charge aussi les fichiers exportés ; le code de prédiction présenté précédemment fonctionne donc sans modification. Compare les deux fichiers sur la même image de validation :

from ultralytics import YOLO

image = "my_dataset/images/val/Frame_144.jpg"
pt = YOLO("runs/detect/pills_v1/weights/best.pt")(image, rect=False, verbose=False)[0]  # square input, like ONNX
onnx = YOLO("runs/detect/pills_v1/weights/best.onnx")(image, verbose=False)[0]

print(f"pt:   {len(pt.boxes)} pills, mean conf {pt.boxes.conf.mean():.3f}")
print(f"onnx: {len(onnx.boxes)} pills, mean conf {onnx.boxes.conf.mean():.3f}")
print(f"max box difference: {(pt.boxes.xyxy - onnx.boxes.xyxy).abs().max():.4f} px")

pt:   25 pills, mean conf 0.870
onnx: 25 pills, mean conf 0.870
max box difference: 0.0002 px

Même nombre, même confiance, boîtes identiques à une fraction de pixel près. Passons maintenant à la vérification plus rigoureuse : la validation sur l'ensemble du découpage :

from ultralytics import YOLO

pt = YOLO("runs/detect/pills_v1/weights/best.pt").val(data="my_dataset/data.yaml", rect=False, verbose=False)
onnx = YOLO("runs/detect/pills_v1/weights/best.onnx").val(data="my_dataset/data.yaml", verbose=False)
print(f".pt   mAP50-95 {pt.box.map:.4f}")
print(f".onnx mAP50-95 {onnx.box.map:.4f}")

.pt   mAP50-95 0.6570
.onnx mAP50-95 0.6570

Identiques. (La validation rectangulaire par défaut du fichier .pt a obtenu 0.659 : le léger écart vient du remplissage de l'entrée, et non de l'export.)

Une fois la correspondance vérifiée, mesure le temps avec yolo benchmark sur l'appareil cible afin de connaître sa vitesse réelle avant le déploiement.

Choisir un format pour ta cible#

from ultralytics import YOLO

model = YOLO("runs/detect/pills_v1/weights/best.pt")

model.export(format="onnx")  # multiplateforme : ONNX Runtime
model.export(format="openvino")  # CPU / iGPU Intel
model.export(format="engine", quantize=16)  # NVIDIA TensorRT, FP16 (exécution sur le GPU cible)
model.export(format="coreml")  # Apple iOS / macOS
model.export(format="litert", quantize=8, data="my_dataset/data.yaml")  # Android / périphérie, INT8
model.export(format="qnn", name="73", data="my_dataset/data.yaml")  # NPU Qualcomm Snapdragon (HTP v73) ; calibre avec tes propres données

Chaque export écrit les fichiers à côté des poids : best.onnx, best_openvino_model/, best.engine, et ainsi de suite. Commence par ONNX, même si tu optes finalement pour un autre format : c’est le plus rapide à vérifier et il sert d’entrée à plusieurs autres chaînes d’outils. Le guide des options de déploiement compare tous les formats, et Choisir une cible de déploiement t’aide à prendre ta décision.

La quantification des modèles échange de la précision contre une réduction de taille et un gain de vitesse. FP16 (quantize=16) divise la taille du fichier par deux avec une précision presque inchangée. INT8 (quantize=8) réduit encore la taille et accélère davantage, mais nécessite des images de calibration — des images représentatives que l’export traite pour déterminer les plages de valeurs ; Ultralytics en recommande au moins 300. Valide toujours un modèle INT8 avant sa mise en production : la perte peut être négligeable ou importante selon le modèle et le jeu de calibration.

Éviter ces erreurs#

Tu as déployé#

Tu disposes maintenant d’un best.pt entraîné, de résultats de validation comparés à une référence, d’un fichier exporté pour ton environnement d’exécution et de la preuve que l’export correspond à l’original. C’est le cycle complet — données, entraînement, validation, export, déploiement — que les équipes en production exécutent régulièrement. Ultralytics YOLO en production part de ton export vérifié et couvre les environnements d’exécution optimisés, les pipelines de suivi, le traitement de plusieurs flux et la surveillance.