Esporta per la distribuzione

Esempio svolto: esportare in ONNX#

yolo export model=runs/detect/pills_v1/weights/best.pt format=onnx

PyTorch: starting from 'runs/detect/pills_v1/weights/best.pt' with input shape (1, 3, 320, 320) BCHW and output shape(s) (1, 5, 2100) (5.2 MB)
ONNX: export success ✅ 0.9s, saved as 'runs/detect/pills_v1/weights/best.onnx' (9.3 MB)
Predict:         yolo predict task=detect model=runs/detect/pills_v1/weights/best.onnx imgsz=320
Validate:        yolo val task=detect model=runs/detect/pills_v1/weights/best.onnx imgsz=320 data=my_dataset/data.yaml

Analisi riga per riga:

• input shape (1, 3, 320, 320): un'immagine, 3 canali di colore, un quadrato fisso di 320×320: la dimensione imgsz usata durante l'addestramento, incorporata nel file.
• output shape(s) (1, 5, 2100): 4 valori per il riquadro più 1 punteggio di classe per 2.100 riquadri candidati; per impostazione predefinita, NMS viene eseguita all'esterno del grafo.
• 9.3 MB: il file ONNX memorizza i pesi FP32, quindi è più grande di .pt in FP16.
• Predict: / Validate:: comandi già pronti per il file esportato, con il valore corretto di imgsz.

Bastano pochi argomenti per la maggior parte dei casi; la guida all'integrazione ONNX elenca gli altri.

Esempio svolto: verifica che l'esportazione corrisponda al modello#

Anche la classe YOLO carica i file esportati, quindi il codice di predict visto in precedenza funziona senza modifiche. Confronta entrambi i file sulla stessa immagine di validazione:

from ultralytics import YOLO

image = "my_dataset/images/val/Frame_144.jpg"
pt = YOLO("runs/detect/pills_v1/weights/best.pt")(image, rect=False, verbose=False)[0]  # square input, like ONNX
onnx = YOLO("runs/detect/pills_v1/weights/best.onnx")(image, verbose=False)[0]

print(f"pt:   {len(pt.boxes)} pills, mean conf {pt.boxes.conf.mean():.3f}")
print(f"onnx: {len(onnx.boxes)} pills, mean conf {onnx.boxes.conf.mean():.3f}")
print(f"max box difference: {(pt.boxes.xyxy - onnx.boxes.xyxy).abs().max():.4f} px")

pt:   25 pills, mean conf 0.870
onnx: 25 pills, mean conf 0.870
max box difference: 0.0002 px

Stesso conteggio, stessa confidenza, riquadri identici fino a una frazione di pixel. Ora esegui il controllo più rigoroso: la validazione sull'intero split:

from ultralytics import YOLO

pt = YOLO("runs/detect/pills_v1/weights/best.pt").val(data="my_dataset/data.yaml", rect=False, verbose=False)
onnx = YOLO("runs/detect/pills_v1/weights/best.onnx").val(data="my_dataset/data.yaml", verbose=False)
print(f".pt   mAP50-95 {pt.box.map:.4f}")
print(f".onnx mAP50-95 {onnx.box.map:.4f}")

.pt   mAP50-95 0.6570
.onnx mAP50-95 0.6570

Identici. (La validazione rettangolare predefinita del file .pt ha ottenuto 0.659: una piccola differenza dovuta al padding dell'input, non all'esportazione.)

Una volta verificata la corrispondenza, misura i tempi con yolo benchmark sul dispositivo di destinazione, così saprai quanto è veloce prima di distribuirlo.

Scegli un formato per la piattaforma di destinazione#

from ultralytics import YOLO

model = YOLO("runs/detect/pills_v1/weights/best.pt")

model.export(format="onnx")  # multipiattaforma: ONNX Runtime
model.export(format="openvino")  # CPU / iGPU Intel
model.export(format="engine", quantize=16)  # NVIDIA TensorRT, FP16 (esegui sulla GPU di destinazione)
model.export(format="coreml")  # Apple iOS / macOS
model.export(format="litert", quantize=8, data="my_dataset/data.yaml")  # Android / edge, INT8
model.export(format="qnn", name="73", data="my_dataset/data.yaml")  # NPU Qualcomm Snapdragon (HTP v73); calibra sui tuoi dati

Ogni esportazione scrive i file accanto ai pesi: best.onnx, best_openvino_model/, best.engine e così via. Inizia con ONNX anche se alla fine userai un altro formato: è il più rapido da verificare e costituisce l'input per diverse altre toolchain. La guida alle opzioni di deployment confronta tutti i formati, mentre Scegliere una destinazione di deployment ti accompagna nella scelta.

La quantizzazione del modello scambia precisione con dimensioni e velocità. FP16 (quantize=16) dimezza le dimensioni del file con una precisione quasi invariata. INT8 (quantize=8) riduce ulteriormente le dimensioni e aumenta la velocità, ma richiede immagini di calibrazione: fotogrammi rappresentativi che l'esportazione elabora per scegliere gli intervalli dei valori; Ultralytics ne consiglia almeno 300. Convalida sempre un modello INT8 prima della distribuzione: la perdita può essere trascurabile o notevole, a seconda del modello e del set di calibrazione.

Evita questi errori#

Hai completato la distribuzione#

Ora hai un best.pt addestrato, i risultati della convalida accanto a un valore di riferimento, un file esportato per il tuo runtime e la prova che l'esportazione corrisponde all'originale. Hai completato l'intero ciclo — dati, addestramento, convalida, esportazione, deployment — che i team di produzione eseguono secondo una pianificazione. Ultralytics YOLO in Production riparte dalla tua esportazione verificata e tratta runtime ottimizzati, pipeline di tracking, gestione di più flussi e monitoraggio.