Dağıtım için dışa aktar

Uygulamalı Örnek: ONNX Biçimine Aktar#

yolo export model=runs/detect/pills_v1/weights/best.pt format=onnx

PyTorch: starting from 'runs/detect/pills_v1/weights/best.pt' with input shape (1, 3, 320, 320) BCHW and output shape(s) (1, 5, 2100) (5.2 MB)
ONNX: export success ✅ 0.9s, saved as 'runs/detect/pills_v1/weights/best.onnx' (9.3 MB)
Predict:         yolo predict task=detect model=runs/detect/pills_v1/weights/best.onnx imgsz=320
Validate:        yolo val task=detect model=runs/detect/pills_v1/weights/best.onnx imgsz=320 data=my_dataset/data.yaml

Satır satır:

• input shape (1, 3, 320, 320): bir görüntü, 3 renk kanalı, sabit 320×320 kare — dosyaya gömülü eğitim imgsz değeri.
• output shape(s) (1, 5, 2100): 2.100 aday kutu için 4 kutu değeri ve 1 sınıf skoru; varsayılan olarak NMS grafiğin dışında çalışır.
• 9.3 MB: ONNX dosyası FP32 ağırlıkları depolar, bu nedenle FP16 .pt dosyasından daha büyüktür.
• Predict: / Validate:: dışa aktarılan dosya için, doğru imgsz değerini önceden kullanan hazır komutlar.

Çoğu gereksinim için birkaç argüman yeterlidir; geri kalanları ONNX entegrasyon kılavuzunda bulabilirsin.

Uygulamalı Örnek: Dışa Aktarmanın Eşleştiğini Kanıtla#

YOLO sınıfı dışa aktarılan dosyaları da yükler; böylece önceki predict kodu değişmeden çalışır. Her iki dosyayı da aynı doğrulama görüntüsünde karşılaştır:

from ultralytics import YOLO

image = "my_dataset/images/val/Frame_144.jpg"
pt = YOLO("runs/detect/pills_v1/weights/best.pt")(image, rect=False, verbose=False)[0]  # square input, like ONNX
onnx = YOLO("runs/detect/pills_v1/weights/best.onnx")(image, verbose=False)[0]

print(f"pt:   {len(pt.boxes)} pills, mean conf {pt.boxes.conf.mean():.3f}")
print(f"onnx: {len(onnx.boxes)} pills, mean conf {onnx.boxes.conf.mean():.3f}")
print(f"max box difference: {(pt.boxes.xyxy - onnx.boxes.xyxy).abs().max():.4f} px")

pt:   25 pills, mean conf 0.870
onnx: 25 pills, mean conf 0.870
max box difference: 0.0002 px

Sayı aynı, güven aynı, kutular pikselin küçük bir kesri kadar farkla özdeş. Şimdi daha güçlü kontrolü, tüm veri bölümü üzerinde doğrulamayı yap:

from ultralytics import YOLO

pt = YOLO("runs/detect/pills_v1/weights/best.pt").val(data="my_dataset/data.yaml", rect=False, verbose=False)
onnx = YOLO("runs/detect/pills_v1/weights/best.onnx").val(data="my_dataset/data.yaml", verbose=False)
print(f".pt   mAP50-95 {pt.box.map:.4f}")
print(f".onnx mAP50-95 {onnx.box.map:.4f}")

.pt   mAP50-95 0.6570
.onnx mAP50-95 0.6570

Özdeş. (.pt dosyasının varsayılan dikdörtgen doğrulama puanı 0.659 oldu: dışa aktarmadan değil, giriş dolgusundan kaynaklanan küçük bir fark.)

Eşleştiğini doğruladıktan sonra, dağıtıma almadan önce gerçek hızını öğrenmek için hedef cihazda yolo benchmark ile süre ölçümü yap.

Hedefin için bir biçim seç#

from ultralytics import YOLO

model = YOLO("runs/detect/pills_v1/weights/best.pt")

model.export(format="onnx")  # platformlar arası: ONNX Runtime
model.export(format="openvino")  # Intel CPU / tümleşik GPU
model.export(format="engine", quantize=16)  # NVIDIA TensorRT, FP16 (hedef GPU'da çalıştır)
model.export(format="coreml")  # Apple iOS / macOS
model.export(format="litert", quantize=8, data="my_dataset/data.yaml")  # Android / uç cihaz, INT8
model.export(format="qnn", name="73", data="my_dataset/data.yaml")  # Qualcomm Snapdragon NPU (HTP v73); kendi verilerinle kalibrasyon yap

Her dışa aktarma, ağırlıkların yanına şunları yazar: best.onnx, best_openvino_model/, best.engine ve bu şekilde devam eder. Sonunda başka bir biçim kullanacak olsan bile ONNX ile başla: doğrulaması en hızlı olan biçimdir ve diğer bazı araç zincirleri için girdi görevi görür. Dağıtım seçenekleri kılavuzu tüm biçimleri karşılaştırır, Dağıtım Hedefi Seç ise karar verme sürecinde sana yol gösterir.

Model niceleme, boyut ve hız karşılığında hassasiyetten ödün verir. FP16 (quantize=16), doğruluk neredeyse hiç değişmeden dosya boyutunu yarıya indirir. INT8 (quantize=8) dosyayı daha da küçültür ve hızı artırır; ancak değer aralıklarını seçmek için dışa aktarma işleminin üzerinde çalıştırdığı temsili kareler olan kalibrasyon görüntülerini gerektirir; Ultralytics en az 300 görüntü kullanılmasını önerir. INT8 modelini kullanıma almadan önce mutlaka doğrula: doğruluk kaybı, modele ve kalibrasyon kümesine bağlı olarak ihmal edilebilir düzeyde de büyük de olabilir.

Bu Hatalardan Kaçın#

Ürünü yayına aldın#

Artık eğitilmiş bir best.pt modelin, temel modelle karşılaştırmanın yanında doğrulama kanıtların, çalışma ortamına uygun bir dışa aktarım dosyan ve dışa aktarılan modelin orijinaliyle eşleştiğini gösteren kanıtın var. Böylece tüm döngüyü tamamladın: veri, eğitim, doğrulama, dışa aktarma ve dağıtım. Üretim ekipleri bu döngüyü belirli aralıklarla yürütür. Üretimde Ultralytics YOLO, doğruladığın dışa aktarımla devam eder; optimize edilmiş çalışma ortamlarını, izleme işlem hatlarını, çoklu akış sunumunu ve izlemeyi ele alır.