Maliyet ve Gecikme Ayarı

Önce İşlem Hattının Tamamını Ölç#

Her Results nesnesi kendi süresini aşamalara böler:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
video = "https://github.com/ultralytics/assets/releases/download/v0.0.0/solutions_ci_demo.mp4"
totals = {"preprocess": 0.0, "inference": 0.0, "postprocess": 0.0}
for n, r in enumerate(model.predict(video, stream=True, verbose=False), 1):
    for stage in totals:
        totals[stage] += r.speed[stage]
print({stage: round(ms / n, 1) for stage, ms in totals.items()}, "ms per frame")

{'preprocess': 0.7, 'inference': 36.1, 'postprocess': 0.7} ms per frame

Burada çıkarım, modelin süresinin %95'ini oluşturuyor; dolayısıyla model ayarları işe yarayacaktır. Kod çözme ve kendi çıktı işlemlerinin sürelerini de aynı şekilde ölç (time.perf_counter() kodunu her birinin çevresine ekle), ardından bulduğun sonuca göre şu kuralı uygula:

Ayarların Etki Sıralaması#

En üsttekinden başla ve bütçene ulaştığında dur:

Sayılar YOLO26, TensorRT ve OpenVINO kıyaslama tablolarından ve aşağıdaki ölçümlerden alınmıştır; senin sonuçların farklı olacaktır, bu yüzden ölçüm yap.

Daha Küçük Model#

COCO'daki YOLO26 kıyaslama tablosu:

CPU'da model boyutunu her adım küçültmek 2.2–2.5× daha hızlı sonuç verir. COCO'daki doğruluk farkı en kötü senaryodur: büyük nesneler içeren ve 3 sınıfa odaklanan bir depo algılayıcısında m → n geçişi, 80 sınıflı genel amaçlı bir algılayıcıya kıyasla genellikle çok daha az kayba yol açar; bu yüzden daha küçük modeli her zaman kendi doğrulama kümenizde denemeye değer.

Daha Küçük Girdi#

Hesaplama yükü piksel sayısıyla yaklaşık orantılıdır; bu nedenle imgsz=480, 640 boyutundaki girdinin iş yükünün yaklaşık %56'sını gerektirir. Test dizüstü bilgisayarının CPU'sunda, ONNX Runtime ile toplu iş boyutu 1'de ölçülmüştür (bus.jpg üzerinde 25 çalıştırmanın ortanca değeri):

Karar kuralı: yeni boyutta en küçük önemli nesnen hâlâ yaklaşık 10 piksel veya daha büyükse dene; nesneler küçük veya uzaktaysa (dronlar, kameradan uzaktaki raflar) çözünürlüğü koru ve bunun yerine modeli küçült.

Daha Az Kare#

Çıkarım kare hızını sınırlıyorsa ve sahne yavaş hareket ediyorsa, vid_stride=N ile her N'inci karede algılama çalıştır ve aradaki boşlukları izleyicinin kapatmasını sağla:

import time

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
video = "https://github.com/ultralytics/assets/releases/download/v0.0.0/solutions_ci_demo.mp4"
model.predict(video, vid_stride=30, verbose=False)  # warm up so the first timing is fair

for stride in (1, 2, 3):
    start, ids, frames = time.perf_counter(), set(), 0
    for r in model.track(video, stream=True, vid_stride=stride, tracker="bytetrack.yaml", classes=[0], verbose=False):
        frames += 1
        if r.boxes.is_track:
            ids.update(r.boxes.id.int().tolist())
    print(f"vid_stride={stride}: {frames} frames in {time.perf_counter() - start:.2f} s, {len(ids)} person IDs")

vid_stride=1: 62 frames in 2.66 s, 32 person IDs
vid_stride=2: 31 frames in 1.19 s, 30 person IDs
vid_stride=3: 20 frames in 0.95 s, 28 person IDs

Karelerin yarısını işlemek yaklaşık yarı süre alır ve izleyici 32 kimliğin 30'unu korudu. vid_stride=3 değerinde 4 kimliği kaybetti; yürüme hızındaki bu sahnede durman gerektiğini gösteren işaret budur.

Bulut Maliyetini Düşür#

Maliyet, örnek saatlerinin yararlı iş miktarına bölünmesiyle hesaplanır. Bunun gibi bir kart, ihtiyacın olan iki sayıyı gösterir: bir saatin maliyeti (burada 1 vCPU ve 4 GiB için 0,17 $) ve yaptığı iş miktarı (çoğunlukla boşta olan bir uç noktada 226 ms P95 ile 24 saatte 59 istek). Ardından:

• Kullanım oranını artır. %30 kullanım oranındaki bir GPU, faturasının %70'ini boşa harcar. Akışları toplu olarak işle (önceki dersler) veya Triton Inference Server üzerinden hizmet sun.
• Boyutu ihtiyaca göre ayarla. Büyük bir GPU'ya ihtiyacın olduğunu varsaymadan önce daha küçük bir GPU'da veya OpenVINO ile CPU'da kıyaslama yap.
• Toplu işler için spot veya kesintiye uğratılabilir kapasite kullan. Arşivlenmiş videoları yeniden işlerken kesintiler tolere edilebilir; canlı akışlarda edilemez.

Yaygın Hatalar#