اختر هدف النشر

ابدأ من الجهاز#

تُحدَّد بيئة التشغيل وفقًا لمكان إجراء الاستدلال، لا للعادة. اتبع شجرة القرار من أعلاها وتوقف عند أول خيار ينطبق:

ترتبط كل بيئة تشغيل بقيمة format= واحدة في وضع التصدير:

على منصات Apple الحديثة، يمكنك أيضًا التصدير بتنسيق Core AI الأحدث من Apple (format=coreai، ويُصدَّر على macOS 26+ باستخدام Apple silicon أو Linux بمعمارية x86-64). هل أنت جديد على التصدير؟ يشرح درس التصدير للنشر الأساسيات.

إذا كنت تفضّل عدم تشغيل خوادم الاستدلال مطلقًا، تنشر Ultralytics Platform النموذج بوصفه نقطة نهاية مخصصة في واحدة من 42 منطقة، وتُظهر علامة تبويب Deployments في ملفك الشخصي مواقع تشغيل كل منها:

يتناول نشر نقطة نهاية واستدعاؤها هذا المسار. أما بقية هذه الدورة فتتناول تشغيلك للنموذج بنفسك.

حوّل هدف FPS إلى ميزانية بالمللي ثانية#

«الوقت الفعلي» ليس متطلبًا؛ بل المطلوب رقم محدد. احسبه قبل إجراء أي اختبار للأداء:

ثم طبّق قواعد اتخاذ القرار التالية:

• إذا تجاوز YOLO26n ميزانية النموذج على وحدة المعالجة المركزية للجهاز، فانتقل إلى مسرّع (GPU أو iGPU أو NPU)، أو قلّص imgsz قبل أي شيء آخر؛ تسرد معايير YOLO26 زمن YOLO26n البالغ 38.9 ms على ONNX باستخدام CPU و1.7 ms على T4 باستخدام TensorRT.
• إذا كان على جهاز واحد خدمة عدة كاميرات، فاقسم ميزانية النموذج على عدد الكاميرات.
• إذا ضم الأسطول أكثر من بضعة أنواع من الأجهزة، ففضّل بيئات التشغيل التي لا تتطلب إصدارات مخصّصة لكل جهاز، أو خطط لإنشاء إصدار لكل فئة من الأجهزة.
• إذا كان رمز الاستدعاء مكتوبًا بـ Swift أو Kotlin أو C++، فتحقق من توفر SDK لبيئة التشغيل باللغة المعنية قبل الالتزام بها.

اختبر أداء الخيارات المرشحة على الجهاز#

تُعدّ المواصفات الفنية واختبارات الأداء التي أجراها الآخرون نقطة بداية. لكن القرار يُتخذ على العتاد الذي ستنشر عليه، وبناءً على الإطارات البطيئة لا المتوسط: فبيئة التشغيل السريعة عند القيمة الوسيطة، لكنها تتوقف عند إطار واحد من كل عشرين، ستظل تُسقط إطارات. يصدّر هذا البرنامج النصي كل خيار مرشح، ويقيس زمن 100 عملية استدلال على إطار حقيقي، ثم يقيّم كل خيار وفق النسبة المئوية الخامسة والتسعين (p95):

from ultralytics import YOLO
from ultralytics.utils.downloads import safe_download

BUDGET_MS = 30  # the model's share of a 20 FPS frame budget
CANDIDATES = ("onnx", "openvino")  # runtimes the decision tree allows on this machine

if __name__ == "__main__":  # exports and inference can start worker processes on macOS and Windows
    frame = str(safe_download("https://ultralytics.com/images/bus.jpg"))  # use a real frame from your camera
    for fmt in CANDIDATES:
        model = YOLO(YOLO("yolo26n.pt").export(format=fmt))
        for _ in range(5):  # warm up: the first calls include one-time setup
            model(frame, verbose=False)
        runs = sorted(model(frame, verbose=False)[0].speed["inference"] for _ in range(100))
        p50, p95 = runs[49], runs[94]
        verdict = "meets" if p95 <= BUDGET_MS else "misses"
        print(f"{fmt:9s} p50 {p50:5.1f} ms  p95 {p95:5.1f} ms  {verdict} the {BUDGET_MS} ms budget")

على حاسوب Apple silicon المحمول المستخدم لاختبار هذه الدورة، مع مشاركة مهام أخرى لوحدة المعالجة المركزية:

onnx      p50  30.0 ms  p95  46.4 ms  misses the 30 ms budget
openvino  p50  22.8 ms  p95 113.5 ms  misses the 30 ms budget

اقرأها سطرًا سطرًا:

• speed["inference"] هو الزمن الذي استغرقه النموذج لمعالجة ذلك الإطار، دون فك الترميز أو الرسم، ما يتيح مقارنة بيئات التشغيل على نحو عادل.
• يتفوق OpenVINO في القيمة الوسيطة، لكنه يتراجع في p95 بفارق يزيد على الضعف. لو اعتمدت على المتوسطات، لشحنت بيئة التشغيل التي تتوقف في أوقات الازدحام؛ أما عند التقييم وفق p95، فـ ONNX Runtime هو الخيار الأكثر استقرارًا على هذا الجهاز.
• كلاهما يتجاوز الميزانية، لذا فالخطوة التالية هنا هي استخدام imgsz أصغر، أو مسرّع، أو عدد أقل من الكاميرات لكل جهاز، وليس تجربة بيئة تشغيل أخرى لوحدة المعالجة المركزية.

لإجراء مقارنة سريعة للدقة والسرعة عبر التنسيقات، يصدّر وضع Benchmark كل تنسيق ويُجري التحقق منه وقياس زمنه:

yolo benchmark model=yolo26n.pt data=coco8.yaml imgsz=640 format=onnx

احذف format= لاختبار كل تنسيق يدعمه الجهاز. لا يضم COCO8 سوى أربع صور للتحقق، لذا تعامل مع عمود mAP فيه بوصفه اختبارًا سريعًا لسلامة المسار، واستخدم ملف YAML لمجموعة بياناتك لاتخاذ قرارات الدقة.

مواطن الخلل#

للأجهزة الطرفية أربعة أسئلة إضافية#

تشرح أدلة Raspberry Pi وNVIDIA Jetson وDeepStream على Jetson الأهداف الشائعة بالتفصيل. قبل اعتماد جهاز طرفي، أجب عن الأسئلة التالية:

• بدء التشغيل البارد: أين يُبنى محرك TensorRT، ومن ينتظر اكتمال بنائه؟
• الطاقة والحرارة: هل يستطيع الغلاف الحفاظ على تشغيل النموذج بأقصى FPS طوال اليوم؟
• الذاكرة: هل تتوفر مساحة لمخازن الإطارات وحالة المتعقّب بجوار النموذج؟ يقلّص INT8 حصة النموذج إلى النصف.
• التحديثات: كيف يصل إصدار جديد من best.pt إلى 1,000 جهاز؟ تحافظ صورة Docker على اتساق الأجهزة.