Ultralytics YOLO trong môi trường production
Đưa model Ultralytics YOLO đã huấn luyện vào production: chọn runtime, export và xác minh, tối ưu cho phần cứng, tracking đối tượng, xây dựng pipeline đếm, chạy nhiều luồng và phát hiện drift trước khi người dùng nhận ra.
Bởi Ultralytics Academy
Triển khai model YOLO26 trên runtime phù hợp với parity đã được xác minh, chuyển detections thành ID được tracking và số đếm trên nhiều luồng, đồng thời instrument hệ thống để cảnh báo về vấn đề latency, độ chính xác và drift trước khi người dùng nhận thấy.
Chọn runtime và giá trị
format=dựa trên thiết bị, ngân sách latency và đội thiết bị, sau đó xác nhận bằng các benchmark lặp lại.Export sang ONNX và chứng minh parity với PyTorch, bao gồm cả lỗi tiềm ẩn do letterbox với kích thước tĩnh.
Quyết định giữa FP32, FP16 và INT8 trên TensorRT và OpenVINO, với dữ liệu calibration và ngưỡng kiểm soát độ chính xác.
Tracking đối tượng bằng ByteTrack, BoT-SORT hoặc TrackTrack và tinh chỉnh ngưỡng tracker theo confidence của detector.
Xây dựng bộ đếm vạch, mức độ chiếm dụng vùng, heatmap và ước tính tốc độ đã hiệu chuẩn trên nền tảng tracking.
Chạy nhiều luồng camera qua một model bằng inference theo batch, hàng đợi có giới hạn và số liệu frame bị drop đã đo.
Ghi log metric theo từng frame, phát hiện confidence drift bằng kiểm định KS và chọn giải pháp ít tốn kém nhất để giảm latency và chi phí.
Một quyết định runtime cho thiết bị của bạn, được hỗ trợ bởi số liệu benchmark lặp lại so với ngân sách tính bằng mili giây.
Một bản export ONNX kèm kiểm tra parity đã ghi nhận (bounding box, confidence và mAP) so với model PyTorch.
Một bản export đã tối ưu (OpenVINO hoặc TensorRT) vượt qua ngưỡng mAP và latency trên phần cứng mục tiêu.
Một pipeline đếm gồm vạch đếm, số lượng trong vùng, heatmap và ước tính tốc độ đã hiệu chuẩn trên video thực tế.
Một worker đa luồng xử lý batch frame từ nhiều camera và báo cáo số frame đã xử lý cũng như bị drop trên từng luồng.
Một vòng lặp giám sát: metric JSON theo từng frame, kiểm định drift KS trên confidence và validation hằng tuần trên tập holdout.
Một model đã huấn luyện, chẳng hạn
runs/detect/pills_v1/weights/best.pttừ Huấn luyện model YOLO đầu tiên của bạn, hoặc checkpointyolo26n.ptpretrained để làm theo.Python 3.10+ với
pip install "ultralytics[solutions]" onnxruntime scipy(solutions bổ sung shapely và lap).Thành thạo Python, command line và các nguồn video (tệp, webcam, RTSP).
Khuyến nghị: trước tiên hãy hoàn thành Huấn luyện model YOLO đầu tiên của bạn và Xây dựng tập dữ liệu YOLO hiệu năng cao.
Nội dung khóa học
4 mô-đun · 9 bài họcMô-đun 1
Chọn mục tiêu triển khai
Dựa trên thiết bị, ngân sách latency và đội thiết bị để chọn một runtime cùng định dạng export, sau đó xác nhận trên thiết bị.
Xuất sang ONNX (và xác minh tính tương đương)
Xuất model ONNX có tính di động, sau đó xác minh model khớp với PyTorch về bounding box, độ tin cậy và mAP trước khi triển khai.
Mô-đun 2
Mô-đun 3
Theo dõi đối tượng bằng ByteTrack, BoT-SORT và TrackTrack
Gán cho mỗi đối tượng một ID ổn định xuyên suốt các khung hình, chọn tracker và tinh chỉnh các ngưỡng cho detector của bạn.
Đếm, heatmap và ước tính tốc độ
Xây dựng bộ đếm đường, tính số đối tượng trong vùng, heatmap và ước tính tốc độ dựa trên tracking, đồng thời hiệu chuẩn một cách chính xác.
Mô-đun 4
Suy luận đa luồng
Chạy nhiều camera qua một model bằng suy luận theo batch, hàng đợi có giới hạn và số liệu frame bị mất được đo lường.
Khả năng quan sát và drift
Ghi nhật ký các metric phát hiện tình trạng giảm độ chính xác âm thầm, kiểm tra phân phối confidence để phát hiện drift và chỉ cảnh báo về các tín hiệu có thể hành động.
Tối ưu chi phí và độ trễ
Profile toàn bộ pipeline, lần lượt điều chỉnh những yếu tố thực sự cải thiện độ trễ và chi phí, rồi dừng khi đạt ngân sách.