Ultralytics YOLO27: Встать в лист ожидания.
Get Started
От best.pt до быстрой, отслеживаемой и наблюдаемой системы
Траектория обучения: Практиксредний ~5 часов 9 уроковИтоговый экзамен · Сертификат

Ultralytics YOLO в продакшене

Переведи обученную модель Ultralytics YOLO в продакшен: выбери среду выполнения, экспортируй и проверь модель, оптимизируй её для своего оборудования, отслеживай объекты, создавай конвейеры подсчёта, обрабатывай множество потоков и выявляй дрейф до того, как его заметят пользователи.

Автор Ultralytics Academy

Начать курсВойди, чтобы сохранять прогресс
Чему ты научишься

Запусти модель YOLO26 в подходящей среде выполнения с проверенным соответствием результатов, преобразуй детекции в отслеживаемые идентификаторы и подсчёты для множества потоков и настрой мониторинг, чтобы проблемы с задержкой, точностью и дрейфом привлекали твоё внимание до того, как их заметят пользователи.

  • Выбери среду выполнения и значение format= с учётом устройства, бюджета задержки и парка устройств, а затем проверь выбор повторными тестами производительности.

  • Экспортируй модель в ONNX и подтверди соответствие результатов PyTorch, в том числе проверь ловушку letterbox с фиксированным размером входа.

  • Выбери между FP32, FP16 и INT8 для TensorRT и OpenVINO, используя данные для калибровки и порог точности.

  • Отслеживай объекты с помощью ByteTrack, BoT-SORT или TrackTrack и настрой пороги трекера в соответствии с уверенностью детектора.

  • Создай на основе трекинга счётчики пересечений линий, заполняемости зон и тепловые карты, а также откалибруй оценку скорости.

  • Обрабатывай несколько потоков с камер одной моделью, используя пакетный инференс, очереди с ограниченным размером и измеряя количество потерянных кадров.

  • Записывай метрики для каждого кадра, выявляй дрейф уверенности с помощью теста KS и выбирай самый недорогой способ снизить задержку и затраты.

Что ты создашь

  • Выбор среды выполнения для твоего устройства, подтверждённый результатами повторных тестов производительности и сопоставленный с бюджетом в миллисекундах.

  • Экспорт в ONNX с зафиксированной проверкой соответствия результатов (рамки, уверенность и mAP) модели PyTorch.

  • Оптимизированный экспорт (OpenVINO или TensorRT), прошедший проверку по mAP и задержке на целевом оборудовании.

  • Конвейер подсчёта с линией подсчёта, подсчётом объектов в зоне, тепловой картой и откалиброванной оценкой скорости на реальном видео.

  • Воркер для нескольких потоков, который объединяет в пакеты кадры с нескольких камер и сообщает количество обработанных и потерянных кадров для каждого потока.

  • Цикл мониторинга: метрики каждого кадра в JSON, проверка дрейфа уверенности тестом KS и еженедельная валидация на отложенной выборке.

Предварительные требования

  • Обученная модель, например runs/detect/pills_v1/weights/best.pt из урока Обучи свою первую модель YOLO, или предварительно обученная контрольная точка yolo26n.pt, чтобы повторять шаги урока.

  • Python 3.10+ с pip install "ultralytics[solutions]" onnxruntime scipy (пакет solutions дополнительно устанавливает shapely и lap).

  • Умение работать с Python, командной строкой и источниками видео (файлами, веб-камерами, RTSP).

  • Рекомендуем сначала пройти уроки Обучи свою первую модель YOLO и Создание высокопроизводительных наборов данных YOLO.

Содержание курса

4 модулей · 9 уроков

Модуль 1

Выбери среду выполнения
1

Выбери целевую платформу развёртывания

Определи среду выполнения и формат экспорта по устройству, бюджету задержки и парку устройств, а затем проверь их на самом устройстве.

2

Экспорт в ONNX (и проверка соответствия)

Экспортируй переносимую модель ONNX, а затем проверь, что она совпадает с PyTorch по ограничивающим рамкам, уверенности и mAP, прежде чем что-либо выпускать.

Модуль 2

Оптимизация
3

Оптимизация с TensorRT

Собери движок TensorRT в FP16, реши, оправдывает ли INT8 потерю точности, и проверь движок перед выпуском.

4

OpenVINO на CPU

Экспортируй модели OpenVINO в FP32, FP16 и INT8, проверь каждую и оставь INT8 только там, где он даёт преимущество на твоём CPU.

Модуль 3

Трекинг объектов и создание конвейеров
5

Трекинг объектов с ByteTrack, BoT-SORT и TrackTrack

Назначай каждому объекту стабильный идентификатор на всех кадрах, выбирай трекер и подбирай его пороги под свой детектор.

6

Подсчёт, тепловые карты и оценка скорости

Создавай счётчики пересечения линий, подсчёт объектов в зонах, тепловые карты и оценки скорости на основе трекинга и честно калибруй их.

Модуль 4

Масштаб и наблюдение
7

Инференс по нескольким потокам

Обрабатывай видео с нескольких камер одной моделью с помощью пакетного инференса, ограниченных очередей и измерения потерь кадров.

8

Наблюдаемость и дрейф

Собирай метрики, выявляющие незаметное снижение точности, проверяй распределения уверенности на предмет дрейфа и создавай оповещения только по сигналам, требующим действий.

9

Настройка стоимости и задержки

Профилируй весь конвейер, по очереди задействуй рычаги, которые действительно снижают задержку и стоимость, и остановись, когда достигнешь заданного бюджета.