Thu thập dữ liệu chất lượng cao, đại diện

Độ đa dạng quan trọng hơn số lượng#

So sánh hai dataset hướng đến cùng một môi trường triển khai:

Điểm validation của dataset đầu tiên chỉ cao vì validation đo lường đúng điều kiện duy nhất mà dataset bao phủ. Trong production, model chỉ tốt bằng kịch bản được bao phủ kém nhất mà model gặp phải. Hãy ưu tiên thu thập dữ liệu để bao phủ bản đặc tả trước, rồi mới tăng số lượng.

Chọn nguồn theo thứ tự phù hợp#

Phần lớn dataset nên đến từ thiết lập production thực tế. Hướng dẫn thu thập và gán nhãn dữ liệu trình bày chi tiết hơn về từng nguồn:

Dùng ảnh dàn dựng, công khai và tổng hợp để lấp các khoảng thiếu cụ thể đã nêu trong bản đặc tả, đồng thời theo dõi tỷ lệ của chúng trong dataset để đo lường hiệu quả. Trên Ultralytics Platform, Tạo ảnh tương tự bổ sung các biến thể được tạo từ một ảnh hiện có vào dataset; ảnh chưa được gán nhãn và sẵn sàng để chú thích.

Đưa metadata vào tên tệp#

Mỗi ảnh cần có ít nhất ID camera, ngày thu thập và số khung hình hoặc clip. Nếu thiếu những thông tin này, bạn không thể chia dữ liệu theo nhóm sau này, truy nguyên hồi quy về nguồn hoặc thu thập thêm dữ liệu cho một kịch bản chưa được đại diện đầy đủ. Tên tệp là nơi lưu trữ bền vững nhất: cam2_2026-05-01_000124.jpg tồn tại qua mọi công cụ, lần xuất và lần tải lên. Tính năng tìm kiếm dataset của Ultralytics Platform hỗ trợ tìm theo tên tệp và metadata tùy chỉnh, vì vậy các khóa này vẫn có thể tìm kiếm sau khi tải lên.

Script này tạo dataset thực hành được dùng trong phần còn lại của khóa học. Script sao chép các ảnh đã gán nhãn của COCO128 và đổi tên chúng như thể bốn camera đã ghi lại ảnh trong bốn ngày, trong đó cam1 được thu thập quá mức như cách một camera tiện dụng thường gặp:

import shutil
from pathlib import Path

from ultralytics.data.utils import check_det_dataset, img2label_paths

data = check_det_dataset("coco128.yaml")  # 128 COCO images stand in for your camera captures
out = Path("datasets/practice")
(out / "images").mkdir(parents=True, exist_ok=True)
(out / "labels").mkdir(parents=True, exist_ok=True)

for i, image in enumerate(sorted(Path(data["train"]).glob("*.jpg"))):
    camera = ("cam1", "cam1", "cam2", "cam3", "cam4")[i % 5]  # cam1 over-collected, like a real site
    name = f"{camera}_2026-05-0{i // 32 + 1}_{i:06d}"  # camera, capture day, frame number
    shutil.copy(image, out / "images" / f"{name}.jpg")
    label = Path(img2label_paths([str(image)])[0])
    if label.exists():
        shutil.copy(label, out / "labels" / f"{name}.txt")

print(len(list((out / "images").glob("*.jpg"))), "images written to", out)

128 images written to datasets/practice

Tải lên Ultralytics Platform vẫn giữ nguyên các tên tệp đó. Hộp thoại tải lên cũng chấp nhận video và toàn bộ dataset, đồng thời có tùy chọn làm mờ khuôn mặt để bảo vệ quyền riêng tư.

Theo dõi độ bao phủ so với bản đặc tả#

Khi metadata đã có trong tên tệp, độ bao phủ có thể được biểu thị bằng số lượng. Đặt chỉ tiêu theo bản đặc tả và để script cho biết cần thu thập gì tiếp theo:

from collections import Counter
from pathlib import Path

QUOTA = {"cam1": 30, "cam2": 30, "cam3": 30, "cam4": 30}  # images per camera, from your spec

images = sorted(Path("datasets/practice/images").glob("*.jpg"))
cameras = Counter(p.stem.split("_")[0] for p in images)
days = Counter(p.stem.split("_")[1] for p in images)

for camera, quota in QUOTA.items():
    gap = quota - cameras[camera]
    print(f"{camera}: {cameras[camera]:3d} / {quota}  {'ok' if gap <= 0 else f'collect {gap} more'}")
print("days:", dict(sorted(days.items())))

cam1:  52 / 30  ok
cam2:  26 / 30  collect 4 more
cam3:  25 / 30  collect 5 more
cam4:  25 / 30  collect 5 more
days: {'2026-05-01': 32, '2026-05-02': 32, '2026-05-03': 32, '2026-05-04': 32}

Quy tắc ra quyết định: ngừng thu thập từ mọi nguồn đã vượt chỉ tiêu và dành công sức cho các khoảng thiếu. Ở đây, cam1 đã chiếm 40% số ảnh. Thu thập thêm video từ nguồn này trong một tuần nữa sẽ làm tăng số lượng nhưng không cải thiện độ bao phủ.

Lấy mẫu video mà không làm tràn dataset#

Video là nguồn có chi phí thấp nhất và cũng dễ bị sử dụng sai nhất. Ở tốc độ 30 khung hình/giây, một phút tạo ra 1.800 khung hình gần như giống hệt nhau; gán nhãn cùng một khoảnh khắc hai lần vừa tốn tiền vừa làm tăng chỉ số. Chỉ giữ một khung hình khi cảnh đã thay đổi so với khung hình được giữ gần nhất:

from pathlib import Path

import cv2

from ultralytics.utils.downloads import safe_download

video = "solutions_ci_demo.mp4"  # a short public demo clip; swap in your own footage
safe_download(f"https://github.com/ultralytics/assets/releases/download/v0.0.0/{video}")
Path("frames").mkdir(exist_ok=True)

cap = cv2.VideoCapture(video)
fps = cap.get(cv2.CAP_PROP_FPS)
read = kept = 0
last = None
while True:
    ok, frame = cap.read()
    if not ok:
        break
    thumb = cv2.cvtColor(cv2.resize(frame, (64, 64)), cv2.COLOR_BGR2GRAY).astype(float)
    if last is None or abs(thumb - last).mean() > 10:  # keep a frame only when the scene has changed
        cv2.imwrite(f"frames/clip01_{read:06d}.jpg", frame)  # the clip ID stays in the filename
        kept, last = kept + 1, thumb
    read += 1

print(f"{read} frames at {fps:.0f} FPS -> {kept} kept")

62 frames at 30 FPS -> 6 kept

Clip dài hai giây có 62 khung hình nhưng chỉ chứa 6 khoảnh khắc khác biệt về mặt hình ảnh. Script so sánh các thumbnail thang xám có kích thước nhỏ nên xử lý nhanh cả video dài hàng giờ. Tăng ngưỡng 10 để giữ ít khung hình hơn từ camera tĩnh; giảm ngưỡng cho cảnh chuyển động nhanh. Đồng thời phân bổ ngân sách trên nhiều clip: 20 khung hình từ mỗi clip trong 50 clip tốt hơn 1.000 khung hình từ một clip.

Tránh những sai lầm khi thu thập dữ liệu#

Thiên lệch và sự đồng thuận#

Thiên lệch là vấn đề thu thập dữ liệu, không phải vấn đề mô hình: không có siêu tham số nào có thể khắc phục việc dữ liệu chưa bao giờ chứa một nhóm nào đó. Hướng dẫn thu thập dữ liệu liệt kê bốn biện pháp: đa dạng hóa nguồn dữ liệu, cân bằng mức độ đại diện, thường xuyên kiểm tra lại độ bao phủ và áp dụng biện pháp giảm thiểu như lấy mẫu quá mức các nhóm ít được đại diện.

Nếu ảnh có khuôn mặt, biển số xe hoặc dữ liệu cá nhân khác, bạn cần có sự đồng thuận và chính sách lưu giữ dữ liệu trước khi bắt đầu thu thập. Mục từ quyền riêng tư dữ liệu trong bảng thuật ngữ là điểm khởi đầu phù hợp, còn Quyền riêng tư, Khu vực và Tuân thủ đề cập đến việc lưu trữ dữ liệu trong đúng khu vực pháp lý bằng dataRegion.