构建高精度80种中草药数据集标注系统的技术实践与优化

1次阅读

共计 3246 个字符，预计需要花费 9 分钟才能阅读完成。

在构建中草药图像识别系统时，数据标注是决定模型性能的上游关键环节。传统标注方式在 80 类中草药场景下面临三重困境：

类别多样性挑战 ：八角莲与山荷叶的花瓣纹理差异仅 5%-8%，人工标注需要专业药材知识
形态相似性干扰 ：不同生长阶段的同种草药（如三七的幼苗与成熟期）易被误标为不同类别
效率瓶颈 ：标注员平均处理速度仅 15-20 张 / 小时，80 类完整标注需 200+ 人工小时

我们采集的原始数据集包含 12 万张图像，其中约 8% 存在模糊、重复或角度偏差问题。下图展示典型问题样本：

# 问题样本可视化示例
import matplotlib.pyplot as plt

def show_problem_samples(df):
    fig, axes = plt.subplots(1,3, figsize=(12,4))
    axes[0].imshow(load_image(df['blur_samples'].iloc[0]))  # 运动模糊
    axes[1].imshow(load_image(df['duplicate'].iloc[0]))    # 重复样本
    axes[2].imshow(load_image(df['occluded'].iloc[0]))     # 遮挡样本
    plt.suptitle('常见数据质量问题示例')

采用三级过滤机制提升数据质量：

基础过滤层 ：
使用 Laplacian 方差检测模糊图像（阈值 <120）
基于 pHash 的近似重复检测（汉明距离 <5）
语义过滤层 ：
用 ResNet-18 预训练模型过滤非植物背景图像
通过分割模型检测叶片占比（有效区域 <30% 的剔除）
人工复核层 ：
开发 web 界面展示自动过滤结果
支持一键恢复误删样本

关键清洗代码如下（带类型注解）：

from typing import List, Tuple
import cv2
import numpy as np

def detect_blur(image: np.ndarray, threshold: float = 120.0) -> bool:
    """
    基于 Laplacian 方差的模糊检测
    :param image: 输入 BGR 图像
    :param threshold: 模糊判定阈值
    :return: 是否模糊
    """
    gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)
    return cv2.Laplacian(gray, cv2.CV_64F).var() < threshold

def find_duplicates(image_list: List[str], max_distance: int = 5) -> List[Tuple[int,int]]:
    """
    基于 pHash 的相似图像检测
    :param image_list: 图像路径列表
    :param max_distance: 最大汉明距离
    :return: 相似图像对索引列表
    """
    hashes = [phash(im) for im in image_list]
    return [(i,j) for i in range(len(hashes)) 
                   for j in range(i+1, len(hashes)) 
                   if hamming_distance(hashes[i], hashes[j]) < max_distance]

融合传统 CV 与深度学习方法的混合标注方案：

初始标注阶段 ：
使用改进版 LabelImg 增加中草药专属标签模板
集成 OpenCV 的 GrabCut 实现前景快速分割
智能辅助阶段 ：
加载预训练的 Mask R-CNN 生成建议框
通过置信度阈值控制干预频率（默认 0.85）
主动学习循环 ：
每标注 200 张训练一次轻量级 MobileNetV3
基于预测不确定性选择后续标注样本

工具链架构如下图所示：

[RAW IMAGES] → [Pre-labeling] → [Human Correction] → [Model Retraining]
                   ↑                     ↓
           (CV algorithms)       (Uncertainty Sampling)

采用基于蒙特卡洛 Dropout 的不确定性采样方法：

对未标注数据执行 10 次前向传播（启用 Dropout）
计算类别预测的熵值作为不确定性指标
选择熵值最高的 TOP 5% 样本优先标注

PyTorch 实现核心逻辑：

import torch
import torch.nn.functional as F

class UncertaintySampler:
    def __init__(self, model: torch.nn.Module, n_iter: int = 10):
        self.model = model
        self.n_iter = n_iter

    def compute_entropy(self, dataloader) -> torch.Tensor:
        """计算每个样本的预测熵"""
        entropy_list = []
        with torch.no_grad():
            for x, _ in dataloader:
                preds = torch.stack([F.softmax(self.model(x), dim=1) 
                                   for _ in range(self.n_iter)])
                avg_pred = preds.mean(dim=0)
                entropy = -(avg_pred * torch.log(avg_pred)).sum(dim=1)
                entropy_list.append(entropy)
        return torch.cat(entropy_list)

使用 Python 的 concurrent.futures 实现标注任务并行化：

I/ O 密集型操作（图像加载 / 保存）使用 ThreadPoolExecutor
CPU 密集型计算（特征提取）使用 ProcessPoolExecutor
设置任务队列监控界面显示各 worker 状态

from concurrent.futures import ThreadPoolExecutor, as_completed

def batch_annotate(image_paths: List[str], output_dir: str, workers: int = 4):
    """多线程批标注"""
    with ThreadPoolExecutor(max_workers=workers) as executor:
        futures = {executor.submit(annotate_single, p, output_dir): p 
                  for p in image_paths}
        for future in as_completed(futures):
            try:
                future.result()
            except Exception as e:
                print(f"{futures[future]} failed: {str(e)}")

设计 Redis 缓存层加速重复查询：