以原创手艺系统为基本，，，，，，，，SenseCore商汤AI大装置为焦点基座，，，，，，，，结构多领域、多偏向前沿研究，，，，，，，，快速买通AI在各个笔直场景中的应用，，，，，，，，向行业赋能。。。。。。。。

商汤研究始终坚持原创，，，，，，，，一直突破立异。。。。。。。。具有人工智能领域深挚的学术积累，，，，，，，，具备健全的人才作育机制，，，，，，，，已与海内外五十余所一流高校和科研院所建设了深度相助关系，，，，，，，，并与众多行业同仁同心共建AI生态圈。。。。。。。。

商汤大装置AI云 SenseCore

建设高效率、低本钱、规�；；；；；；；；� AI 云基础设施，，，，，，，，打造专业的深度学习平台及算法模子系统，，，，，，，，引领AI立异，，，，，，，，助力工业界及学术界探索 AI 界线。。。。。。。。

焦点手艺: 以原创手艺系统为基本，，，，，，，，SenseCore商汤AI大装置为焦点基座，，，，，，，，结构多领域、多偏向前沿研究，，，，，，，，
快速买通AI在各个笔直场景中的应用，，，，，，，，向行业赋能。。。。。。。。

< 返回论文解读

CVPR 2020 Oral | : 真实天下下的大规模多标签目的检测算法解读

2020-07-23

导读：在CVPR 2020上，，，，，，，，商汤搜索与决议团队与中科院自动化所相助，，，，，，，，针对超大规模多标签目的检测使命，，，，，，，，提出了有用的解决计划。。。。。。。。该事情以真实天下中的通用检测使命为配景，，，，，，，，剖析了主要面临的痛点，，，，，，，，在损失函数和采样要领上提出了立异，，，，，，，，有用地改善了痛点并在量化指标上有显著提升。。。。。。。。

配景及剖析

在深度学习中，，，，，，，，数据始终是至关主要的因素之一。。。。。。。。随着硬件与算法的生长，，，，，，，，在学术界和工业界，，，，，，，，对数据规模的需求也越来越强。。。。。。。。然而在大规模数据的场景下，，，，，，，，泛起了许多新的挑战，，，，，，，，也使得算法的界线将爆发新的界说。。。。。。。。

本文以Open Images数据库为例来模拟真实天下下的超大规模检测，，，，，，，，该数据库拥有170万训练图片，，，，，，，，1240万框图并包括500个目的种别。。。。。。。。在该场景下，，，，，，，，我们剖析了主要面临的痛点问题：

图1

1.显式多标签问题

与古板的单标签目的检测差别，，，，，，，，真实天下下的物体往往具有多种标签种别，，，，，，，，以图1(a,b)为例，，，，，，，，目的可同时具有多种并列的标签种别，，，，，，，，也可同时具有父子继续关系的多标签种别。。。。。。。。

2.隐式多标签问题

超大规模数据由于其规模，，，，，，，，往往接纳机械辅助人工的手段举行标注，，，，，，，，在训练数据中会频仍泛起漏标和混标的情形。。。。。。。。以图1(c,d)为例，，，，，，，，部分目的会泛起缺失子类标签的情形，，，，，，，，另一些易混淆类别的目的会随机性地互标。。。。。。。。

3.类别的长尾效应

在学术集中，，，，，，，，训练数据的种别一样平常位置在较平衡的漫衍，，，，，，，，然而在现实应用中，，，，，，，，类别的漫衍泛起出严重的长尾效应。。。。。。。。

多标签问题的解决计划???

面临显示和隐式的多标签问题，，，，，，，，检测中常用的softmax将导致多标签之间爆发响应值的竞争。。。。。。。。这种竞争不但使得多标签的展望概率显着降低，，，，，，，，还会导致训练历程中优化目的的偏向过失。。。。。。。。

QQ图片20200725214757.png

反传梯度为：

其中体现目的的种别响应，，，，，，，，m代表该目的的positive标签个数，，，，，，，，K为positive标签荟萃，，，，，，，，y体现每个类别的二分标签。。。。。。。。

针对以上视察，，，，，，，，本文提出了concurrent-softmax，，，，，，，，在训练和测试历程中，，，，，，，，凭证目的的多标签和类别的隐性依赖关系输出每种类别的概率值。。。。。。。。该算法有用地解决了训练历程中的多标签优化难点，，，，，，，，并改善了展望历程中多标签的竞争问题。。。。。。。。

反传梯度为：

其中体现在训练数据中统计的种别i相关于种别j的共存概率漫衍。。。。。。。。

表1展示了concurrent-softmax与古板loss的效果比照，，，，，，，，表2展示了concurrent-softmax在训练和测试时的效果。。。。。。。。

表1

表2

长尾效应的解决计划???

长尾效应的主要痛点主要在于部分种别泛起频率过高，，，，，，，，部分种别泛起频率极低，，，，，，，，自然采样要领从而导致检测器对希罕类欠拟合。。。。。。。。典范的解决计划是匀称采样法，，，，，，，，即每种种别图片的采样频率一致，，，，，，，，然而此举将导致对希罕类的严重过拟合，，，，，，，，且高频种别中大宗的训练数据无法被采样到，，，，，，，，导致高频类的训练也不充分。。。。。。。。本文提出了混淆采样和混淆训练法以渐进式地逐步改善以上两个问题。。。。。。。。

???

首先，，，，，，，，我们以自然采样为基础，，，，，，，，设计了混淆采样方法，，，，，，，，其中自然采样方法下的单类采样频率为：