YOLOS（小型）模型

YOLOS模型是在COCO 2017目标检测（118,000张标注图像）上进行优化的。它是由Fang等人在论文 You Only Look at One Sequence: Rethinking Transformer in Vision through Object Detection 中提出的，并于 this repository 首次发布。

免责声明：发布YOLOS的团队没有为该模型编写模型卡片，因此这个模型卡片是由Hugging Face团队编写的。

模型描述

YOLOS是一个使用DETR损失进行训练的视觉转换器（ViT）。尽管它很简单，但基本大小的YOLOS模型能够在COCO 2017验证集上达到42 AP（与DETR和更复杂的框架如Faster R-CNN相似）。

该模型使用“双向匹配损失”进行训练：将每个N = 100对象查询的预测类别+边界框与地面真实注释进行比较，填充到相同长度N（因此如果图像只包含4个对象，则96个注释将只有一个“无对象”作为类别和“无边界框”作为边界框）。使用匈牙利匹配算法在每个N个查询和每个N个注释之间创建最佳一对一映射。接下来，使用标准交叉熵（用于类别）和L1和广义IoU损失的线性组合（用于边界框）来优化模型的参数。

预期用途和限制

您可以使用原始模型进行目标检测。请参阅 model hub 以查找所有可用的YOLOS模型。

使用方法

这是如何使用该模型：

from transformers import YolosFeatureExtractor, YolosForObjectDetection
from PIL import Image
import requests

url = 'http://images.cocodataset.org/val2017/000000039769.jpg'
image = Image.open(requests.get(url, stream=True).raw)

feature_extractor = YolosFeatureExtractor.from_pretrained('hustvl/yolos-small')
model = YolosForObjectDetection.from_pretrained('hustvl/yolos-small')

inputs = feature_extractor(images=image, return_tensors="pt")
outputs = model(**inputs)

# model predicts bounding boxes and corresponding COCO classes
logits = outputs.logits
bboxes = outputs.pred_boxes

目前，特征提取器和模型都支持PyTorch。

训练数据

YOLOS模型是在 ImageNet-1k 上进行预训练，并在 COCO 2017 object detection 上进行了微调，该数据集包含了118,000/5,000张用于训练/验证的标注图像。

训练

该模型在ImageNet-1k上进行了200个时期的预训练，并在COCO上进行了150个时期的微调。

评估结果

该模型在COCO 2017验证集上实现了36.1的AP（平均精度）。有关评估结果的更多详细信息，请参阅原始论文的表1。

BibTeX条目和引文信息

@article{DBLP:journals/corr/abs-2106-00666,
  author    = {Yuxin Fang and
               Bencheng Liao and
               Xinggang Wang and
               Jiemin Fang and
               Jiyang Qi and
               Rui Wu and
               Jianwei Niu and
               Wenyu Liu},
  title     = {You Only Look at One Sequence: Rethinking Transformer in Vision through
               Object Detection},
  journal   = {CoRR},
  volume    = {abs/2106.00666},
  year      = {2021},
  url       = {https://arxiv.org/abs/2106.00666},
  eprinttype = {arXiv},
  eprint    = {2106.00666},
  timestamp = {Fri, 29 Apr 2022 19:49:16 +0200},
  biburl    = {https://dblp.org/rec/journals/corr/abs-2106-00666.bib},
  bibsource = {dblp computer science bibliography, https://dblp.org}
}