这里粗略回顾一下,这里直接提供YOLOv5的整理的结构图吧:
Backbone:CSPDarkNet结构,主要结构思想的体现在C3模块,这里也是梯度分流的主要思想所在的地方;PAN-FPN:双流的FPN,必须香,也必须快,但是量化还是有些需要图优化才可以达到最优的性能,比如cat前后的scale优化等等,这里除了上采样、CBS卷积模块,最为主要的还有C3模块(记住这个C3模块哦);Head:Coupled Head+Anchor-base,毫无疑问,YOLOv3、YOLOv4、YOLOv5、YOLOv7都是Anchor-Base的,后面会变吗?Loss:分类用BEC Loss,回归用CIoU Loss。话不多说,直接YOLOv8吧!直接上YOLOv8的结构图吧,小伙伴们可以直接和YOLOv5进行对比,看看能找到或者猜到有什么不同的地方?
下面就直接揭晓答案吧,具体改进如下:
(资料图片)
Backbone:使用的依旧是CSP的思想,不过YOLOv5中的C3模块被替换成了C2f模块,实现了进一步的轻量化,同时YOLOv8依旧使用了YOLOv5等架构中使用的SPPF模块;PAN-FPN:毫无疑问YOLOv8依旧使用了PAN的思想,不过通过对比YOLOv5与YOLOv8的结构图可以看到,YOLOv8将YOLOv5中PAN-FPN上采样阶段中的卷积结构删除了,同时也将C3模块替换为了C2f模块;Decoupled-Head:是不是嗅到了不一样的味道?是的,YOLOv8走向了Decoupled-Head;Anchor-Free:YOLOv8抛弃了以往的Anchor-Base,使用了Anchor-Free的思想;损失函数:YOLOv8使用VFL Loss作为分类损失,使用DFL Loss+CIOU Loss作为分类损失;样本匹配:YOLOv8抛弃了以往的IOU匹配或者单边比例的分配方式,而是使用了Task-Aligned Assigner匹配方式。1、C2f模块是什么?与C3有什么区别?我们不着急,先看一下C3模块的结构图,然后再对比与C2f的具体的区别。针对C3模块,其主要是借助CSPNet提取分流的思想,同时结合残差结构的思想,设计了所谓的C3 Block,这里的CSP主分支梯度模块为BottleNeck模块,也就是所谓的残差模块。同时堆叠的个数由参数n来进行控制,也就是说不同规模的模型,n的值是有变化的。
其实这里的梯度流主分支,可以是任何之前你学习过的模块,比如,美团提出的YOLOv6中就是用来重参模块RepVGGBlock来替换BottleNeck Block来作为主要的梯度流分支,而百度提出的PP-YOLOE则是使用了RepResNet-Block来替换BottleNeck Block来作为主要的梯度流分支。而YOLOv7则是使用了ELAN Block来替换BottleNeck Block来作为主要的梯度流分支。
C3模块的Pytorch的实现如下:
classC3(nn.Module):#CSPBottleneckwith3convolutionsdef__init__(self,c1,c2,n=1,shortcut=True,g=1,e=0.5):#ch_in,ch_out,number,shortcut,groups,expansionsuper().__init__()c_=int(c2*e)#hiddenchannelsself.cv1=Conv(c1,c_,1,1)self.cv2=Conv(c1,c_,1,1)self.cv3=Conv(2*c_,c2,1)#optionalact=FReLU(c2)self.m=nn.Sequential(*(Bottleneck(c_,c_,shortcut,g,e=1.0)for_inrange(n)))defforward(self,x):returnself.cv3(torch.cat((self.m(self.cv1(x)),self.cv2(x)),1))
下面就简单说一下C2f模块,通过C3模块的代码以及结构图可以看到,C3模块和名字思路一致,在模块中使用了3个卷积模块(Conv+BN+SiLU),以及n个BottleNeck。
通过C3代码可以看出,对于cv1卷积和cv2卷积的通道数是一致的,而cv3的输入通道数是前者的2倍,因为cv3的输入是由主梯度流分支(BottleNeck分支)依旧次梯度流分支(CBS,cv2分支)cat得到的,因此是2倍的通道数,而输出则是一样的。
不妨我们再看一下YOLOv7中的模块:
YOLOv7通过并行更多的梯度流分支,放ELAN模块可以获得更丰富的梯度信息,进而或者更高的精度和更合理的延迟。
C2f模块的结构图如下:
我们可以很容易的看出,C2f模块就是参考了C3模块以及ELAN的思想进行的设计,让YOLOv8可以在保证轻量化的同时获得更加丰富的梯度流信息。
C2f模块对应的Pytorch实现如下:
classC2f(nn.Module):#CSPBottleneckwith2convolutionsdef__init__(self,c1,c2,n=1,shortcut=False,g=1,e=0.5):#ch_in,ch_out,number,shortcut,groups,expansionsuper().__init__()self.c=int(c2*e)#hiddenchannelsself.cv1=Conv(c1,2*self.c,1,1)self.cv2=Conv((2+n)*self.c,c2,1)#optionalact=FReLU(c2)self.m=nn.ModuleList(Bottleneck(self.c,self.c,shortcut,g,k=((3,3),(3,3)),e=1.0)for_inrange(n))defforward(self,x):y=list(self.cv1(x).split((self.c,self.c),1))y.extend(m(y[-1])forminself.m)returnself.cv2(torch.cat(y,1))SPPF改进了什么?
这里讲解的文章就很多了,这里也就不具体描述了,直接给出对比图了
上图中,左边是SPP,右边是SPPF。
PAN-FPN改进了什么?我们先看一下YOLOv5以及YOLOv6的PAN-FPN部分的结构图:
YOLOv5的Neck部分的结构图如下:
YOLOv6的Neck部分的结构图如下:
我们再看YOLOv8的结构图:
可以看到,相对于YOLOv5或者YOLOv6,YOLOv8将C3模块以及RepBlock替换为了C2f,同时细心可以发现,相对于YOLOv5和YOLOv6,YOLOv8选择将上采样之前的1×1卷积去除了,将Backbone不同阶段输出的特征直接送入了上采样操作。
Head部分都变了什么呢?先看一下YOLOv5本身的Head(Coupled-Head):
而YOLOv8则是使用了Decoupled-Head,同时由于使用了DFL 的思想,因此回归头的通道数也变成了4*reg_max的形式:
对比一下YOLOv5与YOLOv8的YAML损失函数对于YOLOv8,其分类损失为VFL Loss,其回归损失为CIOU Loss+DFL的形式,这里Reg_max默认为16。
VFL主要改进是提出了非对称的加权操作,FL和QFL都是对称的。而非对称加权的思想来源于论文PISA,该论文指出首先正负样本有不平衡问题,即使在正样本中也存在不等权问题,因为mAP的计算是主正样本。
q是label,正样本时候q为bbox和gt的IoU,负样本时候q=0,当为正样本时候其实没有采用FL,而是普通的BCE,只不过多了一个自适应IoU加权,用于突出主样本。而为负样本时候就是标准的FL了。可以明显发现VFL比QFL更加简单,主要特点是正负样本非对称加权、突出正样本为主样本。
针对这里的DFL(Distribution Focal Loss),其主要是将框的位置建模成一个 general distribution,让网络快速的聚焦于和目标位置距离近的位置的分布。
DFL 能够让网络更快地聚焦于目标 y 附近的值,增大它们的概率;
DFL的含义是以交叉熵的形式去优化与标签y最接近的一左一右2个位置的概率,从而让网络更快的聚焦到目标位置的邻近区域的分布;也就是说学出来的分布理论上是在真实浮点坐标的附近,并且以线性插值的模式得到距离左右整数坐标的权重。
样本的匹配标签分配是目标检测非常重要的一环,在YOLOv5的早期版本中使用了MaxIOU作为标签分配方法。然而,在实践中发现直接使用边长比也可以达到一阿姨你的效果。而YOLOv8则是抛弃了Anchor-Base方法使用Anchor-Free方法,找到了一个替代边长比例的匹配方法,TaskAligned。
为与NMS搭配,训练样例的Anchor分配需要满足以下两个规则:
正常对齐的Anchor应当可以预测高分类得分,同时具有精确定位;不对齐的Anchor应当具有低分类得分,并在NMS阶段被抑制。基于上述两个目标,TaskAligned设计了一个新的Anchor alignment metric 来在Anchor level 衡量Task-Alignment的水平。并且,Alignment metric 被集成在了 sample 分配和 loss function里来动态的优化每个 Anchor 的预测。Anchor alignment metric:分类得分和 IoU表示了这两个任务的预测效果,所以,TaskAligned使用分类得分和IoU的高阶组合来衡量Task-Alignment的程度。使用下列的方式来对每个实例计算Anchor-level 的对齐程度:
s 和 u 分别为分类得分和 IoU 值,α 和 β 为权重超参。从上边的公式可以看出来,t 可以同时控制分类得分和IoU 的优化来实现 Task-Alignment,可以引导网络动态的关注于高质量的Anchor。
Training sample Assignment:为提升两个任务的对齐性,TOOD聚焦于Task-Alignment Anchor,采用一种简单的分配规则选择训练样本:对每个实例,选择m个具有最大t值的Anchor作为正样本,选择其余的Anchor作为负样本。然后,通过损失函数(针对分类与定位的对齐而设计的损失函数)进行训练。
参考[1].https://github.com/uyolo1314/ultralytics.[2].https://github.com/meituan/YOLOv6.[3].https://arxiv.org/abs/2209.02976.[4].https://github.com/PaddlePaddle/PaddleDetection.[5].https://github.com/PaddlePaddle/PaddleYOLO.[6].https://github.com/open-mmlab/mmyolo.
推荐阅读书童改进 | YOLOv5之架构改进、样本匹配升级、量化部署、剪枝、自蒸馏以及异构蒸馏
目标检测模型设计准则 | YOLOv7参考的ELAN模型解读,YOLO系列模型思想的设计源头
目标检测Trick | SEA方法轻松抹平One-Stage与Two-Stage目标检测之间的差距
扫描上方二维码可联系小书童加入交流群~
想要了解更多前沿AI视觉感知全栈知识【分类、检测、分割、关键点、车道线检测、3D视觉(分割、检测)、多模态、目标跟踪、NerF】、行业技术方案【AI安防、AI医疗、AI自动驾驶】、AI模型部署落地实战【CUDA、TensorRT、NCNN、OpenVINO、MNN、ONNXRuntime以及地平线框架等】,欢迎扫描下方二维码,加入集智书童知识星球,日常分享论文、学习笔记、问题解决方案、部署方案以及全栈式答疑,期待交流!
-
焦点观察:YOLOv8来啦 | 详细解读YOLOv8的改进模块!YOLOv5官方出品YOLOv8,必卷!
点击下方名片关注【集智书童】,后台回复【YOLOv8】获取YOLOv8源码以及书童亲自绘制的YOLOv8结构图原图。回顾一下YOLOv5,不然没机会了这里粗略回
-
世界滚动:形容南北方冬天的句子(精选116句)
形容南北方冬天的句子精选31句1 别来春半,触目柔肠断。砌下落梅如雪乱,拂了一身还满。——李煜的《清平乐》2 梅雪争春未肯降,骚人阁笔...
-
【全球新视野】传递人文底色的科技美学,荣耀携手WWD举办首届 FASHION LAB 展览
荣耀与WWD时尚特讯联合举办的FashionLab全球首展 "科技美学和想象的形式 "于上海一百零八上苑正式开幕,荣耀CM
-
每日看点!服刑29年后被改判无罪,谭修义提出1749万国家赔偿
1月10日,红星新闻记者从河南“谭修义案”再审辩护人、国家赔偿代理律师、北京市大禹律师事务所主任李逊律师处了解到,当天上午,该案当事...
-
焦点日报:小黑裙的独特魅力和搭配指南
小黑裙的独特魅力和搭配指南
-
环球滚动:030695,警号重启!
”030695曾经是父亲朱铁民的警号如今戴在了女儿朱荣超的胸前今年是长春铁路公安处长春车站派出所民警朱荣超入警以来参加的第一个春运在客流涌
-
即时看!每天产生新想法的系统
hi,大家好,熟悉我的读者都知道我每隔一段时间会开发一些实验性的产品,为什么要开发?主要是作为学习新技术和研究商业模式的方法,是“费...
-
世界今头条!京基智农:公司生猪养殖项目成本整体呈下降趋势 未来生产成本还有较大下降空间
京基智农近期接受机构调研时表示,2022年12月,公司育肥猪平均生产成本为16 84元 kg 公司生猪养殖项目成本整体呈下降趋势,未来随着公司产能利
-
环球通讯!新年里值得入手的包包大赏,这些款式你喜欢吗?
不知不觉新年将至,小臻身边的女同胞们拿了年终奖都在蠢蠢欲动,毕竟辛苦了一年,都是想拿了年终奖来一波消费来犒劳一下自己,要说什么最讨得
-
【世界报资讯】30㎡改出逆天独立三居室,说出来都没人信!
30㎡能做什么?一个单身公寓都会觉得很挤吧!但是今天小编要说一个逆天的30㎡的二手房改造。为什么逆天呢?因此它除了满足客厅、厨房、卫生间
-
环球观察:联创光电: 公司独立董事关于第八届董事会第一次会议相关事项的独立意见
联创光电:公司独立董事关于第八届董事会第一次会议相关事项的独立意见
-
动态:中信建投期货1月10日早间交易策略
贵金属进一步上行面临紧缩忧虑的压制,市场依然关注周四通胀数据以及本周鲍威尔的表态。
-
今日最新!邮贷逾期多久会上征信
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天后上报给征信机构,因为有些借贷机构可
-
天天观察:挪用公款罪既遂的认定标准有哪些
犯罪既遂形态类型主要包括结果犯、行为犯、危险犯与举动犯。行为犯是指以犯罪行为实施到一定程度就为既遂,是以行为完成为标志,并不要求造成
-
全球最资讯丨小赢钱包逾期22天征信有什么影响
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天后上报给征信机构,因为有些借贷机构可
-
环球热讯:帕克国际终止北交所IPO 保荐机构为民生证券
帕克国际终止北交所IPO保荐机构为民生证券2023年01月09日14:04中国经济网
-
全球讯息:筑牢基层防线 保障就医用药
“我是万医生,前两天刚来送过药,你爷爷好点没?还有没有哪儿不舒服……”1月7日一早,万秋再次将电话打到86岁的袁再明家中,询问老人身体...
-
世界热点!报告显示:中国稳居第一大留学生生源国 亚欧留学政策放宽优势凸显
【环球网教育报道记者吴婷】1月7日,启德教育发布《中国留学市场2022年盘点与2023年展望》。报告显示,中国稳居第一大留学生生源国,亚欧留学
-
世界观热点:2023年frm考试报名时间表出来没?报考条件是什么?
2023年5月frm考试报名时间:早鸟价报名:2022年12月1日-2023年1月31日;标准价报名阶段:2023年2月1日-2023年3月31日;2023年11月frm考试报名
-
每日速看!河北怀来:湿地公园灰鹤舞
近年来,怀来县加大生态建设力度,官厅水库及上游永定河流域的生态环境持续改善,吸引了众多鸟类来这里栖息过冬。
-
世界今亮点!外资投行建议“超配”中国资产 多只海外ETF强势“吸金”
外资投行建议“超配”中国资产多只海外ETF强势“吸金”2023年01月06日08:46中国经济网
-
短讯!外交部:呼吁各方秉持科学原则,避免政治化疫情的言行
北京日报客户端|记者刘柳1月5日,外交部发言人毛宁主持例行记者会。法新社记者提问,美国领导人称,对中国应对疫情的方式表示关切,他表示中方
-
全球速看:南乐县气象局发布大雾黄色预警「III级/较重」「2023-01-05」
【来源:南乐县气象局】南乐县气象台2023年1月5日21时26分发布大雾黄色预警信号:预计今天夜里到明天上午,南乐县县区及所辖乡镇、街道将出现
-
世界视点!2023年北京市属公园春节免费开放有哪些?
更新时间:2023年1月5日▶2023年北京市属公园春节免费开放有哪些?答:暂未有北京市属公园发布春节免费参观通知,小编会持续关注,有消息第一时
-
观热点:罗普特董秘回复:一直以来,公司均严格按照上交所科创板的相关披露要求履行信息披露义务
罗普特(688619)01月06日在投资者关系平台上答复了投资者关心的问题。
-
全球新消息丨市监总局:免税企业应严格履行网购七日无理由退货义务
1月5日,市场监管总局对中国中免、海南免税、中免日上、中出服免税、中侨免税、王府井、深圳免税、珠海免税、海旅免税、海控免税10家免税企业
-
【环球时快讯】消费电子板块1月4日跌2.68%,立讯精密领跌,主力资金净流出12.36亿元
1月4日消费电子板块较上一交易日下跌2 68%,立讯精密领跌。当日上证指数报收于3123 52,上涨0 22%。深证成指报收于11095 37,下跌0 2%。消费电
-
观点:农村征地补偿金是多少?
1、征收耕地的土地补偿费,为该耕地被征收前三年平均年产值的六至十倍。2、征收耕地的安置补助费,按照需要安置的农业人口数计算。需要安置的
-
看热讯:万达普惠借贷逾期24天上征信吗
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天后上报给征信机构,因为有些借贷机构可
-
【世界播资讯】真爱美家:已取得发明专利54项、实用新型专利68项、外观设计专利50项
每经AI快讯,有投资者在投资者互动平台提问:公司取得了哪些专利?真爱美家(003041 SZ)1月4日在投资者互动平台表示,公司始终注重新产品和新技