微信扫一扫
分享到朋友圈

专栏 | 识别座头鲸,Kaggle竞赛第一名解决方案解读

作者:机器之心 来源:机器之心 公众号
分享到:

03-06

机器之心专栏

作者:Earhian (乔健), YourVenn (王乙衡)


不久之前,Kaggle座头鲸识别挑战赛结束,Earhian(乔健) YourVenn(王乙衡)、Tom 57、A.L.四位选手组成的团队夺得了第一名。本文主要介绍了冠军团队的解决方案。


图注:Kaggle座头鲸识别挑战赛 leaderboard


为了帮助鲸鱼保护,科学家们使用照片监视系统 (Photo Surveillance Systems) 来监视海洋活动。他们使用鲸鱼尾巴这一独一无二的标记来在连续的图像中识别鲸鱼,并对它们的活动进行细致地分析。在过去的四十年里,大部分工作基于科学家们的手工作业,这也使得大量的数据未被充分利用。


在这一竞赛中,我们是要构建算法来识别图像中的鲸鱼个体,而难点在于训练样本的严重不均衡以及存在近三分之一的无标注(new whale)数据。


1.概述


这是一个few shot learning和细粒度分类的问题。比赛初期,我们使用了softmax + 固定阈值的方法,仅对有标注的样本进行训练并通过阈值插入new whale的预测,但是没有取得很好的效果(MAP@5 < 0.9)。为了将new whale加入网络中训练,我们针对每一类鲸鱼进行二分类(如下图所示),并且使用triplet loss来做特征度量。通过大量实验,SE-resneXt154被作为最优的backbone,取得了单模型0.96的baseline,在追加了一系列tricks之后,单fold模型达到了0.969 (private LB: 0.97+ 榜上第三名)。最后,借助4 fold cross validation,以及类别平衡后处理,得到了最终public & private两榜第一名的0.973。



2.网络输入


我们使用RGB + Mask的四信道输入(Mask来源于我们训练的分割模型,通过论坛中开源的450张标注数据训练即取得了很好的效果: MAP for local cross validation: 0.96+ )。



3.鲸鱼水平翻转,并赋予新的id(+0.006~0.007)


论坛中,选手Heng CherKeng 提出“根据鲸鱼尾部不对称的特性(见下图),将其翻转可以得到新的类别”这一假设。这个假设没有得到很多的赞同票,但在我们的实验中取得了非常好的效果。赛后我们也获悉,第三名Pudae使用了同样的技巧亦提高了分数。



4. 伪标签(+0.002)


在模型得到public 0.96+的分数时,我们做了一次伪标签:将预测置信度为1的测试样本加入到训练集中。


5. 类间平衡(+0.001~0.002)


我们发现随着模型性能的提升,预测结果中top1对应的不同类别数也在增加(见下图)。所以我们用了以下策略:


假设五个预测为:class_1 class_2 class_3 class_4 class_5


如果1) class_1的置信度减去class_2的置信度 < 0.3, 2) 并且class_2没在top1中出现过,3) 而class_1在top2中多次出现,则交换class_1与class_2的位置。



最后,感谢队友们的努力:@Yiheng Wang, @Peiyuan Liao and @Thomas Tilli。感谢@ Heng CherKeng,祝贺3位新的Grandmaster!@SeuTao, @David, @Weimin Wang。


我们已经将方案代码进行了整理并开源:

  • https://github.com/earhian/Humpback-Whale-Identification-1st-


英文版本可从Kaggle论坛查看:

  • https://www.kaggle.com/c/humpback-whale-identification/discussion/82366


本文为机器之心专栏,转载请联系本公众号获得授权

✄------------------------------------------------

加入机器之心(全职记者 / 实习生):hr@jiqizhixin.com

投稿或寻求报道:content@jiqizhixin.com

广告 & 商务合作:bd@jiqizhixin.com


阅读15074
举报0
关注机器之心微信号:almosthuman2014

用微信扫描二维码即可关注
声明

1、头条易读遵循行业规范,任何转载的稿件都会明确标注作者和来源;
2、本文内容来自“机器之心”微信公众号,文章版权归机器之心公众号所有。

评论
更多

文章来自于公众号:

机器之心

微信号:almosthuman2014

邮箱qunxueyuan#163.com(将#换成@)
微信编辑器
免责声明
www.weixinyidu.com免责声明    商务合作1758059460
版权声明:本站收录微信公众号和微信文章内容全部来自于网络,仅供个人学习、研究或者欣赏使用。版权归原作者所有。禁止一切商业用途。其中内容并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。如果您发现头条易读网站上有侵犯您的知识产权的内容,请与我们联系,我们会及时修改或删除。
本站声明:本站与腾讯微信、微信公众平台无任何关联,非腾讯微信官方网站。