Debiased Learning from Naturally Imbalanced Pseudo-Labels

要点：

1、伪标签：由经过标记源数据训练的分类器，对未标记目标数据做出的置信预测，被广泛应用于使模型适应未标记数据，例如半监督学习
2、由于固有的数据相似性，伪标签自然是不平衡的
3、关注于解决由伪标签引起的不平衡分类问题
4、提出了一种基于反事实推理和自适应边界（counterfactual reasoning and adaptive margins）的伪标签去偏学习
（a）反事实推理：消除分类器的响应偏差
（b）自适应边界：根据伪标签的不平衡调整每个类的边界

相关工作

半监督学习 SSL：

将未标记数据整合到给定有限标记数据的训练模型中
1、基于一致性的正则化方法，在扰动时对未标记数据造成分类不变性损失
2、伪标记将模型训练数据从标记数据扩展到未标记但是高置信伪标记的数据
3、迁移学习，首先通过自监督表示学习（如对比学习）对大型五标记数据进行训练，然后通过监督分类器学习对小型标记数据进行训练
4、以数据为中心的 SSL，假设没有给出标记数据，但是可以在未标记数据中最优地选择标记，专注于标记数据选择对于 SSL 的实质性收益

零样本分类 Zero-shot Classification:

1、零镜头模型将新类别的图像分类为在训练过程中没见过的正确类别（a）手工设计的属性（b）预训练嵌入：将先验知识以类的语义描述的形式结合在一起（c）知识图建模可见和不可见类的关系（d）使用视觉语言模型学习通用的视觉概念，允许零镜头模型转移到各种下游分类任务

图表：

伪标记框架：
在这里插入图片描述

自适应去偏模块和自适应边界损失：
在这里插入图片描述

反事实推理去偏的因果图：
在这里插入图片描述

代码：

https://github.com/frank-xwang/debiased-pseudo-labeling

上一篇：吸可以组什么成语

下一篇：表示太阳下山的时间成语写个句子

热门资讯

埃菲尔铁塔在哪中国仿建埃菲尔... 2019年4月26日，广西南宁市，街头惊现一座巨型山寨版埃菲尔铁塔，高约20米，白色塔身，造型逼真，...

我喜欢你韩语怎么说 sikid...

苗族的传统节日贵州苗族节日有... 【岜沙苗族芦笙节】岜沙，苗语叫“分送”，距从江县城7.5公里，是世界上最崇拜树木并以树为神的枪手部落...

北京的名胜古迹北京最著名的景... 北京从元代开始，逐渐走上帝国首都的道路，先是成为大辽朝五大首都之一的南京城，随着金灭辽，金代从海陵王...

长白山自助游攻略吉林长白山游... 昨天介绍了西坡的景点详细请看链接：一个人的旅行，据说能看到长白山天池全凭运气，您的运气如何？今日介绍...

应用未安装解决办法平板应用未... ---IT小技术，每天Get一个小技能！一、前言描述苹果IPad2居然不能安装怎么办？与此IPad不...

脚上的穴位图脚面经络图对应的... 人体穴位作用图解大全更清晰直观的标注了各个人体穴位的作用，包括头部穴位图、胸部穴位图、背部穴位图、胳...

猫咪吃了塑料袋怎么办猫咪误食... 你知道吗？塑料袋放久了会长猫哦！要说猫咪对塑料袋的喜爱程度完完全全可以媲美纸箱家里只要一有塑料袋的响...

demo什么意思 demo版本... 618快到了，各位的小金库大概也在准备开闸放水了吧。没有小金库的，也该向老婆撒娇卖萌服个软了，一切只...

世界上最漂亮的人世界上最漂亮... 此前在某网上，选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中，人们投票选出了心目中最美...