Non-Autoregressive Coarse-to-Fine Video Captioning【论文阅读】
创始人
2024-01-17 13:24:54

Non-Autoregressive Coarse-to-Fine Video Captioning

  • 发表：AAAI 2021
  • idea：（1）针对推理阶段不能并行，推理效率低的问题使用一种双向解码（在bert中不使用sequence mask）。（2）对于视觉词汇训练不充分（由于视觉词汇数量远小于非视觉词汇）导致生成的描述比较宽泛的问题，考虑使用一种coarse-to-fine的解码方式，先生成主要的视觉词汇，然后基于这个“模板”进行填充和细调

1. Architecture

在这里插入图片描述

Encoder

对2D、3D特征做以下处理
在这里插入图片描述

Length Predictor

这里需要预先预测序列的长度L
在这里插入图片描述

Decoder
  • 这里使用了bert，修改了两处：第一不使用sequence mask，这样解码的时候就变成了bi-directional；第二，没看懂，跟随NMT通过整合复制的源信息来增强解码器输入（上图中右侧的虚线）。
  • 同样用了完形填空任务。（这里是mask掉βl\beta_lβl​~βh\beta_hβh​的概率）

2. Visual Word Generation

  • 生成视觉词汇（动词和名词），在上述decoder的基础上。目标就是将序列中所有不是视觉词汇的单词都mask掉
    在这里插入图片描述

  • 优化目标
    在这里插入图片描述
    从左到右依次是长度LLL损失，完形填空损失以及视觉词汇损失

3. Coarse-to-Fine Captioning

这里真的没看懂。。。
就是迭代优化，感觉很繁琐。。。
后期需要这方面的工作再仔细研读研读。。。

4. Experiments

在这里插入图片描述

上一篇：【牛客网刷题】VL8-VL10 generate for语句、比较数大小、function的使用

下一篇：在最近的一次考试中，张继水部/在政府考试前夕向张秘书/归义主动提出给张水部

相关内容

热门资讯

埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日，广西南宁市，街头惊现一座巨型山寨版埃菲尔铁塔，高约20米，白色塔身，造型逼真，...
我喜欢你韩语怎么说 sikid...
怎么样消灭臭虫 臭虫用什么药消... 奔奔虫控|被吸血臭虫骚扰的滋味，你体会过吗？相信被臭虫骚扰过的人都不想再体验一次了吧？那么臭虫应该怎...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙，苗语叫“分送”，距从江县城7.5公里，是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始，逐渐走上帝国首都的道路，先是成为大辽朝五大首都之一的南京城，随着金灭辽，金代从海陵王...
应用未安装解决办法 平板应用未... ---IT小技术，每天Get一个小技能！一、前言描述苹果IPad2居然不能安装怎么办？与此IPad不...
脚上的穴位图 脚面经络图对应的... 人体穴位作用图解大全更清晰直观的标注了各个人体穴位的作用，包括头部穴位图、胸部穴位图、背部穴位图、胳...
长白山自助游攻略 吉林长白山游... 昨天介绍了西坡的景点详细请看链接：一个人的旅行，据说能看到长白山天池全凭运气，您的运气如何？今日介绍...
猫咪吃了塑料袋怎么办 猫咪误食... 你知道吗？塑料袋放久了会长猫哦！要说猫咪对塑料袋的喜爱程度完完全全可以媲美纸箱家里只要一有塑料袋的响...
世界上最漂亮的人 世界上最漂亮... 此前在某网上，选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中，人们投票选出了心目中最美...
埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日，广西南宁市，街头惊现一座巨型山寨版埃菲尔铁塔，高约20米，白色塔身，造型逼真，...
我喜欢你韩语怎么说 sikid...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙，苗语叫“分送”，距从江县城7.5公里，是世界上最崇拜树木并以树为神的枪手部落...
苁蓉的食用方法 鲜苁蓉的吃法有... 肉苁蓉号称“温而不热，补而不峻，暖而不燥，滑而不泄，故有从容之名。”历来也是传统药食同源的滋补佳品。...
北京的名胜古迹 北京最著名的景... 北京从元代开始，逐渐走上帝国首都的道路，先是成为大辽朝五大首都之一的南京城，随着金灭辽，金代从海陵王...