概述

从今天开始，我们将开启一段自然语言处理的流程，自然语言可以让来处理、理解以及运用人类的语言，实现机器语言和人类语言之间的沟通桥梁。

在这里插入图片描述

文本处理

我们正在进行文本处理的时候，经常会用到文本长度不一致的情况，遇到奇奇怪怪的符号问题，这时候，我们就需要特殊字符来帮助我们解决这些问题。

在这里插入图片描述

可以帮助我们填充句子长度不同的部分，在我们的NLP训练过程中，我们会将输入按Batch输入，但是这些Batch必须拥有相同的长度。

: ，可以帮助我们替换词汇表中不存在的字符，例如一些低频词或者低频字。或者特殊符号。
:会放在句子的开头，用于告诉模型这是句子输入的开始，即第一个时间步长的输入。

会放在句子的结尾，用于告诉模型这是句子的输入结束。
在这里插入图片描述
在Bert等预训练模型的词汇表中，有[PAD],[CLS],[SEP],[MASK],[UNK][PAD],[CLS],[SEP],[MASK],[UNK][PAD],[CLS],[SEP],[MASK],[UNK]这样几种token，它们代表的具体含义如下:
【PAD]: 要将句子处理为特定长度，就要将句子前或后补充[PAD]
[CLS]:这个标志放在句子的首位，表示句子的开始。
【SEP】：这个标志用于分开两个输入句子，例如输入句子A和B，后面增加[SEP]标志。
【MASK]:这个标志用于遮盖句子中的一些单词。
【UNK}：词典中没有词被标记为[UNK]

上一篇：python函数进阶

下一篇：python主题建模可视化LDA和T-SNE交互式可视化

热门资讯

我喜欢你韩语怎么说 sikid...

埃菲尔铁塔在哪中国仿建埃菲尔... 2019年4月26日，广西南宁市，街头惊现一座巨型山寨版埃菲尔铁塔，高约20米，白色塔身，造型逼真，...

苗族的传统节日贵州苗族节日有... 【岜沙苗族芦笙节】岜沙，苗语叫“分送”，距从江县城7.5公里，是世界上最崇拜树木并以树为神的枪手部落...

北京的名胜古迹北京最著名的景... 北京从元代开始，逐渐走上帝国首都的道路，先是成为大辽朝五大首都之一的南京城，随着金灭辽，金代从海陵王...

应用未安装解决办法平板应用未... ---IT小技术，每天Get一个小技能！一、前言描述苹果IPad2居然不能安装怎么办？与此IPad不...

长白山自助游攻略吉林长白山游... 昨天介绍了西坡的景点详细请看链接：一个人的旅行，据说能看到长白山天池全凭运气，您的运气如何？今日介绍...

脚上的穴位图脚面经络图对应的... 人体穴位作用图解大全更清晰直观的标注了各个人体穴位的作用，包括头部穴位图、胸部穴位图、背部穴位图、胳...

世界上最漂亮的人世界上最漂亮... 此前在某网上，选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中，人们投票选出了心目中最美...

猫咪吃了塑料袋怎么办猫咪误食... 你知道吗？塑料袋放久了会长猫哦！要说猫咪对塑料袋的喜爱程度完完全全可以媲美纸箱家里只要一有塑料袋的响...

demo什么意思 demo版本... 618快到了，各位的小金库大概也在准备开闸放水了吧。没有小金库的，也该向老婆撒娇卖萌服个软了，一切只...