MapReduce编程规范
创始人
2024-05-23 21:37:27

MapReduce编程规范

MapReduce的开发一共有八个步骤,其中Map阶段分为2个步骤，Shuffle阶段4个步骤，Reduce阶段分为2个步骤。

  • Map阶段2个步骤

  1. 设置InputFormat类,将数据切分为Key-Value(K1和V1)对,输入到第二步。

  2. 自定义Map逻辑,将第一步的结果转换成另外的 Key-Value (K2,V2）对,输出结果

  • Shuffle阶段4个步骤

  1. 对输出的Key-Value对进行分区

  2. 对不同分区的数据按照相同的 Key排序

  3. (可选)对分组过的数据初步规约,降低数据的网络拷贝

  4. 对数据进行分组,相同Key的value放入一个集合中

  • Reduce阶段2个步骤

  1. 对多个Map任务的结果进行排序以及合并,编写Reduce函数实现自己的逻辑,对输入的Key-Value进行处理,转为新的Key-Value(K3和V3）输出

  2. 设置OutputFormat处理并保存Reduce输出的Key-vajue数据

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：7.1 微服务-SpringCloud(二)

下一篇：获取主机RDP连接凭据

相关内容

热门资讯

我喜欢你韩语怎么说 sikid...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙，苗语叫“分送”，距从江县城7.5公里，是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始，逐渐走上帝国首都的道路，先是成为大辽朝五大首都之一的南京城，随着金灭辽，金代从海陵王...
长白山自助游攻略 吉林长白山游... 昨天介绍了西坡的景点详细请看链接：一个人的旅行，据说能看到长白山天池全凭运气，您的运气如何？今日介绍...
世界上最漂亮的人 世界上最漂亮... 此前在某网上，选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中，人们投票选出了心目中最美...