Hadoop高手之路2—Hadoop集群的基础设置
创始人
2024-04-02 16:09:40

文章目录

  • Hadoop集群的基础设置
    • 一、虚拟机软件的安装
    • 二、创建虚拟机,安装CentOS
      • 1.下载CentOS
      • 2.创建虚拟机
      • 3.编辑虚拟机设置
      • 4.安装centos7.9mini版本
      • 5.启动centos,并进行登录
      • 6. 退出root登录,用user1登录
    • 三、CentOS网络配置
      • 1. 查看本地windows主机的网络适配器
      • 2. 查看虚拟机网络地址配置区间
      • 3. 查看本地windows主机的IP地址
      • 4. 虚拟机ip配置
        • 1) 动态IP配置方式(dhcp)
        • 2) 静态IP配置方式
    • 四、远程连接工具连接虚拟机(云服务器)
      • 1. ssh2协议
      • 2. ssh2工具
      • 3. securecrt工具的使用
        • 3.1 下载
        • 3.2 解压
        • 3.3 安装
        • 3.4 破解
        • 3.5 启动securecrt连接虚拟机
    • 五、安装一个好用的文本编辑器notpad++
      • 1. 下载
      • 2. 安装
    • 六、虚拟机配置主机名
      • 1. 永久修改主机名
      • 2. 建立虚拟机主机名和ip地址的映射关系
      • 3. 建立本地windows主机中虚拟机主机名和虚拟机ip的映射关系
    • 七、新建hadoop集群搭建需要的文件夹
    • 八、备份虚拟机
      • 1. 克隆虚拟机
      • 2. 虚拟机快照
      • 3. 从快照恢复
      • 4. 快照管理器
      • 5. 虚拟机迁移
        • 1) 导出为ovf
        • 2) 导入

Hadoop集群的基础设置

一、虚拟机软件的安装

安装VMware或者VirtualBox

image-20221006140510111

这里使用的是VMware 16,网上都有相关的包和密钥

二、创建虚拟机,安装CentOS

1.下载CentOS

可以到官网:https://www.centos.org/download/ 或者国内的镜像网站进行下载

这里我们到官网进行下载,选择x86_64版本的

image-20221006141008572

这里我们选择 7.9 版本的

image-20221006141300066

搭建集群的话,不需要太大的,这里我们选择 mini 版本

image-20221006141352913

2.创建虚拟机

打开VMware,点击文件,点击新建虚拟机

image-20221006141629192

选择自定义模式,然后点击下一步

image-20221006141806205

根据你的VMware选择对应版本(一般默认就可以),点击下一步

image-20221006141944348

选择稍后安装操作系统,点击下一步

image-20221006142213365

选择Linux(L)、CentOS 7 64位(默认就好),点击下一步

image-20221006142322115

设置虚拟机名称和位置,注意不要放在C盘里,点击下一步

image-20221006142524916

设置内核数量和虚拟机数量,点击下一步

image-20221006142715915

设置分配给虚拟机的内存,16G的内存设置2G就可以了,点击下一步

image-20221006142813746

网络类型这里使用 NAT,点击下一步

image-20221006142950235

跟着推荐走,点击下一步

image-20221006143055955

image-20221006143129210

选择创建新虚拟磁盘,点击下一步

image-20221006143206074

设置磁盘容量,这里为20G,点击洗衣部

image-20221006143313700

这里不做修改,点击下一步

image-20221006143438699

点击完成

image-20221006143520995

这样虚拟机就创建好了

image-20221006143604839

3.编辑虚拟机设置

找到 编辑虚拟机设置

image-20221006143800162

找到下载好的CentOS文件

image-20221006144057045

4.安装centos7.9mini版本

点击 开启虚拟机

image-20221006144156988

点击安装

image-20221006144409926

选择安装语言

image-20221006144600449

选择安装磁盘

image-20221006144637786

image-20221006150802409

开始安装

image-20221006144743059

设置root密码

image-20221006160835925

image-20221006160745507

创建普通用户

image-20221006160846347

image-20221006160858955

安装成功后重启

image-20221006161102267

安装成功后重启

image-20221006164345315

5.启动centos,并进行登录

image-20221016150005657

出现#提示符,说明登录成功,输入exit退出登录

6. 退出root登录,用user1登录

image-20221016150216438

出现 $ 提示符,说明登录成功

三、CentOS网络配置

1. 查看本地windows主机的网络适配器

打开设置,找到网络和Internet,点击更改网络适配器

image-20221006164648146

我们可以看到 VMnet1和 VMnet8

image-20221016152146663

2. 查看虚拟机网络地址配置区间

image-20221007122422681

image-20221016153820667

注意:此处每个人的网络配置区间都是不一样的

3. 查看本地windows主机的IP地址

按win+r打开运行

image-20221007122635698

进入命令提示符

image-20221017085357470

4. 虚拟机ip配置

IP配置参数:

  • IP地址:点分十进制,四位十进制数用点进行分割,0~255
  • 子网掩码:
  • 网关:
  • DNS:用于域名和ip地址的转换

修改网卡的配置文件:

打开虚拟机,进入 root 用户下,进入 /etc/sysconfig/network-scripts/ 目录下

image-20221016164222536

输入 ll,查看目录下文件

image-20221016164140762

用 vi 编辑器修改配置文件

image-20221007123627444

image-20221007123954704

1) 动态IP配置方式(dhcp)

虚拟机通过dhcp协议动态获取ip地址,有可能每一次启动虚拟机获取的ip地址都是不一样的,这是不推荐使用的

image-20221007124042556

将 ONBOOT 项修改为yes,保存退出

image-20221017083812117

重启虚拟机

image-20221007124107798

查看虚拟机ip地址配置

image-20221017085235165

测试连通情况

image-20221017085625514

说明网络配置是没问题的

2) 静态IP配置方式

修改网卡的配置文件,将ONBOOT修改为 static

image-20221017090223251

重启网络服务,systemctl restart network

image-20221007132816016

查看网络服务状态,systemctl status network,处于激活状态

image-20221017090439381

查看ip地址设置情况

image-20221017090523533

测试连通情况

image-20221017090732966

说明静态ip配置是成功的

四、远程连接工具连接虚拟机(云服务器)

1. ssh2协议

当我们需要远程登录到服务器上进行操作的时候,一般就会用ssh。ssh是secure shell的简称,它相对于早起的telnet和rsh的明文传输,提供了加密、校验和压缩,使得我们可以很安全的远程操作, 而不用担心信息泄露(当然不是绝对的,加密总有可能被破解,只是比起明文来说那是强了不少)。

2. ssh2工具

推荐几款SSH工具

image-20221007133845467

这里我们推荐使用 XShell /SecureCRT

3. securecrt工具的使用

3.1 下载

image-20221007155838312

3.2 解压

image-20221007155904713

3.3 安装

image-20221007160003263

同意协议,点击下一步

image-20221007160022055

点击下一步

image-20221007160300893

接下来点击 “Custom”(自定义安装),然后点击下一步

image-20221007161044490

修改为自己想设置的路径

image-20221007161214648

这里两个都进行勾选,点击下一步

image-20221007160452118

点击 install 进行安装

image-20221007161317702

安装完成

image-20221007161345665

3.4 破解

参考下面的教程

SecureCRT注册激活教程

image-20221007170304802

3.5 启动securecrt连接虚拟机

image-20221017094208530

image-20221017094222319

image-20221017094244971

image-20221017094304996

说明远程连接虚拟机成功

五、安装一个好用的文本编辑器notpad++

1. 下载

image-20221017094408949

2. 安装

image-20221011114440605

六、虚拟机配置主机名

1. 永久修改主机名

image-20221017094829600

输入 exit 退出

重新登录可以看到主机名已经发生了变化,reboot重启主机后也被修改

image-20221017094928269

2. 建立虚拟机主机名和ip地址的映射关系

主机名和ip地址映射关系保存在/etc/hosts文件中,修改该文件

image-20221017095241984

修改为

image-20221017095216791

保存退出

image-20221017095314177

测试:

image-20221017095354400

3. 建立本地windows主机中虚拟机主机名和虚拟机ip的映射关系

按win+r,打开运行窗口

image-20221011153418818

点击 etc 文件

image-20221016191539271

image-20221016191653851

image-20221017100113067

注意:修改hosts文件需要管理员权限

测试

image-20221017100231089

七、新建hadoop集群搭建需要的文件夹

在根目录下创建/export文件夹,在该文件夹下创建data、software和servers三个子文件夹

image-20221017100618018

八、备份虚拟机

1. 克隆虚拟机

克隆虚拟机之前,最好关闭虚拟机(不要直接关闭虚拟机)

image-20221017100653491

image-20221017101424000

image-20221017101452342

image-20221017101504927

image-20221017101605834

image-20221017101656116

image-20221017101711334

image-20221017101723084

image-20221017101750276

2. 虚拟机快照

image-20221017101905472

image-20221011162249281

3. 从快照恢复

image-20221017102052687

image-20221017102116348

4. 快照管理器

image-20221017102142205

5. 虚拟机迁移

非必要不要进行尝试

1) 导出为ovf

image-20221011162707599

image-20221011162727866

image-20221011162741575

2) 导入

image-20221011162932513

image-20221011163006661

相关内容

热门资讯

埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日,广西南宁市,街头惊现一座巨型山寨版埃菲尔铁塔,高约20米,白色塔身,造型逼真,...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙,苗语叫“分送”,距从江县城7.5公里,是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
长白山自助游攻略 吉林长白山游... 昨天介绍了西坡的景点详细请看链接:一个人的旅行,据说能看到长白山天池全凭运气,您的运气如何?今日介绍...
世界上最漂亮的人 世界上最漂亮... 此前在某网上,选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中,人们投票选出了心目中最美...
应用未安装解决办法 平板应用未... ---IT小技术,每天Get一个小技能!一、前言描述苹果IPad2居然不能安装怎么办?与此IPad不...
脚上的穴位图 脚面经络图对应的... 人体穴位作用图解大全更清晰直观的标注了各个人体穴位的作用,包括头部穴位图、胸部穴位图、背部穴位图、胳...
猫咪吃了塑料袋怎么办 猫咪误食... 你知道吗?塑料袋放久了会长猫哦!要说猫咪对塑料袋的喜爱程度完完全全可以媲美纸箱家里只要一有塑料袋的响...
demo什么意思 demo版本... 618快到了,各位的小金库大概也在准备开闸放水了吧。没有小金库的,也该向老婆撒娇卖萌服个软了,一切只...
埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日,广西南宁市,街头惊现一座巨型山寨版埃菲尔铁塔,高约20米,白色塔身,造型逼真,...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙,苗语叫“分送”,距从江县城7.5公里,是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
长白山自助游攻略 吉林长白山游... 昨天介绍了西坡的景点详细请看链接:一个人的旅行,据说能看到长白山天池全凭运气,您的运气如何?今日介绍...
应用未安装解决办法 平板应用未... ---IT小技术,每天Get一个小技能!一、前言描述苹果IPad2居然不能安装怎么办?与此IPad不...
脚上的穴位图 脚面经络图对应的... 人体穴位作用图解大全更清晰直观的标注了各个人体穴位的作用,包括头部穴位图、胸部穴位图、背部穴位图、胳...
猫咪吃了塑料袋怎么办 猫咪误食... 你知道吗?塑料袋放久了会长猫哦!要说猫咪对塑料袋的喜爱程度完完全全可以媲美纸箱家里只要一有塑料袋的响...
demo什么意思 demo版本... 618快到了,各位的小金库大概也在准备开闸放水了吧。没有小金库的,也该向老婆撒娇卖萌服个软了,一切只...
世界上最漂亮的人 世界上最漂亮... 此前在某网上,选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中,人们投票选出了心目中最美...