hadoop集群搭建（Hadoop 3.1.3 Hive 3.1.2Spark 3.0.0）

完全分布式HA

服务器规划

技术栈包含
hdfs
hive on spark
presto
doris
superset
azkaban
kafka
fluent\flume
sqoop\kettle\flink-cdc
atlas

禁用swap/selinux

修改 IP/修改主机名/及主机名和 IP 地址的映射

时间同步/设置时区/自动时间同步

关闭防火墙

关闭SELINUX

新建用户

免密登录（先升级openssh）

发送密钥（dw01上执行）

授权

Tencent Kona v808-GA

腾讯开源的konaJDK，针对大数据场景下优化

解压并重命名至安装地址：/usr/local/java/

zookeeper-359

解压并重命名至安装地址：/usr/local/zookeeper

apache-hadoop-313 解压至安装地址：/usr/local/hadoop

修改环境变量

/usr/local/zookeeper/conf

启动zookeeper集群（每台执行）

三台服务器启动

格式化namenode（dw01执行）

启动namenode(dw01上执行)

在[nn2]和[nn3]上分别执行，同步 nn1 的元数据信息

启动nn2 nn3，分别执行

所有节点上启动datanode

将[nn1]切换为 Active

查看状态

配置yarn-sitexml

配置mapred-sitexml

分发配置文件，启动yarn(dw03 启动)

dw03节点

dw01节点

dw01执行

dw03执行

测试样例

启动脚本

HA切换namenode手动

修改yarn显示log的bug

在 Windows 的早期版本中，此功能包含在“添加/删除程序”工具中 您无法删除集群服务，但是可以使其恢复未配置的状态： 1启动集群管理器 (CluAdminexe)。 2用鼠标右键单击节点，然后单击“停止集群服务”（）。 注意：如果此服务器是集群中的最后一个节点，请勿执行此步骤。 3用鼠标右键单击节点，然后单击“退出节点”。 该步骤会使集群返回到其最初未配置的状态。以后，您可以将其重新加入同一集群或其他集群中。

服务器集群：
服务器集群就是指将很多服务器集中起来一起进行同一种服务，在客户端看来就像是只有一个服务器。集群可以利用多个计算机进行并行计算从而获得很高的计算速度，也可以用多个计算机做备份，从而使得任何一个机器坏了整个系统还是能正常运行。
服务器负载均衡：
负载均衡
（Load
Balancing）
建立在现有网络结构之上，它提供了一种廉价有效透明的方法扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性。
分布式服务器：
所谓分布式资源共享服务器就是指数据和程序可以不位于一个服务器上，而是分散到多个服务器，以网络上分散分布的地理信息数据及受其影响的数据库 *** 作为研究对象的一种理论计算模型服务器形式。分布式有利于任务在整个计算机系统上进行分配与优化，克服了传统集中式系统会导致中心主机资源紧张与响应瓶颈的缺陷，解决了网络GIS
中存在的数据异构、数据共享、运算复杂等问题，是地理信息系统技术的一大进步。
这个三种架构都是常见的服务器架构，集群的主要是IT公司在做，可以保障重要数据安全；负载均衡主要是为了分担访问量，避免临时的网络堵塞，主要用于电子商务类型的网站；分布式服务器主要是解决跨区域，多个单个节点达到高速访问的目前，一般是类似CDN的用途的话，会采用分布式服务器。
纯手工打字，希望可以帮的到你！

服务器突然重启后zookeeper集群个别节点启动失败

zookeeper启动日志提示：

unable to load database on disk

unable to run quorum server
根据 zoocfg配置中定义的 dataDir和dataLogDir ，将其目录下的version-2文件夹备份后删除掉，注意两个都要处理，然后重启zk。
zk数据文件读取异常(Unable to load database on disk)

>配置Windows2003集群 默认分类 2008-03-09 23:57 阅读656 评论0 字号： 大 大 中 中 小 小 集群是在一组计算机上运行相同的软件并虚拟成一台主机系统为客户端与应用提供服务；计算机通过缆线物理连接并通过集群软件实现程序上的连接，可以使计算机实现单机无法实现的容错和负载均衡。集群技术在企业组织部署关键业务、电子商务与商务流程应用等领域，具有举足轻重的作用。 本文主要带领大家一起，参与到基于Windows2003 *** 作系统的集群配置中来，从以下的配置过程中，希望读者朋友能切实了解到Windows2003集群技术在Windows2003中的具体应用。 一、总体情况 Windows Server 2003的企业版和Datacenter版都可以支持最大达8个节点的集群配置；其典型的特征是可为数据库、消息系统、文件与打印服务这些关键业务应用，提供高可用性和可扩展性，在集群中的多个服务器（节点）保持不间断的联系。即是说如果在集群中的某一节点因出错或维护不可用时，另一节点会立刻提供服务，以实现容错。正在访问服务的用户可以继续访问，而不会察觉到服务已经由另一台服务器（节点）提供。 二、安装前准备 集群服务作为Windows Server 2003 *** 作系统的一个主要部分，不再是一个可选的组件。以下配置过程主要分为“安装前准备”、“服务安装”以及“创建集群”三方面进行。 在这一步中，主要明白在软、硬件方面都应作怎样的准备，才能让集群服务正常安装并运行起来。首先在软件方面，要求群集中的所有计算机上均安装有Windows Server 2003 *** 作系统；需要有一个域名解析系统；所有的节点必须是同一个域的成员，需要一个域级账户，而且要是每个节点上的本地管理员组的成员。 硬件方面，要求群集中的每个节点拥有两块网卡；每个节点上的所有网络界面均拥有静态IP地址；一个唯一的NetBIOS名称；群集磁盘上的所有分区必须格式化为NTFS等等。 三、服务安装 在第一个节点上开始安装群集服务前，必须先在每一个群集节点上执行以下步骤： 在每个节点上安装 Windows Server 2003 *** 作系统。 设置网络。 设置磁盘。 提示：要配置群集服务，您必须以一个具有所有节点管理权限的账户登录。每个节点都必须是同一个域的成员。如果您选择将其中一个节点作为域控制器，则应在相同的子网上再设置一个域控制器，以便消除单点故障，并对该节点进行维护。 关于Windows 2003 *** 作系统的具体安装过程，这里不再详述，大家可以参考Microsoft相关技术文档。这里主要介绍余下两步。 1：设置网络 每个群集节点要求至少要有两块网卡用于两个或多个独立网络，以避免单点故障。其中一个网络适配器用于连接到公用网络，而另一个则用于连接到仅由群集节点组成的专用网络。拥有多个网络适配器的服务器被称为“多宿主”。在这部分的网络配置中，可从以下几方面进行。 规划好两块网卡的名称 依次在“控制面板/网络连接”中，右击本地连接的网卡图标，选择“重命名”命令，将此连接命名为“专用”；然后将另一个网卡连接图标命名为“公用”。新的连接名称将出现在“群集管理器”中，并将在联机时自动复制到其他所有的群集节点。 确定绑定的顺序网络 在“网络连接”窗口内，依次单击主菜单上的“高级/高级设置”命令，在d出的窗口中确定顺序为公用、专用和远程访问连接，如图1所示。 图1 配置专用连接属性 步骤1：在网络连接窗口中，右键单击专用连接图标，选择属性命令。 步骤2：在“常规选”项卡下，清除所有其他客户端、服务和协议的复选框，确认只勾选了“Internet 协议 (TCP/IP)” 复选框，如图 2 所示。 图2 步骤3：在图3中单击右上角“配置”按钮，打开如图3所示界面后，在“高级”选项卡下，为网卡选择一个合适的传输速度值；建议将同一路径上的所有设备设定为 10 兆字节每秒 (Mbps) 和半双工，即保证集群环境内所有网卡速率保持一致。 图3 步骤4：配置专用网络网卡地址。在图2所示界面中双击“Internet 协议 (TCP/IP)”，在打开的如图4所示IP地址配置界面中，为专用网络的网卡配置唯一的IP地址。比如可将10000 到 10255255255 (A 类)的地址段作为集群环境的专用IP地址段。 图4 步骤5：然后单击IP地址配置界面右下角的“高级”按钮。确保清除了在 DNS 中注册此连接的地址和在 DNS 注册中使用此连接的 DNS 后缀复选框；然后切换到“WINS”选项卡，勾选“禁用TCP/IP上的NetBIOS”选项，如图5所示。 图5 提示：以上三方面的内容在群集中的所有其他节点上，都应进行同样的设置。 设置群集用户账户 群集服务需要一个域用户账户，该账户应为每个可运行群集服务的节点上的“本地管理员”组成员。因为安装需要用户名和密码，所以该用户账户必须在配置群集服务前予以创建。该用户账户只能专门用于运行群集服务，而不能属于个人。 依次单击“开始/程序/管理工具/ Active Directory 用户和计算机”后，即可开始创建过程。注意最后在“Active Directory 用户和计算机”管理单元的左侧窗格中，右击群集后选择将成员添加到组；然后单击管理员，这样将给予新用户账户在该计算机上的管理特权。 2：设置磁盘 设置磁盘时注意，为了避免破坏群集磁盘，在其他节点上启动 *** 作系统前，确认至少在一个节点上安装、配置并运行了 Windows Server 2003 和群集服务。在完成群集服务配置之前，所开启的节点数不要超过一个，这一点至关重要。 创建仲裁磁盘 仲裁磁盘用于存储群集配置数据库检查点和日志文件，日志文件可协助管理群集和维护一致性。一般情况下应创建一个最小 50 MB 的逻辑驱动器用来作为仲裁磁盘。 配置共享磁盘 共享磁盘的配置，主要是从硬盘空余空间中分配一个仲裁磁盘和最少一个数据磁盘出来，用于集群管理（最好再加装一块硬盘，专用于集群）；然后右击磁盘分区，选择“格式化”命令；接着在如图6所示窗口中，在卷标框中，键入该磁盘的名称；然后选择“NTFS”文件系统；最后单击“确定”按钮即可。 图6 提示：为共享磁盘分配驱动器卷标至关重要，因为在还原磁盘时这会大大减少故障排除时间。 四、创建集群 通过以上准备工作后，即可开始集群的创建。 *** 作步骤如下所示： 步骤1：依次单击“开始/程序/管理工具/群集管理器”选项，然后打开如图7所示对话框；从下拉列表中选择“创建新群集”。 图7 步骤2：然后会d出群集创建的向导，单击“下一步”后，在如图8所示设置窗口中，输入域名及集群名后单击“下一步”按钮。 图8 步骤3：然后输入将要作为第一个节点创建群集的服务器的名称，如图9所示。 提示：如果在本地使用一个不属于具有本地管理特权的域帐户的账户登录，向导将提示您指定一个新账户。这不是启动群集服务所用的帐户。 图9 步骤4：接着会d出如图10所示界面。这里是在查找可能导致安装出现问题的硬件或软件问题。检 查所有警告或错误信息。您还可以单击详细信息按钮，了解有关每个警告或提示的详细信息。 图10 步骤5：接着会提示输入唯一的群集 IP 地址。创建向导在这当中通过使用子网掩码选择正确的网络，自动与其中一个公用网络关联群集 IP 地址。这里提醒大家注意：群集 IP 地址只能用于管理，而不能用于客户端连接。 步骤6：然后输入在预安装时创建的群集服务账户的用户名和密码，并选择好域名；此时群集配置向导将验证用户账户和密码。 步骤7：然后是一些确认页面，一切无误后，即可在最后的窗口中单击“完成”按钮；最后的群集管理器配置完成窗口如图11所示。 图11 五、后记 Windows Server 2003 家族提供了两种类型的集群服务：服务器集群和网络负载均衡。在以上部分中，重点给大家介绍了服务器集群从准备到安装的全过程，而网络负载均衡却并没有过多的涉及，其实该服务的功能也是强大且实有的，它有效增强了Web服务器、流媒体服务器、终端服务器等Internet服务器程序的可用性和扩展性；可与现存Web服务器群结构无缝集成。

出现任何故障，如：硬盘、内存、CPU、主板、I/O板以及电源故障，运行在这台服务器上的应用就会切换到其它的服务器上。
二、集群系统可解决软件系统问题，我们知道，在计算机系统中，用户所使用的是应用程序和数据，而应用系统运行在 *** 作系统之上， *** 作系统又运行在服务器上。这样，只要应用系统、 *** 作系统、服务器三者中的任何一个出现故障，系统实际上就停止了向客户端提供服务，比如我们常见的软件死机，就是这种情况之一，尽管服务器硬件完好，但服务器仍旧不能向客户端提供服务。而集群的最大优势在于对故障服务器的监控是基于应用的，也就是说，只要服务器的应用停止运行，其它的相关服务器就会接管这个应用，而不必理会应用停止运行的原因是什么。
三、集群系统可以解决人为失误造成的应用系统停止工作的情况，例如，当管理员对某台服务器 *** 作不当导致该服务器停机，因此运行在这台服务器上的应用系统也就停止了运行。由于集群是对应用进行监控，因此其它的相关服务器就会接管这个应用。
集群系统的不足之处在于：
我们知道集群中的应用只在一台服务器上运行，如果这个应用出现故障，其它的某台服务器会重新启动这个应用，接管位于共享磁盘柜上的数据区，进而使应用重新正常运转。我们知道整个应用的接管过程大体需要三个步骤：侦测并确认故障、后备服务器重新启动该应用、接管共享的数据区。因此在切换的过程中需要花费一定的时间，原则上根据应用的大小不同切换的时间也会不同，越大的应用切换的时间越长。

一、流程说明

设置共享目录  共享照片和项目文件目录  配置批处理或者系统服务  启动集群

二、分步指引

21 设置共享目录 （略）

22 共享照片和项目文件目录 （略）

23 配置批处理或者系统服务

AgiSoft PhotoScan 集群可以通过批处理手工打开或者系统服务自动启动两种方式部署。分别说明如下：

231 批处理 2311 服务端批处理

Serverbat 内容如下： "C:\Program Files\Agisoft\PhotoScan Pro\photoscanexe" --server --control node-001 --dispatch node-001

--control node-001 --dispatch node-001 指定运行服务端的机器名

2312 节点端批处理

Nodebat 内容如下： "C:\Program Files\Agisoft\PhotoScan Pro\photoscanexe" --node  --dispatch node-001 --root \\cloud-001\Projects

--dispatch node-001 指定 Node--001 为服务端机器名，在 DHCP 网络环境下，通过机器名组建集群可以避免反复更 改 IP 地址； --root \\cloud-001\Projects 指定项目路径，AgiSoft PhotoScan 的工程文件要直接保存在该路径下，万不可放到下级目 录中。

232 系统服务 （略）

24 启动集群 集群启动顺序为：照片或项目共享机器首先启动  启动服务器端批处理  启动节点批处理。

服务器端运行效果图：

节点运行效果图：

25 监控集群状态

开始菜单启动“Agisoft Network Monitor (64 bit)”，Host Name 输入 “Node-001”（运行服务端的机器名），点击 “Connect” ，如下图：

祝顺利！如果哦。

---