Azkaban--安装部署--two server 模式安装--服务器配置上 | 学习笔记

简介: 快速学习 Azkaban--安装部署--two server 模式安装--服务器配置上

开发者学堂课程【Azkaban 大数据调度系统课程精讲Azkaban--安装部署--two server 模式安装--服务器配置上 学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/721/detail/12876


Azkaban--安装部署--two server 模式安装--服务器配置上


内容介绍:

一、节点规划

二、mysql 配置初始化

三、web-server 服务器配置

 

一、节点规划

HOST

角色

node-1 

MySQL

Node-2

web-serverexec-server 不同进程

需要两台服务器,在 node-1上安装 MySQL 数据库,在 two server 模式下使用 MySQL 存储数据。

 

二、mysql 配置初始化

Azkaban 使用第三方数据库保存数据时它需要相关的库和相关的表,需要进行创建,根据它提供脚本执行。

在编译好的文件中可以看到

azkaban-db-0.1.0-SNAPSHOT.tar.gz,初始化相关的脚本。

image.png

上传服务器,根据规划 node-1export/servers 路径下进行上传,选择 db 包,针对它做解压操作,tar zxvf azkaban-db-0.1. 0-SNAPSHOT.tar .gz,发现显示的信息都是.sql 脚本,官方帮助执行 create-all-sql-0.1.0-SNAPSHOT.sql 一个脚本即可完成所有的工作。

node-1:

mkdir /export/servers/ azkaban

tar-zxvf azkaban-db-0.1.0-SNAPSHOT.tar.gz-C /export/servers/azkaban/

//登陆

[root@node-1 azkaban db-0.1.0-SNAPSHOT]# mysql -u root -p

Mysql 上创建对应的库、增加权限、创建表

mysql> CREATE DATABASE azkaban_ two_server; #创建数据库

mysq|> use azkaban_ two_ server;切换到数据库

使用 source 命令清除脚本的路径

mysq|>source/export/servers/azkaban/

azkaban-db-0.1.0-SNAPSHOT/create-all-sql-0.1.0-SNAPSHOT.sql;

#加载初始化 sql 创建表

复制做相应的替换,完成初始化工作。

export/servers/azkaban/azkaban-db-0.1.0-SNAPSHOT/create-all-sql-0.1.0-SNAPSHOT.sql

可以发现里面执行了很多的 source。

通过工具打开数据库 Navicat,点击 node-1,刷新 web-server,可以发现创建好多个表,都是按照内部约束相关的关系,工程的名字,工程的文件,工程的权限,执行服务器,需要初始化的信息。

image.png


三、web-server 服务器配置

1、在服务器上需要部署两个进程,一个 web server,一个 exec server,为了方便,统一创建一个文件夹,mkdir azkabancd azkaban 文件夹中,打开参考资料,选择 web server exec server 上传。

image.png

2、针对这两个包进行解压,解压到当前目录下,解压完成后把安装包删除,#rm -rf azkaban-* . gz,分别配置服务器。

node-2:

mkdir /export/servers/azkaban

tar -zxvf azkaban-web-server-0.1.0-SNAPSHOT.tar.gz -C /export/servers/azkaban/

tar -zxvf azkaban-exec-server-0.1.0-SNAPSHOT.tar.gz -C /export/servers/azkaban/

3web 服务器可以开启 ssl 证书,访问公司网站,有的公司是 http,有的是 https,所谓的 https 就是对参数协议做加密认证,加密就叫 ssl 认证,azkaban 内置有 jetty 服务器,开启服务器的 ssl 认证,使访问的时候更加的安全。

生成 ssl 证书:

keytool -keystore keystore -alias jetty -genkey -keyalg RSA

运行此命令后,会提示输入当前生成 keystore 的密码及相应信息,输入的密码请记住(所有密码统一以123456输入)

Enter keystore password 输入证书的密码

Enter key password for <jetty>

(RETURN if same as keystore password):

输入密码对 jetty 服务器,最好和证书密码保持一致。输入123456回车。

4、完成上述工作后,将在当前目录生成 keystore 证书文件,keystore 拷贝到 azkaban web 服务器根目录中。

移动 mv keystore azkaban-web - server-0.1. 0-SNAPSHOT/

: cp keystore azkaban-web- server -0.1. 0- SNAPSHOT/

如果采用 vim 编译器感觉不好配置,还可以使用 notepad++,远程的 ntp 服务器进行连接,打开 notepad++,插件选择 nppftp 服务器远程编辑,重新连接,配置在右键选择 Profile settingsAdding profile,机器叫做 node-2

image.png

主机名叫 node-222端口,用户名是 root,密码是服务器密码,timeout30

image.png

如果没有连接上,要确保选项是否正确,Connection type 选择 SFTP,保存。再点击 node-2,是否保存证书,点击是。

image.png

通过 notepad++远程编辑,避免相关出错,找到配置文件,在 export 路径下 serversweb 服务器,conf 路径下,打开 azkaban.properties

一定要确定文件在远程机器上。

配置 conf/azkaban.properties:

# Azkaban Personalization Settings

azkaban.name=Test

azkaban.label=My Local Azkaban

azkaban.color=#FF3601

azkaban.default.servlet.path=/index

web.resource.dir=web/

default.timezone.id=Asia/Shanghai # 时区注意后面不要有空格

# Azkaban UserManager class

user.manager.class=azkaban.user.XmlUserManager

user.manager.xml.file=conf/azkaban-users.xml

# Azkaban Jetty server properties.开启使用 ssl 并且知道端口 jetty.use.ssl=true

jetty.ssl.port=8443

jetty.maxThreads=25

# Azkaban Executor settings制定本机 Executor 的运行端口

executor.host=localhost

executor.port=12321

#KeyStore for SSL ssl相关配置注意密码和证书路径

jetty.keystore= keystore名字

jetty.password=123456

jetty.keypassword=123456

jetty.truststore=keystore

jetty.trustpassword=123456

# Azkaban mysql settings by default. Users should configure their ownusernameandpassword.

database.type=mysql

mysql.port=3306

mysql.host=node-1数据库修改

mysql.database=azkaban_ two_ server

mysql.user=root

mysql.password=hadoop进行内存检测,如果没有开启内存就屏蔽,检测当前机器是否满足内存,不满足会报错

mysql.numconnections=100

#Multiple Executor设置为 false

azkaban.use.multiple.executors=true

#azkaban.executorselector.filters=StaticRemainingFlowSize,MinimumFreeMemory,CpuStatus注释

azkaban.executorselector.comparator.NumberOfAssignedFlowComparator=1

azkaban.executorselector.comparator.Memory=1

azkaban.executorselector.comparator.LastDispatched=1

azkaban.executorselector.comparator.CpuUsage=1

添加 azkaban.native.lib=false execute.as.user=false 属性:

mkdir -p plugins/jobtypes

vim commonprivate.properties

azkaban. native. lib=false

execute. as.user=false

memCheck .enabled=false

相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。 &nbsp; 相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情:&nbsp;https://www.aliyun.com/product/rds/mysql&nbsp;
相关文章
|
5月前
|
监控 NoSQL 数据可视化
Django+Celery 进阶:Flower可视化监控与排错
本文介绍了Celery命令行工具与图形监控工具的使用,涵盖查看Worker状态、任务信息及集成至Django项目的方法,同时提供Redis监控与常见问题排错方案。
501 1
|
8月前
|
大数据
“你朋友圈的真面目,大数据都知道!”——用社交网络分析看透人情世故
“你朋友圈的真面目,大数据都知道!”——用社交网络分析看透人情世故
296 16
|
8月前
|
数据采集 JSON API
Python 实战!利用 API 接口获取小红书笔记详情的完整攻略
小红书笔记详情API接口帮助商家和数据分析人员获取笔记的详细信息,如标题、内容、作者信息、点赞数等,支持市场趋势与用户反馈分析。接口通过HTTP GET/POST方式请求,需提供`note_id`和`access_token`参数,返回JSON格式数据。以下是Python示例代码,展示如何调用该接口获取数据。使用时请遵守平台规范与法律法规。
|
数据采集 机器学习/深度学习 算法
【优秀设计案例】基于K-Means聚类算法的球员数据聚类分析设计与实现
本文通过K-Means聚类算法对NBA球员数据进行聚类分析,旨在揭示球员间的相似性和差异性,为球队管理、战术决策和球员评估提供数据支持,并通过特征工程和结果可视化深入理解球员表现和潜力。
675 1
【优秀设计案例】基于K-Means聚类算法的球员数据聚类分析设计与实现
|
8月前
|
数据采集 SQL 人工智能
长文详解|DataWorks Data+AI一体化开发实战图谱
DataWorks是一站式智能大数据开发治理平台,内置阿里巴巴15年大数据建设方法论,深度适配阿里云MaxCompute、EMR、Hologres、Flink、PAI 等数十种大数据和AI计算服务,为数仓、数据湖、OpenLake湖仓一体数据架构提供智能化ETL开发、数据分析与主动式数据资产治理服务,助力“Data+AI”全生命周期的数据管理。
1379 5
|
负载均衡 算法 应用服务中间件
Nginx 常用的负载均衡算法
【10月更文挑战第22天】不同的负载均衡算法各有特点和适用场景。在实际应用中,需要根据具体的业务需求、服务器性能和网络环境等因素来选择合适的算法。
379 3
|
存储 监控 NoSQL
MongoDB在不同行业中的广泛应用
MongoDB在不同行业中的广泛应用
513 3
|
SQL Serverless HIVE
Hive 求多个字段的中位数(按行求中位数)
在项目中遇到按行求中位数的Hive需求,本文通过创建测试数据,展示解决方案。首先使用`lateral view`和`explode`将多字段行转为列,然后通过`percentile`函数计算每行数据的中位数,最终得到结果。该方法适用于将行转为列处理复杂需求,欢迎探讨更优解。
443 4
|
Arthas 监控 Java
【Java基础】- JVM之Dump文件详解
【Java基础】- JVM之Dump文件详解
3829 3
【Java基础】- JVM之Dump文件详解
|
弹性计算 大数据 应用服务中间件
阿里云服务器新老用户优惠价格表及收费标准(2024最新更新)
2024年阿里云服务器租用价格表更新,云服务器ECS经济型e实例2核2G、3M固定带宽99元一年、ECS u1实例2核4G、5M固定带宽、80G ESSD Entry盘优惠价格199元一年,轻量应用服务器2核2G3M带宽轻量服务器一年61元、2核4G4M带宽轻量服务器一年165元12个月、2核4G服务器30元3个月,幻兽帕鲁4核16G和8核32G服务器配置,云服务器ECS可以选择经济型e实例、通用算力u1实例、ECS计算型c7、通用型g7、c8i、g8i等企业级实例规格
480 0