【阿里云 CDP 公开课】 第五讲:如何迁移 CDH/HDP 到 CDP

简介: 本文整理自 Cloudera 生态资深解决方案工程师王雪峰,分享的《如何迁移CDH_HDP到CDP》,主要分为 CDP升级概述、迁移升级指南两个部分。

本期导读 :【阿里云 CDP 公开课】第五讲


主题:如何迁移 CDH/HDP 到 CDP

讲师:王雪峰,Cloudera 生态资深解决方案工程师


内容框架:

  • CDP 升级概述
  • 迁移升级指南



直播回放链接:(第5讲)

https://developer.aliyun.com/live/248385


一、CDP 升级概述

在旧 CDH/HDP 升级到新 CDP 的过程中,主要有两种原地升级迁移升级两种方式:


原地升级

迁移升级

概述

卸载旧的CDH,保留原有数据,然后安装新版CDH并升级

安装新的CDH集群,然后将现有数据拷贝至新集群,将新的CDH集群切换为生产集群

目标客户

  • 没有富余的主机资源用做中间集群
  • 能够接受较长的服务停机时间
  • 有富余的主机资源(新节点或者缩编现有节点)用做中间集群
  • 要求极短的服务宕机时间

优点

不需要任何额外硬件资源

  • 没有数据丢失风险
  • 较短的服务停机时间

缺点

  • 服务停机时间相对较长
  • 需要多重验证
  • 额外的硬件资源
  • 需要迁移数据
  • 整体升级周期较长

原地升级

image.png

版本要求

HDP2(2.6.5 以上版本)和 CDH5(5.13-5.16 版本)的用户可以直接采用原地升级,升级到 CDP7.03 以上版本。如果低于 HDP2.6.5 版本或 CDH5.13 版本,则需要先升级到对应版本再进行原地升级。而 CDH6 的用户都可以原地升级到 CDP7.1.7 以上版本;HDP3 的用户都可以原地升级到 7.1.6 以上版本。


用户特征

在原地升级的情况下,最适合的用户特征如下:

  • 没有额外的资源
  • 组织有多个集群,可以在配置较低的环境中验证整个升级测试
  • 集群里边有大型的单租户集群,而不是有很多租户,租户之间对时间要求也不一样


升级过程

image.png

  • 备份应用程序和配置
  • 已删除的组件查看和替换应用程序 (docs)
  • 从 DEV开始,升级 CM
  • 部署parcel、激活并升级到CDP Runtime
  • 完成应用冒烟测试
  • 安排停机时间
  • 升级主服务器、工作服务器、边缘服务器和客户端服务器
  • 运行工作负载并完成App Dev Signoff


升级任务

image.png



迁移升级

image.png

用户特征

在迁移升级的情况下,最适合的用户特征如下:

  • 有额外的基础设施,这一点对于阿里云用户来说得天独厚
  • 干净的开始(新服务器配置,新网络,操作系统,平台)
  • 无法承受长时间停机的租户
  • 大型的多租户集群,难以协调切换


升级过程

image.png

  • 资产清单
  • 创建新的 CDP PvC Base 集群
  • 逐步将数据和工作负载迁移到 CDP 集群
  • 随着工作负载从旧集群移出,服务器可以退役,然后添加到新的 CDP 集群
  • 重复使用或停用旧硬件


升级任务

image.png




CDH/HDP 到 CDP 升级路线图

image.png

其中较为推荐CDP7.1.7,版本更为稳定。CDP/HDP 的所有用户都可以通过原地升级或迁移升级到CDP7.1.7。如果需要使用更低的版本,可以在上图找到适合的最低版本。


技术风险和应对措施

image.png


二、迁移升级指南

迁移指导文档:

https://docs.cloudera.com/cdp-private-cloud-upgrade/latest/migrating.html  

迁移升级工作分解

image.png


迁移升级实施流程

image.png

预备期

EE6DA117-4C44-4d4c-83EE-149FAF5392AD.png

并行期

F640EBE7-CB33-4a41-9C49-13AAA307CA1D.png

运行期

30646694-8138-4961-AEC2-640F015E612F.png

数据迁移方案说明

基础组件

8D7F6A9B-7433-4bc8-8128-88B88A1740D3.png


安全+元数据

image.png

数据仓库 +操作型数据库 + 机器学习 + 数据工程

93F3F8C6-126B-4fc9-925C-883B786BF5B0.png

流处理

14D9A0DE-55A2-4a95-ADE6-56521A1C208F.png

Hbase迁移比较

D3241AEE-7F81-4a66-B257-06A486EEAEF1.png

全量&增量数据迁移

48AE257F-D2AE-4b6b-AC3C-3C8F56C90E0D.png


数据一致性校验方法

image.png




image.png

大家如果对产品感兴趣,欢迎加入到阿里云 Cloudera 企业数据云交流群。对产品有任何疑问都可以在交流群里咨询。


以下是产品的链接,有需要的用户可以直接点击链接访问和使用产品。


阿里云官网:https://ac.aliyun.com/application/cloudera

或直接访问:https://market.aliyun.com/products/201190008/cmgj00047952.html

免费测试申请:https://survey.aliyun.com/apps/zhiliao/owtTaIQU3



相关文章
|
8月前
|
机器学习/深度学习 数据可视化 算法
Ray Flow Insight:让分布式系统调试不再"黑盒"
作为Ray社区的积极贡献者,我们希望将这些实践中沉淀的技术能力回馈给社区,推动Ray生态在实际场景中的应用深度和广度。因此,2024年底我们做了激活AntRay开源社区的决策,AntRay会始终保持与官方Ray版本强同步(即AntRay会紧随Ray官方社区版本而发布),内部Feature亦会加速推向AntRay以开源研发模式及时反哺内部业务,同时会将社区关注的Feature提交至Ray官方社区,实现内外部引擎双向价值流动。后续我们会以系列文章形式同步蚂蚁推向开源的新特性,本文将重点介绍:Ray Flow Insight —— 让分布式系统调试不再"黑盒"。
|
SQL 人工智能 分布式计算
一文看懂 Cloudera 对 CDH/HDP/CDP 的产品支持策略
一文看懂 Cloudera 对 CDH/HDP/CDP 的产品支持策略
一文看懂 Cloudera 对 CDH/HDP/CDP 的产品支持策略
|
7月前
|
存储 消息中间件 OLAP
基于 Flink+Paimon+Hologres 搭建淘天集团湖仓一体数据链路
本文整理自淘天集团高级数据开发工程师朱奥在Flink Forward Asia 2024的分享,围绕实时数仓优化展开。内容涵盖项目背景、核心策略、解决方案、项目价值及未来计划五部分。通过引入Paimon和Hologres技术,解决当前流批存储不统一、实时数据可见性差等痛点,实现流批一体存储与高效近实时数据加工。项目显著提升了数据时效性和开发运维效率,降低了使用门槛与成本,并规划未来在集团内推广湖仓一体架构,探索更多技术创新场景。
1479 3
基于 Flink+Paimon+Hologres 搭建淘天集团湖仓一体数据链路
|
机器学习/深度学习 人工智能 自然语言处理
【ACL2024】基于长尾检索知识增强的大语言模型
近日,阿里云人工智能平台PAI与阿里集团安全部内容安全算法团队、华东师范大学何晓丰教授团队合作,在自然语言处理顶级会议ACL2024上发表论文《On the Role of Long-tail Knowledge in Retrieval Augmented Large Language Models》,论文主题为长尾知识检索增强的大语言模型。通过将问题识别为普通可回答和长尾两种性质,让大模型针对性的对长尾问题进行检索文档增强。对于普通可回答的用户提问可以直接通过大模型回答,而不需要进行文档检索增强,从而能增强大模型处理不同类型用户提问的效率。
|
10月前
|
人工智能 自然语言处理 程序员
太好了,IDE支持满血版DeepSeek了,我们有救了!
除了 AI 程序员的重磅上线外,近期通义灵码能力再升级全新上线模型选择功能,目前已经支持 Qwen2.5、DeepSeek-V3 和 R1系列模型,用户可以在 VSCode 和 JetBrains 里搜索并下载最新通义灵码插件,在输入框里选择模型,即可轻松切换模型。
|
Windows
Windows操作系统部署安装Kerberos客户端
详细介绍了在Windows操作系统上部署安装Kerberos客户端的完整过程,包括下载安装包、安装步骤、自定义安装路径、修改环境变量、配置hosts文件和Kerberos配置文件,以及安装后的验证步骤。
1596 3
Windows操作系统部署安装Kerberos客户端
|
存储 SQL 分布式计算
impala入门(一篇就够了)
impala入门(一篇就够了)
2535 0
impala入门(一篇就够了)
|
存储 JSON NoSQL
【redis数据同步】redis-shake数据同步全量+增量
【redis数据同步】redis-shake数据同步全量+增量
|
前端开发 Java 测试技术
性能工具之 JMeter 上传与下载脚本编写
【4月更文挑战第3天】性能测试工作中,文件上传也是经常见的性能压测场景之一,那么 JMeter 文件上传下载脚本怎么做?
658 2
性能工具之 JMeter 上传与下载脚本编写
|
数据采集 API 开发者
爬虫:闲鱼商品详情数据接口(goodfish.item_get)
闲鱼的`goodfish.item_get`非官方API,其数据接口多为私有,适用于授权合作伙伴。获取商品详情数据可考虑官方合作、网络爬虫(需遵守反爬政策)、第三方API服务或直接联系闲鱼官方。合法合规使用数据至关重要。
1268 0