阿里云DTS踩坑经验分享系列|使用VPC数据通道解决网络冲突问题

本文涉及的产品
数据传输服务 DTS,同步至DuckDB 3个月
简介: 阿里云DTS作为数据世界高速传输通道的建造者,每周为您分享一个避坑技巧,助力数据之旅更加快捷、便利、安全。本文介绍如何使用VPC数据通道解决网络冲突问题。

阿里云DTS作为数据世界高速传输通道的建造者,每周为您分享一个避坑技巧,助力数据之旅更加快捷、便利、安全。


使用100网段访问实例弊端

当用户希望使用阿里云DTS将IDC自建库、或者他云自建库同步到阿里云上时,按照之前添加DTS服务器的IP地址段的操作,用户需要将多个100网段cidr在其专线、VPN上做路由配置,并在数据库上将100网段cidr加入白名单。具体的网络拓扑结构如下图所示:

但是,此类配置方法存在一些弊端:

  1. 配置完成后,用户无法自行在VPC内模拟100网段向数据库发起telnet、ping等测试连接,100网段的测试连接只能由阿里云DTS发起。
  2. 阿里云DTS测试连接只能做telnet,无法执行ping、traceroute、MTR等网络路由探测命令。
  3. 用户如果遇到网络不通问题只能依赖阿里云工作人员进行排查,无法自行进行有效的问题诊断和修复。
  4. 100网段除了有用户无法自行模拟的问题,还会存在跟友商云云服务网段冲突的风险。(历史上我们已经遇到了多起用户在多云环境下,对端云无法回应DTS 100网段报文的问题。)


什么是VPC数据通道

为了解决上述弊端问题,阿里云DTS正在灰度上线新的VPC数据通道方案,通过将 使用100网段访问用户实例,转化为 使用用户私网IP访问用户实例,从根源上解决用户使用100网段的配置复杂性问题。

新的方案架构图如下所示:

VPC数据通道通过使用用户私网IP访问用户实例的方案,使网络链路变得面向用户可控。

如上图所示,用户在IDC/他云环境中具有一个数据库实例,此实例地址为10.0.0.1:3306,IDC/他云环境的私有网段为10.0.0.0/8;同时用户在阿里云环境中具有一个VPC,用户IDC/他云环境与云上环境VPC已打通,VPC内的任意IP可以访问10.0.0.1:3306数据库实例。用户希望通过DTS将其IDC数据库实例迁移到云上VPC的RDS中。在使用了DTS VPC数据通道之后,DTS将在VPC内的VSW上,新增一个弹性网卡,(此弹性网卡的IP为172.16.0.1)并使用此弹性网卡IP作为源IP,访问用户IDC数据库实例,


VPC数据通道优势

相比于原先使用100网段访问用户实例,VPC数据通道具有以下优势:

  • DTS源IP用户可控:用户可控制DTS使用什么地址访问他云/IDC实例(用户指定VPC内VSW给DTS使用)
  • 用户可预先检查网络连通性:在用户配置DTS任务之前,可提前自行检查VSW到他云/IDC环境数据库的连通性,在VSW上申请ECS,并对他云/IDC数据库执行 telnet、ping、traceroute、MTR等命令,如网络不通可提前处理,避免等到配置DTS任务时才发现问题所在,耽误任务进度。
  • DTS使用网络组件以标准云产品形式对客户呈现:用户可在ECS控制台 > 网络与安全 > 弹性网卡 查找到DTS创建的用于访问用户实例的弹性网卡。
  • 有效减少因问题排查而浪费的时间,保障整个项目按计划进行。通过这些预防性措施,能够大幅降低因未知因素造成的延迟风险,确保项目的每一个阶段都在可控范围内进行。


了解更多

  1. 数据传输服务(Data Transmission Service,简称DTS)支持关系型数据库、NoSQL、大数据(OLAP)等数据源,集数据迁移、订阅、实时同步、校验功能于一体,能够解决公共云、混合云场景下,远距离、秒级异步数据传输难题。其底层基础设施采用阿里双11异地多活架构,为数千下游应用提供实时数据流,已在线上稳定运行7年之久,是一款沉淀了丰富实践经验的可靠产品。点击了解更多DTS相关信息
  2. 有关VPC数据通道的详情和使用限制,您可以参考 https://help.aliyun.com/zh/dts/user-guide/what-is-a-vpc-data-channel
  3. 目前VPC数据通道方案正在线上灰度中,欢迎线上试用:https://help.aliyun.com/zh/dts/user-guide/configure-a-vpc-data-channel-task
  4. 欢迎加入钉群讨论交流:

image.png

相关实践学习
WordPress自助建站教程
本场景将基于一台基础环境为Alibaba Cloud Linux 3的ECS(云服务器)实例,在LAMP环境中安装WordPress,帮助您快速搭建自己的云上博客。
相关文章
|
11月前
|
SQL 容灾 关系型数据库
阿里云DTS踩坑经验分享系列|DTS打通SQL Server数据通道能力介绍
SQL Server 以其卓越的易用性和丰富的软件生态系统,在数据库行业中占据了显著的市场份额。作为一款商业数据库,外部厂商在通过解析原生日志实现增量数据捕获上面临很大的挑战,DTS 在 SQL Sever 数据通道上深研多年,提供了多种模式以实现 SQL Server 增量数据捕获。用户可以通过 DTS 数据传输服务,一键打破自建 SQL Server、RDS SQL Server、Azure、AWS等他云 SQL Server 数据孤岛,实现 SQL Server 数据源的流动。
691 0
阿里云DTS踩坑经验分享系列|DTS打通SQL Server数据通道能力介绍
|
Shell 网络架构 计算机视觉
YOLOv11改进策略【模型轻量化】| ShufflenetV2,通过通道划分构建高效网络
YOLOv11改进策略【模型轻量化】| ShufflenetV2,通过通道划分构建高效网络
568 14
|
Shell 网络架构 计算机视觉
RT-DETR改进策略【模型轻量化】| ShufflenetV2,通过通道划分构建高效网络
RT-DETR改进策略【模型轻量化】| ShufflenetV2,通过通道划分构建高效网络
256 5
|
11月前
|
弹性计算 运维 负载均衡
课时3:阿里云专有网络VPC:让网络更加独立
阿里云专有网络VPC提供独立、安全的云上网络环境,支持自定义IP地址网段和灵活的路由配置。通过高速通道实现优质网络链路,可用性达99.95%,满足企业高要求的数据传输需求。VPC结合弹性公网IP、负载均衡SLB、Net网关等功能,帮助企业轻松管理网络资源,降低运维成本,实现高效、安全的混合云架构部署。
286 0
|
关系型数据库 MySQL 数据挖掘
阿里云 SelectDB 携手 DTS ,一键实现 TP 数据实时入仓
DTS 作为阿里云核心的数据交互引擎,以其高效的实时数据流处理能力和广泛的数据源兼容性,为用户构建了一个安全可靠、可扩展、高可用的数据架构桥梁。阿里云数据库 SelectDB 通过与 DTS 联合,为用户提供了简单、实时、极速且低成本的事务数据分析方案。用户可以通过 DTS 数据传输服务,一键将自建 MySQL / RDS MySQL / PolarDB for MySQL 数据库,迁移或同步至阿里云数据库 SelectDB 的实例中,帮助企业在短时间内完成数据迁移或同步,并即时获得深度洞察。
1514 3
阿里云 SelectDB 携手 DTS ,一键实现 TP 数据实时入仓
|
SQL 分布式计算 监控
在数据传输服务(DTS)中,要查看每个小时源端产生了多少条数据
【2月更文挑战第32天】在数据传输服务(DTS)中,要查看每个小时源端产生了多少条数据
209 6
DTS数据传输延迟可能有多种原因
【1月更文挑战第16天】【1月更文挑战第79篇】DTS数据传输延迟可能有多种原因
566 2
|
存储 Java 数据库连接
云数据仓库ADB不管是jdbc写入或者dts同步,均会存在丢数据的情况?
云数据仓库ADB不知道是不是磁盘出问题了不管是jdbc写入或者dts同步,均会存在丢数据的情况?
238 2
|
NoSQL MongoDB 数据库
DTS 的惊天挑战:迁移海量 MongoDB 数据时,捍卫数据准确完整的生死之战!
【8月更文挑战第7天】在数字化时代,大数据量的MongoDB迁移至关重要。DTS(数据传输服务)通过全面的数据评估、可靠的传输机制(如事务保证一致性)、异常处理(如回滚或重试),以及迁移后的数据校验来确保数据准确无损。DTS还处理数据转换与映射,即使面对不同数据库结构也能保持数据完整性,为企业提供可靠的数据迁移解决方案。
312 2
|
SQL 分布式计算 DataWorks
MaxCompute产品使用问题之dts是否支持传输数据到mc主键表2.0
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
198 2

热门文章

最新文章