Presto 访问 OSS 透明缓存加速 | 学习笔记

简介: 快速学习 Presto 访问 OSS 透明缓存加速。

开发者学堂课程【数据湖 JindoFS + OSS 实操干货36讲Presto 访问 OSS 透明缓存加速 】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/833/detail/13973


Presto 访问 OSS 透明缓存加速

 

内容介绍

一、JindoFS 缓存模式简介

二、Presto 访问 OSS 的缓存加速

三、实操演示

 

一、JindoFS 缓存模式简介

两大服务主件:

Jindo Namespace Service(负责缓存数据快的信息管理)

Jindo Storage Service(部署在节点上,利用本地存储资源实现缓存加速)

一个客户端:Jindo SDK

 

二、Presto 访问OSS的缓存加速

1.部署缓存服务

(1)下载最新 Release b2smartdata-x.x.x.tar.gz ,解压并部署到集群所有节点上

2)修改配置文件 conf/bigboot.cfg

 1.png

3)修改 sbin/nodes,配置所有 storage service 的节点列表

4)启动所有服务/sbin/start-service.sh

详细文档可参考:https://gitub.com/aliyun/alibabacloud-jindofs/blob/master/docs/jindofs_cache_mode_deploy.md

2.部署 Jindo SDK

1)安装 jar 包:下载最新的 jar jindofs-sdk-x.x.x.jar,在所有 Presto 节点安装。cpjindofs- sdk-$ {version} .jar$PRESTO_HOME/plugin/hive-hadoop2/

2)配置 JindoFS 实现类:将JindoFS 实现类配置到 Hadoop core-site.xml中。

3.配置 OSS Access Key

OSS Access KeyAccess Key SecretEndpoint 等预先配置在Hadoopcore-site.xml 中。

4.配置客户端连接缓存服务

客户端通过环境变量 B2SDK_CONF_DIR 定位并加载配置文件 bigboot.cfg

·设置环境变量指定配置目录

export B2SDK_CONF_DIR=/path/to/sdk/conf

·在配置目录下添加 bigboot.cfg 配文件

·client.storage.rpc.port=6101

·client.namespace.rpc.address= :8101

·jfs.cache.data-cache.enable=true2.png5.Presto 访问 OSS 透明缓存加速

·完成以上配置之后,重启 Presto 所有服务

·hive catalog 即可访问 OSS

·Presto SQL 读取 OSS 上的数据后,会自动缓存到 JindoFS 缓存系统中,后续访问相同的数据就能够命中缓存


三、实操演示

·JindoFS 缓存服务配置:3.png

·启动后进程会监听在8104端口上,通过浏览器查看8104端口,可以查看整个JindoFS 的状态信息,配置的节点和磁盘水位。

4.png完成以上检查后,即可确认一个缓存服务的可用状态

·以下为在 Presto 中如何使用 SDK 来缓存加速数据5.png

相关实践学习
通义万相文本绘图与人像美化
本解决方案展示了如何利用自研的通义万相AIGC技术在Web服务中实现先进的图像生成。
相关文章
|
缓存 NoSQL 网络安全
【Azure Redis 缓存】Azure Redis服务开启了SSL(6380端口), PHP如何访问缓存呢?
【Azure Redis 缓存】Azure Redis服务开启了SSL(6380端口), PHP如何访问缓存呢?
211 0
|
4月前
|
存储 缓存 网络协议
如何使用CDN加速访问OSS存储的图片资源?
通过阿里云CDN加速OSS上的图片和视频资源,可显著提升访问速度、降低带宽成本。CDN将静态资源缓存至离用户最近的节点,减少加载时间,并提供图像处理、缓存优化等功能,提升用户体验。同时,CDN还支持访问数据分析,助力运营决策。本文详解如何通过CDN控制台配置OSS加速,包括添加域名、设置CNAME、配置缓存策略等步骤,帮助您快速实现资源加速。
|
7月前
|
存储 人工智能 Kubernetes
AI 场景深度优化!K8s 集群 OSSFS 2.0 存储卷全面升级,高效访问 OSS 数据
阿里云对象存储OSS是一款海量、安全、低成本、高可靠的云存储服务,是用户在云上存储的高性价比选择…
|
8月前
|
存储 Kubernetes 对象存储
StrmVol存储卷:如何解锁K8s对象存储海量小文件访问性能新高度?
如何提升海量文件的数据读取速率,对于AI训练集管理、量化回测、时序日志分析等场景尤为重要。阿里云容器服务(ACK))支持StrmVol类型存储卷,基于底层虚拟块设备及内核态文件系统,显著降低海量小文件访问延迟。
|
8月前
|
存储 Kubernetes 对象存储
StrmVol 存储卷:解锁 K8s 对象存储海量小文件访问性能新高度
本文介绍了阿里云容器服务(ACK)支持的StrmVol存储卷方案,旨在解决Kubernetes环境中海量小文件访问性能瓶颈问题。通过虚拟块设备与内核态文件系统(如EROFS)结合,StrmVol显著降低了小文件访问延迟,适用于AI训练集加载、时序日志分析等场景。其核心优化包括内存预取加速、减少I/O等待、内核态直接读取避免用户态切换开销,以及轻量索引快速初始化。示例中展示了基于Argo Workflows的工作流任务,模拟分布式图像数据集加载,测试结果显示平均处理时间为21秒。StrmVol适合只读场景且OSS端数据无需频繁更新的情况,详细使用方法可参考官方文档。
831 144
|
7月前
|
存储 人工智能 测试技术
AI 场景深度优化!K8s 集群 OSSFS 2.0 存储卷全面升级,高效访问 OSS 数据
OSSFS 2.0通过轻量化协议设计、协程化技术及FUSE3低级API重构,实现大文件顺序读写与小文件高并发加载的显著提升,在实际测试中表现出高达数十倍的吞吐量增长。适用于机器学习训练、推理等对高带宽低延迟要求严苛的场景,同时支持静态和动态挂载方式,方便用户在ACK集群中部署使用。
764 34
|
存储 应用服务中间件 开发工具
对象存储OSS-Python设置代理访问请求
通过 Python SDK 配置 nginx 代理地址请求阿里云 OSS 存储桶服务。示例代码展示了如何使用 RAM 账号进行身份验证,并通过代理下载指定对象到本地文件。
510 15
|
存储 人工智能 缓存
AI助理直击要害,从繁复中提炼精华——使用CDN加速访问OSS存储的图片
本案例介绍如何利用AI助理快速实现OSS存储的图片接入CDN,以加速图片访问。通过AI助理提炼关键操作步骤,避免在复杂文档中寻找解决方案。主要步骤包括开通CDN、添加加速域名、配置CNAME等。实测显示,接入CDN后图片加载时间显著缩短,验证了加速效果。此方法大幅提高了操作效率,降低了学习成本。
5902 16
|
存储 网络安全 对象存储
缺乏中间证书导致通过HTTPS协议访问OSS异常
【10月更文挑战第4天】缺乏中间证书导致通过HTTPS协议访问OSS异常
902 4
|
缓存 NoSQL 网络安全
【Azure Redis 缓存】在Azure Redis中,如何限制只允许Azure App Service访问?
【Azure Redis 缓存】在Azure Redis中,如何限制只允许Azure App Service访问?
117 0