半天掌握日志存储 云启实验室系列课程 第六讲 | 日志服务数据导入

本文涉及的产品
对象存储 OSS,OSS 加速器 50 GB 1个月
简介: 本场景介绍如何通过日志服务数据导入方式,将 OSS 数据导入到日志服务。
 

好运集市 春天好运会发芽🌱

半天掌握日志存储,云启实验室系等你来!

好运集市.jpeg

4月21日-4月29日,完成以下课程学习即可参与抽奖,100%中奖,云小宝、双肩包、VR眼镜等你来。
点击实验室课程链接:https://developer.aliyun.com/adc/series/activity/sls-1

课程实践.png

半天掌握日志存储 云启实验室系列课程 第六讲 | 日志服务数据导入 实验背景

本场景将提供一台配置了 CentOS 7.7 版本的 ECS 实例(云服务器)。通过本教程的操作,您可以基于已有环境快速采集 Nginx 日志。
体验此场景后,可以掌握的知识有:
• 日志服务数据导入基本操作。

本场景主要涉及以下云产品和服务:
• 日志服务 SLS:
日志服务SLS是云原生观测与分析平台,为 Log、Metric、Trace 等数据提供大规模、低成本、实时的平台化服务。日志服务一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能,全面提升您在研发、运维、运营、安全等场景的数字化能力。
• 云服务器 ECS:
云服务器(Elastic Compute Service,简称 ECS)是阿里云提供的性能卓越、稳定可靠、弹性扩展的IaaS(Infrastructure as a Service)级别云计算服务。云服务器 ECS 免去了您采购IT硬件的前期准备,让您像使用水、电、天然气等公共资源一样便捷、高效地使用服务器,实现计算资源的即开即用和弹性伸缩。阿里云 ECS持续提供创新型服务器,解决多种业务需求,助力您的业务发展。

实验后您将收获到
• 日志服务真实操作环境
• OSS 基本操作

半天掌握日志存储 云启实验室系列课程 第六讲 | 日志服务数据导入 实验手册

上传日志文件

1、双击打开虚拟桌面的Firefox ESR浏览器。

2、在RAM用户登录框中单击下一步,并复制粘贴页面左上角的子用户密码到用户密码输入框,单击登录。

3、在浏览器中打开新页签,访问如下地址,下载测试日志文件。

https://labfileapp.oss-cn-hangzhou.aliyuncs.com/%E6%97%A5%E5%BF%97%E6%9C%8D%E5%8A%A1/testlog.csv

4、在浏览器中打开新页签,复制如下对象存储OSS控制台地址,粘贴到地址栏中并访问。

https://oss.console.aliyun.com/

5、在对象存储控制台左侧导航栏中,单击Bucket列表img

6、在Bucket列表页面,单击Bucket名称img

7、在文件管理页面,单击新建目录img

8、在新建目录对话框中,输入目录名sls,单击确定img

9、在文件管理页面,单击文件名slsimg

10、在sls目录中,单击上传文件img

11、在上传文件页面,文件ACL选择公共读,单击扫描文件,找到目录/home/adc/下载,选择下载好的测试日志test.log,然后单击上传文件img

任务列表页面,等待状态变为上传成功,表示测试日志文件已经上传成功到OSS。 img

创建Logstore

1、在浏览器中打开新页签,复制如下日志服务控制台地址,粘贴到地址栏中并访问。

https://sls.console.aliyun.com/

2、在日志服务控制台页面下方的Project列表区域,选择云产品资源列表中Project name,然后单击Project名称

img

img

3、在左侧日志库功能栏中,单击 img

img

4、在创建Logstore对话框中,输入Logstore名称,打开WebTracking开关,然后单击确定

参数说明:

  • Logstore名称:自定义Logstore名称,在其所属Project内必须唯一。创建Logstore成功后,无法更改其名称。
  • WebTracking:打开WebTracking开关,您可以通过WebTracking从HTML、H5、iOS或Android上采集数据到日志服务。 img

5、在创建成功对话框中,单击取消img

1、在日志服务控制台的接入数据区域,单击OSS-数据导入

img

2、在选择日志空间页面,在项目Project中选择云产品资源列表中的Project name,在日志库Logstore中选择步骤三中创建的Logstore,然后单击下一步img

3、在数据源设置页面,输入配置名称,选择OSS RegionBucket,输入文件夹前缀,选择数据格式,然后单击预览

参数说明:

  • 配置名称:自定义配置名称。
  • OSS Region:待导入的OSS文件所在Bucket的地域,可在云产品资源列表中查看Bucket的地域。
  • Bucket:待导入的OSS文件所在的Bucket,可在云产品资源列表中查看Bucket Name。
  • 文件夹前缀:待导入的OSS文件所在文件夹的前缀,输入sls/
  • 数据格式:文件的解析格式,选择单行文本日志。 img

4、在文件预览结果框中,预览数据,结果无误后,单击下个配置img

5、在数据格式配置页面,单击测试,测试结果无误后,单击下个配置img

6、在调度间隔页面,打开立即执行,单击下一步img

7、在查询分析配置页面,单击下一步img

8、在结束页面,单击查询日志img

9、在查询分析对话框中,单击确定img

10、在查询分析页面,稍等几分钟后,单击查询/分析,即可查询到从OSS导入的日志数据。

img

导入OSS数据

1、在日志服务控制台的接入数据区域,单击OSS-数据导入

img

2、在选择日志空间页面,在项目Project中选择云产品资源列表中的Project name,在日志库Logstore中选择步骤三中创建的Logstore,然后单击下一步img

3、在数据源设置页面,输入配置名称,选择OSS RegionBucket,输入文件夹前缀,选择数据格式,然后单击预览

参数说明:

  • 配置名称:自定义配置名称。
  • OSS Region:待导入的OSS文件所在Bucket的地域,可在云产品资源列表中查看Bucket的地域。
  • Bucket:待导入的OSS文件所在的Bucket,可在云产品资源列表中查看Bucket Name。
  • 文件夹前缀:待导入的OSS文件所在文件夹的前缀,输入sls/
  • 数据格式:文件的解析格式,选择单行文本日志。 img

4、在文件预览结果框中,预览数据,结果无误后,单击下个配置img

5、在数据格式配置页面,单击测试,测试结果无误后,单击下个配置img

6、在调度间隔页面,打开立即执行,单击下一步img

7、在查询分析配置页面,单击下一步img

8、在结束页面,单击查询日志img

9、在查询分析对话框中,单击确定img

10、在查询分析页面,稍等几分钟后,单击查询/分析,即可查询到从OSS导入的日志数据。

img

相关实践学习
通过日志服务实现云资源OSS的安全审计
本实验介绍如何通过日志服务实现云资源OSS的安全审计。
目录
相关文章
|
12月前
|
存储 运维 监控
SelectDB 实现日志高效存储与实时分析,完成任务可领取积分、餐具套装/水杯/帆布包!
SelectDB 实现日志高效存储与实时分析,完成任务可领取积分、餐具套装/水杯/帆布包!
|
11月前
|
存储 数据可视化 开发工具
【Application Insights】Application Insights存储的Function App的日志存在"Operation Link" 为空的情况
在将 Azure Functions 升级到 .NET 8 和 Isolated Worker 模式后,Application Insights 的请求日志中 `operation_Link` 字段为空,导致分布式追踪无法正常关联。解决方法包括:确保引用正确的 SDK 包(如 `Microsoft.Azure.Functions.Worker.ApplicationInsights`),正确配置 Application Insights 服务,移除默认日志过滤规则,并使用最新依赖包以支持分布式追踪。通过这些步骤,可恢复端到端事务视图的可视化效果。
212 12
|
存储 消息中间件 大数据
大数据-69 Kafka 高级特性 物理存储 实机查看分析 日志存储一篇详解
大数据-69 Kafka 高级特性 物理存储 实机查看分析 日志存储一篇详解
448 4
|
存储 消息中间件 大数据
大数据-70 Kafka 高级特性 物理存储 日志存储 日志清理: 日志删除与日志压缩
大数据-70 Kafka 高级特性 物理存储 日志存储 日志清理: 日志删除与日志压缩
287 1
|
存储 消息中间件 大数据
大数据-68 Kafka 高级特性 物理存储 日志存储概述
大数据-68 Kafka 高级特性 物理存储 日志存储概述
164 1
|
存储 监控 固态存储
如何监控和优化 WAL 日志文件的存储空间使用?
如何监控和优化 WAL 日志文件的存储空间使用?
520 1
|
存储 SQL 专有云
支持配置审计日志的存储数据库
审计日志作为企业监管平台的重要依据,同时也是“等保三级”认证的必要考察项之一。Dataphin V4.3版本支持设置平台日志的存储数据源,帮助用户快速获取审计日志,同时介绍了不同部署模式的Dataphin如何查看审计日志的方法。
408 5
|
SQL 关系型数据库 MySQL
Hadoop-25 Sqoop迁移 增量数据导入 CDC 变化数据捕获 差量同步数据 触发器 快照 日志
Hadoop-25 Sqoop迁移 增量数据导入 CDC 变化数据捕获 差量同步数据 触发器 快照 日志
213 0
|
监控 安全 Apache
什么是Apache日志?为什么Apache日志分析很重要?
Apache是全球广泛使用的Web服务器软件,支持超过30%的活跃网站。它通过接收和处理HTTP请求,与后端服务器通信,返回响应并记录日志,确保网页请求的快速准确处理。Apache日志分为访问日志和错误日志,对提升用户体验、保障安全及优化性能至关重要。EventLog Analyzer等工具可有效管理和分析这些日志,增强Web服务的安全性和可靠性。
511 9

相关产品

  • 日志服务