Logtail从入门到精通(三):机器分组配置
基于集团内数年来的Agent运维经验总结,我们设计了一种灵活性更高、使用更加便捷、耦合度更低的配置&机器管理方式:自定义标识机器分组。此种方式对于动态环境非常适用,尤其适用于弹性伸缩服务和swarm、pouch(阿里docker)、Kubernetes等容器环境。
Logtail从入门到精通(一):日志采集杂谈
目前logtail已承载阿里云全站、所有云产品服务、全球各Region部署、阿里巴巴集团(淘宝、天猫、菜鸟等)上重要服务的数据采集。每天采集接近百万服务器上数PB的实时数据,对接数千个应用与消费者。
SQL老司机:流量骤增骤减,可以这样设置告警
面向用户的在线产品,例如游戏行业,需要实时的关注流量情况,如果流量突然降低,那么我们得立刻检查,是否是宕机了,或者进程异常,避免影响用户体验。那么怎么设置这样的告警呢?接下来通过日志服务来介绍。 完整的报警语句 先贴个完整的告警语句: * | select time,pvPerSec, lastPvPerSec, diff,diff >1.
如此方便的日志分析功能,快来嵌入到你的网站吧!
背景需求 用户配置完成日志服务采集和查询分析等功能后,期望能直接使用日志查询分析和仪表盘页面,同时对于日志一般需要分享给其他同事进行使用,此时使用RAM会带来众多子账号的管理成本,因此日志服务提供新的单点登录方式嵌入式集成查询分析和仪表盘等页面。
带您探究云存储的奥秘,三分钟帮您快速了解OSS
快来,带您探究云存储的奥秘,三分钟帮您快速了解OSS。 阿里云对象存储服务,简称 OSS,是一种面向海量数据规模的分布式存储服务,具有稳定、可靠、安全、低成本的特点,能够提供十一个九的数据可靠性。OSS提供与平台无缝对接地RESTful API接口,您可以在互联网任何位置任何设备上访问OSS。
Lucene 查询原理
# 前言 Lucene 是一个基于 Java 的全文信息检索工具包,目前主流的搜索系统Elasticsearch和solr都是基于lucene的索引和搜索能力进行。想要理解搜索系统的实现原理,就需要深入lucene这一层,看看lucene是如何存储需要检索的数据,以及如何完成高效的数据检索。
SQL老司机,居然是这样智能挖掘异常日志
提取异常日志是个大难题 面对海量的日志(TB乃至PB级别),如何从日志中挖掘出异常信息对于大部分的开发者而言是一个大难题。例如,判断机器的延时是否正常,部分request是否正常。通常,我们对于异常的数据,要及时的报警,以尽快的处理。
智能媒体管理产品文档转换/预览功能介绍(1)---Cloud Native架构
办公文档是每个人日常频繁使用的工具,ppt、word、xls、wps、pdf等为我们工作和生活带来了很多的便利,本文介绍在云计算和智能手机时代,基于智能媒体管理的新型Cloud Native文档转换/预览架构,实现高效的
使用Logging Handler自动上传Python程序日志到日志服务
想要日志上云,又不想修改程序代码? 或者不希望进行相对复杂的客户端部署?那么您需要使用Logging Handler,现在Python程序也支持了!
如何在阿里云•对象存储OSS托管用户域名的https证书
OSS服务支持将用户域名绑定到OSS域名,并为此用户域名提供HTTPS证书托管服务。以满足用户使用自己的域名也能支持HTTPS安全加密的访问方式传输数据。
如何使用OSS视频截帧功能快速生成视频预览
OSS作为对象存储产品,主要提供的是海量非结构化数据的存储,其中绝大部分都是视频和图片等富媒体数据,针对该场景的需求,OSS提供了丰富的图片处理功能来帮助用户更加方便的对存储于OSS上的图片数据进行加工,从而减少了对于流量、CPU等资源的消耗。
CLI使用案例4:灵活配置CLI
配置CLI以满足不同需求: - 配置多个账户,方便测试和多域操作。 - 切换默认账户,不用每个命令都指定。 - 使用HTTPS连接日志服务,更加安全。 - 格式化输出json格式,更方便查阅。
开放分布式追踪(OpenTracing)入门与 Jaeger 实现
分布式系统的运维挑战 容器、Serverless 编程方式的诞生极大提升了软件交付与部署的效率。在架构的演化过程中,可以看到两个变化: 应用架构开始从单体系统逐步转变为微服务,其中的业务逻辑随之而来就会变成微服务之间的调用与请求。
OSS定制自定义response header
OSS通过传入"x-oss-persistent-headers"这个头,支持指定非"x-oss-meta-"开头的usermeta,满足特定用户特定场景的需求
日志服务支持Json类型数据
JSON数据作为一种通用类型的数据类型,其自解析、灵活的特性,使其能够很好满足复杂场景下数据的记录需求,在很多日志内容中格式不固定的部分往往都是以json的形式进行记录,如将一次http请求的request参数和response内容以json的形式记录在一条日志中。
全面提升,阿里云Docker/Kubernetes(K8S) 日志解决方案与选型对比
今天,日志服务再次升级Kubernetes(k8s)的日志解决方案。1分钟内即可完成整个集群部署,支持动态扩容,提供采集宿主机日志、容器日志、容器stdout等所有数据源的一站式采集。
日志服务(原SLS)2018-1 月功能发布
2018年1月版本已发布,包含:Mysql Binlog/JDBC/Http Reqeust采集,IP位置/经纬度分析函数,Log4J/LogBack Appender,OSS访问日志分析等功能,欢迎试用!
CLI使用案例3:轻松跨库查询数据并下载到本地
使用日志服务想要跨库查询? 网页控制台下载数据一页一页十分痛苦? SDK分页加格式化有些复杂? 不想写代码就可以查询数据并下载到本地? 日志服务CLI可以帮助你轻松解决这些问题.
OSS服务器端加密之初体验
本文介绍如何基于ossutil工具,体验oss服务器端加密功能。 关于服务器端加密 OSS支持在服务器端对用户上传的数据进行加密编码(Server-Side Encryption):用户上传数据时,OSS对收到的用户数据进行加密编码,然后再将得到的加密数据持久化保存下来;用户下载数据时,OSS自动对保存的加密数据进行解密并把原始数据返回给用户,并在返回的HTTP请求Header中,声明该数据进行了服务器端加密。
阿里云NAS备份服务
阿里云NAS(Network Attached Storage)是一款高可靠高可用高性能的分布式存储产品,应用场景包括ECS、HPC、Docker等共享存储。目前已经有大量的客户使用NAS作为他们的数据存储,其中包括今日头条、Ofo这样的大型互联网企业,也有基因测序这类生物医药企业,还有众多的小企业,应用场景非常丰富。
Java日志上云三剑客:Log4J/LogBack/Producer Lib
日志服务提供30多种数据采集方式,针对服务器、移动端、嵌入式设备及各种开发语言都提供完整的接入方案。对 Java 开发者而言,没有什么比熟悉的日志框架 Log4j、Log4j2、Logback Appender 更好使的了。
CLI使用案例2:轻松大并发地拉取大数据到本地
当你需要把特定数据下载到本地时, 是否遇到一些困难: 1. 现在的Web控制台只能一页一页的下载? 2. SDK提供的接口需要用起来有些复杂, 例如游标怎么获取, 分区如何传入, 拉去数据后需要输出格式化? 如果是的, 你可能需要使用日志服务的CLI来轻松拉取大量数据到本地.
CLI使用案例1:快速创建Logtail配置
Logtail作为日志服务的轻量级数据采集工具, 如何大批量快速配置Logtail是使用日志服务的一个重要操作, CLI使得这件事情可以快速完成.
SLS 命令行控制台工具(CLI)来啦
如果你遇到以下槽点, 那么CLI为你而生: 1. 线下创建项目后,线上又要重新配置 2. 一个区域创建好项目,复制到其他15个区域 3. 把日志查询结果批量导出 4. 批量配置与脚本化配置
认识阿里云的产品逻辑:基础设施必须比业务跑得快
(本文根据海峰姐与狒哥的E企播报的直播访谈中进行整理解读: 原文来源:E企播报:阿里云、华为存储重压全闪存,英特尔美光劳燕分飞 作者:海峰姐 狒哥 地址:https://mp.weixin.qq.com/s/-8llRtGtP0cA76-u13Ctpw)
增长黑客系列:今天比昨天增长多少?快使用环比函数来分析日志
增长黑客系列:今天比昨天增长多少?快使用环比函数来分析日志 在我们平时分析业务时,一个最重要的指标就是,今天比昨天增长多少,本周比上周增长多少;或者同上一个周期相比增长最大的分类是哪个?这些问题,可以使用一个SQL来分析。
AI驱动智能化日志分析 : 通过决策树给日志做聚类分析
日志自动化、智能化分析对于AI需求 通常,我们分析日志,是为了两个目标: 对数据有个整体的概览,例如,生成一天内的报表。 对异常数据进行挖掘,例如,对特殊的日志进行告警。 日志分析,通常对分析者有这些要求: 对业务数据的熟悉程度要求比较高。
阿里云文件系统SMB访问协议服务及使用指南
阿里云于2016年发布了支持NFS网络文件系统访问协议的阿里云文件系统。2017年3月,又增加了SMB文件系统访问协议的支持,正式对外公测。2018年1月,阿里云NAS SMB支持正式提供商业化服务。本文简单描述了SMB文件系统访问协议以及阿里云NAS支持的SMB协议功能,并简单介绍了该服务的使用场景以及使用流程。
日志服务-15分钟搞定NGINX访问日志分析
15分钟能做什么? 可能一本书只能看一个章节,慢慢品一杯咖啡才喝了一半,或许玩一把炉石传说。 日志服务11月份发布数据接入向导功能,如果平均一首歌的时间按3分钟计算,那么给我们5首歌的时间,我们一起来通过日志服务的数据接入向导快速玩转NGINX访问日志分析~
时间序列数据的存储和计算 - 开源时序数据库解析(四)
Prometheus 开源时序数据库解析的系列文章在之前已经完成了几篇,对比分析了Hbase系的OpenTSDB、Cassandra系的KairosDB、BlueFlood及Heroic,最后是tsdb ranking top 1的InfluxDB。
10分钟搭建MySQL Binlog分析+可视化方案
日志服务 最近在原有30+种数据采集渠道 基础上,新增MySQL Binlog、MySQL select等数据库方案,仍然主打快捷、实时、稳定、所见即所得的特点。 以下我们以用户登录数据库作为案例,演示如何在10分钟内手把手完成从binlog采集到查询、告警、搭建报表等全过程,满足各个老板们的需求。
一张图看懂阿里云智能媒体管理产品
近日,阿里云发布了智能媒体管理(Intelligent Media Managemen)服务, 通过离线处理能力关联授权的云存储,提供便捷的海量多媒体数据一键分析,并通过该分析过程构建价值元数据,更好支撑内容检索。
场景化封装,一站式使用,普惠AI集成 ——阿里云发布智能媒体管理产品
近日,阿里云发布了智能媒体管理(Intelligent Media Management)服务, 通过离线处理能力关联授权的云存储,提供便捷的海量多媒体数据一键分析,并通过该分析过程构建价值元数据,更好支撑内容检索。
日志服务(原SLS)2017-12 月功能发布
日志服务12月功能已上线,包括美东Region、嵌入式客户端(C-Producer)、Flink Connector、 CLI、API网关打通、告警优化、控制台快速分析等功能,欢迎试用
1分钟构建API网关日志解决方案
访问日志(Acccess Log)是由web服务生成的日志,每一次api请求都对应一条访问记录,内容包括调用者IP、请求的URL、响应延迟、返回状态码、请求和响应字节数等重要信息。 阿里云API网关提供API托管服务,在微服务聚合、前后端分离、系统集成上为用户便利的产品。
OSS产品Bucket分级的使用场景及注意事项
oss产品允许用户设置三种类型的Bucket,分别是标准(Standard)、低频(IA)、归档(Archive)三级存储类型,Bucket的类型决定了用户Object上传后的默认类型。
使用Cloudberry Explorer管理和访问阿里云OSS
对于从Amazon S3迁移到OSS用户,往往希望最小化客户端应用和工具改动,以达到尽可能平滑的迁移,减少迁移成本。本文以S3常用客户端工具Cloudberry Explorer for Amazon S3为例,介绍如何配置使用S3客户端工具管理和访问阿里云OSS上的资源。
Veritas联手阿里云,提供混合云灾备解决方案
Veritas现与阿里云联手,为企业提供BackupExec通用云备份、NetBackup行业用户云备份、InfoScale云容灾解决方案。
TableStore Timeline:轻松构建千万级IM和Feed流系统
在文章《现代IM系统中消息推送和存储架构的实现》中介绍了一种适用于IM的消息存储和推送模型Timeline,在本篇文章中,会扩展Timeline模型到IM和Feed流系统中,并且提供成熟的LIB实现。用户基于TableStore-Timeline LIB可轻松实现千万级的IM和Feed流系统。
解码2017双11:全球狂欢新记录背后的阿里云存储
2017天猫双11再次刷新纪录,这背后是大数据的支撑和阿里云计算的能力的体现。手淘、天猫APP主站的所有图片和视频都存储在阿里云对象存储OSS之上,全球数以亿计的消费者,对这些商品的访问的流量和并发次数,比成交笔数高得高。
视频监控业务上云方案解析
阿里云针对安防监控服务在传统IT架构下面临的上述问题,基于阿里云存储服务,提供视频监控解决方案。从2015年推出视频监控存储与播放解决方案以来,帮助大量的视频监控企业解决了上云的过程中遇到的问题,针对不同的视频监控厂商,也推出了不同的解决方案
IoT日志利器:嵌入式日志客户端(C Producer)发布
2017年12月19日至20日,2017云栖大会·北京峰会在国家会议中心召开,飞天智能是贯穿云栖大会不变的主题,云计算、大数据、人工智能、物联网等热门话题备受各方关注。其中阿里云日志服务发布的嵌入式日志采集客户端(C Producer Library) 就是其中解决物联网日志采集、分析难的利器。
Hadoop默认支持集成OSS,作为Hadoop兼容的文件系统
Apache Hadoop默认支持阿里云OSS对象存储系统,作为Hadoop兼容的文件系统。OSS是中国云计算厂商第一个也是目前唯一一个被Hadoop官方版本支持的云存储系统。这意味着全球用户Hadoop生态的离线、交互、数据仓库、深度学习等程序,可以在不需要改代码的情况下,自由读写OSS的对象存储。
云存储
阿里云存储基于飞天盘古2.0分布式存储系统,产品多种多样,充分满足用户数据存储和迁移上云需求。