带你读《Elastic Stack 实战手册》之44:——3.5.3.Rollup (2)

简介: 带你读《Elastic Stack 实战手册》之44:——3.5.3.Rollup (2)

《Elastic Stack 实战手册》——三、产品能力——3.5 进阶篇——3.5.3.Rollup (1) https://developer.aliyun.com/article/1228772


基础 API

 

创建汇总任务

 

请求:PUT _rollup/job/


image.png

image.png


PUT _rollup/job/es-slowlog-agg-id
{
  "index_pattern": "es-slowlog*", #索引pattern名称
  "rollup_index": "rollup-es-slowlog-agg", #目标索引,rollup-开头必须明确指定
  "cron": "0 * * * * ?",  #定时任务执行周期,与汇总数据的时间间隔无关。
  "groups": {
    "date_histogram": { #定义 日期直方图聚合
      "calendar_interval": "1m",  # 时间桶大小,一分钟一个桶
      "field": "timestamp_local", #聚合的时间字段
      "delay": "1m", #汇总延时,多久之前的数据可以进行汇总,因为部分数据写入可能会有延时,汇总任务前要将数据全部写入并且可查询
      "time_zone": "UTC" # 时区 eg: GMT+8
    },
    "terms": {
      "fields": [  #汇总字段
        "cluster", # 集群的名称
        "elasticsearch.index.name", #索引名称
        "host.name" #主机名
      ]
    }
  },
  "metrics": [], #默认是count数,可以指定min、max、sum、average、value count
  "timeout": "20s", #超时时间
  "page_size": 10000 #单页数量,较大的值会更快地汇总,但也会耗费更多内存
}

查询所有汇总任务

GET _rollup/job/*


获取单个汇总任务详情

请求:GET _rollup/job/


GET _rollup/job/es-slowlog-agg-id
{
  "jobs": [
    {
      "config": {
        "id": "es-slowlog-agg-id",
        "index_pattern": "es-slowlog*",
        "rollup_index": "rollup-es-slowlog-agg",
        "cron": "0 * * * * ?",
        "groups": {
          "date_histogram": {
            "calendar_interval": "1m",
            "field": "timestamp_local",
            "delay": "1m",
            "time_zone": "UTC"
          },
          "terms": {
            "fields": [
              "cluster",
              "elasticsearch.index.name",
              "host.name"
            ]
          }
        },
        "metrics": [
        ],
        "timeout": "20s",
        "page_size": 10000
      },
      "status": {
        "job_state": "stopped",
        "upgraded_doc_id": true
      },
      "stats": {
        "pages_processed": 0,
        "documents_processed": 0,
        "rollups_indexed": 0,
        "trigger_count": 0,
        "index_time_in_ms": 0,
        "index_total": 0,
        "index_failures": 0,
        "search_time_in_ms": 0,
        "search_total": 0,
        "search_failures": 0,
        "processing_time_in_ms": 0,
        "processing_total": 0
      }
    }
  ]
}

开始汇总任务

 

请求:POST _rollup/job//_start


POST _rollup/job/es-slowlog-agg-id/_start
#执行后获取当前任务状态,关注下status、stats
GET _rollup/job/es-slowlog-agg-id
{
  "jobs": [
{
     "config": {
        "id": "es-slowlog-agg-id",
        "index_pattern": "es-slowlog*",
        "rollup_index": "rollup-es-slowlog-agg",
        "cron": "0 * * * * ?",
        "groups": {
          "date_histogram": {
            "calendar_interval": "1m",
            "field": "timestamp_local",
            "delay": "1m",
            "time_zone": "UTC"
          },
          "terms": {
            "fields": [
              "cluster",
              "elasticsearch.index.name",
              "host.name"
            ]
          }
        },
        "metrics": [
        ],
        "timeout": "20s",
        "page_size": 10000
      },
      "status": {
        "job_state": "started",  #如果停止的任务,此处显示stopped 
        "current_position": { #当前rollup任务执行的位置,及term结果
          "cluster.terms": "clustername-demo",
          "elasticsearch.index.name.terms": "basiclog-slowlog_2021-04-02",
          "host.name.terms": "host_name-demo",
          "timestamp_local.date_histogram": 1618984980000      },
        "upgraded_doc_id": true
      },
      "stats": { #执行状态
        "pages_processed": 2,
        "documents_processed": 1,
        "rollups_indexed": 1,
        "trigger_count": 1,
        "index_time_in_ms": 103,
        "index_total": 1,
        "index_failures": 0,
        "search_time_in_ms": 6,
        "search_total": 2,
        "search_failures": 0,
        "processing_time_in_ms": 0,
        "processing_total": 2
      }
    }
  ]
}

《Elastic Stack 实战手册》——三、产品能力——3.5 进阶篇——3.5.3.Rollup (3) https://developer.aliyun.com/article/1228768

相关实践学习
以电商场景为例搭建AI语义搜索应用
本实验旨在通过阿里云Elasticsearch结合阿里云搜索开发工作台AI模型服务,构建一个高效、精准的语义搜索系统,模拟电商场景,深入理解AI搜索技术原理并掌握其实现过程。
ElasticSearch 最新快速入门教程
本课程由千锋教育提供。全文搜索的需求非常大。而开源的解决办法Elasricsearch(Elastic)就是一个非常好的工具。目前是全文搜索引擎的首选。本系列教程由浅入深讲解了在CentOS7系统下如何搭建ElasticSearch,如何使用Kibana实现各种方式的搜索并详细分析了搜索的原理,最后讲解了在Java应用中如何集成ElasticSearch并实现搜索。  
相关文章
|
API 索引
带你读《Elastic Stack 实战手册》之44:——3.5.3.Rollup (1)
带你读《Elastic Stack 实战手册》之44:——3.5.3.Rollup (1)
135 0
|
1天前
|
数据采集 人工智能 安全
|
10天前
|
云安全 监控 安全
|
2天前
|
自然语言处理 API
万相 Wan2.6 全新升级发布!人人都能当导演的时代来了
通义万相2.6全新升级,支持文生图、图生视频、文生视频,打造电影级创作体验。智能分镜、角色扮演、音画同步,让创意一键成片,大众也能轻松制作高质量短视频。
917 150
|
2天前
|
编解码 人工智能 机器人
通义万相2.6,模型使用指南
智能分镜 | 多镜头叙事 | 支持15秒视频生成 | 高品质声音生成 | 多人稳定对话
|
15天前
|
机器学习/深度学习 人工智能 自然语言处理
Z-Image:冲击体验上限的下一代图像生成模型
通义实验室推出全新文生图模型Z-Image,以6B参数实现“快、稳、轻、准”突破。Turbo版本仅需8步亚秒级生成,支持16GB显存设备,中英双语理解与文字渲染尤为出色,真实感和美学表现媲美国际顶尖模型,被誉为“最值得关注的开源生图模型之一”。
1655 8
|
7天前
|
人工智能 自然语言处理 API
一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸
一句话生成拓扑图!next-ai-draw-io 结合 AI 与 Draw.io,通过自然语言秒出架构图,支持私有部署、免费大模型接口,彻底解放生产力,绘图效率直接爆炸。
608 152
|
9天前
|
人工智能 安全 前端开发
AgentScope Java v1.0 发布,让 Java 开发者轻松构建企业级 Agentic 应用
AgentScope 重磅发布 Java 版本,拥抱企业开发主流技术栈。
579 13
|
6天前
|
人工智能 前端开发 文件存储
星哥带你玩飞牛NAS-12:开源笔记的进化之路,效率玩家的新选择
星哥带你玩转飞牛NAS,部署开源笔记TriliumNext!支持树状知识库、多端同步、AI摘要与代码高亮,数据自主可控,打造个人“第二大脑”。高效玩家的新选择,轻松搭建专属知识管理体系。
366 152

热门文章

最新文章