开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

公司在用MaxCompute 做数据开发 ,大数据计算MaxCompute平台上有什么参数可以调整吗

大数据计算MaxCompute公司在用MaxCompute 做数据开发 ,表变动的事件日志会记录到SLS中, 这个SLS中的事件日志 我测试中发现 从MaxCompute创建表产生事件到 被采集到SLS中耗时比我们程序预期的要长很多平台上有什么参数可以调整吗? 缩短下这块的时间,最快速度采集到SLS logstore中

展开
收起
陈幕白 2024-03-17 20:53:02 50 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    对于MaxCompute到SLS(日志服务)的日志采集延时问题,通常来说,这个过程涉及到多个环节,包括MaxCompute产生日志、日志传输到SLS、SLS处理和存储日志等。因此,优化这个过程需要从这些环节入手。

    1. MaxCompute产生日志:你可以查看是否有大量的数据操作或者复杂的计算任务导致系统繁忙,从而影响了日志的产生速度。如果有这种情况,可以考虑优化你的数据操作或者计算任务,例如分批次处理数据,避免一次性处理大量数据。

    2. 日志传输到SLS:这个环节主要取决于网络状况和MaxCompute与SLS之间的通信效率。如果网络状况不佳,可以考虑改善网络环境;如果是通信效率问题,可以查看是否有参数可以调整以提高效率,例如增大并发数等。

    3. SLS处理和存储日志:这个环节的效率主要取决于SLS的处理能力和存储能力。如果SLS的处理能力不足,可以考虑升级SLS的配置,例如增加节点数量等;如果存储能力不足,可以考虑优化存储结构,例如使用分区、索引等功能提高查询效率。

    2024-03-18 13:51:52
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关产品

  • 云原生大数据计算服务 MaxCompute
  • 相关电子书

    更多
    Data+AI时代大数据平台应该如何建设 立即下载
    大数据AI一体化的解读 立即下载
    极氪大数据 Serverless 应用实践 立即下载