电商项目之 DWD 用户启动日志表脚本调度实现|学习笔记

简介: 快速学习电商项目之 DWD 用户启动日志表脚本调度实现

开发者学堂课程【新电商大数据平台2020最新课程电商项目之 DWD 用户启动日志表脚本调度实现】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/640/detail/10526


电商项目之 DWD 用户启动日志表脚本调度实现


目录:

一、脚本编写

二、脚本调度的实现


一、脚本编写

脚本编写中,因为需要调度信息,date 不能获取系统时间,如果按着公司开发是自动获取到的,不能每次都改。

在编写时将 yesterday= 'date -d "-1 day"+"&y&m&d"”

修改为 yesterday= ' 20200321"数据的形式,不然数据获取不到。

 

二、脚本调度的实现

找到模板,将 command:sh dwd nshop actlog pdtview.sh:修改为 command:sh dwd.sh

具体代码如下:

config:

#failure. emails: xx@xx

nodes :

name: dwd_ nshop_ act1og_ pdtview_ sql_ job

type: command

config:

command:sh dwd.sh

保存后压缩成一个包。

进入 azkaban,上传执行任务,开始运行任务,编写脚本然后进行角度。上传后开始执行,点击 continue。开始运行,进行调度。可能会失败,需要加入本地模式。

可能会失败,就是因为没有开启本地模式,最好把任务加进去,把本地模式也加进去,才不会挂。

在这里面设置本地模式:

set hive.exec.mode.local.auto=true;

把它加入到脚本调度中,放在第一位,保存后再次加入压缩包。

在运行过程中会有些慢,因为数据有些大。

在代码中换个名字,变为:

config:

#failure.emails: xx@xx

nodes :

name :dwd

type:conmand

config:

command: sh dwd.sh

重新压缩上传。再等一下结果。因为设置了本地模式,所以跑的时候快一些。

image.png

结束后可以看出刚开启的本地模式是成功的。此时任务成功。时间有出入是因为没有同步时间。

如果想设置定时任务,可以自己修改。每天十分钟执行,都可以修改。空的代表每分钟执行一次。可以自行设置,然后再重置。所有的调度方式全部通过 azkaban 进行运行,最后得数据也没有问题。

通过运行可以得出:以后所有的调度都可以使用 azkaban执行。数据没有问题。

以下图片是运行的结果,20190908没有问题。

image.png

此时脚本调度就完成了。

相关实践学习
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
相关文章
|
9月前
|
Java 微服务 Spring
微服务——SpringBoot使用归纳——Spring Boot使用slf4j进行日志记录——使用Logger在项目中打印日志
本文介绍了如何在项目中使用Logger打印日志。通过SLF4J和Logback,可设置不同日志级别(如DEBUG、INFO、WARN、ERROR)并支持占位符输出动态信息。示例代码展示了日志在控制器中的应用,说明了日志配置对问题排查的重要性。附课程源码下载链接供实践参考。
1067 0
|
7月前
|
Java 应用服务中间件 Linux
Tomcat运行日志字符错乱/项目启动时控制台日志乱码问题
总结: 通过以上几种方法,概括如下:指定编码格式、设置JVM的文件编码、修改控制台输出编码、修正JSP页面编码和设置过滤器。遵循这些步骤,你可以依次排查和解决Tomcat运行日志字符错乱及项目启动时控制台日志乱码问题。希望这些建议能对你的问题提供有效的解决方案。
1436 16
|
Java Shell
「sh脚步模版自取」测试线排查的三个脚本:启动、停止、重启、日志保存
「sh脚步模版自取」测试线排查的三个脚本:启动、停止、重启、日志保存
209 1
|
12月前
|
人工智能 监控 算法
3D-Speaker:阿里通义开源的多模态说话人识别项目,支持说话人识别、语种识别、多模态识别、说话人重叠检测和日志记录
3D-Speaker是阿里巴巴通义实验室推出的多模态说话人识别开源项目,结合声学、语义和视觉信息,提供高精度的说话人识别和语种识别功能。项目包含工业级模型、训练和推理代码,以及大规模多设备、多距离、多方言的数据集,适用于多种应用场景。
3032 18
3D-Speaker:阿里通义开源的多模态说话人识别项目,支持说话人识别、语种识别、多模态识别、说话人重叠检测和日志记录
|
12月前
|
Java Maven
java项目中jar启动执行日志报错:no main manifest attribute, in /www/wwwroot/snow-server/z-server.jar-jar打包的大小明显小于正常大小如何解决
在Java项目中,启动jar包时遇到“no main manifest attribute”错误,且打包大小明显偏小。常见原因包括:1) Maven配置中跳过主程序打包;2) 缺少Manifest文件或Main-Class属性。解决方案如下:
2751 8
java项目中jar启动执行日志报错:no main manifest attribute, in /www/wwwroot/snow-server/z-server.jar-jar打包的大小明显小于正常大小如何解决
|
PyTorch 算法框架/工具
Pytorch学习笔记(七):F.softmax()和F.log_softmax函数详解
本文介绍了PyTorch中的F.softmax()和F.log_softmax()函数的语法、参数和使用示例,解释了它们在进行归一化处理时的作用和区别。
1353 1
Pytorch学习笔记(七):F.softmax()和F.log_softmax函数详解
|
监控 数据挖掘 数据安全/隐私保护
Python脚本:自动化下载视频的日志记录
Python脚本:自动化下载视频的日志记录
|
JSON Java 数据库
SpringBoot项目使用AOP及自定义注解保存操作日志
SpringBoot项目使用AOP及自定义注解保存操作日志
306 1
|
缓存 监控 算法
分析慢日志文件来优化 PHP 脚本的性能
分析慢日志文件来优化 PHP 脚本的性能