备案控制台

开发者社区> 问答> 正文

测试LogService，spark Streaming 读取不到数据？

已解决

测试LogService，spark Streaming 读取不到数据？

展开

收起

封神 2016-06-07 13:04:51 3493 0

1 条回答

写回答

取消提交回答

封神

专注在大数据分布式计算、数据库及存储领域，拥有13+年大数据引擎、数据仓库、宽表引擎、平台研发经验，6年云智能大数据产品技术一号位经验，10年技术团队管理经验；云智能技术架构/云布道师；研发阿里历代的大数据技术产品包括ODPS、DLA、ADB，最近五年主导宽表引擎研发、DLA、ADB湖仓研发；

采纳回答

这个问题比较大，需要case by case看。
从整个链路来看，可能出现的问题
排除认为配置错误（虽然这个占了大部分）
1、源头是不是有数据产生
2、sparkStreaming的所有的task是不是已经启动。
这个用户是因为在测试，配置的是 local，其实需要配置 local[n] n至少大于reciver的数

2019-07-17 19:29:47

赞同 1 展开评论打赏

问答分类：

分布式计算流计算 Spark

问答标签：

测试数据 apache spark数据 apache spark streaming apache spark测试 apache spark streaming数据

问答地址：

开发者社区 > 大数据 > 问答

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答

在ODPS环境中，如何进行Spark的交互式开发测试？

58

1

0

DataWorks中spark冒烟测试错误指南是什么？

81

3

0

云数据仓库ADB海与有 ADB for Spark 的 TPCH 测试数据吗？

142

1

0

spark必须提交才能测试执行吗？

187

1

0

请问一下k8s上面部署的spark怎么进行压力测试呢，现有的hibench可以进行测试吗

685

1

0

请教一个问题。我在用spark读取hbase数据时，默认是一个regoin一个task。发现有些re

1121

0

0

测试了下只能识别部分数据，请问这个功能支持定制吗?

515

1

0

我们在Flink Standalone 上测试 flink cdc 同步mysql历史数据的时候，当

838

0

0

任务编排里的跨库spark sql 数据加工用不了

695

0

0

storm&spark2中dateframe可以从不同的数据源获取数据吗？如果可以都可以获取哪些啊？

1169

1

0

问答排行榜

最热

最新

1 【大咖问答】对话PostgreSQL 中国社区发起人之一，阿里云数据库高级专家德哥 1819211

2 据说在家办公的程序员是这样写代码的？ 1793395

3 阿里云开放端口权限 690408

4 如何升级配置 536376

5 【藏经阁一起读（27）】本周推荐《Apache Flink案例集（2022版）》，你有哪些心得？ 523012

6 【精品问答】python技术1000问(1) 514177

7 Flink Forward Asia 2021 有奖问答 512951

8 OceanBase 使用动画（持续更新） 359408

9 阿里云LNAMP(Linux + Nginx + Apache + MySQL + PHP)环境一键安装脚本 329830

10 OSS存储服务-客户端工具 321680

11 为体验实验室取一个新名字。 307533

12 企业邮箱发送邮件时，若出现投递失败产生退信，内容提示包含如下： the mta server of * reply:550 failed to meet SPF requirements 或者 the mta server of 163.com — 163mx01.mxmail.netease.com(220.181.14.141) reply:550 MI:SPF mx14,QMCowECpA0qTiftVaeB3Cg—.872S2 1442548128 http://mail.163.com/help 304168

13 Win Server 2003-2016 加密勒索事件必打补丁合集 295377

14 FLASH播放器，在IE浏览器下显示请确定您的域名已完成备案和CNAME绑定 284318

15 安全组详解，新手必看教程 277387

16 写code还是做管理，开发者如何进行职业规划？ 269331

17 惊喜翻倍：免费ECS+免费环境配置~！(ECS免费体验6个月活动3月31日结束) 255906

18 阿里云手机和阿云浏览器连接问题专帖 235720

19 支付宝H5 下载的时候，提示【请确保该下载文件来源安全,如需浏览,请长按网址复制后使用浏览器访问】 235044

20 请问阿里云邮箱如何开启SMTP服务啊！ 225944

1 钉钉机器人发送群消息消息，突然不能@人了，昨天还正常，代码没有任何调整，是有什么配置或者服务到期了吗 113

2 大模型数据处理vs人工数据处理，哪个更靠谱？ 782

3 AI年味，创意新年，你认为AI能否为春节活动增添新意呢？ 1172

4 AI程序员功能有一个严重的问题，严重到基本可以认为AI程序员无法发挥任何作用。 120

5 在海量用户中，将如何快速定位到目标人群进行个性化营销？ 684

6 你认为哪些领域的知识对开发者来说特别重要？ 655

7 使用安全体检功能，看看你有多少未修复的安全问题？ 3138

8 强烈建议宜搭手机端改版，现在都展示些什么乱七八糟的内容。 235

9 AI时代，聊聊如何从海量数据中挖掘金矿？ 1354

10 2025阿里云服务器租用价格表(一年/按月/按小时报价明细) 147

11 阿里云域名优惠口令，2025年最新分享 121

12 关于qwen2-vl微调最佳实践 209

13 7、如何在阿里云ECS服务器上进行数据备份？ 193

14 1、当遇到VNC 远程连接阿里云服务器失败时，应该如何解决？ 157

15 与 AI “对话”，多模态音视频交互能给生活提供多大便利？ 950

16 AI造势，学习机爆火，距离“AI家教”还有多远？ 758

17 宜搭远程api 查询表单实例列表，查询条件如何实现类似sql 中的 in (a, b,……)的功能？ 165

18 “99套餐”ECS云端问答节！回答问题赢阿里云纪念衫、加湿器等好礼！ 1114

19 开源PolarDB-X|proxy连接超时 227

20 短信服务发送失败提示签名黑名单 690

相关课程

更多

大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第二阶段

291

28

去学习

大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第三阶段

129

25

去学习

大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第四阶段

140

19

去学习

大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第五阶段

156

32

去学习

大数据实战项目 - 反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第六阶段

207

21

去学习

大数据实时计算框架Spark快速入门

1038

93

去学习

推荐问答

乘风问答官招募中！机械键盘免费拿

相关电子书

更多

Hybrid Cloud and Apache Spark 立即下载

Scalable Deep Learning on Spark 立即下载

Comparison of Spark SQL with Hive 立即下载

相关实验场景

更多