跟传统的大数据和OLAP系统相比,HSAP系统面临哪些挑战?
高并发的混合工作负载:HSAP系统需要面对远远超出传统的OLAP系统的并发查询。在实践中,数据服务的并发远远超出OLAP的查询。比如说,我们在现实的应用中见到数据服务需要处理高达每秒钟数千万个查询,这比OLAP查询的并发高出了5个数量级。同时,和OLAP查询相比,数据服务型查询对延迟有着更加苛刻的要求。复杂的混合查询负载对系统的延迟和吞吐有着非常不同的取舍。如何在高效地利用系统的资源同时处理好这些非常不一样的查询,并且保证每个查询的SLO是个巨大的挑战。
高吞吐实时数据导入:在处理高并发的查询负载的同时,HSAP系统还需要处理海量的实时 数据导入。从传统的OLTP同步过来的数据只是这其中的一小部分,其他还有大量的数据来 自日志等没有强事务语意的系统。实时导入的数据量远远超过了传统的HTAP或者OLAP系 统。和传统的OLAP系统的另外一个区别是对数据的实时性有着很高的要求,导入的数据需 要在秒级甚至亚秒级可见,这样才能保证我们服务和分析结果的时效性。
弹性和可扩展性:数据导入和查询负载可能会有突发的高峰,这对HSAP系统提出了很高的 弹性和可扩展性的要求。在现实的应用中,我们注意到数据导入峰值能达到平均的2.5倍, 查询的峰值可能达到平均的3倍。数据导入和查询的峰值可能不一定同时出现,这也需要系 统有根据不同的峰值做迅速调整的能力。
以上内容摘自《阿里云实时数仓Hologres最佳实践合集》电子书,点击https://developer.aliyun.com/topic/download?id=996 可下载完整版
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
本技术圈将为大家分析有关阿里云产品Hologres的最新产品动态、技术解读等,也欢迎大家加入钉钉群--实时数仓Hologres交流群32314975