开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink中parquet文件的类型是在建表的时候指定的么?

Flink中parquet文件的类型是在建表的时候指定的么?

展开
收起
冰激凌甜筒 2023-04-23 15:30:42 155 0
1 条回答
写回答
取消 提交回答
  • 不是,你要在shell-shell的那个黑框命令行里面,读取一下你的parquet文件,然后打印下他的Schema,再跟你的hive表的建表语句:show create table ***里面的字段类型逐一compare一下,然后看看他们的differentia,一般应该是parquet的schema里面有个long类型,被你hive里面该字段定义成了int,或者相反,不兼容导致的; spark.read.parquet("/tmp/output/people.parquet")..printSchema(),parquet和orc都是带schema的文件,简单理解就是自带字段和字段类型的文件,你的hive建表语句选类型的时候要与之对应,不能像csv或者txt一样那么的为所欲为,此回答整理自钉群“【③群】Apache Flink China社区”

    2023-04-23 15:50:11
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载