View a markdown version of this page

Amazon EMR 6.8.0:Hive 发布说明 - Amazon EMR

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

Amazon EMR 6.8.0:Hive 发布说明

Amazon EMR 6.8.0:Hive 更改

类型 说明
改进 减少 msck 命令中的文件系统调用。性能改进(在 10k 以上的分区上提高约 15-20 倍)
逆向移植 HIVE-20678: HiveHBaseTableOutputFormat 应实现 HiveOutputFormat 以确保兼容性
逆向移植 HIVE-21040: msck 在目录树的最后一层列出了不必要的文件
逆向移植 HIVE-21460: 加载数据然后选择 * 查询会导致不正确的结果
逆向移植 HIVE-21660: 使用 explode 合并所有视图和更高视图时结果错误
逆向移植 HIVE-22505: ClassCastException 由错误的矢量化运算符选择导致
逆向移植 HIVE-22513: 在过滤器操作中持续传播投射列可能会导致不正确的结果
逆向移植 HIVE-23435: 完整的外部连接结果缺少行
逆向移植 HIVE-24209: 启用矢量化时 NOT BETWEEN 操作的搜索参数转换不正确
逆向移植 HIVE-24934: 中不需要 VectorizedExpressions 注释 GenericUDFSQCountCheck
逆向移植 HIVE-25278: HiveProjectJoinTransposeRule 可能使用窗口表达式进行无效转换
逆向移植 HIVE-25505: 标题结果不正确。如果第一行为空,则跳过.header.line.count
逆向移植 HIVE-26080: 将 accumulo-core 升级到 1.10.1
逆向移植 HIVE-26235: OR 二进制列的条件返回空结果
Bug 修复启动期间 stderr 中的多个 SLF4J 绑定警告日志
Bug 修复当分区和表位于不同文件系统时 SHOW TABLE EXTENDED 查询失败并出现 Wrong FS 错误的问题。

Amazon EMR 6.8.0:Hive 已知问题

  • 在 6.6.0 到 6.9.x 版 Amazon EMR 中,带有动态分区和 ORDER BY 或 SORT BY 子句的 INSERT 查询将始终具有两个 Reducer。这个问题是由于 OSS 变更造成的 HIVE-20703,它使动态排序分区优化置于基于成本的决策之下。如果您的工作负载不需要对动态分区进行排序,建议将 hive.optimize.sort.dynamic.partition.threshold 属性设置为 -1 以禁用新功能并获得计算正确的 Reducer 数量。此问题作为其一部分在 OSS Hive 中得到修复,HIVE-22269并在 Amazon EMR 6.10.0 中得到修复。