取消HDP hive默认开启ACID配置

问题描述 原因排查 HDP 的 hive 使用的版本较高为3.1.0 ,默认建表都是使用 ACID 的事务表。而 HDP的spark版本较低为2.3 目前还不支持 hive 的 ACID 功能,因此无法读取 ACID 表的数据,准确来说是内表的数据。 官方资料 spark issues 地址: SPARK-15348 Hive ACID 解决方案 修改hive以下配置,重启hive hive.strict.managed.tables =false hive.create.as.insert.only =false metastore.create.as.acid =false 其他资料 Hive 中支持的表类型和 ACID 特性 表类型 ACID 文件格式 插入 更新 / 删除 托管表:CRUD 事务 是 ORC 是 是 托管表:仅插入式事务 是 任意格式 是 没有 托管表:临时 没有 任意格式 是 没有 外部表 没有 任意格式 是 没有 查看表的属性,指令:desc formatted tb_name ...

2022年3月20日 · 2 分钟

大数据常用命令

Linux(vi/vim) 一般模式 语法 功能描述 yy 复制光标当前一行 y数字y 复制一段(从第几行到第几行) p 箭头移动到目的行粘贴 u 撤销上一步 dd 删除光标当前行 d数字d 删除光标(含)后多少行 x 删除一个字母,相当于del X 删除一个字母,相当于Backspace yw 复制一个词 dw 删除一个词 shift+^ 移动到行头 shift+$ 移动到行尾 1+shift+g 移动到页头,数字 shift+g 移动到页尾 数字N+shift+g 移动到目标行 编辑模式 按键 功能 i 当前光标前 a 当前光标后 o 当前光标行的下一行 I 光标所在行最前 A 光标所在行最后 O 当前光标行的上一行 指令模式 命令 功能 :w 保存 :q 退出 :! 强制执行 /要查找的词 n 查找下一个,N 往上查找 ? 要查找的词 n是查找上一个,shift+n是往下查找 :set nu 显示行号 :set nonu 关闭行号 压缩和解压 gzip/gunzip 压缩 (1)只能压缩文件不能压缩目录 ...

2022年3月6日 · 11 分钟