HIVE中遇到的坑"/>
HIVE中遇到的坑
-初始化mysql数据库失败
hive默认元数据metastore存放为数据库derby,要将其更换为mysql数据库,
本地mysql数据库安装(略)
mysql驱动导入到hive/lib下
添加访问权限
修改hive-site.xml配置文件(这里我没有直接复制hive-default.xml.template
文件 而是直接创建了一个新文件并改名为hive-site.xml
)
<property><name>javax.job.option.ConnectionDriverName</name><value>com.mysql.cj.jdbc.Driver</value></property><property><name>javax.job.option.ConnectionURL</name><value>jdbc:mysql://localhost:3306/hive?createDatabaseIfNotExist=true&useSSL=false&serverTimezone=Asia/Shanghai&useUnicode=true&characterEncoding=utf8</value></property><property><name>javax.job.option.ConnectionUserName</name><value>root</value></property><property><name>javax.job.option.ConnectionPassword</name><value>123456</value></property>
执行初始化命令:
schematool -dbType mysql -initSchema
发现初始化失败:
修改了数据库配置,发现日志中打印的信息,加载的依旧是默认的数据库derby。
查看hive.log日志,(存放位置查看:hive-log4j2.properties文件的property.hive.log.dir配置)
2021-04-04T14:44:13,471 INFO [main] conf.HiveConf: Found configuration file file:/export/servers/apache-hive-3.1.2-bin/conf/hive-site.xml
2021-04-04T14:44:14,728 INFO [main] tools.HiveSchemaHelper: Metastore connection URL: jdbc:derby:;databaseName=metastore_db;create=true
2021-04-04T14:44:14,728 INFO [main] tools.HiveSchemaHelper: Metastore Connection Driver : org.apache.derby.jdbc.EmbeddedDriver
2021-04-04T14:44:14,728 INFO [main] tools.HiveSchemaHelper: Metastore connection User: APP
发现自定义的hive-site.xml文件可以被加载,但读取的数据库的配置依然是默认的derby数据库配置,hive-site.xml
的数据库配置信息没有加载进来
猜测原因是修改项在默认配置之前被加载,被默认配置覆盖了,所以感觉没加载hive-site.xml?
备份hive-defualt.xml.template
文件到本地,删除默认配置文件hive-defualt.xml.template
的相关数据库驱动的配置,重新初始化,依然会加载默认配置,
往上翻找到原因,,对默认的配置文件所做的修改会被忽略,
因为hive-site.xml和hive-defualt.xml.template
都已经被修改过,
删除原有的hive-site.xml
和 hive-defualt.xml.template
文件,将备份的hive-defualt.xml.template
上传到 conf/ 文件夹下,直接复制``hive-defualt.xml.template文件并更名为
hive-site.xml`文件
cp hive-default.xml.template hive-site.xml
重新进行配置,这里先不做任何的增删,先直接进行修改复制好的hive-site.xml文件,修改上述数据库连接的几项
vim hive-site.xml
在命令模式下,使用/+关键字
定位到相关的配置项直接对value进行修改
。。修改过程略。。
然后重新尝试初始化mysql数据库的元数据配置
再次执行初始化命令schematool -dbType mysql -initSchema
执行后发现报错
提示在3215行 97列有一个”“无效字符,定位相应的行,发现确实有一个莫名其妙的字符,是在 description 标签里面的…就直接删除
重新初始化,成功!
热泪盈眶啊,,查看mysql数据库 hive库里面表信息也正常显示了
还是要少一些骚操作啊~~~
更多推荐
HIVE中遇到的坑
发布评论