Spark sql hive 整合問題

2021-10-01 23:25:10 字數 912 閱讀 8976

1、exception in thread "main" org.apache.spark.sql.catalyst.analysis.nosuchdatabaseexception: database 'portrait' not found;

at org.apache.spark.sql.catalyst.catalog.sessioncatalog.org$apache$spark$sql$catalyst$catalog$sessioncatalog$$requiredbexists(sessioncatalog.scala:121)

at org.apache.spark.sql.catalyst.catalog.sessioncatalog.gettablemetadata(sessioncatalog.scala:266)

at org.apache.spark.sql.execution.command.loaddatacommand.run(tables.scala:242)

--在使用spark sql 時,出現這個問題。

1、確定自己的遠端電腦上有hive 庫 portrait。

2、檢視sparksession 初始化時,是否啟動enablehivesupport(),專案的resouces 檔案下copy hive-site.xml

一般到這裡,問題是可以解決的,如果還沒有解決,檢視spark sql 的版本,和安裝的 hive版本是否相同。

use hivehadoop01;

select * from version;

清除本地生成metasotre_db 及 spark-warehouse 目錄。重新生成即可。解決問題。

spark sql hive批量匯入文字檔案

在很多情況下,會需要將批量生成 如按天生成的記錄 匯入到hive中。針對這種應用場景,進行實驗。首先需要進行檔案目錄的遍歷,借助scala強大的函式式程式設計能力,利用array中的map函式進行操作即可。如函式如下 def loadintohive sc hivecontext,dir strin...

apache整合tomcat後中文亂碼問題

因為工作需要做了乙個apache tomcat的環境,除錯專案的時候發現部分中文有亂碼。查詢相關資料後,發現只要將tomcat的server.xml中這裡加上粗體部分uriencoding utf 8 就可以了。如果8080埠裡沒指定編碼,也要加上這句。ps 我的專案是utf 8編碼的,所以是uri...

spring shiro整合時自動注入的問題

spring mvc和shiro進行整合時,我採用的是註解的方式,也就是 autowired,發現service服務無法再自定義的realm中進行注入,會出現以下錯誤。error creating bean with name shirofilter defined in class path re...