使用sparksql讀取mysql中的資料

2021-07-11 11:15:32 字數 688 閱讀 8772

val sc=new sparkcontext(conf)

val sqlcontext=new sqlcontext(sc)

var jdbcdf=sqlcontext.read.format("jdbc").options(map("url"->"jdbc:mysql:",

"driver" -> "com.mysql.jdbc.driver",

"dbtable"->"temp",

"user"->"root","password"->"root")).load()

其中,dbtable後面的temp為表明,那麼讀取的就是整張表的資料,

2、使用sparksql讀取mysql的資料,但是sql為我們自定義的,**如下

var jdbcdf=sqlcontext.read.format("jdbc").options(map("url"->"jdbc:mysql:",

"driver" -> "com.mysql.jdbc.driver",

"dbtable"->"(select * from temp) as aaa",

"user"->"root","password"->"root")).load()

只要用你自定義的sql替換
select * from temp
即可,注意,括號必須要有, 後面的as aaa就是起乙個別名,別名可以隨便起

sparkSQL讀取資料的方法

本文中所有資料以本地資料為資料來源 1 讀取json檔案 2 讀取txt檔案 spark.read下除了json方法用於讀取json檔案外,還有讀取資料的而其他方式,使用testfile方法時一直不行,不清楚是對txt檔案的格式有要求還是後續的方法不對,有朋友知道的勞煩指點下 val testtxt...

通過python讀取excel寫入mysql

import pymysql import xlrd import sys from xlrd import xldate as datetime excel檔案的路徑 excel path sys.ar 1 host sys.ar 2 user sys.ar 3 password sys.ar 4...

varchar字元排序,cmd中讀取mysql

9月9日 投資金額排序bug htdocs modules borrow borrow.class.php htdocs themes ruizhict invest.html 因為dw borrow裡的account是varchar型別。這裡要轉化成int才可以排序。p1.account 0 是不...