当前位置:网站首页>Spark SQL 案例(一)
Spark SQL 案例(一)
2022-07-20 05:31:00 【啦啦啦001】
将本地的json文件 存入MySQL
def main(args: Array[String]): Unit = {
//TODO 创建Spark的运行环境
val conf: SparkConf = new SparkConf().setMaster("local[*]").setAppName("SparkSQL")
val sc = new SparkContext(conf)
val sparkSession: SparkSession = SparkSession.builder().enableHiveSupport().config(conf).getOrCreate() //要使用$ 或者单引号,需要导包
val df: DataFrame = sparkSession.read.json("src/datas/test.txt")
df.show()
//写入MySQL数据
df.write
.format("jdbc")
.option("url", "jdbc:mysql://localhost:3306/test")
.option("driver", "com.mysql.jdbc.Driver")
.option("user", "root")
.option("password", "123456")
.option("dbtable", "user1")
.option("header", false)
.mode(SaveMode.Append)
.save()
// TODO Spark的执行逻辑
//TODO 关闭Spark
sparkSession.stop()
}
df.write.format()中支持的格式:
// .write.format("") 支持的格式
hive (数据文件纯文本无压缩存储)
parquet (spark默认采用格式)
orc
json
csv
text(若用 saveAsTable 只能保存只有一个列的 df)
jdbc
libsvm
边栏推荐
猜你喜欢
CV-Paper【1】:Deep Residual Learning for Image Recognition
nvm安装使用
easyExcel设置最后一行的样式【可以拓展为每一行】
Ctfshow web entry information collection WP (1-20) (detailed explanation)
Introduction à la théorie des micro - services
mysql_主从同步_show slave status详解
【C】 Introduction to C language
使用反射的方式将RDD转换为DataFrame
用户登录Demo
P7354 "pmoi-1" Knight chess
随机推荐
【学习笔记之菜Dog学C】链式访问、函数的声明和定义、goto语句
Basic syntax of symbol, iterator and generator in ES6
mysql_账号授权权限回收、账号锁定解锁、账号创建删除
直接插入排序/希尔排序
C语言写一个环形广告跑马灯或改为表白系统
【学习笔记之菜Dog学C】数据存储
P1926 little bookboy - question brushing Army (DP backpack (01 backpack) state transition equation)
后悔过去,不如奋斗将来
Configuration of Visual Studio development environment
[dish of learning notes dog learning C] function recursion
DOM -- operation document tree and its cases
OpenLayers ol-ext:Transform 对象,旋转、拉伸、放大
05—— mvvm 模型
DOM -- event syntax
[dish of learning notes dog learning C] data storage
Visual Studio 快捷键的使用技巧
How to realize file sharing access on computer in win10
[dish of learning notes, dog learning C] getting to know the pointer for the first time
node 查询目标 目录下所有(文件或文件夹)名为 filename 的文件路径
mysql_不区分大小写