spark读mongodb

idea maven依赖

<dependency>

<groupId>org.mongodb.spark</groupId>

<artifactId>mongo-spark-connector_2.11</artifactId>

<version>2.3.2</version>

</dependency>

val mongoURL = s"mongodb://账号:密码@机器ip:27017"

val builder = SparkSession.builder()

builder.appName(appName)

builder.config("spark.serializer", "org.apache.spark.serializer.KryoSerializer")

builder.config("spark.rdd.compress", "true")

builder.config("dfs.client.socket-timeout", "300000")

//builder.master("local1") 本地跑打开

val spark= builder.getOrCreate()

import spark.implicits._

val source = spark.read.mongo(ReadConfig(Map("uri" -> mongoURL, "database" -> "", "collection" -> "", "batchSize" -> "30000")))

.select("x")

//解析

source.map(it => {

val x= it.getAsString("x")

x

})

相关推荐
Bode_20023 分钟前
美的集团数智化创新‌
大数据·人工智能
瓶瓶持续学习中9 分钟前
空间智能与物理AI:国内厂商如何与英伟达协同发展
大数据·人工智能·信息可视化·架构
阿乔外贸日记12 分钟前
外贸风控|美国市场7大类欺诈模式解析与风控框架
大数据·人工智能·物联网·microsoft·智能手机
金融小师妹16 分钟前
时间序列分析:历次联储利率调整与政策周期变化研究
大数据·人工智能·逻辑回归
Elastic 中国社区官方博客22 分钟前
使用 OpenTelemetry 在 Elastic 中实现 Claude 平台的人工智能 agent 可观测性
大数据·运维·服务器·人工智能·elasticsearch·信息可视化·全文检索
GOWIN革文品牌咨询26 分钟前
B2B圆桌内容化:问题链、记录与授权工作流
大数据·架构
隔窗听雨眠1 小时前
从取数到行动:数据分析失效的链路拆解与闭环重建
大数据·数据挖掘·数据分析
网教盟人才服务平台1 小时前
PTP 标准化渗透能力落地,规范商用安全测试全流程
大数据·安全·web安全
金融小师妹1 小时前
多因子定价模型:联储决议临近,黄金+1.1%的宏观驱动与走势分析
大数据·逻辑回归·线性回归
演艺大赏1 小时前
Kyuubi + SparkSQL 查询时间戳少 8 小时解决:spark.sql.hive.convertMetastoreParquet 导致的显示偏差完整
大数据