爬取链家二手房房价数据存入mongodb并进行分析

感谢您的关注!需要完整源码评论区获取~
【实验目的】

  1. 使用 python 将爬虫数据存入 mongodb;
  2. 使用 python 读取 mongodb 数据并进行可视化分析。
    【实验原理】
    MongoDB 是文档数据库,采用 BSON 的结构来存储数据。在文档中可嵌套其他文档
    类型,使得 MongoDB 具有很强的数据描述能力。本节案例使用的数据为链家的租房信
    息,源数据来自于链家网站,所以首先要获取网页数据并解析出本案例所需要的房源信
    息,然后将解析后的数据存储到 MongoDB 中,最后基于这些数据进行城市租房信息的
    查询和聚合分析等。
    【实验环境】
    OS:Ubuntu16.04
    Python3
    MongoDB:v3.6
    【实验步骤】
    一:使用 python 将爬虫数据存入 mongodb
    分析租房信息首先要获取原始的房源数据,本例使用 python 爬虫技术获取链家网页
    的新房楼盘信息。如图所示,对房源信息进行分析需要获取房源所在区域、小区名、房
    型、面积、具体位置、价格等信息。




分析数据:

执行loupanAnaly.py文件:

mongo shell终端 数据分析:

(1)求每个区域的平均房价和最高房价:

(2)查找所有住宅区域的平均房价:

(3)查看某个特定区域的所有房价信息

(4)查找某个区域的最大房价:

(5)按区域统计房源数量

(6)找出最贵的房源信息

(7)区域房价的分布(价格区间统计)


(8)按楼盘开发商统计房源均价

(9)统计每个区域的房价标准差

相关推荐
高级程序源3 小时前
django校园寻物通失物招领平台32261-计算机课程设计、毕业设计
vue.js·python·mysql·小程序·django·flask·课程设计
WeiXin_DZbishe3 小时前
基于springboot宠物领养系统-计算机毕设 附源码【课程设计】94217
vue.js·spring boot·python·django·php·课程设计
nvd113 小时前
Flink 批处理驱动的湖仓 AI 财务研报流水线:从双流广播汇聚到 Agent 智能决策与原生 Iceberg 落盘全景实战
大数据·人工智能·flink
kimnoic3 小时前
Python数据库学习心得:SQLite、MySQL、PostgreSQL优缺点
开发语言·python
snhna3 小时前
向量数据库深度实战:从 HNSW 到 pgvector、Milvus 选型与 RAG 落地
数据库·人工智能·python·postgresql·milvus
必须得开心呀4 小时前
python编写带界面的软件,需要安装哪些插件
开发语言·python
Wx-bishekaifayuan4 小时前
express皖美特色农产品网售系统53118-计算机课程设计、毕业设计
人工智能·spring boot·后端·python·课程设计·express·旅游
青少儿编程课堂5 小时前
迪杰斯特拉(Dijkstra)算法:单源最短路与赛场路线规划
c++·python·算法·bfs·信息学竞赛
计算机编程指导师5 小时前
【计算机毕设推荐】基于Hadoop+Spark的公共交通运营数据分析与可视化系统源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习
大数据·hadoop·python·计算机·数据分析·spark·交通
Wx-bishekaifayuan5 小时前
springboot汉中旅游服务平台41442-计算机课程设计、毕业设计
spring boot·后端·python·django·课程设计·express·旅游