python大作业 写作思路

代码可以交给gpt一步一步来,但是要爬取什么得自己想。

首先爬取方面:

1.确定要爬取的对象,然后用edge,chorom等高级浏览器进行右键检查或者右上角打开 开发者工具,然后一个个翻自己要爬取的哪个class里面哪个标签中哪个标签中的哪个属性。

2.注意不能使用https,要使用http,不然会出现SSL报错

3.提前安装好requests和beautifulsoup,前者用于爬取,后者用于对html这类文件进行筛选

4.一定要记得把爬取的文件按照csv文件格式保存下来,至于选择哪些名称作为列名则看具体需要,csv文件比excel文件好操作,而且csv文件不需要装太多的包(注,csv文件本质上有txt文件改后缀变化,行与行之间之间enter换行即可,列与列之间要用英文逗号隔开)

所有步骤都应该单独列一个py文件进行运行,包括这个爬取,切勿一个文件走到底。

然后是对数据进行处理:

1.拿到的数据大部分都是文本数据,你需要再用一个py程序将其转换成名称,数量这种csv文件,而不是拿第一个爬取的文件去进行数据处理,也就是需要二次处理,除非你第一次爬出来的就是数据类型的,那就无需二次操作。

2.当你完成上面两步的时候,基本就快结束了,这时候就可以乘胜追击,进行数据的求平均值,相关性分析,聚类分析,你不会没关系,gpt会,直接搜就行,注意这也是要单独一个py程序的

3.要求上面要用到mysql,这里简要列出步骤,打开软件,点击你的test,然后新建数据库,起个名字,然后在这个数据库新建查询,输入建表语句(这个数据就是上一步的csv文件的东西,还要起个表名),然后在下一步中加进去你的host名,一般是localhost,用户名root,密码(不一定看你),数据库名,表名。

4.完成数据分析.py之后就是数据可视化分析,画图也好实现,唯一可能不方便的就是不输出中文,这时候在import下加上一句plt.rcParams['font.sans-serif']=['SimHei']即可

相关推荐
曲幽3 分钟前
FastAPI 生产环境静态文件完全指南:从 /favicon.ico 404 到 HSTS 混合内容,一次全根治
python·fastapi·web·static·media·404·hsts·favicon·url_for
Dontla4 分钟前
Python asyncpg库介绍(基于Python asyncio的PostgreSQL数据库驱动)连接池、SQLAlchemy
数据库·python·postgresql
zh15702312 分钟前
如何编写动态SQL存储过程_使用sp_executesql执行灵活查询
jvm·数据库·python
2401_8242226917 分钟前
SQL报表统计数据量巨大_分批统计策略
jvm·数据库·python
X566120 分钟前
mysql如何处理连接数过多报错_调整max_connections参数
jvm·数据库·python
m0_6091604934 分钟前
MongoDB中什么是Hashed Shard Key的哈希冲突_哈希函数的分布均匀性分析
jvm·数据库·python
Ulyanov35 分钟前
《现代 Python 桌面应用架构实战:PySide6 + QML 从入门到工程化》 开发环境搭建与工具链极简主义 —— 拒绝臃肿,构建工业级基座
开发语言·python·qt·ui·架构·系统仿真
逻辑驱动的ken39 分钟前
Java高频面试场景题19
java·开发语言·面试·职场和发展·求职招聘
wuxinyan1231 小时前
大模型学习之路03:提示工程从入门到精通(第三篇)
人工智能·python·学习
初心未改HD1 小时前
Go语言net/http与Web开发:构建高性能HTTP服务
开发语言·golang