写了一个node+python的爬虫小工具玩玩

什么是爬虫？

爬虫，也称为网络爬虫或网络蜘蛛，是指一种自动化程序或脚本，用于在互联网上浏览和提取信息。爬虫模拟人类用户在网页上的行为，通过HTTP协议发送请求，获取网页内容，然后解析并提取感兴趣的数据

在使用爬虫时，需要遵守法律法规和网站的使用条款

1. 网站的使用条款：每个网站都有自己的使用条款和隐私政策，这些规定了对网站内容和数据的访问和使用限制。在使用爬虫之前，务必仔细阅读并遵守网站的使用条款。
2. 知识产权：爬虫可能涉及到对网站上的内容进行复制、提取或分发。在进行这些操作时，你应该尊重知识产权法律，包括版权和商标法。确保你有合法的权利使用、复制或分发所爬取的内容。
3. 网络破坏和滥用：使用爬虫时，应避免对目标网站造成不必要的负载、干扰或破坏。不得以恶意方式使用爬虫，如进行DDoS攻击、破解安全措施或非法搜集个人信息。
4. 数据隐私和个人信息保护：在爬取网站上的数据时，需特别注意处理个人身份信息和隐私数据的合规性。遵守适用的数据保护法律，确保合法地处理和存储用户数据。
5. 欺诈和滥用：不得使用爬虫进行欺诈、仿冒、垃圾邮件或其他非法活动。尊重其他用户和网站的利益，遵守公平竞争原则

掘金robots.txt规则

参考文章链接：juejin.cn/post/734569...

node+python

下载对应的依赖，这里不详细介绍，有兴趣的参考上面的文章

npm install puppeteer #爬虫 | 自动化UI测试

pip install wordcloud #生成词云图
pip install jieba #正文分词

上述文章是要一个一个切换，我对其进行一个小改动，执行左边的菜单栏进行生成词云图，采用无头模式，for循环生成对应的菜单栏图片并保存到wordclound文件夹里面

const elements = await page.$$('.side-navigator-wrap .nav-item-wrap .nav-item-text') //获取menu下面的span
//去掉大模型子站，因为会跳转到一个新的页面//去掉关注，因为打开的页面没有登录账号
elements.splice(0, 2)

最终执行结束的效果

源代码地址：gitee.com/lihuikun1/w...