如何使用Web Scraper爬虫抓取数据?

Web Scraper是一个基于Chrome/火狐浏览器的插件,能够在网页上自动爬取数据,提供了丰富的配置,支持自动翻页、登录认证、JavaScript渲染等等,可以解决多数爬虫难题。

Web Scraper的安装也很简单,在Chrome应用商店里搜索"Web Scraper",找到该插件并点击"添加至Chrome"按钮。

安装好Web Scraper后,需要在开发者工具中使用它,按F12键打开开发者模式能找到Web Scraper功能区,在这里可以新建并配置爬虫,你也不需要写任何代码就能抓取数据。

下面讲讲如何用Web Scraper爬取抖音评论数据。

先F12打开开发者界面,点击Web Scraper按钮,会进入到操作界面。

接下来新建Sitemap name项目名称,英文随意取,Start URL就是想要爬取的网站的URL,输入完点击Create Sitemap。

然后点击"添加新的Selector"按钮,在网页中选择要爬取的数据所在的区域(如"抖音视频"模块中的评论区)。注意必须勾选Multiple,因为字样才会批量爬取。

这样对于评论的简单抓取设置就可以了,最后保存并导出评论数据。

使用Web Scraper需要对HTML结构有一定的了解,需要自己一步步去配置,可能对于初学者还有些门槛,适合IT从业者。而且Web Scraper抓取的数据形式有限,适合文本这样简单的数据需求,对于图片、视频就会比较困难。

相关推荐
API快乐传递者2 小时前
淘宝反爬虫机制的主要手段有哪些?
爬虫·python
兜里有糖请分享12 小时前
Python中序列化/反序列化JSON格式的数据
爬虫·python
亿牛云爬虫专家18 小时前
用Puppeteer点击与数据爬取:实现动态网页交互
javascript·爬虫·爬虫代理·puppeteer·数据·代理ip·16yun
API快乐传递者20 小时前
利用Python 的爬虫技术淘宝天猫销量和库存
开发语言·爬虫·python
操练起来21 小时前
【Python实战案例】爬虫项目实例(附赠源码)
数据库·爬虫·python
编码小袁1 天前
利用爬虫爬取网站信息
爬虫
孤寒者1 天前
【实战篇】requests库 - 有道云翻译爬虫 【附:代理IP的使用】
爬虫·代理ip·隧道代理·有道云翻译爬虫·青果代理ip
=(^.^)=哈哈哈1 天前
从安全角度看多线程(附Golang举例)
爬虫·python·golang
Python_trys1 天前
Python网络爬虫入门篇!
开发语言·爬虫·python
摇光~1 天前
7篇Python爬虫实例,直接代码可运行,全网最全,注释超详细(适合收藏)——2、爬取图片信息。
开发语言·爬虫·python