haralyzer 半自动,一次性少量数据采集快捷方法

使用场景:半自动,一次性少量数据采集需求在工作中还是不少遇到的,无论使用模拟的方式,或者破解都不太划算。其实这种需求,使用半自动爬虫是最简单的。不需要考虑网站反爬虫的问题,因为你使用的就是真实的浏览器,不会通过代码来发起请求

  1. 从chrome获取har包
    首先打开浏览器的开发者工具,勾选上Perserve log复选框,如下图所示:

然后刷新页面。注意一定要先打开开发者工具再刷新页面,顺序不能搞反了。接下来,你就正常往下滚动页面或者点击翻页按钮,滚到你不想滚为止。此时开发者工具里面已经有很多数据包了。如下图所示:

在任何一个数据包上面右键,选择Save all as HAR with content。就会把当前页面的所有数据包全部合并到一个 har 文件里面,如下图所示:

备注:如果遇到需要来回跳转的页面,可以使用抓包工具获取har,这个自己搜吧

  1. 示例代码,只需要按提示修改相关变量和函数即可运行
python 复制代码
import json
import csv
import jsonpath
from haralyzer import HarParser
#功能: 解决一次性数据量不大的数据采集需求,通过chrome获取所有请求包,打包成har包,然后解析存储

# har包获取方法:
# 1、打开chrome的检查,
# 2:勾选Network中的Preserve log,
# 3:刷新当前网页,点击下一页或者滑动,直到自己需要的数据加载完,
# 4: 点击右上角的下载图标,或者是选择任意一个请求,右击,点击'Save all as HAR with content'

# 代码使用方法: 按照需要修改har_file_path, url_keyword, csv_title_title三个变量,以及解析函数parser_har, 其他都不需要动


def save_csv(title_list, data_list):
    '''
    保存数据到csv文件中
    '''
    data_list.insert(0, title_list)
    with open('result_csv.csv', 'w', encoding='utf-8-sig', newline='') as csvFile:
        writer = csv.writer(csvFile)
        # 写入多行用writerows
        writer.writerows(data_list)
    print('组合数据运行结束, 结果文件result_csv.csv位于当前目录下')

def read_har_file(har_file_path):
    '''
    读取指定路径的har文件
    '''
    har_parser = HarParser.from_file(har_file_path)
    data = har_parser.har_data
    entries = data['entries']
    for entry in entries:
        yield entry

def crawle_har_to_csv(har_file_path, url_keyword, csv_title_title):
    '''
    主启动函数
    '''
    all_result_list = []
    for entry in read_har_file(har_file_path):
        url = entry['request']['url']
        if url.find(url_keyword) > -1:
            print(url)
            body = entry['response']
            if 'text' in body['content']:
                content = body['content']['text']
                info = json.loads(content)
                if sub_result_list := parser_har(info):
                    all_result_list.extend(sub_result_list)
    save_csv(csv_title_title, all_result_list)

#需要修改
def parser_har(json_content):
    '''
    解析har中的相关数据,这个需要根据具体返回内容进行修改
    '''
    result_list = []
    data_list = jsonpath.jsonpath(json_content, '$.data.content.offerList.*')
    if data_list:
        for offer in data_list:
            result_list.append([offer['subject'], offer['price']])
        return result_list
    else:
        print('parser_har函数没有获取指定的data_list')
        return []

if __name__ == '__main__':
    #har包地址, 需修改
    har_file_path = r'C:\Users\men\Desktop\milishipin.1688.com.har'
    #择选的请求唯一关键词,用来筛选关键词, 需修改
    url_keyword = 'mtop.1688.shop.data.get/1.0'
    #csv文件中的title列表, 需修改
    csv_title_title = ['名称', '价格']

    crawle_har_to_csv(har_file_path, url_keyword, csv_title_title)
相关推荐
PXM的算法星球34 分钟前
【软件工程】面向对象编程(OOP)概念详解
java·python·软件工程
Humbunklung1 小时前
PySide6 GUI 学习笔记——常用类及控件使用方法(常用类矩阵QRectF)
笔记·python·学习·pyqt
蹦蹦跳跳真可爱5891 小时前
Python----深度学习(基于DNN的吃鸡预测)
python·深度学习·dnn
JJ1M82 小时前
Git技巧:Git Hook,自动触发,含实战分享
git·python·自动化
拓端研究室TRL2 小时前
PyMC+AI提示词贝叶斯项目反应IRT理论Rasch分析篮球比赛官方数据:球员能力与位置层级结构研究
大数据·人工智能·python·算法·机器学习
小白用python3 小时前
pycharm无法创建venv虚拟环境
ide·python·pycharm
ImAlex3 小时前
开开心心放假回家,结果忘记老家wifi密码新买的手机连不上WiFi?不用慌,pywifi来拯救你。
python
fantasy_44 小时前
LeetCode238☞除自身以外数组的乘积
java·数据结构·python·算法·leetcode
Tech Synapse4 小时前
零基础搭建AI作曲工具:基于Magenta/TensorFlow的交互式音乐生成系统
人工智能·python·tensorflow
纪元A梦4 小时前
华为OD机试真题——阿里巴巴找黄金宝箱Ⅰ(2025A卷:100分)Java/python/JavaScript/C/C++/GO最佳实现
java·c语言·javascript·c++·python·华为od·go