猿人学 — 第1届第17题(解题思路附源码)

猿人学 --- 第1届第17题

  • 根据题目"天杀的Http2.0 "大概知道,请求的协议应该遵照的是Http2.0 协议,并且目标网站专门对此进行了检测,在Network 面板中右键表头,勾选Protocol

  • 果不其然,一堆请求都是遵照Http2.0协议 。而urllibrequest只支持HTTP/1.1协议 访问,因此面对强制使用HTTP/2.0协议访问的网站无法爬取数据,所以这里选择支持HTTP/2.0协议 访问的httpx

  • 继续抓包分析可知,http://match.yuanrenxue.cn/match/17请求的响应体中返回了Set-Cookie,设置了sessionid。可知必须先请求对其请求获取sessionid后再进行后续请求

  • 源码如下

    python 复制代码
    import httpx
    
    # httpx和requests的很多API存在相似之处;httpx.Client()可以类比于requests.session();默认还是使用HTTP/1.1,需手动设置http2=True;
    client = httpx.Client(http2=True)
    client.headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/129.0.0.0 Safari/537.36',
        # Cookie中的sessionid设置成你自己的值
        'Cookie': 'Hm_lvt_c99546cf032aaa5a679230de9a95c7db=1728646875; HMACCOUNT=BD815CA35CFECED8; qpfccr=true; no-alert3=true; Hm_lvt_9bcbda9cbf86757998a2339a0437208e=1728646879; tk=8258780053392544352; sessionid=a9wal1kcrtwt2wgpyyjimyt51b7pfnrp; yuanrenxue_cookie=1728647008|j2IWzkR0SjEFNNDLGkXnNoHOJ6Y9ZJz9yN8NacPCQOQUy; Hm_lpvt_9bcbda9cbf86757998a2339a0437208e=1728647129; Hm_lpvt_c99546cf032aaa5a679230de9a95c7db=1728647270'
    }
    # 获取Cookie
    client.get(url='https://match.yuanrenxue.cn/match/17')
    
    # 下次请求前注意设置请求头中的Referer
    client.headers.update({'Referer':'https://match.yuanrenxue.cn/match/17'})
    total_value = 0
    for pid in range(1,6):
        res = client.get(url=f'https://match.yuanrenxue.cn/api/match/17?page={pid}')
        data = res.json()['data']
        print(data)
        for item in data:
            total_value += item['value']
    print(f"求和:{total_value}")
  • 运行结果如下

  • 以上解题思路和源码若有错误、不合理或值得优化的地方,欢迎各位大佬不吝赐教,批评指正!

相关推荐
love530love1 小时前
【保姆级教程】阿里 Wan2.1-T2V-14B 模型本地部署全流程:从环境配置到视频生成(附避坑指南)
人工智能·windows·python·开源·大模型·github·音视频
He1955012 小时前
Go初级之十:错误处理与程序健壮性
开发语言·python·golang
和鲸社区2 小时前
《斯坦福CS336》作业1开源,从0手搓大模型|代码复现+免环境配置
人工智能·python·深度学习·计算机视觉·语言模型·自然语言处理·nlp
豌豆花下猫3 小时前
Python 潮流周刊#118:Python 异步为何不够流行?(摘要)
后端·python·ai
THMAIL3 小时前
深度学习从入门到精通 - LSTM与GRU深度剖析:破解长序列记忆遗忘困境
人工智能·python·深度学习·算法·机器学习·逻辑回归·lstm
wheeldown3 小时前
【数学建模】数据预处理入门:从理论到动手操作
python·数学建模·matlab·python3.11
多打代码4 小时前
2025.09.05 用队列实现栈 & 有效的括号 & 删除字符串中的所有相邻重复项
python·算法
@CLoudbays_Martin114 小时前
为什么动态视频业务内容不可以被CDN静态缓存?
java·运维·服务器·javascript·网络·python·php
程序猿炎义4 小时前
【NVIDIA AIQ】自定义函数实践
人工智能·python·学习
THMAIL5 小时前
深度学习从入门到精通 - BERT与预训练模型:NLP领域的核弹级技术详解
人工智能·python·深度学习·自然语言处理·性能优化·bert