项目十三:搜狗——python爬虫实战案例

根据文章项目十二:简单的python基础爬虫训练-CSDN博客的简单应用,这一次来升级我们的技术,那么继续往下看,希望对技术有好运。

还是老样子,按流程走,一条龙服务,嘿嘿。

第一步:导入需要的库------requests库

python 复制代码
import requests

第二步:指定网址首页,看你个人选择,这里用搜狗,网址为搜狗搜索引擎 - 上网从搜狗开始

python 复制代码
url = 'https://www.sogou.com/'

第三步:发送get请求信息

python 复制代码
response = requests.get(url = url)

第四步:输出响应信息

python 复制代码
print(req.text)

完整代码如下

python 复制代码
import requests # 导入requests模块
url = 'https://www.sogou.com' # 要爬取的网址
req = requests.get(url) # 发起请求
print(req.text) # 输出响应信息

第五步

输出结果

ok,就当给未来的自已上一道保险杠,免得自已不知道写的啥。🎁🎁🎁🎁

嗯,这一次我们要爬取搜狗指定词条所对应的搜索结果,还是老样子,继续往下走

第一步:处理url携带的参数,封装到字典

python 复制代码
kw = input('enter a word:')
param = {
    'query':kw
}

参考来源(图中第三步可以不用,看个人需要)

第二步:伪装请求头,模拟用户行为,封装到字典

python 复制代码
headers = {
    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.159 Safari/537.36'
}

注意这个请求头都是在浏览器标头中复制找到即可,但是有时候会发生变化,需要实际运用。如图

第三步:发送请求

python 复制代码
response = requests.get(url = url, params = param, headers = headers)

第四步:输出信息

python 复制代码
page_text = response.text
print(len(page_text))

完整代码如下

python 复制代码
import requests 
url = 'https://www.sogou.com/web'
kw = input('enter a word:') #输入搜索词
param = {
    'query':kw #搜索词
}
headers = {
    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.159 Safari/537.36'
}
response = requests.get(url = url, params = param, headers = headers)
page_text = response.text
print(len(page_text))

输出结果

第五步:存储信息

代码如下

python 复制代码
fileName = 'kw' + '.html'
with open(fileName, 'w', encoding='utf-8') as fp:
    fp.write(page_text)

跟上一篇文章代码操作一样,自行体会,嘿嘿

好了,简单的案例我们能够简单应用,后续会不定时分享小小心得,期待有好运到来🎁💖

相关推荐
codists1 分钟前
2025年9月文章一览
python
语落心生4 分钟前
FastDeploy SD & Flux 扩散模型边缘端轻量化推理部署实现
python
欣然~13 分钟前
百度地图收藏地址提取与格式转换工具 说明文档
java·开发语言·dubbo
java1234_小锋16 分钟前
TensorFlow2 Python深度学习 - TensorFlow2框架入门 - 立即执行模式(Eager Execution)
python·深度学习·tensorflow·tensorflow2
William_cl18 分钟前
C# MVC 修复DataTable时间排序以及中英文系统的时间筛选问题
开发语言·c#·mvc
running thunderbolt18 分钟前
项目---网络通信组件JsonRpc
linux·服务器·c语言·开发语言·网络·c++·性能优化
王大傻092831 分钟前
numpy -- 算术函数 reciprocal() 和 power() 简介
python·numpy
小马学嵌入式~42 分钟前
堆排序原理与实现详解
开发语言·数据结构·学习·算法
咕白m6251 小时前
Python 将 Excel 转换为图片:实现数据可视化
后端·python
SundayBear1 小时前
Qt 开发修炼指南:从入门到通透的实战心法
开发语言·qt·嵌入式