python 实现一个简单的网页爬虫程序

最近在学习python,以下为网页爬虫代码,供参考

1、爬取指定网页的标题和所有的连接

2、并将这些信息保存到一个文件中。

前置:因使用到网页相关的功能,故需导入requests、BeautifulSoup 库来完成

#导入网页相关的库

import requests

from bs4 import BeautifulSoup

#定义一个函数get_page()

def get_page(url):

response = requests.get(url) # 发送HTTP的get请求

解析响应内容为HTML(此处使用*.content,否则使用*.text有乱码)

soup = BeautifulSoup(response.content, 'html.parser')

获取链接的文本内容,即标题

*.title代表HTML文档中<title>标签,*.string属于则用于获取该标签内的直接文本内容

title = soup.title.string

links = soup.find_all('a') # 找到所有的<a>标签,即链接

打开文件用于保存

with open('results.txt', 'w', encoding='utf-8') as file:

file.write(f"网页标题:{title}") # 保存标题到文件

遍历所有连接

for link in links:

获取链接的href属性,即URL; # 保存链接到文件

file.write("\n\nURL:")

file.write(link.get('href'))

使用方法

get_page('https://mail.163.com')

3、远行后,可在"results.txt"文件查看到网页标题及URL

特别注意python的格式要求较高

相关推荐
失败又激情的man3 分钟前
爬虫逆向之云片滑块验证码
爬虫
深蓝电商API4 分钟前
从数据采集到商业变现:网络爬虫技术的实战与边界
android·爬虫
小裴(碎碎念版)23 分钟前
文件读写常用操作
开发语言·爬虫·python
TextIn智能文档云平台27 分钟前
图片转文字后怎么输入大模型处理
前端·人工智能·python
ujainu38 分钟前
Python学习第一天:保留字和标识符
python·学习·标识符·保留字
studytosky40 分钟前
深度学习理论与实战:反向传播、参数初始化与优化算法全解析
人工智能·python·深度学习·算法·分类·matplotlib
清水白石0081 小时前
《Python × 数据库:用 SQLAlchemy 解锁高效 ORM 编程的艺术》
开发语言·python·json
星依网络2 小时前
使用LabelImg工具标注数据(游戏辅助脚本开发)
python·游戏引擎·图形渲染·骨骼绑定
站大爷IP2 小时前
Appium实现Android应用数据爬取:从环境搭建到实战优化
python
IT老兵20252 小时前
PyTorch DDP多GPU训练实践问题总结
人工智能·pytorch·python·分布式训练·ddp