3.2 Beautiful Soup使用

课程目标

  • 理解HTML文档结构和解析方法
  • 学习使用Beautiful Soup库解析HTML和XML文档

课程内容

Beautiful Soup
1. HTML文档结构

HTML(超文本标记语言)是构建网页的标准标记语言。了解HTML的基本结构对于使用Beautiful Soup解析网页至关重要。

  • 标签 :HTML由一系列的标签组成,例如<p>表示段落。
  • 属性 :标签可以包含属性,例如<img src="image.jpg">中的src属性。
2. 安装Beautiful Soup和Pandas

使用pip命令安装所需的库。

bash 复制代码
pip install beautifulsoup4 
3. 使用Beautiful Soup解析HTML

Beautiful Soup是一个用于解析HTML和XML文档的Python库。

python 复制代码
from bs4 import BeautifulSoup
import requests

# 获取网页内容
response = requests.get('https://www.example.com')
html_content = response.text

# 解析HTML
soup = BeautifulSoup(html_content, 'html.parser')

# 找到所有的段落标签
paragraphs = soup.find_all('p')
for p in paragraphs:
    print(p.text)
4. Beautiful Soup的定位

Beautiful Soup提供了丰富的方法来导航和搜索解析树。

  • find(): 查找一个标签。
  • find_all(): 查找所有匹配的标签。
  • select(): 使用CSS选择器查找标签。
python 复制代码
# 查找ID为"main-content"的div
main_content = soup.find('div', id='main-content')

# 查找所有的图片标签
images = soup.find_all('img')

# 使用CSS选择器
links = soup.select('a[href]')
5. 值的获取
python 复制代码
# 获取属性值
img_src = soup.find('img').get('src')
# 获取文本内容
text = soup.text
相关推荐
东方佑8 分钟前
深度解析Python-PPTX库:逐层解析PPT内容与实战技巧
开发语言·python·powerpoint
Python大数据分析@17 分钟前
python 常用的6个爬虫第三方库
爬虫·python·php
一顿操作猛如虎,啥也不是!25 分钟前
JAVA-Spring Boot多线程
开发语言·python
斯内科36 分钟前
Python入门(7):Python序列结构-字典
python·字典·dictionary
云徒川36 分钟前
【设计模式】过滤器模式
windows·python·设计模式
橘猫云计算机设计1 小时前
基于django优秀少儿图书推荐网(源码+lw+部署文档+讲解),源码可白嫖!
java·spring boot·后端·python·小程序·django·毕业设计
互联网杂货铺1 小时前
如何用Postman实现自动化测试?
自动化测试·软件测试·python·测试工具·测试用例·接口测试·postman
予安灵2 小时前
一文详细讲解Python(详细版一篇学会Python基础和网络安全)
开发语言·python
冷月半明2 小时前
Python项目打包指南:PyInstaller与SeleniumWire的兼容性挑战及解决方案
python·selenium
冷月半明2 小时前
《Pandas 性能优化:向量化操作 vs. Swifter 加速,谁才是大数据处理的救星?》
python·数据分析·pandas