爬取网站内容转为markdown 和 html(通常模式)

我们遇到一些自己喜欢内容,想保存下来,手动复制粘贴很麻烦,我们使用 python 来爬取这些内容。

一、代码

downlod.py

python 复制代码
import os
import requests
from bs4 import BeautifulSoup
from urllib.parse import urljoin

# 目标网页(可以更改)
url = "https://www.baidu.com"

# 指定保存的文件夹和 Markdown 文件名
save_folder = "web_md"
os.makedirs(save_folder, exist_ok=True)
md_filename = os.path.join(save_folder, "page.md")
images_folder = os.path.join(save_folder, "images")
os.makedirs(images_folder, exist_ok=True)

# 获取网页内容
response = requests.get(url)
response.encoding = response.apparent_encoding
soup = BeautifulSoup(response.text, "html.parser")

# 打开 Markdown 文件
with open(md_filename, "w", encoding="utf-8") as md_file:
    md_file.write(f"# {soup.title.string.strip()}\n\n")

    for element in soup.body.find_all(["p", "a", "code", "img", "h1", "h2", "h3", "h4", "h5", "h6", "pre"], recursive=True):
        if element.name == "h1":
            md_file.write(f"\n# {element.get_text(strip=True)}\n\n")
        elif element.name == "h2":
            md_file.write(f"\n## {element.get_text(strip=True)}\n\n")
        elif element.name == "h3":
            md_file.write(f"\n### {element.get_text(strip=True)}\n\n")
        elif element.name == "h4":
            md_file.write(f"\n#### {element.get_text(strip=True)}\n\n")
        elif element.name == "p":
            md_file.write(f"{element.get_text(strip=True)}\n\n")
        elif element.name == "a":
            link_text = element.get_text(strip=True)
            href = urljoin(url, element["href"])
            md_file.write(f"[{link_text}]({href})\n\n")
        elif element.name == "code":
            md_file.write(f"```\n{element.get_text(strip=True)}\n```\n\n")
        elif element.name == "pre":
            md_file.write(f"```\n{element.get_text()}\n```\n\n")
        elif element.name == "img":
            img_url = urljoin(url, element["src"])
            img_name = os.path.basename(img_url).split("?")[0]
            img_path = os.path.join(images_folder, img_name)
            try:
                img_data = requests.get(img_url).content
                with open(img_path, "wb") as img_file:
                    img_file.write(img_data)
                md_file.write(f"![{img_name}](images/{img_name})\n\n")
            except Exception as e:
                print(f"下载 {img_url} 失败: {e}")

print(f"Markdown 文件已保存至 {md_filename}")

二、安装环境

  1. 安装 python
  2. 管理员运行 cmd,最好挂梯子
bash 复制代码
pip install requests beautifulsoup4
  1. downlod.py 同级目录下运行cmd
bash 复制代码
python download.py



三、vscode + markdown all in one

  1. 安装 vscode
  2. vscode 的扩展安装 markdown all in one
  3. vscode 打开下载的 md 文件
  4. 点击右上角的 预览 按钮,即可预览转换后的 md 文件
  5. ctrl + shift + p,打开命令模式
  6. 输入 markdown ,使用这个命令,可以将md转为 html 格式

相关推荐
liliangcsdn1 小时前
python如何写数据到excel示例
开发语言·python·excel
CNRio1 小时前
将word和excel快速转换为markdown格式
python·word·excel
小白银子4 小时前
零基础从头教学Linux(Day 52)
linux·运维·服务器·python·python3.11
AAA小肥杨5 小时前
基于k8s的Python的分布式深度学习训练平台搭建简单实践
人工智能·分布式·python·ai·kubernetes·gpu
速易达网络7 小时前
Bootstrap 5 响应式网站首页模板
前端·bootstrap·html
lichong9517 小时前
Git 检出到HEAD 再修改提交commit 会消失解决方案
java·前端·git·python·github·大前端·大前端++
Tiny番茄7 小时前
31.下一个排列
数据结构·python·算法·leetcode
@yanyu6667 小时前
Tomcat安装与HTML响应实战
java·tomcat·html
小白学大数据8 小时前
实战:Python爬虫如何模拟登录与维持会话状态
开发语言·爬虫·python
FriendshipT8 小时前
目标检测:使用自己的数据集微调DEIMv2进行物体检测
人工智能·pytorch·python·目标检测·计算机视觉