Python爬虫康复训练——笔趣阁《神魂至尊》

还是话不多说,很久没写爬虫了,来个bs4康复训练爬虫,正好我最近在看《神魂至尊》,爬个txt文件下来看看

直接上代码

python 复制代码
"""
神魂至尊网址-https://www.bqgui.cc/book/1519/
"""
import requests
from bs4 import BeautifulSoup
import os

A=[]#存储章节标题
B=[]#存储章节链接
url='https://www.bqgui.cc/book/1519/'
header={
    'Referer':'https://www.bqgui.cc/s?q=%E7%A5%9E%E9%AD%82%E8%87%B3%E5%B0%8A',
    'Cookie':'Hm_lvt_52624d0257fe48ed9dea61ff01fa3417=1720163550; HMACCOUNT=79B595C42B32BA19; hm=9a7ca0f0fe759c15c8c93eed6eb59f86; Hm_lpvt_52624d0257fe48ed9dea61ff01fa3417=1720163795',
    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/126.0.0.0 Safari/537.36 Edg/126.0.0.0'
}
reponse = requests.get(url,headers=header)
#print(reponse.text)
html = BeautifulSoup(reponse.text,'lxml')
htmls = html.select('div.listmain dl dd a')
for a in htmls:
    # 检查a的文本内容中是否包含特定字符串
    if '<<---展开全部章节--->>' not in a.text:
        # 如果不包含,则添加到列表A和B中
        A.append(a.text)
        B.append('https://www.bqgui.cc/' + a['href'])
for j in B:
    urls =j
    headers={
        'Cookie':'Hm_lvt_52624d0257fe48ed9dea61ff01fa3417=1720163550; HMACCOUNT=79B595C42B32BA19; hm=9a7ca0f0fe759c15c8c93eed6eb59f86; Hm_lpvt_52624d0257fe48ed9dea61ff01fa3417=1720164854',
        'Referer':'https://www.bqgui.cc/book/1519/',
        'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/126.0.0.0 Safari/537.36 Edg/126.0.0.0'
    }
    reponses = requests.get(urls,headers=headers)
    lxml = BeautifulSoup(reponses.text,'lxml')
    lxmls = lxml.select('div.Readarea.ReadAjax_content')
    for k in lxmls:
        #print(k.text)
        for l in A:
            directory = '神魂至尊'
            if not os.path.exists(directory):
                os.makedirs(directory)
            with open(f'{'神魂至尊'}/{l}','a')as f:
                f.write(k.text + '\n')

效果图

相关推荐
戴国进几秒前
使用Pytorch训练一个图像分类器
人工智能·pytorch·python
武昌库里写JAVA11 分钟前
机器学习,深度学习,神经网络,深度神经网络
java·开发语言·spring boot·学习·课程设计
阿猿收手吧!43 分钟前
【分布式】服务端高并发分布式结构演进
开发语言·c++·redis·分布式
qwe3526331 小时前
自定义数据集 使用scikit-learn中svm的包实现svm分类
开发语言·python
小鹿撞出了脑震荡1 小时前
Effective Objective-C 2.0 读书笔记—— 接口与API设计
开发语言·ios·objective-c
小鹿撞出了脑震荡1 小时前
Effective Objective-C 2.0 读书笔记——类对象
开发语言·ios·objective-c
shy^-^cky2 小时前
Go学习:Go语言中if、switch、for语句与其他编程语言中相应语句的格式区别
开发语言·学习·go语言
csucoderlee2 小时前
Go语言中结构体字面量
开发语言·后端·golang
OpenC++2 小时前
【C++】线程池实现
开发语言·c++·经验分享·算法·leetcode·设计模式
股票数据接口2 小时前
2025年度Python最新整理的免费股票数据API接口
开发语言·python·fastapi