python下载pdf资源代码

python 复制代码
from datetime import datetime
import requests
import sys
from pyquery import PyQuery as pq
import os
import time
path='./book'
baseUrl = 'http://124.223.24.112:8083'
host = f'{baseUrl}/'
host1=f'{host}book/'
ls=[]
def count_files_in_directory(directory):
    # 统计给定目录中的文件个数
    return len([f for f in os.listdir(directory) if os.path.isfile(os.path.join(directory, f))])
def downBook():
    if not os.path.exists(path):
        os.makedirs(path, exist_ok=True)
    page =7
    headers={
        'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/117.0.0.0 Safari/537.36 Edg/117.0.2045.40'
    }
    for i in range(1,page+1):
        url = f"http://124.223.24.112:8083/page/${page}?data=root&sort_param=stored"
        content=requests.get(url,headers=headers)
        pq1=pq(content.text).find('.author-name')
        for k in pq1:
            j=host1+k.attrib['href'].split('/')[-1]
            ls.append(j)
    if len(ls):
        for i in ls:
            time.sleep(1)
            childUrl(i)
    num_files = count_files_in_directory(path)
    print(f"所有文件下载完成,'./book' 目录中总共有 {num_files} 个文件。")

def childUrl(url):
    headers = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/117.0.0.0 Safari/537.36 Edg/117.0.2045.40'
    }
    content = requests.get(url, headers=headers)
    href2 = pq(content.text).find('#btnGroupDrop1pdf').attr('href')
    if not href2:
        print('没有下载地址')
        return
    bb1 = baseUrl + href2
    js = href2.split('/')[-1]

    # 检查文件是否已存在
    target_file_path = os.path.join(path, js)
    if os.path.exists(target_file_path):
        local_file_size = os.path.getsize(target_file_path)

        response = requests.head(bb1, headers=headers)
        remote_file_size = int(response.headers.get('content-length', 0))

        # 检查本地文件和远程文件的大小是否匹配
        if local_file_size == remote_file_size:
            print(f"文件 {js} 已经存在并且是完整的,跳过下载。")
            return
    current_time = datetime.now().strftime("%Y-%m-%d %H:%M:%S")

    print(f'正在下载 {js} 的书籍,当前时间:{current_time}')
    response = requests.head(bb1, headers=headers)
    file_size = int(response.headers.get('content-length', 0))

    down_size = 0
    progress_len = 100

    bdata = requests.get(bb1, headers=headers, stream=True)

    with open(path + '/' + js, 'wb') as f:
        for chunk in bdata.iter_content(chunk_size=1024):
            if chunk:
                f.write(chunk)
                down_size += len(chunk)
                progress = int(progress_len * down_size / file_size)

                # 格式化文件大小和已下载大小
                formatted_file_size = format_size(file_size)
                formatted_down_size = format_size(down_size)

                sys.stdout.write(f'\r[{"=" * progress}{"~" * (progress_len - progress)}] {progress}% ({formatted_down_size}/{formatted_file_size})')
                sys.stdout.flush()
        # 检查是否下载完成
        if progress == 100:
            print(f'\n下载 {js} 书籍完成')
    print(f'\n下载 {js} 书籍完成')
def format_size(bytes):
    # 将字节转换为更易读的单位(KB、MB等)
    for unit in ['B', 'KB', 'MB', 'GB', 'TB']:
        if bytes < 1024.0:
            break
        bytes /= 1024.0
    return f"{bytes:.2f} {unit}"
if __name__ == '__main__':
    downBook()

最终截图

相关推荐
声声codeGrandMaster1 小时前
Django框架的前端部分使用Ajax请求一
前端·后端·python·ajax·django
卡尔曼的BD SLAMer1 小时前
计算机视觉与深度学习 | Python实现EMD-SSA-VMD-LSTM时间序列预测(完整源码和数据)
python·深度学习·算法·cnn·lstm
nuclear20112 小时前
使用Python将 Excel 中的图表、形状和其他元素导出为图片
python·excel·将excel图表转换为图片·将excel文本框转换为图片
小袁拒绝摆烂4 小时前
OpenCV-python灰度变化和直方图修正类型
python·opencv·计算机视觉
Dxy12393102167 小时前
Python 条件语句详解
开发语言·python
龙泉寺天下行走7 小时前
Python 翻译词典小程序
python·oracle·小程序
践行见远8 小时前
django之视图
python·django·drf
love530love9 小时前
Windows避坑部署CosyVoice多语言大语言模型
人工智能·windows·python·语言模型·自然语言处理·pycharm
掘金-我是哪吒10 小时前
分布式微服务系统架构第132集:Python大模型,fastapi项目-Jeskson文档-微服务分布式系统架构
分布式·python·微服务·架构·系统架构
xhdll11 小时前
egpo进行train_egpo训练时,keyvalueError:“replay_sequence_length“
python·egpo