python下载pdf资源代码

python 复制代码
from datetime import datetime
import requests
import sys
from pyquery import PyQuery as pq
import os
import time
path='./book'
baseUrl = 'http://124.223.24.112:8083'
host = f'{baseUrl}/'
host1=f'{host}book/'
ls=[]
def count_files_in_directory(directory):
    # 统计给定目录中的文件个数
    return len([f for f in os.listdir(directory) if os.path.isfile(os.path.join(directory, f))])
def downBook():
    if not os.path.exists(path):
        os.makedirs(path, exist_ok=True)
    page =7
    headers={
        'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/117.0.0.0 Safari/537.36 Edg/117.0.2045.40'
    }
    for i in range(1,page+1):
        url = f"http://124.223.24.112:8083/page/${page}?data=root&sort_param=stored"
        content=requests.get(url,headers=headers)
        pq1=pq(content.text).find('.author-name')
        for k in pq1:
            j=host1+k.attrib['href'].split('/')[-1]
            ls.append(j)
    if len(ls):
        for i in ls:
            time.sleep(1)
            childUrl(i)
    num_files = count_files_in_directory(path)
    print(f"所有文件下载完成,'./book' 目录中总共有 {num_files} 个文件。")

def childUrl(url):
    headers = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/117.0.0.0 Safari/537.36 Edg/117.0.2045.40'
    }
    content = requests.get(url, headers=headers)
    href2 = pq(content.text).find('#btnGroupDrop1pdf').attr('href')
    if not href2:
        print('没有下载地址')
        return
    bb1 = baseUrl + href2
    js = href2.split('/')[-1]

    # 检查文件是否已存在
    target_file_path = os.path.join(path, js)
    if os.path.exists(target_file_path):
        local_file_size = os.path.getsize(target_file_path)

        response = requests.head(bb1, headers=headers)
        remote_file_size = int(response.headers.get('content-length', 0))

        # 检查本地文件和远程文件的大小是否匹配
        if local_file_size == remote_file_size:
            print(f"文件 {js} 已经存在并且是完整的,跳过下载。")
            return
    current_time = datetime.now().strftime("%Y-%m-%d %H:%M:%S")

    print(f'正在下载 {js} 的书籍,当前时间:{current_time}')
    response = requests.head(bb1, headers=headers)
    file_size = int(response.headers.get('content-length', 0))

    down_size = 0
    progress_len = 100

    bdata = requests.get(bb1, headers=headers, stream=True)

    with open(path + '/' + js, 'wb') as f:
        for chunk in bdata.iter_content(chunk_size=1024):
            if chunk:
                f.write(chunk)
                down_size += len(chunk)
                progress = int(progress_len * down_size / file_size)

                # 格式化文件大小和已下载大小
                formatted_file_size = format_size(file_size)
                formatted_down_size = format_size(down_size)

                sys.stdout.write(f'\r[{"=" * progress}{"~" * (progress_len - progress)}] {progress}% ({formatted_down_size}/{formatted_file_size})')
                sys.stdout.flush()
        # 检查是否下载完成
        if progress == 100:
            print(f'\n下载 {js} 书籍完成')
    print(f'\n下载 {js} 书籍完成')
def format_size(bytes):
    # 将字节转换为更易读的单位(KB、MB等)
    for unit in ['B', 'KB', 'MB', 'GB', 'TB']:
        if bytes < 1024.0:
            break
        bytes /= 1024.0
    return f"{bytes:.2f} {unit}"
if __name__ == '__main__':
    downBook()

最终截图

相关推荐
爬虫程序猿28 分钟前
《京东商品详情爬取实战指南》
爬虫·python
胡耀超31 分钟前
4、Python面向对象编程与模块化设计
开发语言·python·ai·大模型·conda·anaconda
大佬,救命!!!2 小时前
整理python快速构建数据可视化前端的Dash库
python·信息可视化·学习笔记·dash·记录成长
孔丘闻言2 小时前
python调用mysql
android·python·mysql
Teletele-Lin2 小时前
Miniconda安装与VSCode搭建远程Python、Jupyter开发环境
vscode·python·jupyter·环境配置·远程开发
伊玛目的门徒3 小时前
告别 OpenAI SDK:如何使用 Python requests 库调用大模型 API(例如百度的ernie-4.5-turbo)
python·openai·requests·大模型调用·ernie-4.5-turbo
sinat_602035364 小时前
模块与包的导入
运维·服务器·开发语言·python
计算机学姐4 小时前
基于Python的旅游数据分析可视化系统【2026最新】
vue.js·后端·python·数据分析·django·flask·旅游
恋雨QAQ4 小时前
python函数和面向对象
开发语言·python
天雪浪子4 小时前
Python入门教程之逻辑运算符
开发语言·python