如何将API 中的excel 文件load 到 Azure blob 中

背景: 项目中一个API 中的excel 加密了,需要完成以下任务:

任务一: 将这个excel 文件从API 获取,解密后将数据load 进SQL SERVER 数据库

任务二:将这个excel 文件从API 获取后,解密后将数据excel 数据load 到 Azure blob 中存储起来

对于第一个任务,先不提供方案,今天就第二个任务提供如下方案:

python 复制代码
import os
from io import BytesIO
import pandas as pd
from azure.storage.blob import BlobServiceClient, BlobClient, ContainerClient

# 假设`bytes_data`是您解密后从API获得的Excel数据的BytesIO对象
# bytes_data = ...

# 将BytesIO对象转化为DataFrame
with BytesIO() as bio:
    # 加载到Pandas DataFrame中
    bio.write(bytes_data.getvalue())
    bio.seek(0)  # 移动到文件的开头
    df = pd.read_excel(bio)

# 将DataFrame转换回Excel文件保存在BytesIO对象中
with BytesIO() as bio:
    # 将DataFrame保存到Excel文件格式的BytesIO对象中
    with pd.ExcelWriter(bio, engine='openpyxl') as writer:
        df.to_excel(writer)
    
    # 准备将Excel文件上传到Azure Blob Storage
    bio.seek(0)
    excel_data = bio.read()

    # 初始化Azure Blob Service Client
    # 假设你已经有了AZURE_STORAGE_CONNECTION_STRING
    connection_str = os.getenv('AZURE_STORAGE_CONNECTION_STRING')
    blob_service_client = BlobServiceClient.from_connection_string(connection_str)

    # 创建Blob客户端来上传文件
    # 需要Blob容器名称和文件路径在Blob中的名称
    container_name = 'your_container_name'
    blob_name = 'your_blob_name.xlsx'
    blob_client = blob_service_client.get_blob_client(container=container_name, blob=blob_name)

    # 上传BytesIO对象中的数据到Azure Blob
    blob_client.upload_blob(excel_data, blob_type="BlockBlob", overwrite=True)

    print(f'{blob_name} uploaded to {container_name}')

# 注意: 以上代码中的`your_container_name`和`your_blob_name.xlsx`要替换成你的Azure存储账户的实际容器名称和Blob名称。
# 另外,确保你有适当的权限和正确的连接字符串

Note: 在上传到Azure Blob之前,你需要确保你有一个有效的Azure存储账户,并创建了一个容器。同时,你需要将AZURE_STORAGE_CONNECTION_STRING设置为环境变量或以其他方式提供给你的脚本,这样才能认证你的身份并连接到Azure Blob Storage。

在这个过程中,自己走了很多弯路

弯路1,使用XlsxWriter ,走到这里,不知道该如何跟Blob 的 upload_bload 方法结合使用,

python 复制代码
import xlsxwriter

bio = io.BytesIO()

workbook = xlsxwriter.Workbook(bio)
worksheet = workbook.add_worksheet()

弯路2,upload_blob 的使用还是一知半解,不知如何变通,后续需要继续研究 upload_blob

blob 中的upload_blob 的官方文档:使用 Python 上传 blob - Azure Storage | Microsoft Learn

提到,将数据上传到块 Blob有如下路子:

1.通过本地文件路径上传块 Blob

2.通过流式传输上传块 Blob

3.将二进制数据上传到块 Blob

相关推荐
张龙68737 分钟前
uv 全面指南:比 pip 快 100 倍的 Python 包管理器,从安装到团队落地
后端·python
@HNUSTer1 小时前
Python数据可视化科技图表绘制系列教程(八)
python·数据可视化·科技论文·专业制图·科研图表
专注仿真2 小时前
问答大模型技术方案算法实现-熵权法融合算法 + 交叉编码器重排算法
人工智能·python·算法·语言模型·问答大模型关键算法·熵权融合算法·交叉编码器重排算法
满怀冰雪3 小时前
22-使用 PaddleClas 快速训练图像分类模型
人工智能·python·机器学习·分类·数据挖掘·paddlepaddle
gb42152873 小时前
python中Web应用服务器
开发语言·前端·python
reasonsummer4 小时前
【办公类-109-12】20260901圆形挂牌(模版重制:文本框圆形重叠_word编辑单面_接送卡&被子卡&床卡&入园卡)
python·word
名明鸣冥4 小时前
k8s-agent架构思考(一)
python
DoLovya5 小时前
从零实现 ESP8266 + MQTT 智能门禁:公网一键开门、舵机控制、在线监控完整方案
python·物联网·mqtt·嵌入式·esp8266·门禁系统
AI情绪识别开源5 小时前
检信ALLEMOTION VibrationAI 2.4.0 12维度情绪识别开源源代码
开发语言·python
极创信息5 小时前
国产化信创适配认证高频术语:信创适配、软件自主可控、国产化率、代码溯源率、代码自主率、代码开源率是什么?
java·python·struts·eclipse·开源·php·hibernate