python实现Doris的streamLoad

python 复制代码
# ===================== StreamLoad函数 =====================
def json_serial(obj):
    if isinstance(obj, (datetime, date)):
        return obj.strftime("%Y-%m-%d %H:%M:%S")
    raise TypeError(f"Object of type {type(obj).name} is not JSON serializable")

def doris_stream_load(data_rows: List[list]) -> bool:
    """Doris StreamLoad写入明细表ods_jice_detail_data"""
    #print(f"【StreamLoad实际接收行数】{len(data_rows)}", flush=True)
    if not data_rows:
        return True
    url = f"http://{doris_load_host}/api/{target_doris_db}/{target_doris_table}/_stream_load"
    headers = {
        "Expect": "100-continue",
        "format": "json",
        "read_json_by_line": "true",
        "Content-Type": "application/json",
        "strip_outer_array": "false",
        "label": f"test-{uuid.uuid4()}"
    }
    auth = (doris_user, doris_pwd)
    body = "\n".join([json.dumps(line, ensure_ascii=False, default=json_serial) for line in data_rows])
    try:
        resp = requests.put(url, headers=headers, auth=auth, data=body.encode("utf-8"), timeout=120, allow_redirects=False)
        #print(f"【StreamLoad http状态码】{resp.status_code}", flush=True)
        # 处理FE 307重定向,携带完整header请求BE
        if resp.status_code == 307:
            redirect_url = resp.headers.get("Location")
            #print(f"【检测到307重定向,跳转地址:{redirect_url}】", flush=True)
            resp = requests.put(redirect_url, headers=headers, auth=auth, data=body.encode("utf-8"), timeout=120)
            #print(f"【重定向后http状态码】{resp.status_code}", flush=True)
            headers["label"] = f"jice-{uuid.uuid4()}"
        resp_text = resp.text.strip()
        #print(f"【Doris原始返回内容】{resp_text}", flush=True)
        if not resp_text:
            print(f"【StreamLoad严重失败】Doris返回空响应!批次行数:{len(data_rows)}", flush=True)
            print(f"响应头信息:{resp.headers}", flush=True)
            return False
        try:
            res_json = json.loads(resp_text)
        except json.JSONDecodeError as je:
            print(f"【响应非合法JSON】原始返回内容:{resp_text}", flush=True)
            print(f"JSON解析异常:{str(je)}", flush=True)
            traceback.print_exc()
            return False
        #print(f"【Doris返回完整信息】{res_json}", flush=True)
        status = res_json.get("Status")
        load_rows = res_json.get("NumberLoadedRows", 0)
        #print(f"【导入统计】请求行数:{len(data_rows)}, Doris实际加载行数:{load_rows}", flush=True)
        if status == "Success":
            print(f"【StreamLoad成功】LoadId:{res_json.get('LoadId')}", flush=True)
            return True
        else:
            # 这里包含 Publish Timeout、ETL失败、数据格式错误等隐性失败
            #print(f"【StreamLoad业务失败】状态:{status},原因:{res_json.get('Message')}", flush=True)
            return False
    except Exception as e:
        print(f"【StreamLoad网络异常】异常信息:{str(e)}", flush=True)
        traceback.print_exc()
        return False
相关推荐
汤姆宝库1 小时前
BPE分词器的完整实现:字节对合并与词表构建
开发语言·人工智能·c#
岁月宁静1 小时前
从零拆解 AI 语音模拟面试系统
人工智能·python·agent
benchmark_cc1 小时前
个人开发者接入五档盘口:用 QuantDash 读取单只股票的验收清单与易错点
python·数据分析·pandas·量化交易·股票数据·quantdash
ZhengEnCi2 小时前
项目越写越乱?先别改架构:用一次目录重排 + 一份可复算的体检脚本把乱治住
python·架构·ai编程
驭渊的小故事3 小时前
订单服务如何调用商品服务?一次 RestTemplate 跨服务调用入门
java·开发语言·php
Dmz丶3 小时前
前端转 AI 100 天 Day 45:阶段复盘——从“会调 API”到“做出 AI 产品”
python
Sakura_j_h_3 小时前
MCP SDK 2.0 实战:用 MCPServer 搭本地笔记检索服务
开发语言·笔记·python·qt·ai工具·mcp·mcpserver
微笑星河q4 小时前
C++STL【vector】常用接口函数使用和迭代器失效问题
开发语言·c++
QuZhengRong4 小时前
【AI】Agent 全栈进阶|AgentScope 沙箱源码解析
python·学习·ai·agent·沙箱
Eider19984 小时前
Python基础语法之并发相关3
开发语言·python