大数据

大大大大晴天2 小时前
大数据
每天认识一个组件:Apache Pulsar传统消息系统通常从两个方向演化:一类偏消息队列,强调业务系统解耦、异步处理、削峰填谷;另一类偏日志流,强调持续写入、顺序消费、回放和流处理。随着企业实时数据规模扩大,系统同时面临多业务线共享集群、多租户隔离、跨机房容灾、海量 Topic、长期数据保留、冷热分层和云原生部署等问题。Pulsar 的设计目标正是把这些能力纳入一个统一的消息与流平台中,而不是让工程团队在多套系统之间反复拼接。
极限挑战哥2 小时前
java·大数据·人工智能·微信小程序·架构·微信公众平台
共享电单车联营平台分账架构实践:二清合规与自动分账零人工方案共享电单车赛道的下沉扩张仍在持续,县域、园区、景区等场景点位密度快速提升。绝大多数中小平台采用「平台出设备系统 + 城市代理商出本地资源」的联营模式,拓城速度比自营提升数倍。 但前端点位铺得越快,后端的结算问题就越突出。很多平台起步阶段用支付原生分账加手工补账,点位超过 50 个后就会集中遇到瓶颈:分账比例不够用、对账全靠人工、退款坏账逐年累积,更关键的是,资金先归集再拆分的模式,天然存在二清合规风险。 对技术团队来说,分账系统不是简单的拆钱工具,是平台的资金基建。合规性决定能不能做大,自动化程度决定扩张
QXWZ_IA2 小时前
大数据·人工智能·自动化
公路边坡裂缝的自动化监测布设巡查人员在公路边坡坡面发现裂缝之后,建立自动化监测的工作才算真正开始:裂缝走向如何、宽度是否在发展、速率有没有加快,这些决定处置级别的信息,靠皮尺和目测很难连续拿到。边坡出现裂缝后如何建立自动化监测?
meiying88383 小时前
java·大数据·python
多快递公司快递单号批量查询接口怎么对接?Python 聚合查询实现电商卖家订单量大,每天要查询大量快递单号的物流状态,手动逐个查询效率极低。本文从技术角度,系统讲解如何实现一个支持多家快递公司的快递单号批量查询能力,包括接口对接方案、快递公司编码、批量查询逻辑、异常件识别和数据导出,并给出可参考的 Python 实现。
SelectDB3 小时前
大数据·数据库·云原生
Doris 异步物化视图实战:与 Snowflake MV / Dynamic Tables 分层建模对照物化视图是查询加速的通用手段,但两边能力边界差得不少。Apache Doris 的异步物化视图一套机制覆盖多表 join、嵌套、分区增量刷新与资源管控;Snowflake 把单表加速与多表管道拆成两套机制——Materialized Views 与 Dynamic Tables。本文以实战笔记的写法把建视图、开改写、看监控、排错现场一步一步列清,并给出与 Snowflake 的逐行对照,方便做数据分层建模时选对工具。两边并非简单优劣关系,而是机制划分与适用负载不同;下文把能力清单、成本结构与限制逐条对齐,
张张123y4 小时前
大数据·数据库·人工智能·python·deepseek·dsh·agent 框架
后端第十六课:Multi-Agent 多智能体(让多个 Agent 分工协作)👋 我是 Yulia,一线 AI 应用开发工程师:4 年工程经验,在职做大模型应用落地。 只写一件事——把最新 AI 技术讲成人话 + 给你能直接上手用的代码(真实可验证,不搬运不注水)。 有用就点个 关注,持续更新大模型应用的前沿实战。
todoitbo4 小时前
大数据·数据库·mongodb·spring·hibernate·金仓数据库
MongoDB迁移之后,Spring Data 和 Hibernate 各自接哪类请求MongoDB迁移到 KingbaseES,代码改造量往往不由集合数量决定,而由应用实际调用了哪些 MongoDB API 决定。Repository 派生查询、聚合管道、批量写入、事务会话和索引管理,验证范围并不相同;驱动连通,只能说明连接层已经打通。
大大大大晴天️5 小时前
大数据·ai-agent
从 Prompt 到 Tool Calling:AI Agent 如何稳定连接程序世界LLM 接收上下文并预测下一个 Token,它擅长理解自然语言,却不会因为生成了下面这段内容,就真的调用天气服务:
跨境卫士苏苏6 小时前
大数据·新媒体运营·市场营销·跨境电商·跨境·营销策略
亚马逊卖家接口新增欧盟清关商品标识要求跨境技术团队如何适配亚马逊卖家接口新增欧盟清关商品标识要求跨境技术团队如何适配欧盟海关监管规则与平台接口规则的叠加,正在把商品标识从“运营字段”推向“技术底座”。对跨境技术团队而言,亚马逊卖家接口新增欧盟清关商品标识要求,表面看是一次字段扩展,实质是商品数据、接口校验、清关单证与存量治理之间的联动改造。若只在前端补一个输入框,往往会在批量上传、老品更新、异常回滚和清关一致性上暴露问题。
roman_日积跬步-终至千里6 小时前
大数据
数仓方法论(四):跨过程整合——用一致性维度连接不同业务事实跨过程整合要解决的问题是:让销售、支付、退款等分别记录的事实能够共同回答业务问题,同时保留各自真实的粒度、时间和度量含义。
roman_日积跬步-终至千里7 小时前
大数据·数据挖掘·需求分析
数仓方法论(一):需求分析——把经营诉求转化为可验证的数据需求需求分析要解决的问题是:把“我想看一些数据”转化成明确的业务决定、证据要求和可检查的交付范围。业务说“想看促销效果”,如果立刻列字段、设计报表,很可能交付了数字,却仍然无法回答活动是否值得继续。需求分析需要先弄清用户怎样工作、为什么作决定,再检查数据能支持到什么程度。
智恒百亿8 小时前
java·大数据·人工智能
一台 5090 八卡服务器怎么分给一个团队用?多模型多任务的显存分配实战八卡机器刚买回来的时候,团队所有人都觉得自己随时可以拉起来跑模型。 大概第三天矛盾就开始了:有人占着四张卡跑微调任务不肯放,线上推理服务排队卡着上不去;还有同事启动容器直接爆显存,折腾半天才发现资源没规划。
yyk333249 小时前
大数据
大数据工具介绍它的本质:它是一个构建在Hadoop之上的数据仓库软件(数据仓库工具),而不是一个数据库。作用:不存数据:物理数据实际存在HDFS上。
超级新零售9 小时前
大数据·小程序·企业微信
服装订货会数字化:商品版本、订单状态与后续配发数据如何衔接?订货会系统如果只保存一个 order_quantity,无法解释同一门店先订 20 件、后来改为 18 件的过程。更重要的是保留商品版本、订货明细、状态变化与确认人,让最终需求能够进入采购或配发,而非会后重新录表。
滼9 小时前
大数据·人工智能·安全·面试·安全架构
AI 数据安全面试应答框架:从大框架到小点一句话定位:把「AI 数据安全」这个笼统的面试命题,拆成五层、按类别逐层应答的框架——面试官怎么层层追问,你就怎么层层接住。
第九序言T10 小时前
大数据·人工智能·python·数据分析·pandas
Python 数据处理进阶(二十一)相关性与分组对比:数据里藏着什么关系上一篇讲怎么保证数据干净,这一篇讲干净之后怎么「看出东西」。汇总表只回答「多少」,回答不了「为什么」和「什么和什么有关」。而分析报告的价值,往往就在后半句:哪些指标同向变化、哪类组合表现最好、哪个群体明显偏离。
roman_日积跬步-终至千里10 小时前
大数据
数仓方法论(五):历史与增量——让变化进入数仓而不丢失解释历史与增量处理要解决的问题是:面对新增、更正、属性变化和迟到数据,持续形成可解释的结果,并保留业务需要的历史。
freejackman10 小时前
java·大数据·数据库·hive·sql·架构·spark
【架构篇】双遍历 + 多栈协同:手撸 SQL 血缘引擎的架构思考在上一篇文章中,我们展示了 Hermes-SQL 最终的解析成果。但你可能不知道,刚接手 ANTLR4 的第一个星期,我差点因为一个极其反直觉的机制而放弃。
Teable任意门互动10 小时前
大数据·人工智能·科技·信息可视化·信息与通信
破解多平台数据不通!江浙沪跨境电商外贸业务私有化部署方案|任意门互动科技江浙沪跨境电商与外贸企业的业务,长期被"多平台数据不通"困扰:亚马逊、Shopify、eBay、速卖通等不同电商平台的订单数据存储在各自的系统中,企业需要手动下载、整合,耗费大量时间和人力,订单数据分散在不同系统导致无法实时查看整体销售情况、决策滞后;多币种与多汇率问题突出,卖家在Amazon欧洲站收取欧元、英镑,在北美站收取美元,采购端又要支付人民币,汇率实时波动直接影响每笔订单的最终利润,多币种财务结算复杂、对账耗时易出错;商品SKU在运营系统与财务系统是两套编码规则,海外仓实时库存与财务库存账长期对
abigalexy11 小时前
大数据·flink·big data·bigdata
Flink核心疑难问题、踩坑盲点-汇总POJO:以下示例数据模型业务场景:按订单“发生时间”统计每5分钟销售额,但代码直接使用处理时间窗口。