技术栈
大数据
大大大大晴天
5 小时前
大数据
每天认识一个组件:Apache Spark
Apache Spark 诞生于 MapReduce 难以高效支撑多轮迭代、交互式分析和状态型流处理的背景下,它是一个面向大规模数据处理的统一分析引擎,它通过内存计算、DAG 执行、弹性分布式数据集和统一上层库,把过去割裂的批、流、SQL、机器学习和图计算能力整合到一个引擎中。
七夜zippoe
10 小时前
大数据
·
ai
·
agent
·
根因分析
·
修复记录
Agent 上线第一天就炸了:6 个生产事故的根因分析与修复记录
摘要:本文复盘六个真实形态的 Agent 生产事故——上线 3 小时 P99 从 2s 涨到 40s(连接池与会话锁叠加)、一个用户把整个服务拖垮(无租户配额隔离)、成本一夜超预算 5 倍(重试放大 + 无预算上限)、输出偶尔多出一段乱码或英文(模型版本静默切换)、工具调用写脏数据(缺幂等)、日志里出现明文密钥(中间件顺序错)。每个事故按 现象(含时间线与真实报错片段)→ 排查过程(用什么命令、怎么定位)→ 根因 → 修复代码 → 复盘要点 五段推进。核心主张是:这六个坑在前序篇目里都讲过,但它们在生产环
字节跳动数据平台
12 小时前
大数据
不重拍,也能换道具、换商品、换画风?短剧转漫、电商换款新解法来了
如果说生成一段新视频,考验的是模型的创造力;那么在已有视频上做局部编辑,考验的则是另一种能力 —— 对“不该动的部分”的控制力。
武子康
12 小时前
大数据
·
人工智能
·
agent
攻击动作做对了,游戏规则就对了吗?H3-World 与三条控制路线的分工
作者机制示意或未执行条件对照;不代表模型运行或真实游戏结果。StatePlay 论文的一张表里,有一个比“谁的画面更好”更值得停下来的结果:同在 state-aware fine-tuning 分组,ReactiveGWM 的攻击准确率是 100.0%,StatePlay 是 95.0%;但在 GPT-5.5 视觉裁判给出的机制一致性上,两者分别是 59.7±0.9% 和 78.3±0.5%。攻击指标领先的模型,没有同时在这项规则评价上领先。
Lansonli
14 小时前
大数据
·
分布式
·
spark
大数据Spark(八十七):Spark-Submit 参数详解
文章目录Spark-Submit 参数详解一、基本参数二、资源相关参数三、参数配置实践建议四、总结在 Spark 中,spark-submit 是用于将应用程序提交到集群运行的命令行工具。通过 spark-submit,用户可以将编写好的 Spark 作业提交到不同的集群管理器(如 Standalone、YARN、Mesos、Kubernetes 等)上执行。合理配置 spark-submit 参数,不仅决定了作业能否正常运行,还直接影响资源利用率和执行效率。本文对 spark-submit 的常用参数进
cc572502653
14 小时前
大数据
数据科学与大数据技术专业考证清单有哪些?
**证书性质:**计算机技术与软件专业技术资格(水平)考试中的中级资格,属于国家专业技术人员职业资格考试体系。
喵个咪
1 天前
大数据
·
后端
·
go
GoWind Admin 拆解:BI 大屏设计器——schema 即 JSON、resolver 注入与三张快照表的口径谱系
本文回答一个问题:给中后台接一套「可视化设计器 + 仪表盘/大屏渲染」,内核与宿主的边界画在哪、真实取数怎么设计、以及落地第一周会踩哪些坑?
武子康
2 天前
大数据
·
人工智能
·
深度学习
H3-World 的 11.3 小时训练数据,是怎样对齐成动作监督的?
作者解释或未执行记录;人造演算不代表真实数据质量或训练运行结果。H3-World 从名字带有“500h”的 ABot 数据集取数据,论文实验却只用了 7,872 个训练片段。按每段 124 帧、24 FPS 计算,论文声明的训练窗口按帧预算折算约为 11.30 小时。这个落差首先改变的是我们要核查的问题:复现时不能拿来源库的名称回答“训练了多少”,也不能把一段视频旁边放上按键文件,就认为已经获得可用的动作监督。
字节跳动数据平台
2 天前
大数据
火山引擎知识引擎VeKnow进化之路(下):让 AI 智能体更可用、更可信、更懂业务
本文源自火山引擎知识引擎 VeKnow 业务实践思考,火山引擎知识引擎 VeKnow 作为企业级 AI 知识底座,依托大模型与大数据技术,提供从知识接入、加工处理、知识建模到智能问答的全链路知识管理与应用能力,让企业知识真正流动起来,在业务中持续创造价值。
Elastic 中国社区官方博客
2 天前
大数据
·
运维
·
开发语言
·
人工智能
·
elasticsearch
·
搜索引擎
更少的位数,相同的召回率:DiskBBQ 更保守的自动校准扫描
作者:来自 Elastic Tommaso TeofiliElasticsearch 现在在成本模型中将文档位数的权重提高至原来的三倍,因此 DiskBBQ 会先尝试预处理和更深层的重排序,再增加一个比特,使量化向量在保持相同召回率的同时维持较小的体积。
MyBili
2 天前
大数据
·
chrome
·
谷歌浏览器
·
隐私安全
·
浏览器防护
·
cookie管理
·
上网痕迹清理
Chrome隐私安全配置:完整防护指南
很多人以为开启隐身模式就等于完全匿名上网,实际上默认配置下Chrome依然会向网站泄露大量设备信息、浏览习惯甚至位置数据,广告商和恶意脚本可以轻松追踪你的全网行为。
真上帝的左手
2 天前
大数据
·
数据同步
19. 大数据-数据同步-工具
DataX 已经把“从 A 搬到 B”这件事做得很成熟了。Reader 负责读,Writer 负责写,再配上并发、限速、脏数据处理和调度,一条离线同步链路就能跑起来。
数字孪生视频孪生
2 天前
大数据
·
人工智能
·
重构
·
架构
·
空间计算
在线重构,实时同步:视频动态三维重建打造 “常更常新” 的数字底座
传统数字孪生项目普遍存在一个痛点:场景建模大多依靠前期人工测绘、离线建模,交付之后模型就进入静态状态。厂区改扩建、设备移位、管线调整、现场临时作业场景变化,数字模型很难同步更新,久而久之,数字场景和真实现场脱节,数字孪生慢慢变成“一次性沙盘”,难以支撑常态化安全管控、巡检、应急指挥等业务。视频动态三维重建技术,正是为破解场景更新滞后难题而生,构建能够跟随现场变化、常更常新的数字底座。
Aloudata
2 天前
大数据
·
数据库
·
人工智能
·
数据挖掘
·
数据分析
·
dataagent
Claude 做数据分析的这两年:一份复盘与发展线索
2026 年 6 月,Anthropic 的数据团队在一篇文章里讲了一次不太成功的尝试。他们把大量历史 SQL 开放给 Agent,希望它从分析师过去的工作中找到答案。团队还检查了执行记录,确认 Agent 确实读了这些材料。然而,准确率提高还不到一个百分点[6]。
云上工程笔记
2 天前
大数据
·
开发语言
·
javascript
·
人工智能
·
机器学习
SRT字幕一键转手绘动画:srt-whiteboard-animation的复刻实录
srt-whiteboard-animation 是一个把 SRT 字幕自动转成手绘动画的本地工具,核心机制是「字幕驱动区域、区域驱动笔顺」。在 UCloud 优刻得星图平台上复刻它,环境侧只需要补一个 av 包,真正的工时集中在两处:出图接线和预览台降级。旁白这一版尚未接入。实测从装环境到出片 9 分 42 秒,成片 30 秒、1080x600,1801 帧渲染一分多钟,全程走 PyAV 未用系统 ffmpeg。
isNotNullX
2 天前
大数据
·
人工智能
仓储管理最全框架:6大流程、8项指标、10个管理动作、12个常见问题
仓储管理最怕一种情况:流程天天跑,问题却一直在。每天收发、盘点,库存数据不断更新,可生产依然缺料,账实依然对不上。
国科安芯
2 天前
大数据
·
人工智能
·
物联网
·
卫星
·
抗辐射
·
通信芯片
·
载荷
把接口变成观测量:CANFD收发器状态可观测性驱动的星上故障检测隔离与恢复方法
摘要:巨型星座的自主运维需求使故障检测、隔离与恢复(FDIR)从地面支持活动上移至星上,而总线接口因其处于各分系统信息流的必经之地,天然具备成为健康监测观测点的潜力。本文以文献综述方式,梳理星上FDIR体系对可观测状态量的需求、总线层可观测信号的分类,以及地面辐照试验的在线监测方法向在轨健康管理迁移的路径,并以国科安芯ASM1042S系列抗辐射CANFD收发器(型号ASM1042S2S)为样本展开分析。器件试验采用的"工作电流实时监测+CANFD数据回读比对+错误计数输出"组合方法,与星上健康管理所需的观
玩美数据
2 天前
大数据
·
人工智能
海外市场数据服务常用术语与名词解释权威指南
在海外市场数据服务领域,我们需要了解一些核心术语,以便更好地进行数据分析和决策。首先,“市场调研”(Market Research)指的是通过收集和分析市场信息,以了解消费者偏好和市场动态的过程。其次,“数据采集”(Data Collection)是指通过各种手段收集所需信息的活动,这些手段可能包括问卷调查、访谈、在线追踪等。此外,“竞品监测”(Competitive Monitoring)涉及对竞争对手的产品、定价策略和营销活动进行系统性观察与分析,以帮助企业制定相应策略。“行业报告”(Industry
武子康
2 天前
大数据
·
人工智能
·
agent
Qwen-Drive 的 91.4 分,究竟选中了什么?
一张成绩表里,Qwen-Drive-1.0-RL 的 NAVSIM 分数既是 90.7,也可以是 91.4。区别藏在后者旁边的 best-of-6:每个场景生成六条候选,再用该场景的 PDMS 评测分数选最高的一条。91.4 如实描述了这次评测,却没有证明车辆在当时可用的信息下,已经知道该选择哪条轨迹。1