多模态

HySpark4 天前
opencv·计算机视觉·语音识别·多模态·音视频融合
视觉多模态效果不佳怎么办?从画面质量到音视频融合的工程优化实践在开发音视频融合分析功能时,最初的方案是将视频画面交给视觉模型进行分析,再结合语音识别结果,完成说话人行为、发言内容和会议场景之间的关联。
山顶夕景10 天前
大模型·多模态·jev·决策模型
【Jev】多模态Jev决策模型【多模态决策模型进展】书生大模型 InternLM 在 GitHub 开源多模态决策模型项目 Intern-Decision,并在 Hugging Face 发布 Intern-Decision-0.8B、Intern-Decision-2B 和 Intern-Decision-4B 三个模型权重。 该模型将状态、可选图片和多个结构化问题转换为决策与概率,基于 Qwen3.5 微调语言主干,同时冻结视觉编码器和投影层,支持选择、评分和是非三类问题。
nap-joker10 天前
人工智能·机器学习·多模态
脑衰老的多模态特征:从描述性分析到基于机器学习的整合了解与年龄相关的神经生理变化,对于识别脑衰老生物标志物及制定对抗运动与认知衰退的策略至关重要。为探究多个领域中与年龄相关的变化模式,本研究评估了年轻(4月龄)、成年(14月龄)及老年(24月龄)小鼠的运动与认知表现、功能连接及突触组织结构。与年轻小鼠相比,成年小鼠的运动活性降低(−50.3%),前肢力量下降(−38.3%);而老年小鼠则表现出空间记忆能力下降(−30.4%)及识别记忆能力下降(−40.3%)。高尔基-科克斯染色显示,不同脑区树突棘密度存在区域特异性变化:与成年小鼠相比,老年小鼠运动皮层II
救救孩子把10 天前
人工智能·面试·职场和发展·多模态·clip·rag·llave
AI面试八股文-12_11-多模态大模型面试题pdf版下载链:https://pan.quark.cn/s/9cc742e9c2a8更新: 2026-10-12
Web3&Basketball11 天前
数据库·python·大模型·多模态·gemini·长上下文·推理优化
实测Gemini4Argon:ERQA 87%登顶长程任务榜其实,Google把Gemini 4 Argon正式开放给开发者、企业和Pro-Ultra用户之后,我第一时间把它和手上的GPT-6-Astra跑了一遍同名基准。
liferecords13 天前
人工智能·大模型·ocr·多模态
Xiaomi-OCR-0:小米把 1.7 亿样本灌进 0.8B 小模型,文档解析和 OCR 问答一把抓💡 一句话总结:小米的 Xiaomi-OCR-0 用一个 0.8B 的小模型同时做文档解析和 OCR 问答,在 OmniDocBench v1.6 拿到 96.83、OCR 问答五榜均值 83.2——它真正的护城河不是模型,而是一座 1.7 亿样本的自动化数据引擎:8 个专家模型投票定标签、把标注渲染回图像做视觉验货、再围着模型翻车的样子定向造数据。
智码看视界14 天前
多模态·视觉语言模型·本地部署·vllm·moe·开源大模型·qwen3-vl
开源大模型追踪:Qwen3-VL-30B-A3B :30B 总参单卡到底能不能跑?一句话:它是把"30B 知识容量 + 3B 激活开销"塞进一个 Apache-2.0 检查点的"效率旗舰"——吃满 30B 的理解力,却只付出稠密 3B 级别的每 token 算力,是少见的"能商用 + 能上消费级显卡"的多模态大模型。
liferecords14 天前
大模型·ocr·强化学习·多模态
PolyOCR-Venus:蚂蚁把 OCR 从『抄写员』练成『视觉智能体』,教师蒸馏还会自己下岗💡 一句话总结:蚂蚁广见团队的 PolyOCR 想让 OCR 模型不只是「把字抄下来」,而是识别、定位、解析、抽取、理解、推理一把抓:6000 万实例按六大能力维度组织训练,后训练用 CGPO——先量出「教师在这个样本上到底比学生强多少、强得是否稳定」,再决定蒸馏开多重。OCRBench v2.1 英文榜 80.42 拿下第一,内部 KIE 甚至压过 GPT-5.6-Sol,还顺手把 OCRBench v2 的标注修了一遍。
Rocky Ding*17 天前
论文阅读·人工智能·深度学习·机器学习·aigc·多模态·ai-native
MOSS-VL技术原理深度解析:让视觉流持续进入生成过程,实时 Agent 才有架构基础欢迎大家关注Rocky的知乎:Rocky Ding 《三年面试五年模拟》AIGC/LLM/AI Agent算法工程师/开发工程师求职面试秘籍独家资源:【三年面试五年模拟】WeThinkIn/AIGC-Interview-Book,欢迎大家Star~
I Am a robert girl17 天前
python·多模态·扩散模型·世界模型·自回归·空间音频·流式推理
HelixWorld 源码剖析:当世界模型第一次“开口说话”从今天觉醒,技术赋予每一个人数字生命过去两年,交互式世界模型(Interactive World Model)的进展几乎全部集中在视觉侧:给定一张图、一段文字或一条 6-DoF 相机轨迹,模型就能实时渲染出可漫游的 3D 场景。Genie、GameNGen、以及后续一系列流式视频扩散模型,把"可玩性"和"响应速度"推到了 24 FPS 的量级。
小草cys19 天前
大模型·多模态·视频生成
对比一下hunyuanvideo,wan2.2, minimax h3的性能这三个都是 2025–2026 年比较主流的国产视频生成模型,定位差别挺明显:H3 更偏“全模态音视频一体 + 多参考编辑”,Wan2.2 更偏“电影级画面 + MoE 开源生态”,HunyuanVideo 1.5 更偏“轻量、稳定、低门槛文生/图生视频”。
loulanyue_20 天前
人工智能·计算机视觉·大模型·多模态
体验的Scaling时刻:读淘天首席科学家郑波2026云栖演讲基于 2026 云栖大会主论坛演讲《体验的Scaling时刻》· 演讲人:阿里巴巴 ATH 事业群技术副总裁、淘天集团首席科学家 郑波 · 视频源:Bilibili BV1p3hE6iEgW
山顶夕景20 天前
多模态·kv·vlm·infra
【VLM】DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache CompressionDeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression 技术报告:https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash/blob/main/DeepSeek_V41_Tech_Report.pdf Hugging Face
这张生成的图像能检测吗22 天前
人工智能·机器学习·计算机视觉·大模型·多模态·异常检测
(论文速读)LogSAD:无需训练的结构异常与逻辑异常统一检测论文题目:Towards Training-free Anomaly Detection with Vision and Language Foundation Models(迈向基于视觉与语言基础模型的免训练异常检测)
山顶夕景22 天前
机器人·多模态·扩散模型·具身智能·vla·dit·vlm
【VLA】Qwen-VLA:VLM+DiT统一多模态理解与连续机器人动作生成Qwen-VLA 的做法,不是声称"把所有机器人统一成一种动作",而是用 Qwen3.5-4B 视觉—语言骨干 + 约 1.15B 参数的 DiT 流匹配动作专家 + 一套 H×K 张量/前缀掩码/具身提示的接口,把操作、导航、人本动作、轨迹预测接进同一个条件生成框架。
Web3&Basketball24 天前
python·大模型·agent·强化学习·多模态·推理
用 SGLang 决策端点做毫秒级 Agent 路由本文结论先行:把「分类 / 路由 / 判定」这类任务从生成模型里拆出来,交给专门的决策模型(decision model),能把单次延迟从几百毫秒压到 sub-100ms,成本降到原来的几十分之一。SGLang 已在 nightly 加入 /v1/decisions 与 /v1/systemone 端点,AWS 也开源了 Strands Decider 2B,这个方向已经从概念变成可落地的工程选项。
EW Frontier1 个月前
多模态·usrp·realsense·相控阵·isac(通感一体化)
【多模态 ISAC】USRP + 28 GHz 相控阵 + RealSense:这套毫米波通感一体原型把 UE 定位做到了 0.30 米【文末附代码链接】环境:MATLAB R2022b+(新增以免影响 readmatrix、深度深学习 YOLO 相关工具箱按需)+ Python 3.x(numpy / scipy / torch / matplotlib / openpyxl / Pillow) 数据集:Zenodo DOI 10.5281/zenodo.22896456(约数百 MB,仓库内不含数据) 论文:Multi-Modal Radio-Vision SLAM for ISAC: Prototype Design, Experimental Va
audyxiao0011 个月前
人工智能·语言模型·多模态·时间序列
让大语言模型先读懂外部事件:一种文本增强与正则扩散对齐的多模态时序预测框架本文分享一篇2026年人工智能领域国际期刊Knowledge-Based Systems发表的论文《TRDA-TS: Text reinforcement and regularized diffusion alignment for LLM-empowered multimodal time series forecasting》。该论文针对大语言模型用于多模态时间序列预测时,外部事件文本利用不足以及文本与数值时序之间存在跨模态错配等问题,提出了TRDA-TS预测框架。该模型首先在数值分支中提取多尺度和