大语言模型

mumu15716 小时前
人工智能·python·大语言模型·agent·vllm
快速上手大模型推理vllmLiteMoE 是一个小型 MoE 推理引擎,约 1600 行 Python。它负责 forward、KV 和生成循环,专家、Attention 和路由算子直接调用 vLLM。
王中阳Go1 天前
人工智能·后端·python·大语言模型
后端转 Agent 岗面试怎么答:8 个高频问题与应答口径这篇是工具型整理,不聊趋势,只给能直接照着说的答法。每个问题按四段拆:问题是什么,常见的错误答法,正确口径,以及面试官大概率会追问到哪。
weixin_468466852 天前
人工智能·ai·机器人·大语言模型·前沿科技
从“看懂”到“做到”:视觉-语言-动作模型如何让机器人真正执行指令“把桌上的红色杯子拿起来,放进水槽。”这句话对人类来说几乎是本能。但对机器人而言,它同时要求三件事:看懂桌上的杯子、理解“红色”“水槽”这些语义概念、规划并执行一系列关节运动。传统机器人系统把这三件事拆成独立的模块——感知模块负责检测物体,规划模块负责生成路径,控制模块负责执行动作。每个模块各自优化,但模块之间的接口成了信息损失的瓶颈。
王中阳Go3 天前
大数据·数据库·人工智能·后端·大语言模型
5.27 分钟干完后端和全部测试:一场三小时笔试的五个失分点,四个不在代码上一场三小时的笔试,功能全跑通,代码实现放在同批里算合格偏上,租户隔离、幂等、8 路并发、流式导出、事务边界都做了。结果没过。
杭州华望MBSE4 天前
人工智能·大语言模型·mbse·sysml·国产工业软件
AI将载着MBSE驶向哪里?从前台工具转向工程语义与验证层基于模型的系统工程(MBSE)是一种以模型组织需求、架构、接口、行为与验证关系的工程方法。随着大语言模型具备需求抽取、模型片段生成和文档编制能力之后,人工建模在MBSE流程中所占用的时间和人力正逐步减少。当模型生成的成本显著下降后,MBSE是否仍然具有价值?
AI人工智能+8 天前
自然语言处理·ocr·大语言模型·文档抽取
智能文档抽取系统通过“OCR+大模型”双引擎,实现从图像到结构化数据的精准转化,突破传统OCR仅识别文字的局限你有没有过这样的经历——手里攥着一沓合同、发票、申请表,翻来覆去只为找到某个关键数字?或者见过窗口工作人员对着扫描件,一个字一个字地往系统里敲?
Rocky Ding*8 天前
论文阅读·人工智能·深度学习·机器学习·aigc·大语言模型·ai-native
一文读懂Kimi K3.1 Pro核心基础知识欢迎大家关注Rocky的知乎:Rocky Ding 《三年面试五年模拟》AIGC/LLM/AI Agent算法工程师/开发工程师求职面试秘籍独家资源:【三年面试五年模拟】WeThinkIn/AIGC-Interview-Book,欢迎大家Star~
艺杯羹8 天前
人工智能·自动化·大语言模型
Android无障碍自动化死循环全解:从动态角标伪匹配到单向状态机防御实战前言: 在借助 AI 编程助手开发移动端 Android 无障碍自动化服务(AccessibilityService)或轻量状态检测工具时,真机“狂按返回键”、“界面疯狂晃动”以及“死循环闪退”是困扰开发者的恶性故障。大模型生成的代码习惯性依赖 findAccessibilityNodeInfosByText("微信") 等可见文本判据,却忽视了真实宿主环境中动态未读角标(如 微信(494))导致的文本漂移,进而诱发连续错误的物理回退风暴。本文基于真实移动端无障碍自动化工程的深度排错实战,剖析动态角标击穿
孙琦Ray9 天前
大语言模型·开源安全·比特币·漏洞披露·bitcoin core
比特币 Core 取消 AI 易发现漏洞的保密期比特币核心项目(Bitcoin Core)本周四合并了一项安全政策修订:对于大语言模型(LLM)能轻易重新发现的漏洞,不再执行长达数月的保密期,而是立即向所有仍在维护的主版本回移修复、尽快发布点版本,并同步公开安全公告。
王中阳Go9 天前
人工智能·后端·python·大语言模型·1024程序员节
两个入口答案不一致先别调模型:6 行入口口径对账表(附脚本)企业知识库上线之后,有一类反馈很稳定:用户说系统答错了,发来截图;把那句话原样拿到网页端问一遍,答案是对的。
爱听歌的周童鞋11 天前
transformer·大语言模型·tinyml·mit 6.5940·高效 ai 计算
MIT 6.5940 | TinyML 与高效 AI 计算 | Fall 2026 | 笔记 | Lecture 12:Transformer and LLM学习 MIT 韩松教授讲授的 MIT 6.5940: Tiny ML and Efficient AI Computing 课程,本篇文章记录 第十二讲:Transformer 和 LLM 的学习内容,和大家一起分享交流😄
EDPJ13 天前
llm·负载均衡·大语言模型·moe·推测解码(sd)
MoE 与推测解码(Speculative Decoding)加速:为什么慢、什么时候慢、怎么让它不慢?学术交流群:922230617目录0. 引言0.1 基础0.1.1 算法机制0.1.2 工程实现0.1.3 模型架构
孙琦Ray14 天前
大语言模型·开源项目·gemini·教育科技·ai 评分·evaluai·apache-2.0
西班牙团队开源 AI 评分平台 EvaluAI:加评分标准反而更不准,但更稳定批改开放式试题一直是高等教育最难啃的瓶颈之一。选择题可以秒级机评,但论文、证明题和算法设计题依赖人工判断,而人工判断慢、贵且不一致。西班牙埃斯特雷马杜拉大学团队近日开源了 EvaluAI——一个用大语言模型批改自由文本作业、生成反馈并交由教师审核的平台,论文发表于期刊 SoftwareX,采用 Apache-2.0 许可证,部署在用户自有基础设施上,而非锁定在商业云服务中。
code2cat16 天前
人工智能·python·大语言模型·rag
【随笔】RAG重排怎样挑证据:先扩大候选,再把相关片段排到前面上一文把RAG的问题拆成了检索证据和回答忠实性。接下来处理一个常见失败:正确文档已经被检索出来,却排在后面,最终拼给模型的前几段没有包含它。
我有酒两杯16 天前
人工智能·深度学习·机器学习·lora·大语言模型
从一条样本看懂 Kev:数据、模型、训练与推理Kev 用语言模型读取状态、问题和候选项,再为每个候选项计算概率。本文沿一条退款记录,解释它如何进入数据集、变成 token、产生损失,最后作为 API 请求返回决策。
Light Gao17 天前
人工智能·ui·交互·大语言模型·sse·智能体·ag-ui
AI 对话助手如何实现动态交互?一文讲清 AG-UI、SSE、组件与工具调用用户在同一个聊天窗口里描述目标;助手缺信息时展示选择卡,拿到答案后继续查询;需要写入业务系统时,展示操作摘要并等待用户确认。
丁希希哇17 天前
人工智能·机器学习·transformer·大语言模型
Transformer中的注意力机制(Attention)李沐《动手学深度学习》注意力机制 【论文精读】Transformer:Attention Is All You Need Transformer 的架构原理
王中阳Go22 天前
开发语言·人工智能·后端·python·golang·大语言模型
Go 后端转 AI:非科班怎么补?一张 3 列路线表(可保存)前几天一位读者给我留言,说他不是科班出身,做 Go 后端一年多,现在想往 AI 上靠,最怕别人问的一句话是「你这些是按什么标准练的」。
AI你一生一世24 天前
人工智能·gpt·大语言模型·astra·推理模型·长任务·gpt-6
GPT-6 Astra 深度拆解:当推理模型开始为“长任务”重新设计我是AI时代的无业游民,我游荡在现实与意念之间过去一年,团队里最常出现的一种事故不是模型答错,而是模型“答对了前半段,然后在后半段崩掉”。典型场景:让模型重构一个跨 12 个文件的鉴权模块,它前 8 步干净利落,第 9 步开始凭空捏造一个不存在的中间件,第 11 步把之前的改动全部覆盖。你盯着 diff,只能整段回滚。
流浪00125 天前
llm·大语言模型·rag
大模型技术全景(十八):RAG 检索增强生成与知识时效性问题📚 本文收录于「流浪」的系列专栏🏠 博客主页:流浪 | 📝 原创首发于 CSDN篇十七把幻觉的根因拆成了三层,「知识缺、知识旧」 那一层留给工程去治,治它的主流架构就是 RAG。但企业真正卡住的地方往往不是模型不够聪明,而是知识在自己手里、模型碰不到。本篇讲 RAG 是什么、为什么非它不可、哪些场景已经跑出了可核实的数字。