技术栈
llm
tachibana2
3 小时前
数据库
·
人工智能
·
架构
·
大模型
·
llm
性能指标的口径选择
核心结论(BLUF):性能指标的口径(Metric Methodology)是衡量、评估、优化与保障分布式系统及 AI 应用稳定性的基石。指标口径不一致是导致跨团队扯皮、容量评估失真、告警失效与 SLA 虚标的根源。构建生产级可观测体系,必须从物理测量锚点、时间聚合窗口、数学统计模型(分位数/直方图)与业务过滤边界四个维度,对吞吐量、时延、可用性及大模型专用指标进行严格的标准化定义。
闲研随记
3 小时前
算法
·
llm
·
强化学习
·
iclr
·
rl
【文献阅读 ICLR 2026】RL算法:DECS
标题:通过解耦奖励和课程数据调度来缓解过度思考 方法名称:DECS 论文链接:arxiv:2509.25827v2 项目链接:https://github.com/pixas/DECS 发表会议:ICLR 2026
知几蜗牛
5 小时前
前端
·
后端
·
llm
0 后端 · 0 数据库 · 0 备案:用 AI 两天搓出的股票管理系统,开源了
不租服务器、不建数据库,两天用 AI 搓出一个股票管理系统。0 后端 · 0 数据库 · 0 备案 · 免端口。
CoderJia程序员甲
8 小时前
ai
·
大模型
·
llm
·
github
·
ai教程
GitHub 热榜项目 - 周榜(2026-08-22)
生成于:2026-08-22共发现热门项目: 16 个Token赞助:siliconflow前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。点击跳转到网站。
武子康
8 小时前
人工智能
·
llm
·
agent
多 Agent 不是多开几个终端:Pi 的 Sub-agent 取舍
三个 Agent 同时进入一个仓库:一个改认证接口,一个补前端调用,一个修测试。十分钟后,它们都说 任务完成了。合并时才发现,前端基于旧接口生成,测试重写了共享 Fixture,认证 Agent 又在最后一次 格式化中覆盖了另一条分支的改动。
liulilittle
8 小时前
c++
·
学习
·
算法
·
ai
·
llm
llmx 学习手册 06 —— CPU 指令集优化(AVX-512 三层演进)
本课核心:理解 CPU 推理缓慢的原因,并掌握如何利用 AVX-512 将每个算子提速。我们将展示三层演进模式(从朴素实现到向量化,再到 AVX-512 精细调优)的完整实现与数值验证方法。动手验证方式:执行 cmake --build build_o3 --target llmx_tests && build_o3/bin/llmx_测试.exe,确保 72 个测试全部通过。
武子康
8 小时前
人工智能
·
llm
·
agent
Email Thread 不是 Agent Session:生产级异步通信网关的状态、幂等与审批合同
AgentMail 当前提供可编程 Inbox、Domain、Thread、Message、Draft、Attachment,以及 Webhook、WebSocket、签名校验、投递事件和两类幂等机制。Vercel Marketplace 也把它定位为可直接配置和管理、支持真实邮箱收发、线程、附件与事件触发的邮件基础设施。[S1][S2] 这些能力解决的是“邮件如何存在、如何收发、如何通知应用”。它们并不自动回答“这封邮件属于哪个租户”“正文中的指令是否可信”“当前业务任务是否允许外发”“审批是否仍然有效
zhangphil
9 小时前
python
·
ai
·
llm
Python Web后端框架FastAPI vs Flask
摘要:FastAPI与Flask是两大Python Web框架,适用场景不同。Flask轻量灵活,适合简单项目、传统Web应用及快速开发;FastAPI基于类型注解,支持异步、自动校验及文档生成,性能更优,适合REST API、AI服务接口及中大型项目。核心差异:
uncle_ll
9 小时前
人工智能
·
大模型
·
llm
·
ollama
·
gguf
大模型落地选型GGUF 量化与 Ollama 部署指南
在生成式 AI 工程化落地中,开发者常需要在模型定制、知识更新、算力开销与推理延迟之间进行多维权衡。本文将提供一套覆盖微调选型、知识增强、GGUF 模型压缩与 Ollama 本地部署的完整落地链路。
Esaka_Forever
19 小时前
安全
·
llm
Skills安全要点总结
skill 不只是文字,它有你電腦的權限标题: skill 不只是文字,它有你電腦的權限表格skill 不只是文字,它拥有你电脑的权限
长谷深风111
1 天前
java
·
大数据
·
ai
·
llm
·
ai agent
·
工具设计
·
agent设计
为什么你的 Tool 总被模型选错?
你给一个 AI Agent 配了十几个 Tool:搜索、查数据库、读文件、发邮件、查天气、创建日程。代码跑起来后,一个很常见的问题出现了。
TechEdu202606
1 天前
人工智能
·
ai
·
llm
[人工智能]Claude、GPT、Gemini、Copilot与Llama:概念、架构、应用与评估
Claude、GPT、Gemini、Copilot与Llama:概念、架构、应用与评估报告目的。本报告从工程视角介绍五类具有代表性的LLM模型家族和产品生态。内容区分基础模型能力与产品封装,解释预训练、后训练、检索增强和工具调用的关系,并讨论如何从实验性原型走向可靠的生产系统。
boooooooom
1 天前
前端
·
后端
·
llm
尝尝咸淡:从朴素 RAG 到 Graph RAG——一个烹饪问答系统的三层检索升级之路
一个独立完成的生产级 Graph RAG 应用。后端约 9,000 行 Python、前端约 4,400 行 Vue3,知识图谱 5,760 个节点 / 6,055 条关系 / 323 道菜谱。本文记录它从"切块→向量化→top-k"的朴素 RAG,逐步演进到"知识图谱 + 三路混合检索 + 图多跳推理 + LLM 智能路由"的完整设计与工程权衡。
武子康
1 天前
人工智能
·
llm
·
agent
33B 音画模型塞进 Apple Silicon,h3.c 重写了哪些 Runtime 职责
很多推理工具把优化收进一个 fast=true。速度变快后,用户只看到总耗时下降,却不知道 程序少算了哪些部分,也不知道画面出错时应该撤回哪个开关。
知几蜗牛
1 天前
llm
一张图看懂AI、机器学习、深度学习和生成式AI之间的关系
最近几年,“AI”这个词几乎无处不在。 你可能听过“机器学习”、“深度学习”,还有“生成式 AI”——比如 ChatGPT、Sora、Midjourney…… 但它们到底是同一个东西的不同叫法?还是层层递进的技术升级?
XLYcmy
1 天前
google
·
meta
·
llm
·
负载均衡
·
token
·
moe
·
glam
小红书 算法一面 十一
# 基于MoE的模型架构全景解析MoE(混合专家模型)核心思想是**将模型总参数量与单次推理计算量解耦**,通过稀疏激活专家子网络实现高效扩展。以下按时间线与创新维度,系统介绍主流MoE架构的设计特点、核心突破与适用场景。
谢白羽
1 天前
人工智能
·
llm
·
论文
·
agent
·
mooncake
Mooncake在LLM的kv cache offload
KV Cache 在 AI 服务器里要存,但存哪里?这背后是一个根本性的物理约束——存储器不可能三角:快、大、便宜,三者不可兼得。
牧艺
2 天前
llm
·
agent
·
deepseek
DeepSeek Harness 上手:一切皆插件的 Agent 运行时,核心流程怎么走
发布日期:2026-08-21 标签:DeepSeek / Agent Harness / Cordis / 插件架构 / Tool Calling / 工程实践 项目:deepseek-ai/deepseek-harness
魔术师Grace
2 天前
llm
·
aigc
·
agent
模型“开源”了,就能直接拿来做 Agent 吗?
当我们开始给 Agent 选择底座模型时,“开源还是闭源”几乎是绕不开的问题。但只要你做过模型部署,就会发现一个很有意思的现象:
夫子396
2 天前
llm
·
agent
·
ai编程
【第三部分:第一个 Agent 应用】10. 不使用框架,手写一个最小 Agent
前面的文章,我们已经分别介绍了 Context Engineering、Function Calling、Structured Output 和 RAG。这些能力单独看并不复杂,但真正进入 Agent 开发后,还需要回答一个问题: