语言模型

海上小飞龙

LangChain 模型调用：invoke、stream、batch 到底该怎么选？调模型这件事，看起来就一句话：把请求发过去，把结果拿回来。但结果怎么返回，有三种常见的调用方式。一种是等它整个生成完再给你，一种是边生成边往外送，还有一种是一次发一批。

第3章 PTQ：不用重新训练也能量化 LLM前两章我们已经知道：LLM 之所以需要量化，很大程度上是因为模型参数太多，高精度权重会带来巨大的存储和显存开销。例如一个 7B 模型，如果参数使用 FP16：

iNeuOS工业互联网

大模型（DeepSeek）辅助 3D 实时建模 + 拖拽配置：业务可视化应用快速构建实践（标注、巡检与视角控制等）大模型（DeepSeek）辅助 3D 实时建模 + 拖拽配置：业务可视化应用快速构建实践（标注、巡检与视角控制等）

二炮手亮子

使用云服务+hermes+mino模型我用微信操控服务器自己编程并部署实操下面把我的完整搭建过程记录下来，供有类似需求的朋友参考。先看整体流程：微信发中文指令Hermes 通道

火山引擎 AI 云原生架构笔记：方舟、AgentKit、HiAgent 三层关系梳理适合读者：AI 产品经理、技术决策者、准备接触火山引擎体系的开发者写作视角：以产品经理视角梳理架构逻辑，重点讲清楚"每层是干什么的、怎么选、怎么配合" 说明：本文基于火山引擎公开资料与个人项目调研整理，具体能力与计费以官方最新文档为准

第 01 篇：OpenAI 兼容 API 初探 —— 用 curl 跑通第一次对话系列：《Java 大模型应用开发入门》第 01 篇。源码范围：mock-llm-server。这一篇一行 Java 都不写。

GPT-6 Astra 的能力数字与对齐声明：哪些能信近期多个来源同时描述 GPT-6 Astra。OpenAI 发布页列出“Astra在一次尝试中解决了 88.0% 的任务，在四次尝试中解决了 99.2% 的任务，而GPT‑5.6 的解决率分别为 55.9% 和 68.7%分别是Sol。” lesswrong 的《Estimating GPT-6 Astra’s no-CoT Time Horizon》把 50% TH 放在“Astra 的 50% TH 处于 [8 分钟，1 小时] 内，可能约为 15-40 分钟。” hn-frontpage 讨论循环

Idea 集成智能体开发工具“千问(qwen)”一.准备工作：1.下载idea开发工具必须2025.3版本及以上，2025.3版本以下不支持集成智能体开发。

第 09 篇：实践一 —— 文本摘要（Map-Reduce 分块）系列：《Java 大模型应用开发入门》第 09 篇。源码定位：文本摘要看起来是最简单的 AI 场景：一段文本进去，一段摘要出来，一个提示词的事。

豆包手机助手消费者版发布：首款量产 AI 智能体手机 9 月 16 日开售2026 年 9 月 14 日，字节跳动正式发布豆包手机助手消费者版。两天后的 9 月 16 日 14:00，首发机型努比亚 NaviX Ultra 正式发布并开售，被多家媒体称为「全球首款 AI 智能体手机」。硬件由中兴努比亚与字节联合研发。

第 05 篇：结构化输出 —— 让模型稳定返回 JSON系列：《Java 大模型应用开发入门》第 05 篇。源码定位：com.example.llm.util.AiJsonUtils、com.example.llm.dto.chat.ResponseFormat、com.example.llm.service.AiInvoker#chatJson、com.example.llm.prompt.Prompts。

AI Agent上线后怎么升级？先建立一套可回滚的变更控制AI Agent 上线后，最危险的改动往往不是大规模重构，而是看起来很小的调整：换一个模型别名、改两句系统提示词、增加一个工具参数，或者替换一批知识库文档。它可能修好一个样本，同时悄悄破坏另一个场景。

AI人工智能+

了一种融合OCR与大模型的文档抽取系统，解决传统OCR“识字不识意”的痛点你有没有过这样的经历：周一早晨刚坐下，面对桌上堆成山的采购合同、海外发票和法律文书，还没开始喝口水，心里就一阵发慌。眼睛盯着密密麻麻的文字，手指在键盘上机械地敲击，不仅腰酸背痛，还生怕看错一个数字导致后续麻烦不断。

AMD 395本地部署Qwen3.8-Flash-Next实测，端侧AGI时代也要来了过去一年，关于 AGI 的讨论，几乎都发生在云端。GPT-6 Astra 发布之后，"通用人工智能"这四个字，第一次从发布会 PPT 里，走到了真实产品里。

基于 OKF 知识图谱的 Text2SQL 领域知识注入实践——半导体晶圆厂数据资产知识库 MVP 剖析关键词：Text2SQL · OKF（Open Knowledge Format）· 知识图谱 · 隐性知识 · 半导体 Fab / 晶圆厂 · Streamlit · LLM · RAG · 数据资产知识库 GitHub：https://github.com/BumbleBee-ZDS/fabwiki

第 03 篇：Java HttpClient 手写第一个 Chat 请求系列：《Java 大模型应用开发入门》第 03 篇。源码定位：com.example.llm.client.SimpleHttpAiClient、com.example.llm.controller.DebugController。

Codex 桌面版通过 SSH 访问 Docker 编译环境本文说明如何让 Windows 上的 Codex 桌面版通过 SSH 连接 WSL/Docker 中的 Ubuntu 编译容器，并在容器内读取代码、执行命令和使用编译工具。

医疗人工智能项目全生命周期管理系统：监管知识建模、工程实现与实证评估(上)背景与问题。医疗人工智能（以下简称医疗AI）正以前所未有的速度进入中国医院的服务与管理流程，但其在医院场景的落地受到药监（医疗器械属性与注册）、卫健（医疗质量与伦理）、网信（算法与生成式AI备案）、数据与网络安全（三法一等保）四条监管主线的并行约束。医院作为医疗AI应用的落地主体与责任主体，普遍面临三重治理困境：其一，监管知识分散于数十部法律、法规、规章、标准与政策文件之中，跨部门、跨层级、跨领域，医务与信息化管理人员难以形成完整的合规视图；其二，医疗AI项目的合规义务高度依赖项目特征（是否处理医疗器械数

联邦学习（Federated Learning, FL）联邦学习是一种分布式机器学习框架，核心原则是「数据不出本地，模型协同训练」：多个数据持有方（客户端）在不共享原始训练数据的前提下，共同训练一个全局模型；训练过程中仅在客户端与中央服务器之间传输模型更新（参数、梯度或适配器），由服务器完成聚合迭代，最终所有客户端共享一个统一的全局模型。

CLIP 图文对齐：先核对正样本，再相信检索分数开源 AI 论文复现实验与代码解读 · 第五轮 / 071 面向研究生、科研新人和工程型研究者；检索与实验日期：2026-09-12。