qwen3.8

骑着蜗牛撵大象327

Spring AI + Qwen3.8 周报助手：从事项采集到人工确认卡的闭环实战每周五下午，把散落在日历、任务系统和 Git 里的工作事项拼成一份像样的周报，常常要吃掉半小时，还得担心漏项、写错结论。手动汇总真正的痛点不是打字慢，而是口径不统一、每条进展都对不上原始记录。

飞塔老梅子

16. M5 Max 128GB内存能支持的最大模型 (2) ❀ 老梅子学AI【简介】虽然知道MLX-Serve很好，但是要敲命令，对电脑不熟悉的就头大了，想想还是LM Studio简单方便，那还有没有在LM Studio下可以用的占满128G内存的大模型呢？

白萝卜弟弟

【大模型Qwen3.8 27B】llama.cpp 本地大模型部署与使用环境：Ubuntu 26.04（kernel 7.0.0-34）+ AMD Radeon RX 7900 XTX 24GB（gfx1100）+ Granite Ridge 核显部署：llama.cpp b11227（Vulkan/RADV） + Qwen3.8-27B UD-Q4_K_M（16.46GB）当前配置：上下文 131072（128k），KV q4_0，MTP 投机解码，显存 19.98GB（留 ~4GB 余量）实测：prefill 387–781 tok/s，decode 37.7–72

论文复现现场

A100 跑 Qwen3.8-27B，FP8 还是 INT8？显存、速度、精度与微调兼容性怎么选直接结论：在算家云 A100 SXM4 80GB 环境验证 Qwen3.8-27B 时，建议先用 BF16 建立基线，再重点测试 INT8 W8A8。FP8 在 A100 上通常只能走权重-only 兼容路径，不能直接套用 H100 的 FP8 性能结论。

论文复现现场

Qwen3.8-27B 做 GRPO 需要几张 GPU？4×RTX 4090 与 8×RTX 4090 显存、vLLM 和 ZeRO-3 配置分析发布时间：2026 年 9 月 18 日直接结论：Qwen3.8-27B 做 GRPO，4×RTX 4090 只能作为 QLoRA、小 Batch、短输出的 PoC 起点；要把 vLLM Rollout 与训练进程分开，8×RTX 4090 更合理。全参数 GRPO 不建议直接用这两种配置。

双 RTX 5090 + DSH + Qwen 3.8：本地 Agent 已经能稳定完成复杂软件重构最近我一直在测试一套本地 Agent 开发环境：一开始，我真正担心的其实不是速度，也不是模型能不能加载。

Qwen3.8-27B 在 Jetson Thor 上的 llama.cpp 部署手册（Q8_0 + MTP）文档日期：2026-08-17｜本文档为公开脱敏版（原内网 IP 与用户名已替换为 <THOR_IP> / %USERPROFILE% 占位符）设备：Jetson Thor（Blackwell T5000）｜引擎：llama.cpp（GGUF）｜量化：Q8_0（~29.0 GB）+ MTP 投机解码状态：✅ 部署完成且接入 WorkBuddy（服务 http://<THOR_IP>:8080，模型 thor-qwen38-q8，实测对话通过）

Anthropic模型36小时突破46年数学进展，同日三家前沿模型上新：当AI抽象智能逼近极限，“表现力“为什么仍是结构性空白2026年8月12日到13日，AI行业经历了极为密集的48小时。一边是Anthropic宣布，一款尚未公开发布的内部模型在36小时内将黎曼猜想的零点下界从41.6%提升至67.2%——这个数字意味着，AI在一天半里超越了人类数学家46年在这一子问题上的累积进展。另一边，DeepSeek、阿里巴巴和xAI在同一天发布了三款前沿大模型，参数规模从1.6万亿到2.4万亿不等，定价从0.43美元到2美元每百万token，性能差距却在个位数之内。

我是有底线的