技术栈
eagle
Briwisdom
17 小时前
模型部署
·
vllm
·
eagle
·
llama.cpp
·
prefill
·
speculative
·
decoding
Speculative Decoding：用小模型给大模型“打草稿“，推理加速 2-3×
副标题： 大模型每生成一个 token 都要搬一次 KV Cache——瓶颈在搬数据，不在算。投机解码做的事就是：用更快的方式"猜"出几个 token 凑成一批，大模型一次验证，用"批处理"省掉重复搬运。
FLGB
2 年前
kafka
·
eagle
Kafka 图形化工具 Eagle安装
jdk安装如未安装kafka，需要先安装完kafka官网下载地址docker 安装mysqlke 库用来储存元数据
mac116
3 年前
windows
·
苹果mac
·
eagle
·
图片素材管理软件
图片素材管理软件Eagle for mac提高素材整理维度
Eagle for mac是一款图片素材管理软件，支持藏网页图片，网页截屏，屏幕截图和标注，自动标签和筛选等功能，让你设计师方便存储需要的素材和查找，提供工作效率。
我是有底线的