Last Week in Milvus

What's New

Core Updates

#26676 #26725 #26835 #26881 随着2.3.0发布后,Milvus代码迎来了新一轮的小重构。包括代码耦合、参数传递不当、错误处理等,都在有序进行中。

#26839 来自intel的 bjzhjing 通过profiling发现热点代码,位于storage.MergeInsertData(),它通过创建一个新的'InsertData'实例并将旧的buffer.buffer和addedBuffer合并到其中来更新buffer.buffer。当调用golang runtime.memmove移动具有大尺寸(>1M)的buffer.buffer时,会出现热点。为了避免上述开销,将addedBuffer追加到buffer.buffer中。解决了热点 函数'runtime.memmove'。此外"upload + index"时间(vector-db-benchmark的一项性能指标)减少了约60%。

#26246 在此之前Milvus只支持将Etcd作为元数据存储。Etcd有很多不错的功能,但它在水平扩展性方面存在限制。我们希望支持更具可扩展性的元数据存储,为此引入TiKV作为新的元数据存储。

#25852 Milvus正在积极探索FP32、binary之外的向量格式。此pr开始支持FP16向量,相对与FP32存储开销和内存开销更小,在很多AI场景中有着广泛的应用,未来Milvus还会支持BF16向量。此pr当前只是在外层支持了FP16,Milvus内核及索引尚不支持FP16,内部在计算时会将FP16转换成 FP32。

Knowhere

#48 修复COSINE metric爆搜失败的问题 #56 调整索引MMap的参数,此改进MMap加载的数据可以翻倍而性能下降在合理范围内 #39 移出了IVF_FLAT_NM 索引 #60 IVFFLAT索引支持在cosine函数下返回原始向量

Backup

#192 增加homebrew支持,Mac环境可以通过brew 安装backup工具 #194 增加check命令,检查对象存储是否能连通

New Contributor

Welcome bjzhjing peckjon yuhaowin yuyu-wy

What's Up Next

下周会发布2.3.1,2.3.1是bugfix版本没有引入什么新功能。

Did you know

Milvus 的coordinator节点支持active-standby模式下的高可用,具体详见 https://milvus.io/docs/coordinator_ha.md

本文由mdnice多平台发布

相关推荐
秋天的怀念_David3 天前
算法一千零一夜 · 第二十八夜 注册
java·程序人生·算法
ShuangNaoPai5 天前
饱和品类的心智词生成:从“新米”认知到“五新米”的判定路由
人工智能·程序人生·产品·思维·品牌营销
浮尘笔记7 天前
JetBrains差异设置被自动勾选的排查与根治实录
经验分享·程序人生·编辑器·intellij idea·phpstorm·webstorm
秋天的怀念_David10 天前
算法一千零一夜 · 第二十三夜 电力民生写成的曲线
java·程序人生·算法
郝学胜-神的一滴10 天前
AI 编程智能体 22:解析器赋能与实战落地全指南
人工智能·程序人生·游戏·unity·游戏引擎
Star(up up up)10 天前
Docker系列---Docker容器基本命令(新手小白保姆级实操教程)
运维·学习·程序人生·青少年编程·docker·容器·dubbo
Star(up up up)10 天前
Docker系列---Dockerfile镜像文件
人工智能·经验分享·学习·程序人生·docker·容器·github
郝学胜-神的一滴12 天前
游戏设计:原型与开发 18:Unity入门的第一课
人工智能·程序人生·游戏·ui·unity·游戏引擎
秋天的怀念_David12 天前
算法一千零一夜 · 作品相关:版权与致谢声明
程序人生·算法·学习方法