Last Week in Milvus

What's New

Core Updates

#26676 #26725 #26835 #26881 随着2.3.0发布后,Milvus代码迎来了新一轮的小重构。包括代码耦合、参数传递不当、错误处理等,都在有序进行中。

#26839 来自intel的 bjzhjing 通过profiling发现热点代码,位于storage.MergeInsertData(),它通过创建一个新的'InsertData'实例并将旧的buffer.buffer和addedBuffer合并到其中来更新buffer.buffer。当调用golang runtime.memmove移动具有大尺寸(>1M)的buffer.buffer时,会出现热点。为了避免上述开销,将addedBuffer追加到buffer.buffer中。解决了热点 函数'runtime.memmove'。此外"upload + index"时间(vector-db-benchmark的一项性能指标)减少了约60%。

#26246 在此之前Milvus只支持将Etcd作为元数据存储。Etcd有很多不错的功能,但它在水平扩展性方面存在限制。我们希望支持更具可扩展性的元数据存储,为此引入TiKV作为新的元数据存储。

#25852 Milvus正在积极探索FP32、binary之外的向量格式。此pr开始支持FP16向量,相对与FP32存储开销和内存开销更小,在很多AI场景中有着广泛的应用,未来Milvus还会支持BF16向量。此pr当前只是在外层支持了FP16,Milvus内核及索引尚不支持FP16,内部在计算时会将FP16转换成 FP32。

Knowhere

#48 修复COSINE metric爆搜失败的问题 #56 调整索引MMap的参数,此改进MMap加载的数据可以翻倍而性能下降在合理范围内 #39 移出了IVF_FLAT_NM 索引 #60 IVFFLAT索引支持在cosine函数下返回原始向量

Backup

#192 增加homebrew支持,Mac环境可以通过brew 安装backup工具 #194 增加check命令,检查对象存储是否能连通

New Contributor

Welcome bjzhjing peckjon yuhaowin yuyu-wy

What's Up Next

下周会发布2.3.1,2.3.1是bugfix版本没有引入什么新功能。

Did you know

Milvus 的coordinator节点支持active-standby模式下的高可用,具体详见 https://milvus.io/docs/coordinator_ha.md

本文由mdnice多平台发布

相关推荐
郝学胜-神的一滴20 小时前
Python美学的三重奏:深入浅出列表、字典与生成器推导式
开发语言·网络·数据结构·windows·python·程序人生·算法
郝学胜-神的一滴20 小时前
Linux网络编程中的connect函数:深入探索网络连接的基石
linux·服务器·网络·c++·websocket·程序人生
chaser&upper20 小时前
手机控电脑全维度实测对比
程序人生
Byron Loong1 天前
【思考】第一性原理是什么
程序人生
JustDI-CM1 天前
随笔-关于AI的小感受
程序人生
西瓜程序猿1 天前
传统礼簿收礼小工具:记了么,解决纸质收礼记账痛点
经验分享·测试工具·程序人生·全文检索·交友
愚者游世2 天前
力扣解决二进制&题型常用知识点梳理
c++·程序人生·算法·leetcode·职场和发展·改行学it
郝学胜-神的一滴2 天前
Linux网络编程之Socket函数:构建通信的桥梁
linux·服务器·网络·c++·程序人生
JMchen1232 天前
AR Core与CameraX的融合:测量应用从原理到实现
android·经验分享·程序人生·ar·移动开发·android studio·camerax
可触的未来,发芽的智生3 天前
发现:认知的普适节律 发现思维的8次迭代量子
javascript·python·神经网络·程序人生·自然语言处理