Last Week in Milvus

What's New

Core Updates

#26676 #26725 #26835 #26881 随着2.3.0发布后,Milvus代码迎来了新一轮的小重构。包括代码耦合、参数传递不当、错误处理等,都在有序进行中。

#26839 来自intel的 bjzhjing 通过profiling发现热点代码,位于storage.MergeInsertData(),它通过创建一个新的'InsertData'实例并将旧的buffer.buffer和addedBuffer合并到其中来更新buffer.buffer。当调用golang runtime.memmove移动具有大尺寸(>1M)的buffer.buffer时,会出现热点。为了避免上述开销,将addedBuffer追加到buffer.buffer中。解决了热点 函数'runtime.memmove'。此外"upload + index"时间(vector-db-benchmark的一项性能指标)减少了约60%。

#26246 在此之前Milvus只支持将Etcd作为元数据存储。Etcd有很多不错的功能,但它在水平扩展性方面存在限制。我们希望支持更具可扩展性的元数据存储,为此引入TiKV作为新的元数据存储。

#25852 Milvus正在积极探索FP32、binary之外的向量格式。此pr开始支持FP16向量,相对与FP32存储开销和内存开销更小,在很多AI场景中有着广泛的应用,未来Milvus还会支持BF16向量。此pr当前只是在外层支持了FP16,Milvus内核及索引尚不支持FP16,内部在计算时会将FP16转换成 FP32。

Knowhere

#48 修复COSINE metric爆搜失败的问题 #56 调整索引MMap的参数,此改进MMap加载的数据可以翻倍而性能下降在合理范围内 #39 移出了IVF_FLAT_NM 索引 #60 IVFFLAT索引支持在cosine函数下返回原始向量

Backup

#192 增加homebrew支持,Mac环境可以通过brew 安装backup工具 #194 增加check命令,检查对象存储是否能连通

New Contributor

Welcome bjzhjing peckjon yuhaowin yuyu-wy

What's Up Next

下周会发布2.3.1,2.3.1是bugfix版本没有引入什么新功能。

Did you know

Milvus 的coordinator节点支持active-standby模式下的高可用,具体详见 https://milvus.io/docs/coordinator_ha.md

本文由mdnice多平台发布

相关推荐
爱笑的眼睛111 天前
浅谈 前端验证码那些事
前端·程序人生
GPT01232 天前
大模型日报 2024-12-20
程序人生
十二测试录2 天前
Python基础——字符串
开发语言·经验分享·python·程序人生·职场发展
测试老哥2 天前
Python自动化测试图片比对算法
自动化测试·软件测试·python·测试工具·程序人生·职场和发展·测试用例
杰哥就是杰哥3 天前
坚持奋斗到底
程序人生
大鱼前端5 天前
React 19新特性探索:提升性能与开发者体验
程序人生
测试19985 天前
什么是自动化测试?
自动化测试·软件测试·python·测试工具·程序人生·职场和发展·测试用例
python_知世5 天前
基于LLaMA-Factory微调Llama3
人工智能·深度学习·程序人生·自然语言处理·大语言模型·llama·大模型微调
赵大仁6 天前
从零开始掌握Vue.js组件开发:详解原理与实践
前端·javascript·vue.js·经验分享·vscode·程序人生·前端框架