技术栈

serialization

伊织code
1 年前
langchain·llm·cache·stream·serialization
LangChain - LLMs本文转载整理自: https://python.langchain.com.cn/docs/modules/model_io/models/
Artech
2 年前
serialization·nativebuffering
NativeBuffering,一种高性能、零内存分配的序列化解决方案[性能测试篇]第一版的NativeBuffering([上篇]、[下篇])发布之后,我又对它作了多轮迭代,对性能作了较大的优化。比如确保所有类型的数据都是内存对齐的,内部采用了池化机器确保真正的“零内存分配”等。对于字典类型的数据成员,原来只是“表现得像个字段”,这次真正使用一段连续的内存构架了一个“哈希表”。我们知道对于每次.NET新版本的发布,原生的JSON序列化(System.Text.Json)的性能都作了相应的提升,本篇文章通过具体的性能测试比较NativeBuffering和它之间的性能差异。