Milvus(5):Collections 查看、修改、加载和释放、删除

1 查看 Collections

可以获取当前连接的数据库中所有 Collections 的名称列表,并查看特定 Collections 的详细信息。

1.1 列出 Collections

下面的示例演示了如何获取当前连接的数据库中所有集合的名称列表。

python 复制代码
from pymilvus import MilvusClient, DataType

client = MilvusClient(
    uri="http://localhost:19530",
    token="root:Milvus"
)

res = client.list_collections()

print(res)

如果您已经创建了一个名为quick_setup 的 Collection,则上述示例的结果应类似于下面的内容。

python 复制代码
["quick_setup"]

1.2 描述 Collection

还可以获取特定 Collection 的详细信息。下面的示例假定您已经创建了名为 quick_setup 的 Collection。

python 复制代码
res = client.describe_collection(
    collection_name="quick_setup"
)

print(res)

上述示例的结果应类似于下面的内容。

python 复制代码
{
    'collection_name': 'quick_setup', 
    'auto_id': False, 
    'num_shards': 1, 
    'description': '', 
    'fields': [
        {
            'field_id': 100, 
            'name': 'id', 
            'description': '', 
            'type': <DataType.INT64: 5>, 
            'params': {}, 
            'is_primary': True
        }, 
        {
            'field_id': 101, 
            'name': 'vector', 
            'description': '', 
            'type': <DataType.FLOAT_VECTOR: 101>, 
            'params': {'dim': 768}
        }
    ], 
    'functions': [], 
    'aliases': [], 
    'collection_id': 456909630285026300, 
    'consistency_level': 2, 
    'properties': {}, 
    'num_partitions': 1, 
    'enable_dynamic_field': True
}

2 修改 Collections

可以重命名一个 Collection 或更改其设置。

2.1 重新命名 Collections

可以按以下方式重命名一个 Collection。

python 复制代码
from pymilvus import MilvusClient

client = MilvusClient(
    uri="http://localhost:19530",
    token="root:Milvus"
)

client.rename_collection(
    old_name="my_collection",
    new_name="my_new_collection"
)

2.2 设置集合属性

以下代码片段演示了如何设置 Collection TTL(存活时间)。在数据库中,"有效时间"(TTL)通常用于数据插入或修改后只能保持有效或可访问一段时间的情况。然后,数据会被自动删除。

例如,如果你每天采集数据,但只需要保留 14 天的记录,你可以通过将 Collections 的 TTL 设置为14 × 24 × 3600 = 1209600秒,配置 Milvus 自动移除任何比这更早的数据。这样就能确保 Collection 中只保留最近 14 天的数据。

Milvus Collections 中的 TTL 属性指定为以秒为单位的整数。一旦设置,任何超过 TTL 的数据都将自动从 Collections 中删除。由于删除过程是异步的,因此一旦指定的 TTL 超过,数据可能不会准确地从搜索结果中删除。相反,可能会有延迟,因为删除取决于垃圾 Collections (GC) 和压缩过程,而这两个过程会以非确定的时间间隔发生。

python 复制代码
from pymilvus import MilvusClient

client.alter_collection_properties(
    collection_name="my_collection",
    properties={"collection.ttl.seconds": 60}
)

适用的 Collections 属性如下:

属性 何时使用
collection.ttl.seconds 如果需要在特定时间后删除某个 Collection 的数据,可考虑设置其有效时间(TTL),单位为秒。一旦 TTL 超时,Milvus 就会删除 Collection 中的所有实体。 删除是异步的,这表明在删除完成之前,搜索和查询仍然可以进行。
mmap.enabled 内存映射(Mmap)可实现对磁盘上大型文件的直接内存访问,允许 Milvus 在内存和硬盘中同时存储索引和数据。这种方法有助于根据访问频率优化数据放置策略,在不影响搜索性能的情况下扩大 Collections 的存储容量。
partitionkey.isolation 启用分区密钥隔离后,Milvus 会根据分区密钥值对实体进行分组,并为每个分组创建单独的索引。收到搜索请求后,Milvus 会根据过滤条件中指定的 Partition Key 值定位索引,并将搜索范围限制在索引包含的实体内,从而避免在搜索过程中扫描不相关的实体,大大提高搜索性能。

2.3 删除 Collection 属性

还可以通过删除 Collection 属性来重置该属性,具体方法如下。

python 复制代码
client.drop_collection_properties(
    collection_name="my_collection",
    property_keys=[
        "collection.ttl.seconds"
    ]
)

3 加载和释放

加载集合是在集合中进行相似性搜索和查询的前提。

3.1 加载 Collections

加载 Collections 时,Milvus 会将索引文件和所有字段的原始数据加载到内存中,以便快速响应搜索和查询。在载入 Collections 后插入的实体会自动编入索引并载入。以下代码片段演示了如何加载 Collections。

python 复制代码
from pymilvus import MilvusClient

client = MilvusClient(
    uri="http://localhost:19530",
    token="root:Milvus"
)

# 7. 加载集合
client.load_collection(
    collection_name="my_collection"
)

res = client.get_load_state(
    collection_name="my_collection"
)

print(res)

# Output
#
# {
#     "state": "<LoadState: Loaded>"
# }

3.2 加载特定字段

Milvus 可以只加载搜索和查询所涉及的字段,从而减少内存使用并提高搜索性能。以下代码片段假定您创建了名为my_collection 的 Collection,且 Collection 中有名为my_idmy_vector 的两个字段。

python 复制代码
client.load_collection(
    collection_name="my_collection",
    # highlight-next-line
    load_fields=["my_id", "my_vector"] # 只加载指定的字段
    skip_load_dynamic_field=True # 跳过加载动态字段
)

res = client.get_load_state(
    collection_name="my_collection"
)

print(res)

# Output
#
# {
#     "state": "<LoadState: Loaded>"
# }

如果选择加载特定字段,值得注意的是,只有load_fields 中包含的字段才能用作搜索和查询中的过滤器和输出字段。应始终在load_fields 中包含主字段和至少一个向量字段的名称。

还可以使用skip_load_dynamic_field 来确定是否加载动态字段。动态字段是一个保留的 JSON 字段,名为**$meta** ,以键值对的形式保存所有非 Schema 定义的字段及其值。加载动态字段时,字段中的所有键都会被加载,并可用于过滤和输出。如果动态字段中的所有键都不参与元数据过滤和输出,请将skip_load_dynamic_field 设置为True

要在 Collections 加载后加载更多字段,需要先释放 Collections,以避免因索引更改而提示可能的错误。

3.3 释放 Collections

搜索和查询是内存密集型操作。为节约成本,建议释放当前不使用的 Collection。下面的代码片段演示了如何释放一个 Collection。

python 复制代码
# 8. 释放集合
client.release_collection(
    collection_name="my_collection"
)

res = client.get_load_state(
    collection_name="my_collection"
)

print(res)

# Output
#
# {
#     "state": "<LoadState: NotLoad>"
# }

4 删除 Collections

如果不再需要某个 Collection,可以删除该 Collection。以下代码片段假定您有一个名为my_collection 的 Collection。

python 复制代码
from pymilvus import MilvusClient

client = MilvusClient(
    uri="http://localhost:19530",
    token="root:Milvus"
)

client.drop_collection(
    collection_name="my_collection"
)
相关推荐
ZHOU_WUYI2 天前
Milvus Docker 部署教程
docker·容器·milvus
feilieren3 天前
Windows 安装 Milvus
数据库·ai·milvus
tangjunjun-owen3 天前
Milvus 2.4 使用详解:从零构建向量数据库并实现搜索功能(Python 实战)
数据库·python·milvus·rag
GalenZhang8883 天前
langchain4j中使用milvus向量数据库做RAG增加索引
数据库·milvus
游王子3 天前
Milvus(21):过滤搜索、范围搜索、分组搜索
milvus
FeelTouch Labs3 天前
Milvus 视角看重排序模型(Rerankers)
milvus
在未来等你7 天前
互联网大厂Java求职面试:基于RAG的智能问答系统设计与实现-2
java·智能问答·milvus·向量数据库·rag·spring ai
取啥都被占用7 天前
milvus+flask山寨复刻《从零构建向量数据库》第7章
milvus
游王子7 天前
Milvus(18):IVF_PQ、HNSW
milvus
AI大模型顾潇7 天前
[特殊字符] Milvus + LLM大模型:打造智能电影知识库系统
数据库·人工智能·机器学习·大模型·llm·llama·milvus