TDengine 中 TDgp 中添加算法模型(异常检测)

异常检测

输入约定

execute 是算法处理的核心方法。框架调用该方法之前,在对象属性参数 self.list 中已经设置完毕用于异常检测的时间序列数据。

输出约定

execute 方法执行完成后的返回值是长度与 self.list 相同的数组,数组位置 -1 的标识异常值点。

例如:对于输入测量值序列 [ 2 , 2 , 2 , 2 , 100 ] [2, 2, 2, 2, 100] [2,2,2,2,100],假设 100 是异常点,那么方法返回的结果数组则为 [ 1 , 1 , 1 , 1 , − 1 ] [1, 1, 1, 1, -1] [1,1,1,1,−1]。

示例代码

下面我们开发一个示例异常检测算法,在异常检测中,将输入时间序列值的最后一个值设置为异常值,并返回结果。

python 复制代码
from taosanalytics.service import AbstractAnomalyDetectionService

# 算法实现类名称 需要以下划线 "_" 开始,并以 Service 结束
class _MyAnomalyDetectionService(AbstractAnomalyDetectionService):
    """ 定义类,从 AbstractAnomalyDetectionService 继承,并实现 AbstractAnomalyDetectionService 类的抽象方法  """

    # 定义算法调用关键词,全小写 ASCII 码
    name = 'myad'

    # 该算法的描述信息 (建议添加)
    desc = """return the last value as the anomaly data"""

    def __init__(self):
        """类初始化方法"""
        super().__init__()

    def execute(self):
        """ 算法逻辑的核心实现"""

        """创建一个长度为 len(self.list),全部值为 1 的结果数组,然后将最后一个值设置为 -1,表示最后一个值是异常值"""
        res = [1] * len(self.list)
        res[-1] = -1

        """返回结果数组"""
        return res

	
    def set_params(self, params):
        """该算法无需任何输入参数,直接重载父类该函数,不处理算法参数设置逻辑"""
        return super().set_params(params)

将该文件保存在 ./lib/taosanalytics/algo/ad/ 目录下,然后重启 taosanode 服务。在 TDengine CLI 中执行 SHOW ANODES FULL 就能够看到新加入的算法,然后就可以通过 SQL 语句调用该算法。

SQL 复制代码
--- 对 col 列进行异常检测,通过指定 algo 参数为 myad 来调用新添加的异常检测类
SELECT COUNT(*) FROM foo ANOMALY_WINDOW(col, 'algo=myad')

如果是第一次启动该 Anode, 请按照 TDgpt 安装部署 里的步骤先将该 Anode 添加到 TDengine 系统中。

单元测试

在测试目录 taosanalytics/test 中的 anomaly_test.py 中增加单元测试用例或添加新的测试文件。框架中使用了 Python Unit test 包。

python 复制代码
def test_myad(self):
    """ 测试 _IqrService 类 """
    s = loader.get_service("myad")

    # 设置需要进行检测的输入数据
    s.set_input_list(AnomalyDetectionTest.input_list, None)

    r = s.execute()

    # 最后一个点是异常点
    self.assertEqual(r[-1], -1)
    self.assertEqual(len(r), len(AnomalyDetectionTest.input_list))
相关推荐
科技小郑7 分钟前
吱吱企业通讯软件以安全为基,搭建高效的通讯办公平台
大数据·运维·网络·安全·吱吱企业通讯
weixin_177297220691 小时前
家政小程序系统开发:引领家政服务数字化转型
大数据·小程序
babytiger1 小时前
如何将yolo训练图像数据库的某个分类的图像取出来
数据库·yolo·分类
Moss Huang3 小时前
docker-runc not installed on system
java·docker·容器
九皇叔叔4 小时前
【7】SQL 语句基础应用
数据库·sql·mysql
麦兜*5 小时前
Spring Boot 集成 Docker 构建与发版完整指南
java·spring boot·后端·spring·docker·系统架构·springcloud
Cisyam^5 小时前
Go环境搭建实战:告别Java环境配置的复杂
java·开发语言·golang
Greedy Alg5 小时前
LeetCode 239. 滑动窗口最大值
数据结构·算法·leetcode
CHENFU_JAVA5 小时前
使用EasyExcel实现Excel单元格保护:自由锁定表头和数据行
java·excel