高频数据的重复值处理
数据源为高频 trades 数据
1. 导入数据
import pandas as pd
df = pd.read_csv('hf_data.csv')
print(df)
2. duplicate方法查看重复值
(1)subset 参数指定columns name
df.duplicated(subset='localtime').sum()
subset指定localtime判断是否存在重复值,返回bool
check_localtime = df.duplicated(subset='localtime')
df[check_localtime>0].tail(20)
可以看到同个时间戳有多笔成交。
3. 重复值处理
针对不同的数据需求,最简单的三种重复值处理方法。
(1)drop_duplicated() 直接删除掉重复数据
df_drop_duplicate = df.drop_duplicates(subset='localtime')
print("原数据shape",df.shape)
print("删除重复值后数据shape",df_drop_duplicate.shape)
print("检验重复值,",df_drop_duplicate.duplicated().sum())
可以看到重复数据占比还是比较多的,若重复数据有意义,比如该数据描述的是 交易数据,则当同个时间戳有多个交易数据描述了当下市场的活跃情况;因此用该方案做数据处理并不一定合适。
(2)保留重复值中的第一个或最后一个:drop_duplicated的keep参数
df_keep_last = df.drop_duplicates(subset='localtime',keep='last')
当我们想保留重复数据最后一个值,可以使用drop_duplicated的keep参数,"last"为最后一个值,"first"为第一个值。
(3)使用groupby对重复值做运算
分析原数据:localtime重复是因为同个时间多笔成交单形成,其次数据中有其他的属性比如价格(price),成交量(qty),交易方向(side);因此比较合适的处理方法是将数据时间戳合并到最小单位1ms,而针对不同的属性,可以采取:保留最后一个价格,总成交量等等;这样即处理了重复值的问题,也保留了数据中的信息
df.groupby(by='localtime').agg({'qty':"sum",'price':"last"})