pandas

TomEval15 小时前
人工智能·python·自动化·aigc·pandas
【测AI】第06篇:数据清洗实战 —— Pandas 处理爬取的 JD 数据前两篇我们把 AI 测试岗位的 JD 数据爬下来了。但爬到的数据只是"原材料"——格式不统一、有脏数据、有缺失值、没法直接做统计分析。
2601_966949652 天前
开发语言·python·数据分析·pandas·量化交易·股票数据·quantdash
每日自动更新股票行情:如何设计可靠的数据任务,避免重复写入和脏数据一句话结论:每日更新股票行情并不是简单地“定时调用一次 API”,真正可靠的数据任务应该同时处理交易日判断、增量边界、重复执行、数据校验和失败恢复。
小小张说故事2 天前
后端·python·pandas
pandas 读大 CSV 太慢?6 个实测提速技巧(dtype / 分块 / 引擎选择)关键词前置:pandas、read_csv、大文件、dtype、分块读取、提速一个 2GB 的 CSV,pd.read_csv() 卡了 8 分钟,内存还飙到 12GB——这是很多人第一次处理"稍微大一点"的数据时都会遇到的场面。
茶栀(*´I`*)2 天前
python·数据分析·pandas
【Python数据分析利器】Pandas从入门到实战:核心数据结构DataFrame与Series全解析在数据科学和大数据开发领域,Pandas 无疑是最璀璨的明星工具之一。它底层基于 NumPy 构建,提供了高性能、易用的数据结构和丰富的数据分析函数,极大地简化了数据清洗、转换与统计分析的开发流程。
2601_966949652 天前
开发语言·python·数据分析·pandas·量化交易·股票数据·quantdash
股票池发生变化后,如何高效更新行情数据?从全量刷新到增量同步一句话结论:股票池发生变化后,最合理的数据更新方式通常不是把所有历史行情重新拉一遍,而是先识别新增、删除和仍然存在的标的,再针对不同集合采用不同的数据同步策略。
2601_966949653 天前
开发语言·python·pandas·量化交易·股票数据·quantdash
量化回测中分钟数据应该如何保存?从文件到数据仓库的工程化设计一句话结论:分钟数据不应该简单理解为“下载下来存起来”,真正需要设计的是数据分层、时间字段、标的标识、复权口径、文件组织和增量更新,否则数据规模一上来,回测速度、数据一致性和维护成本都会成为问题。
benchmark_cc3 天前
python·数据分析·pandas·量化交易·股票数据·quantdash
如何设计一个 Python 实时行情获取程序?从轮询、数据处理到量化策略接入一句话结论: Python 实时行情程序真正难的不是“请求一次 API”,而是把行情获取、时间控制、数据校验、异常处理和策略消费组织成一个不会轻易失控的数据链路。
虎头金猫10 天前
运维·服务器·网络·python·容器·beautifulsoup·pandas
4K 视频总卡在公网带宽?用 N1 + OpenList 把网盘播放链路重新理顺N1 盒子刷上 iStoreOS 以后,我一直觉得它最适合干的不是“堆很多服务”,而是把一些本来就轻量、但需要长期在线的事情接起来。OpenList 就很符合这个思路:它自己不需要承担整套影音存储,而是把阿里云盘、夸克网盘、百度网盘这类入口聚合到一个 Web 页面里。真正容易踩坑的地方反而在公网播放——页面能打开,不代表大文件播放就一定顺畅;如果视频流量一直绕回家里的上行链路,N1 再省电也解决不了带宽问题。尤其这种小盒子,真正应该省的是重复中转,而不是硬扛本来就不该由它承担的大流量。
Xiu Yan10 天前
python·jupyter·pycharm·numpy·pandas
Python 数据分析:Pandas DataFrame 零基础入门教程DataFrame 是 Pandas 最核心的 二维表格型数据结构,由行索引 (index)、列名 (columns) 和值组成。可理解成多张 Series 共用一套行索引拼接而成,类似 Excel 表格。特点如下:
2601_9669496511 天前
开发语言·python·pandas·股票数据·quantdash
为什么量化回测中 for 循环比 DataFrame 慢三个数量级?从向量化原理讲起一句话结论:DataFrame 适合批量量化数据处理的核心原因不是“它是一张表”,而是它把逐行 Python 循环转化为 NumPy 底层的 C 级向量化操作,使计算复杂度从 O(n) 解释器调用降为一次批量内存运算。
Xiu Yan11 天前
python·jupyter·pycharm·numpy·pandas
Python 数据分析:Pandas Series 零基础入门教程Series 是 Pandas 中的 一维带标签数组,是 Pandas 两大核心数据结构之一(另一个是二维的 DataFrame)。Series 可理解为 一列数据,由两部分组成:
gCode Teacher 格码致知11 天前
python·pandas
Pandas教学-6:coerce详解coerce 读作 /kəʊˈɜːs/(扣-厄斯),动词,本义是"强制、迫使、用强力扭转"。词源来自拉丁语 coercere = co-(一起)+ arcere(约束、压制),字面意思是"强行关到一个框里"。
benchmark_cc12 天前
python·数据分析·pandas·量化交易·股票数据·quantdash
策略临时需要一批股票的最新价格,先查行情还是先建股票池?——从量化策略执行逻辑看数据获取顺序一句话结论:如果股票池已经由策略规则确定,通常应该先确定股票池,再获取这些标的所需的最新行情;如果股票池本身依赖最新价格、成交量或盘口数据生成,则必须先获取行情,再完成股票池筛选。
2601_9669496512 天前
开发语言·python·数据分析·pandas·量化交易·股票数据·quantdash
只拿到股票代码还不够:量化程序到底还需要哪些标的信息?——从数据建模开始理解股票元数据一句话结论:股票代码只是量化数据的“索引”,真正进入策略系统之前,还需要市场归属、标的类型、交易状态、时间口径、复权信息以及统一代码规则等元数据,否则同一个代码很容易在数据处理环节被错误解释。
szephyr13 天前
python·自动化·pandas·脚本·定时任务
用 Python 写自动化脚本:定时任务、文件批处理、自动出报表重复三遍的活,就该交给脚本;你省下的不是那几分钟,是"又得手动搞一遍"的烦躁。很多同学一听到"自动化"就想到写个平台、搭个服务、搞个前端界面,结果三个月过去还在搭架子,真正要 automate 的活一件没动。其实对大学生和初中级开发者来说,90% 的需求,一个几十行的小脚本 + 一个定时任务就能解决。这篇我把自己常用的三板斧——文件批处理、定时任务、自动出报表——连同排雷清单一起给你。它们不炫技,但真能天天帮你省时间,而且每一段代码你复制过去改改路径就能跑。
智购科技无人售货机工厂17 天前
android·人工智能·驱动开发·单片机·pandas
2026自动售货机AI智能体架构:从47个小模型到33.7亿Token的工程实践~YH三大智能体分别负责协作、供应链和运营,对应无人零售的三大核心要素:点位、供应链和运营。这标志着自动售货机的AI应用正在从“单点工具”向“智能体协同”演进。
小葱炖豆腐17 天前
python·excel·numpy·pandas·matplotlib
python绘制excel折线图本文使用的数据为AI制作的一份excel表格数据。表格100行10列,第一行为标题,第一列为编号,如下图所示:
七灵微18 天前
人工智能·机器学习·ai·pandas·matplotlib
【AI】代码实战- 基于时间序列的轴承检测1你手上的数据是DataCastle(DC竞赛)举办的“轴承故障检测训练赛”的官方数据集。 [1] 这个数据集是主办方基于经典轴承数据集(如 CWRU 凯斯西储大学数据集)进行截取和加工后,专门用来做算法竞赛的。 该赛题将以下状态交叉组合,形成了 0 到 9 共 10 个分类标签(Label):
2601_9669496518 天前
开发语言·python·数据分析·pandas·量化交易·股票数据·quantdash
为什么量化策略需要大量历史股票数据?从回测可信度理解数据规模一句话结论:量化策略需要大量历史股票数据,并不是单纯为了“多拿一些 K 线”,而是为了让策略在不同市场阶段、不同标的和不同数据条件下接受足够充分的检验,降低偶然性导致的回测误判。
2601_9669496519 天前
开发语言·python·数据分析·pandas·量化交易·股票数据·quantdash
从轮询到策略消费:量化系统如何高效处理五档盘口数据一句话结论:盘口数据处理的性能瓶颈通常不只是“API 快不快”,更重要的是请求策略、数据处理、缓存方式和策略消费模型是否匹配。