技术栈
databook
wang_yb
2 天前
数据分析
·
databook
时间序列数据中,如何找出缺失值
前段时间有位读者朋友问我一个关于如何处理时间序列数据中的缺失值问题,但是只在评论中简单回复了一下。后来我想想,时间序列数据是一种非常常见的数据集,处理缺失值的问题可以单独聊一聊,于是,就整理了这篇文章。
wang_yb
4 天前
ai
·
databook
让 LLM 输出不再失控:用 Pydantic 校验大模型输出
你在 prompt 里写了 "请返回 JSON",模型返回的大概率不是一段干净的 JSON,而是一段话:开头一句"好的,这是抽取结果",中间一个 ```json 围栏,结尾还跟一句"希望对你有帮助"。
wang_yb
7 天前
数据分析
·
databook
使用命令行做描述性统计的技巧
拿到一份新数据,想先摸清楚:"大概是什么水平","波动大不大","有没有离谱的异常值"等。很多人的第一反应是打开 Python,import pandas,read_csv,然后 describe()。
wang_yb
10 天前
ai
·
数据分析
·
databook
MinMax vs Standard vs Robust:三种特征缩放怎么选
做特征工程时很多人有一套固定动作:StandardScaler 然后 fit_transform。(也就是先标准化数据,在训练模型)
wang_yb
12 天前
ai
·
databook
用 Pydantic AI 从零搭建一个能干活的 AI Agent
很多人第一次写 AI Agent,写完都有点失望。代码确实能跑,模型也确实在说话,但往下走两步就露馅了:
wang_yb
14 天前
数据分析
·
databook
从循环到向量化:NumPy提速的7个关键思维
用 NumPy 写代码的人很多,但很多人写出来的代码还是慢。原因通常只有一个:虽然用了 NumPy 的数组,但逻辑上还是在一行一行地 for 循环。
wang_yb
16 天前
databook
·
manim
ManimCE v0.22.0 发布:输出配置大一统与渲染流程重构
Manim Community Edition 在 2026 年 10 月 8 日发布了 v0.22.0。
wang_yb
17 天前
ai
·
databook
Scikit-Learn实战:5步搞定PCA降维
做机器学习的时候,你大概率会遇到这样一个场景:手头的数据集特征太多,几十甚至上百个维度,训练模型慢得要命,还容易过拟合。
wang_yb
19 天前
数据分析
·
databook
什么是范数?用 NumPy 动手算一遍就明白了
做数据科学和机器学习,范数(Norm)这个东西你迟早会碰到。损失函数正则化、向量相似度计算、矩阵分解——这些场景背后都有范数的影子。
wang_yb
20 天前
数据分析
·
databook
从手动检查到自动监控:一个数据质量工作流的实现
做数据工程的人大概都有过这样的经历:每天到工位第一件事,打开终端敲几条 SQL,看看关键表的行数是不是正常、最新数据更新到几点了、字段空值有没有突然飙高。
wang_yb
22 天前
数据分析
·
databook
面向数据工程师的正则表达式:从日志清洗到字段提取
数据工程师每天打交道的东西,很大一部分是文本:这些文本往往不是完全结构化的,或者格式五花八门,用传统的 split、replace 处理起来很累,写一堆条件判断也不一定覆盖全。
wang_yb
23 天前
数据分析
·
databook
时间序列分解:从噪声中提取有效信号
时间序列数据里,趋势、周期和随机波动经常是混在一起的。直接看原始曲线,很容易被短期波动带偏,比如把一次促销当成长期增长,或者把季节性回落当成业务衰退。
wang_yb
25 天前
数据分析
·
databook
使用 SciPy 库进行时间序列分析
时间序列分析听起来有点学术,但其实干起来挺直接的。你有一串按时间排列的数据,想知道里面有没有趋势、有没有周期性、噪声有多大,或者两个序列之间有没有延迟关系。
wang_yb
1 个月前
数据分析
·
databook
如何比较你不同学科成绩的好坏?
如果你看到语文78分、数学83分,第一反应可能是数学考得更好。但不同学科的试卷难度、平均分、分数分散程度都不一样,原始分放在一起直接比,很多时候并不靠谱。
wang_yb
1 个月前
数据分析
·
databook
用Pandas+Pydantic搭建数据清洗与验证管道
数据清洗是每个和数据打交道的人都绕不开的日常。无论是做分析、跑模型,还是给业务方出报表,拿到的原始数据往往都带着重复记录、缺失值、格式错误,甚至一些明显违背常识的条目。
wang_yb
1 个月前
数据分析
·
databook
手把手带你走一遍:机器学习模型如何用FastAPI和Docker部署
你大概用过不少健康管理类的App——输入年龄、性别、BMI、血压,再填几项血液指标,它就能给出一个风险评分或健康提示。
wang_yb
1 个月前
数据分析
·
databook
检测数据异常值的五种统计技术
处理数据的时候,最让人头大的往往不是复杂的模型调参,而是那些藏在角落里的异常值。你是不是也遇到过这种糟心事:明明业务逻辑看着没毛病,一跑统计指标就飘红;或者模型效果突然断崖式下跌,排查半天发现是几个极端值在捣乱。
wang_yb
1 个月前
数据分析
·
databook
在 DuckDB 中执行假设检验
你有没有想过,用 SQL 就能做假设检验?今天我们就来聊聊,如何用 DuckDB 快速完成数据分析中的两个经典任务:
wang_yb
1 个月前
数据分析
·
databook
使用 DuckDB 计算描述性统计量
大家好!在本文中,我们将一起探索如何使用 DuckDB 对 CSV 数据进行常见的描述性统计计算。无需导入库、无需创建表格,直接使用 SQL 语句就能快速对数据集进行初步分析。
wang_yb
1 个月前
数据分析
·
databook
使用 DuckDB 分析 CSV 文件
CSV 这种格式太常见了。银行导出的流水、购物平台导出的订单、自己记的账、各种后台导出的报表,基本都是 CSV。