python一点通:数据处理顶流Pandas 2.0有什么新功能?

Pandas 2.0及其后续版本的发布引入了各种功能和增强,标志着在使用Pandas进行数据操作和分析方面的显著演进。这里是对一些新功能的深入解析:

  1. 可选依赖的安装:

    在Pandas 2.0中,通过pip安装pandas时,可以通过指定extras来安装一组可选的依赖项,例如:pip install "pandasperformance, aws>=2.0.0"。可用的extras包括用于性能,计算,文件系统支持,云提供商,数据格式等的选项。

  2. 索引中增强的数值数据类型支持:

    现在索引可以容纳任何numpy数值数据类型,克服了之前只支持int64,uint64和float64数据类型的限制。

  3. PyArrow集成:

    Pandas 2.0的一个定义特性是它与PyArrow的集成,使得操作更加内存高效。用户现在可以使用PyArrow作为他们的内存格式,而不是最初使用的NumPy数据结构,这解决了内存使用不效率的问题。

  4. 可空数据类型:

    支持可空数据类型使得处理缺失值变得更加容易。这个特性允许在处理空值时更加直接,尤其是在整数列中,通过在读取数据到DataFrame时指定使用可空数据类型,例如:pd.read_csv(my_file, use_nullable_dtypes=True)。

  5. 写时复制性能增强:

    为了最小化内存使用并提高处理大数据集时的性能,实现了一种称为写时复制的内存优化技术。

  6. 增强的扩展数组支持和非纳秒日期时间分辨率:

    这次发布还带来了增强的扩展数组支持和非纳秒日期时间分辨率。

  7. 性能提升:

    在不同的版本中持续进行了性能改进,提高了整个库的整体效率。

这些更新是三年多持续开发努力的结果,标志着使Pandas更加健壮和用户友好以便进行数据操作和分析任务的重要一步。

示例:使用可空数据类型

复制代码
import pandas as pd

# 假设'my_file.csv'有一些列有缺失值
data = pd.read_csv('my_file.csv', use_nullable_dtypes=True)

# 这将确保有缺失值的整数数据列将使用支持空值的Int64数据类型,而不是转换为浮点数。

阅读

英文版

AI好书推荐

AI日新月异,但是万丈高楼拔地起,离不开良好的基础。您是否有兴趣了解人工智能的原理和实践? 不要再观望! 我们关于 AI 原则和实践的书是任何想要深入了解 AI 世界的人的完美资源。 由该领域的领先专家撰写,这本综合指南涵盖了从机器学习的基础知识到构建智能系统的高级技术的所有内容。 无论您是初学者还是经验丰富的 AI 从业者,本书都能满足您的需求。 那为什么还要等呢?

人工智能原理与实践 全面涵盖人工智能和数据科学各个重要体系经典

北大出版社,人工智能原理与实践 人工智能和数据科学从入门到精通 详解机器学习深度学习算法原理

相关推荐
小小张说故事18 分钟前
Python 的 str 为什么设计成不可变?拆开字符串驻留、字符串池,以及 += 拼接到底慢在哪
后端·python
ljt272496066121 分钟前
Python笔记(十一)--Numpy(一)
笔记·python·numpy
时早玖沐26 分钟前
KOOK「找不到语音频道」:同一个错误假设,我犯了三次
python·开源·ai编程
_冷眸_28 分钟前
Python 调用大模型 API:最小请求、Base URL 和 401/404 排查
开发语言·人工智能·python
niucloud-admin39 分钟前
NIUCLOUD PHP SAAS上门家政使用文档:服务保障
java·开发语言·php
Dumbness1 小时前
UIA 读微信群消息没有 id,怎么判断哪条是新的:后缀对齐在翻历史和撤回时整屏重报
python·算法
甜到心里的蛋糕1 小时前
从 QQ 机器人到 B 站 AI 运营:一套可复现的视频流水线踩坑实录
运维·人工智能·python·自动化·视频制作
张驰咨询公司1 小时前
六西格玛Python DOE试验矩阵:3因子2水平生成与验算
python·六西格玛·实验设计·itertools·doe试验矩阵
熊猫钓鱼>_>1 小时前
鸿蒙 PC 三方库适配复盘:libfvad 1.0 —— 把 WebRTC VAD 做成能装进采集链路的静态库
服务器·开发语言·华为·harmonyos·openharmony·适配·鸿蒙pc
Ai-_Man1 小时前
Coze扣子还是不可以导出左侧所有对话,只能点进去单条内容导出,方法不对吗?
开发语言·人工智能·ai·小程序·1024程序员节