Python使用 pandas操作Excel文件并新增列数据

业务实现:对于原先的excel文件,我需要新增一个数据列,不同情况,列数据的值不同,分别为空白行、已爬取、已改名、爬取异常、改名未知异常

python 复制代码
# -*- coding: utf-8 -*-
import io
import os
import re
import sys

import numpy as np
import pandas as pd
import pandas.io.formats.excel
pandas.io.formats.excel.ExcelFormatter.header_style = None  # 表头不加粗

reload(sys)
sys.setdefaultencoding('utf-8')

def change_data(data):
    try:
        data = data.replace(' ', '')  # 删除空格
        data = re.sub(r'\([^)]*\)', '', data)  # 删除括号以及内容
        data = re.sub(r'\*', '', data)  # 删除*号
        return data
    except Exception:
        pass

# 文件夹名称
dir_name_set = set()
for item in os.listdir(unicode(os.path.join(os.path.dirname(os.path.abspath(__file__)), 'country'), 'utf-8')):
    item = change_data(item)
    dir_name_set.add(item)

# 改名字典
spacial_name_dict = {}
with io.open(os.path.join(os.path.dirname(os.path.abspath(__file__)), 'spacial_country.txt'), 'r', encoding='utf-8') as f:
    lines = f.readlines()
    for line in lines:
        line_split = line.strip().split(' ')
        name1 = change_data(line_split[0])
        if '/' in name1:
            name1 = name1.split('/')[0]
        name2 = change_data(line_split[1])
        if '/' in name2:
            name2 = name2.split('/')[0]
        spacial_name_dict[name1] = name2

filename = os.path.join(os.path.dirname(os.path.abspath(__file__)), 'country.xlsx')
sheet_name='species_data'
df = pd.read_excel(filename, sheet_name=sheet_name)
dfc = df.copy()
idx = 1

# 处理每一行数据
for index, row in dfc.iterrows():  # 返回每一行的索引和对应的行数据
    name = row['name']
    try:
        if isinstance(name, float) and np.isnan(name):
            dfc.loc[index, 'status'] = '空白行'
        else:
            name = change_data(name)
            if name in dir_name_set:
                dfc.loc[index, 'status'] = '已爬取'
            elif name in spacial_name_dict.keys():
                if spacial_name_dict[name] in dir_name_set:
                    dfc.loc[index, 'status'] = '已改名为{}'.format(spacial_name_dict[name])
                else:
                    dfc.loc[index, 'status'] = '改名未知异常'
            else:
                dfc.loc[index, 'status'] = '爬取异常'
        if (index != 0 and index % 10000 == 0) or index == len(dfc) - 1:
            print index, idx
            if idx == 15:
                dfcc = dfc.copy()
                output_path = os.path.join(os.path.dirname(os.path.abspath(__file__)), 'country_{}.xlsx'.format(idx))
                print 'output_path', output_path
                dfcc.to_excel(output_path, sheet_name=sheet_name, index=False, header=True)
            idx += 1
    except Exception as e:
        print name, e
相关推荐
子午1 小时前
【蘑菇识别系统】Python+TensorFlow+Vue3+Django+人工智能+深度学习+卷积网络+resnet50算法
人工智能·python·深度学习
Mr_Xuhhh1 小时前
pytest -- 指定⽤例执⾏顺序
开发语言·python·pytest
tokepson1 小时前
关于python更换永久镜像源
python·技术·记录
F_D_Z1 小时前
【解决办法】网络训练报错AttributeError: module ‘jax.core‘ has no attribute ‘Shape‘.
开发语言·python·jax
前端伪大叔1 小时前
第29篇:99% 的量化新手死在挂单上:Freqtrade 隐藏技能揭秘
后端·python·github
梦幻通灵1 小时前
Excel的TEXT函数实战【持续更新】
excel
韩曙亮2 小时前
【人工智能】AI 人工智能 技术 学习路径分析 ① ( Python语言 -> 微积分 / 概率论 / 线性代数 -> 机器学习 )
人工智能·python·学习·数学·机器学习·ai·微积分
喵叔哟3 小时前
6.配置管理详解
后端·python·flask
曾经的三心草3 小时前
基于正倒排索引的Java文档搜索引擎3-实现Index类-实现搜索模块-实现DocSearcher类
java·python·搜索引擎
MOMO陌染3 小时前
Python 饼图入门:3 行代码展示数据占比
后端·python