【sql/python】以共同字段进行两表合并

需求背景:

数据库中有两张表,共同字段为id,想要合并为一个表,但两张表内容过大,如果使用sql语句执行会崩溃!!

目标要求:从数据库中导出为两个json文件,一个文件字段为id,value;另一个文件字段为id,note,以相同字段id进行合并,输出一个JSON包含三个字段id,value,note

bash 复制代码
# 将两个json文件以id进行合并,输出最终的目标结果
import json

with open('text_1.json', 'r',encoding='utf-8') as f:
    data1 = json.load(f)
with open('text_2.json', 'r',encoding='utf-8') as f:
    data2 = json.load(f)

# for d in data1 + data2:
#     print(d)

# #----------报错,因为部分 id在note表不存在
# # 使用id字段作为键来合并两个字典
# merged_data = {d['ID']: { 'id': d['ID'], 'value': d['VALUE'], 'note': d['NOTE'] } for d in data1 + data2}

# 合并两个字典
# 执行上述一行代码报错的话,再改为下面的代码
merged_data = {}
for item1 in data1:
    ID = item1['ID']
    merged_data[ID] = {
        'ID': ID,
        'VALUE': item1['VALUE'],
        'NOTE': None  # 默认没有note
    }
for item2 in data2:
    ID = item2['ID']
    if ID in merged_data:
        # 如果id已经在merged_data中,更新note字段
        merged_data[ID]['NOTE'] = item2['NOTE']
    else:
        # 如果id不在merged_data中,但存在于data2中,添加到merged_data
        merged_data[ID] = {
            'ID': ID,
            'VALUE': None,  # 默认没有value
            'NOTE': item2['NOTE']
        }

# 将合并后的字典转换回JSON格式
merged_json = json.dumps(merged_data, ensure_ascii=False,  indent=4)

# 将合并后的JSON输出到一个文件中
with open('merged_data.json', 'w', encoding='utf-8') as f:
    f.write(merged_json)

注意如果你的表内容不大,可以选择使用sql或者pandas中的merge进行关联合并,代码如下

  • sql中left join语句
bash 复制代码
SELECT a.ID, a.VALUE, n. NOTE
FROM {table_name_1} a
LEFT JOIN {table_name_2} n ON a.ID = n.ID 
WHERE a.id in (619,776,2547,12715069,13206239) 
  • python 中pd.merge
python 复制代码
##----运行成功
import pandas as pd
import cx_Oracle as cx
from sqlalchemy import create_engine
def visitOracle(sql):
    # 数据库连接信息
    dsn_tns = cx.makedsn(('YOUR_HOST', 'YOUR_PORT', service_name='YOUR_SERVICE_NAME')
    conn = f"oracle+cx_oracle://{YOUR_USERNAME}:{YOUR_PASSWORD}@{dsn_tns}"
    # 创建数据库引擎
    engine = create_engine(conn)
    # 使用pandas的read_sql_query方法执行查询并获取结果
    df = pd.read_sql_query(sql, con=engine)
    # 关闭数据库连接
    engine.dispose()
    return df

##诊疗记录
sql1 = "select id, {value_column} FROM {table_name} where rownum<=5""
df1 = visitOracle(sql1)
print(df1)
sql2 = "select id, {value_column} FROM {table_name} where rownum<=5""
df2 = visitOracle(sql1)
print(df2)
# ----------pd合并两张表的数据
# 根据ID将两张表的数据合并
merged_df = pd.merge(df1, df2,  on='id', how='outer', suffixes=('', '_s'))
print(merged_df)
相关推荐
PyHaVolask4 小时前
Python进阶教程:随机数、正则表达式与异常处理
python·正则表达式·异常处理·随机数生成
正在走向自律4 小时前
Java连接电科金仓数据库(KingbaseES)实战指南
java·数据库·oracle·国产数据库·kingbase
森林-4 小时前
MyBatis 从入门到精通(第三篇)—— 动态 SQL、关联查询与查询缓存
sql·缓存·mybatis
小虾米vivian4 小时前
达梦:将sql通过shell脚本的方式放在后台执行
服务器·数据库·sql
折翼的恶魔4 小时前
数据分析:合并二
python·数据分析·pandas
武昌库里写JAVA4 小时前
Mac下Python3安装
java·vue.js·spring boot·sql·学习
java干货6 小时前
MyBatis 的“魔法”:Mapper 接口是如何找到并执行 SQL 的?
数据库·sql·mybatis
三体世界6 小时前
测试用例全解析:从入门到精通(1)
linux·c语言·c++·python·功能测试·测试用例·测试覆盖率
Python私教6 小时前
Django全栈班v1.04 Python基础语法 20250912 下午
后端·python·django
xchenhao7 小时前
Scikit-Learn 对糖尿病数据集(回归任务)进行全面分析
python·机器学习·回归·数据集·scikit-learn·特征·svm