python数值误差

最近在用fenics框架跑有限元代码,其中有一个部分是把在矩阵里定义的初始值,赋值到有限元空间里,这就涉及到了初始矩阵和有限元空间坐标的转化,部分代码如下

python 复制代码
for i in range(len(dof_coordinates)):
    #     x, y = dof_coordinates[i]
        #原本的区间是0到physical_length的,根据num_grids_per_axis长度进行缩放.
        # ix, iy = min(int(x / physical_length * (num_grids_per_axis - 1)), num_grids_per_axis - 1), min(int(y / physical_length * (num_grids_per_axis - 1)), num_grids_per_axis - 1)
        ix, iy = min(int(x * (num_grids_per_axis - 1) / physical_length), num_grids_per_axis - 1), min(
            int(y * (num_grids_per_axis - 1) / physical_length), num_grids_per_axis - 1)

这里有一点需要注意:

x要先和num_grids_per_axis相乘,然后再除以physical_length。先除再乘的话,数学逻辑上一样,但是如果一个很小的数,除以一个很大的数,会有舍入误差。所以先乘再除。

相关推荐
说私域17 分钟前
基于开源AI智能客服、AI智能名片与S2B2C商城小程序的新社群用户进化策略研究
人工智能·小程序
哈茶真的c27 分钟前
【书籍心得】左耳听风:传奇程序员练级攻略
java·c语言·python·go
robator37 分钟前
label-studio 使用机器学习后端进行预标注
人工智能·机器学习
小和尚同志1 小时前
国产终端编码神器,编程 CLI 大善人——IFlow CLI
人工智能·aigc
io_T_T1 小时前
Paddle-CLS图像分类_环境安装
python·日常软硬件经验分享
limenga1021 小时前
支持向量机(SVM)深度解析:理解最大间隔原理
算法·机器学习·支持向量机
百***48072 小时前
Python使用PyMySQL操作MySQL完整指南
数据库·python·mysql
PNP Robotics2 小时前
PNP机器人上海宝山智能机器人年会发表机器人10年主题演讲演讲
人工智能·python·机器人
沫儿笙2 小时前
abb焊接机器人保护气体省气设备
人工智能·机器人
机器人行业研究员2 小时前
轮足之争外,六维力传感器才是机器人的隐形核心
人工智能·机器人·人机交互·六维力传感器·关节力传感器