python数值误差

最近在用fenics框架跑有限元代码,其中有一个部分是把在矩阵里定义的初始值,赋值到有限元空间里,这就涉及到了初始矩阵和有限元空间坐标的转化,部分代码如下

python 复制代码
for i in range(len(dof_coordinates)):
    #     x, y = dof_coordinates[i]
        #原本的区间是0到physical_length的,根据num_grids_per_axis长度进行缩放.
        # ix, iy = min(int(x / physical_length * (num_grids_per_axis - 1)), num_grids_per_axis - 1), min(int(y / physical_length * (num_grids_per_axis - 1)), num_grids_per_axis - 1)
        ix, iy = min(int(x * (num_grids_per_axis - 1) / physical_length), num_grids_per_axis - 1), min(
            int(y * (num_grids_per_axis - 1) / physical_length), num_grids_per_axis - 1)

这里有一点需要注意:

x要先和num_grids_per_axis相乘,然后再除以physical_length。先除再乘的话,数学逻辑上一样,但是如果一个很小的数,除以一个很大的数,会有舍入误差。所以先乘再除。

相关推荐
sali-tec1 分钟前
C# 基于OpenCv的视觉工作流-章11-高斯滤波
图像处理·人工智能·opencv·算法·计算机视觉
美狐美颜sdk3 分钟前
全局美颜SDK开发方案:直播平台如何实现系统级美颜
人工智能·音视频·美颜sdk·视频美颜sdk·美狐美颜sdk
学习的学习者10 分钟前
CS课程项目设计22:基于Transformer的智能机器翻译算法
人工智能·python·深度学习·transformer·机器翻译
向量引擎小橙14 分钟前
驾驭AI:如何避免“智能陷阱”
人工智能
小陈phd18 分钟前
langGraph从入门到精通(四)——基于LangGraph的State状态模式设计
python·microsoft·状态模式
StfinnWu24 分钟前
论文阅读 Deep Residual Learning for Image Recognition
论文阅读·人工智能·深度学习
深圳佛手25 分钟前
AI相机介绍以及发展趋势
人工智能·数码相机
信息快讯28 分钟前
人工智能与数据驱动方法加速金属材料设计与应用
人工智能·机器学习·材料工程·金属材料
itwangyang52028 分钟前
人工智能药物设计和生信常用 R 包一键全自动安装脚本
开发语言·人工智能·r语言
牛客企业服务29 分钟前
牛客CEO叶向宇:从AI工具迈向AI Agent,构建人机协作新关系
大数据·人工智能