python数值误差

最近在用fenics框架跑有限元代码,其中有一个部分是把在矩阵里定义的初始值,赋值到有限元空间里,这就涉及到了初始矩阵和有限元空间坐标的转化,部分代码如下

python 复制代码
for i in range(len(dof_coordinates)):
    #     x, y = dof_coordinates[i]
        #原本的区间是0到physical_length的,根据num_grids_per_axis长度进行缩放.
        # ix, iy = min(int(x / physical_length * (num_grids_per_axis - 1)), num_grids_per_axis - 1), min(int(y / physical_length * (num_grids_per_axis - 1)), num_grids_per_axis - 1)
        ix, iy = min(int(x * (num_grids_per_axis - 1) / physical_length), num_grids_per_axis - 1), min(
            int(y * (num_grids_per_axis - 1) / physical_length), num_grids_per_axis - 1)

这里有一点需要注意:

x要先和num_grids_per_axis相乘,然后再除以physical_length。先除再乘的话,数学逻辑上一样,但是如果一个很小的数,除以一个很大的数,会有舍入误差。所以先乘再除。

相关推荐
万行几秒前
机器学习&第一章
人工智能·python·机器学习·flask·计算机组成原理
实战项目1 分钟前
基于PyTorch的卷积神经网络花卉识别系统
人工智能·pytorch·cnn
shangjian0071 分钟前
AI大模型-机器学习-算法-线性回归
人工智能·算法·机器学习
2301_797312263 分钟前
学习java37天
开发语言·python
zuozewei3 分钟前
零基础 | 一文速通 AI 大模型常见术语
人工智能
说私域8 分钟前
云零售时代的S2B模式重构:AI智能名片与链动2+1模式的赋能路径
人工智能·重构·零售
清风吹过11 分钟前
Birch聚类算法
论文阅读·深度学习·神经网络·机器学习
WJSKad123511 分钟前
果园树干识别与定位_faster-rcnn_x101-32x4d_fpn_1x_coco改进实践
python
深蓝电商API12 分钟前
Scrapy中间件实战:自定义请求头和代理池实现
python·scrapy·中间件
2301_8002561114 分钟前
B+树:数据库的基石 R树:空间数据的索引专家 四叉树:空间划分的网格大师
数据结构·数据库·b树·机器学习·postgresql·r-tree