python数值误差

最近在用fenics框架跑有限元代码,其中有一个部分是把在矩阵里定义的初始值,赋值到有限元空间里,这就涉及到了初始矩阵和有限元空间坐标的转化,部分代码如下

python 复制代码
for i in range(len(dof_coordinates)):
    #     x, y = dof_coordinates[i]
        #原本的区间是0到physical_length的,根据num_grids_per_axis长度进行缩放.
        # ix, iy = min(int(x / physical_length * (num_grids_per_axis - 1)), num_grids_per_axis - 1), min(int(y / physical_length * (num_grids_per_axis - 1)), num_grids_per_axis - 1)
        ix, iy = min(int(x * (num_grids_per_axis - 1) / physical_length), num_grids_per_axis - 1), min(
            int(y * (num_grids_per_axis - 1) / physical_length), num_grids_per_axis - 1)

这里有一点需要注意:

x要先和num_grids_per_axis相乘,然后再除以physical_length。先除再乘的话,数学逻辑上一样,但是如果一个很小的数,除以一个很大的数,会有舍入误差。所以先乘再除。

相关推荐
琅琊榜首2020几秒前
AI+编程实战:小说高效改编短剧全指南
人工智能
新缸中之脑24 分钟前
Graphlit: AI代理的上下文图层
大数据·人工智能
清水白石00825 分钟前
Python 缓存机制深度实战:从零打造带过期时间的记忆化装饰器
python·spring·缓存
用户9863565457027 分钟前
肝了一个周末,终于把 n8n 自动化工作流完美部署了(附私有化防坑指南)
人工智能
Faker66363aaa30 分钟前
中国传统园林建筑检测与识别---RetinaNet_PVT-M_FPN_1x_COCO原创
python
田里的水稻38 分钟前
FA_规划和控制(PC)-瑞德斯.谢普路径规划(RSPP))
人工智能·算法·数学建模·机器人·自动驾驶
初恋叫萱萱38 分钟前
基于 Rust 与 DeepSeek V3.2 构建高性能插件化 LLM 应用框架深度解析
网络·人工智能·rust
heimeiyingwang1 小时前
大模型 RAG 技术原理与企业级落地实践
大数据·数据库·人工智能·架构
Yuer20251 小时前
Model Admission White-List Spec高收益任务 · 模型准入白名单规范 v0.1(冻结草案)
人工智能·edca os·可控ai
小殊小殊1 小时前
2025 年人工智能的现状:Agent从黑马到泡沫?
人工智能·chatgpt