深入理解计算机系统CS213学习笔记

Lecture 01

1. 计算机表示数字

int 整数运算可能会出现错误,超过32位时会出现溢出。

float 浮点数不适用结合律,因为浮点数表示的精度有限。

根其原因,是用有限的位数表示无限的数字空间。

2.利用分层的存储系统,使程序运行更快。

更重要的是,注意内存访问。C++不做内存边界检查。

例子:结构体内部的数据成员在内存中放在一起,当访问数组时,超过了数组的边界,但是不会做内存的边界检查,因此 会访问到其他数据,造成错误。

这种错误调试很难。所以,在自己写程序时,要手动添加边界检查。

理解数据结构的特点。

3.从程序的角度增加性能

一行一行的访问数据比一列一列的访问数据更好,这与内存的排列方式有关。

相关推荐
EllinY17 分钟前
CF2217E Definitely Larger 题解
c++·笔记·算法·构造
nnsix29 分钟前
JIT(即时编译)、 AOT(预先编译)、虚拟机CLR 笔记
笔记
NULL指向我1 小时前
Simplis仿真笔记1:Simplis_V8.4_x64安装过程
笔记
ouliten3 小时前
[Triton笔记6]层标准化
笔记
愚者Pro3 小时前
Flutter Widget组件学习(专为 Uniapp 转 Flutter 定制)
vue.js·学习·flutter·uni-app
玄米乌龙茶1234 小时前
思维导图笔记:Prompt工程
笔记·prompt
yzx9910135 小时前
从焦虑到掌控:关于学习AI工具的深度思考
人工智能·学习
Bechamz5 小时前
大数据开发学习Day42
大数据·学习
zhangrelay5 小时前
ROS 2 Lyrical Luth启程-Ubuntu26.04-
linux·笔记·学习·ubuntu
Undergoer_TW5 小时前
SLAM实战避坑笔记:基础矩阵退化场景分析与解决方案
笔记·线性代数·矩阵