深入理解计算机系统CS213学习笔记

Lecture 01

1. 计算机表示数字

int 整数运算可能会出现错误,超过32位时会出现溢出。

float 浮点数不适用结合律,因为浮点数表示的精度有限。

根其原因,是用有限的位数表示无限的数字空间。

2.利用分层的存储系统,使程序运行更快。

更重要的是,注意内存访问。C++不做内存边界检查。

例子:结构体内部的数据成员在内存中放在一起,当访问数组时,超过了数组的边界,但是不会做内存的边界检查,因此 会访问到其他数据,造成错误。

这种错误调试很难。所以,在自己写程序时,要手动添加边界检查。

理解数据结构的特点。

3.从程序的角度增加性能

一行一行的访问数据比一列一列的访问数据更好,这与内存的排列方式有关。

相关推荐
弘毅 失败的 mian1 分钟前
Git 分支管理
大数据·经验分享·笔记·git·elasticsearch
stars-he20 分钟前
FPGA学习笔记(8)以太网UDP数据报文发送电路设计(二)
网络·笔记·学习·fpga开发
卡布叻_星星30 分钟前
部署笔记之部署不同Java版本项目以及多项目内存崩溃问题
笔记
xiaoxiaoxiaolll35 分钟前
金属材料多尺度计算模拟
人工智能·学习
麻雀无能为力39 分钟前
Diffusion Model(DDPM)学习笔记
笔记·学习
Chloeis Syntax39 分钟前
MySQL初阶学习日记(7)--- 事务
java·数据库·笔记·学习·mysql
De-Alf41 分钟前
Megatron-LM学习笔记(7)Megatron Model MLP和MoE和EP
笔记·学习
受之以蒙43 分钟前
用Rust + dora-rs + Webots打造自动驾驶仿真系统:Mac M1完整实战
人工智能·笔记·rust
Dfreedom.1 小时前
循阶而上,庖丁解牛:系统学习开源 AI 模型的行动指南
人工智能·深度学习·学习·开源·图像算法
紫罗兰盛开1 小时前
python学习笔记
笔记·学习