深入理解计算机系统CS213学习笔记

Lecture 01

1. 计算机表示数字

int 整数运算可能会出现错误,超过32位时会出现溢出。

float 浮点数不适用结合律,因为浮点数表示的精度有限。

根其原因,是用有限的位数表示无限的数字空间。

2.利用分层的存储系统,使程序运行更快。

更重要的是,注意内存访问。C++不做内存边界检查。

例子:结构体内部的数据成员在内存中放在一起,当访问数组时,超过了数组的边界,但是不会做内存的边界检查,因此 会访问到其他数据,造成错误。

这种错误调试很难。所以,在自己写程序时,要手动添加边界检查。

理解数据结构的特点。

3.从程序的角度增加性能

一行一行的访问数据比一列一列的访问数据更好,这与内存的排列方式有关。

相关推荐
2301_792674861 天前
java学习day31(redis)
java·redis·学习
xuhaoyu_cpp_java1 天前
MyBatis学习(一)
java·经验分享·笔记·学习·mybatis
monkeyhlj1 天前
AI Agent开发课程笔记记录 - 提升篇 About RAG
人工智能·笔记
苦 涩1 天前
考研408笔记之操作系统(三)——内存管理
笔记·操作系统·考研408
爱上好庆祝1 天前
学习js的第三天
前端·css·人工智能·学习·计算机外设·js
SunAqua1 天前
《MCU与DSP芯片笔记》一、DSP芯片TI C2000系列TMS320F28035
笔记·单片机·嵌入式硬件
白夜11171 天前
C++(mixins 混入模式)
开发语言·c++·笔记
前端摸鱼匠1 天前
【AI大模型春招面试题29】对比学习(Contrastive Learning)在大模型预训练中的应用?
人工智能·学习·算法·面试·大模型·求职招聘
一尘之中1 天前
星空彼岸:科学、宗教与“超越”的可能
学习·ai写作
苦 涩1 天前
考研408笔记之操作系统(二)——进程与线程
笔记·操作系统·考研408