深入理解计算机系统CS213学习笔记

Lecture 01

1. 计算机表示数字

int 整数运算可能会出现错误,超过32位时会出现溢出。

float 浮点数不适用结合律,因为浮点数表示的精度有限。

根其原因,是用有限的位数表示无限的数字空间。

2.利用分层的存储系统,使程序运行更快。

更重要的是,注意内存访问。C++不做内存边界检查。

例子:结构体内部的数据成员在内存中放在一起,当访问数组时,超过了数组的边界,但是不会做内存的边界检查,因此 会访问到其他数据,造成错误。

这种错误调试很难。所以,在自己写程序时,要手动添加边界检查。

理解数据结构的特点。

3.从程序的角度增加性能

一行一行的访问数据比一列一列的访问数据更好,这与内存的排列方式有关。

相关推荐
Rousson7 分钟前
硬件学习笔记--82 连接器的选用原则与流程
笔记·单片机·学习
Larry_Yanan2 小时前
QML学习笔记(四十)QML的ApplicationWindow和StackView
c++·笔记·qt·学习·ui
开开心心loky4 小时前
[iOS] KVC 学习
学习·ios·objective-c·cocoa
哲Zheᗜe༘5 小时前
了解学习Python编程之python基础
开发语言·python·学习
youliroam5 小时前
成语接龙学习
学习·golang·uniapp·成语接龙
摇滚侠7 小时前
Spring Boot 3零基础教程,Spring Boot 日志的归档与切割,笔记22
spring boot·redis·笔记
wan5555cn7 小时前
当代社会情绪分类及其改善方向深度解析
大数据·人工智能·笔记·深度学习·算法·生活
MYX_3099 小时前
第四章 神经网络的基本组件
pytorch·深度学习·神经网络·学习
985小水博一枚呀9 小时前
【AI大模型学习路线】第三阶段之RAG与LangChain——第十九章(实战基于Advanced RAG的PDF问答)系统部署与测试?
人工智能·学习·langchain·pdf
蓝桉~MLGT10 小时前
Python学习历程——字符串相关操作及正则表达式
python·学习·正则表达式