深入理解计算机系统CS213学习笔记

Lecture 01

1. 计算机表示数字

int 整数运算可能会出现错误,超过32位时会出现溢出。

float 浮点数不适用结合律,因为浮点数表示的精度有限。

根其原因,是用有限的位数表示无限的数字空间。

2.利用分层的存储系统,使程序运行更快。

更重要的是,注意内存访问。C++不做内存边界检查。

例子:结构体内部的数据成员在内存中放在一起,当访问数组时,超过了数组的边界,但是不会做内存的边界检查,因此 会访问到其他数据,造成错误。

这种错误调试很难。所以,在自己写程序时,要手动添加边界检查。

理解数据结构的特点。

3.从程序的角度增加性能

一行一行的访问数据比一列一列的访问数据更好,这与内存的排列方式有关。

相关推荐
math_hongfan6 分钟前
鸿蒙AI应用性能高级评测:推理延迟/内存占用/功耗/准确率四维指标评测体系与极致调优方案
人工智能·学习·华为·harmonyos·鸿蒙
一米阳光86619 小时前
软考(中级)软件设计师核心笔记(6)系统开发基础——需求分析、系统设计
笔记·职场发展·需求分析·软考·软件设计师·中级职称
山荷枝12 小时前
Java学习第十天
java·学习
huibin14785236913 小时前
热缓解学习记录
android·学习
雨田言炎13 小时前
四、关于Qt项目需要知道的
开发语言·笔记·qt
Nan_Shu_61414 小时前
学习:GSAP
学习
hanlin0314 小时前
动态规划专练:力扣第121、122题
笔记·算法·leetcode
摇滚侠15 小时前
SpringBoot 官网 阅读笔记 启用生产就绪功能 端点
spring boot·笔记·后端
我命由我1234515 小时前
匈牙利命名法
java·服务器·后端·学习·java-ee·kotlin·学习方法
AI云海16 小时前
完整机器学习工业项目流水线笔记
人工智能·笔记·机器学习