深入理解计算机系统CS213学习笔记

Lecture 01

1. 计算机表示数字

int 整数运算可能会出现错误,超过32位时会出现溢出。

float 浮点数不适用结合律,因为浮点数表示的精度有限。

根其原因,是用有限的位数表示无限的数字空间。

2.利用分层的存储系统,使程序运行更快。

更重要的是,注意内存访问。C++不做内存边界检查。

例子:结构体内部的数据成员在内存中放在一起,当访问数组时,超过了数组的边界,但是不会做内存的边界检查,因此 会访问到其他数据,造成错误。

这种错误调试很难。所以,在自己写程序时,要手动添加边界检查。

理解数据结构的特点。

3.从程序的角度增加性能

一行一行的访问数据比一列一列的访问数据更好,这与内存的排列方式有关。

相关推荐
楼田莉子7 小时前
C++17新特性:optional/variant/any/string_view
c++·后端·学习
秦明月137 小时前
电气安全回路设计实战:皮尔兹安全继电器应用
经验分享·笔记·安全·职场和发展·创业创新·学习方法
笑鸿的学习笔记7 小时前
计算机笔记之沙盒(Sandbox)
笔记
ljt27249606618 小时前
Vue笔记(六)--响应式
javascript·vue.js·笔记
心中有国也有家8 小时前
CANN 算子开发完全指南——从 TBE DSL 到算子上线全流程
人工智能·经验分享·笔记·分布式·算法
Sahadev_8 小时前
GitMemo 安卓版发布了:现在可以随时随地查看和记录自己的笔记
android·笔记·创业创新
会编程的土豆8 小时前
消息队列(MQ)入门笔记
java·笔记·spring
水木流年追梦8 小时前
大模型入门-DPO 直接偏好优化
人工智能·学习·算法·机器学习·正则表达式
网络与设备以及操作系统学习使用者8 小时前
vi与vim在openEuler中的差异及应用
linux·运维·网络·学习·vim
atomicmaker8 小时前
进程/线程?并发/并行?
经验分享·笔记·其他