技术栈
误差
李白不吃坚果
4 天前
学习
·
cmos
·
集成电路
·
误差
·
量化分析
·
模拟集成电路设计
误差量化分析的思考_5_17
今天在看Allen老师的《CMOS模拟集成电路》4.4节电流镜,书中作者对电流镜两个管子的失配情况进行了讨论分析。 ioii=12K1′(W1L1)(VGS−VT1)(1+λVDS1)12K2′(W2L2)(VGS−VT2)(1+λVDS2)=(K2′K1′)(L1W2W1L2)(VGS−VT2VGS−VT1)2(1+λVDS11+λVDS2) \dfrac{i_o}{i_{i}}=\dfrac{\dfrac{1}{2}K'_1(\dfrac{W_1}{L_1})(V_{GS}-V_{T1})(1+\la
ergevv
4 天前
自动驾驶
·
控制
·
误差
·
横向控制
·
pure pursuit
从零到工程实践:层层递进理解 Pure Pursuit 横向控制
参考:autoware、ChatGPTPure Pursuit 是自动驾驶和移动机器人中非常经典的路径跟踪算法。它的核心思想很朴素:不要盯着车辆脚下的最近点,而是在路径前方找一个目标点,然后让车辆沿一段圆弧追过去。
Dfreedom.
6 个月前
人工智能
·
深度学习
·
机器学习
·
误差
·
偏差方差权衡
机器学习模型误差深度解读:从三类来源到偏差-方差权衡
为何模型在训练集上无法达到满分?为何在测试集上表现会下降?本文将从第一性原理出发,为你彻底讲透模型误差的来源与权衡之道。
zaim1
1 年前
人工智能
·
ai
·
大模型
·
llm
·
错误
·
error
·
误差
计算机的错误计算(二百二十五)
摘要 利用大模型化简计算 实验表明,大模型的推理化简倒没问题。但是,数值计算有问题。本节利用(二百二十四)中涉及的大模型的另外一个版本来计算。
F_D_Z
1 年前
数值分析
·
误差
·
误差限
误差与误差限
设 x x x为准确值 , x ∗ ,x^* ,x∗为 x x x的一个近似值,称 e ∗ = x ∗ − x e^*=x^*-x e∗=x∗−x为近似值的绝对误差,简称误差.
zaim1
1 年前
人工智能
·
python
·
ai
·
大模型
·
llm
·
误差
·
decimal
计算机的错误计算(一百八十六)
摘要 就上节(即(一百八十五))内容,有读者来信,建议用另外一个大模型计算。本节详细讲解该大模型的对错,特别是涉及 Python Decimal的内容以及泰勒展式内容。
zaim1
1 年前
python
·
error
·
误差
·
decimal
·
精度
·
getcontext
Python 的 Decimal的错误计算
摘要 阐述在使用 Python的 Decimal类时,可能产生的错误计算。在 详述 BigDecimal 的错误计算 中,笔者较为详细地说明了 Java的 BigDecimal可能出错的原因。类似地,Python的 decimal模块中有个 Decimal类,也可用于高精度的十进制运算,并且能够避免由于浮点数表示不精确带来的精度问题。但是,相仿地,由于有一些参数要设置,所以亦会出现参数不同结果不一致现象。
freephp
2 年前
线性回归
·
sklearn
·
误差
测试一波回归模型的误差
上一篇文章讲了怎么使用线性回归来预测,但是没有对这个模型的性能和准确性进行有效评估。一般来讲,误差越小,预测就越准确。但是如果误差过于小,也要考虑是否过度拟合。
xuchaoxin1375
3 年前
麦克劳林公式
·
微分
·
误差
AM@麦克劳林公式逼近以及误差分析
在Peano型泰勒公式中,若取 x 0 = 0 x_0=0 x0=0则带有Peano余项的Taylor公式表示为
我是有底线的