sigmoid 函数与 logit 函数互为反函数 - 为什么 对数与指数互为逆运算(1)

sigmoid 函数与 logit 函数互为反函数 - 为什么 对数与指数互为逆运算(1)

flyfish

1. 指数运算相关术语

对于乘方运算:

ab=N\boldsymbol{a^b = N}ab=N

底数 :aaa 是乘方运算的底数,即被重复相乘的数;

指数 :bbb 是指数,表示底数相乘的次数(扩展到实数域后表示幂次);

:运算结果 NNN 叫做底数 aaa 的 bbb 次幂。

例:23=82^3 = 823=8 中,2是底数,3是指数,8是2的3次幂。

2. 对数运算相关术语

对数是指数的逆运算,定义为:

若 ab=Na^b = Nab=N(a>0a>0a>0 且 a≠1a\neq1a=1,N>0N>0N>0),则 bbb 叫做以 aaa 为底 NNN 的对数 ,记作:

log⁡aN=b\boldsymbol{\log_a N = b}logaN=b

底数 :aaa 是对数的底数,对应指数运算的底数;

真数 :NNN 是真数,对应指数运算的幂(运算结果),真数必须大于0;

对数 :bbb 就是对数的值,本质就是指数运算里的指数。

例:log⁡28=3\log_2 8 = 3log28=3 中,2是底数,8是真数,3是对数;对应指数式 23=82^3=823=8。

特别地,以自然常数 eee 为底的对数称为自然对数 ,记作 ln⁡(N)\ln(N)ln(N),即 ln⁡(N)=log⁡eN\ln(N) = \log_e Nln(N)=logeN。

3. 对数与指数互为逆运算的推导

逆运算的核心是:两种运算先后作用于同一个数,结果等于原数。我们从定义出发严格推导:

(1)指数套对数:alog⁡aN=N\boldsymbol{a^{\log_a N} = N}alogaN=N

设 b=log⁡aNb = \log_a Nb=logaN,根据对数的定义,它对应的指数式为:

ab=Na^b = Nab=N

将 b=log⁡aNb = \log_a Nb=logaN 代入上式,直接得到:

alog⁡aN=Na^{\log_a N} = NalogaN=N

含义:先对 NNN 取以 aaa 为底的对数,再取 aaa 的这么多次方,结果回到原数 NNN。

(2)对数套指数:log⁡a(ab)=b\boldsymbol{\log_a (a^b) = b}loga(ab)=b

对于指数式 ab=Na^b = Nab=N,根据对数的定义,写成对数式为:

log⁡aN=b\log_a N = blogaN=b

将 N=abN = a^bN=ab 代入上式,直接得到:

log⁡a(ab)=b\log_a (a^b) = bloga(ab)=b

含义:先取 aaa 的 bbb 次方,再对结果取以 aaa 为底的对数,结果回到原指数 bbb。

相同底数下,指数运算和对数运算互为逆运算,先后作用会相互抵消

相关推荐
西西弗Sisyphus7 小时前
sigmoid 函数与 logit 函数互为反函数 - 把反函数理解成运算的撤销键(5)
logit·sigmod
西西弗Sisyphus9 小时前
sigmoid 函数与 logit 函数互为反函数 - 从 sigmoid 出发,解出其反函数 = logit(7)
sigmoid·logit
daxiang120922051 年前
大模型训练中的 logits 是什么
大模型·logit