sigmoid 函数与 logit 函数互为反函数 - 从 logit 出发，解出其反函数 = sigmoid
flyfish
已知 y=logit(p)y = \operatorname{logit}(p)y=logit(p)，把 ppp 用 yyy 表示出来，得到的表达式就是 logit 的反函数。
第1步：写出原式
y=ln(p1−p) y = \ln\left( \frac{p}{1-p} \right) y=ln(1−pp)
第2步：两边同时取自然指数 e(⋅)e^{(\cdot)}e(⋅)，消去对数
依据 ：对数恒等式 elna=ae^{\ln a} = aelna=a（自然指数与自然对数互为逆运算）
等式两边同时作用 e(⋅)e^{(\cdot)}e(⋅)，等式仍然成立：
ey=e ln(p1−p) e^y = e^{\ \ln\left( \frac{p}{1-p} \right)\ } ey=e ln(1−pp)
右边化简：
ey=p1−p e^y = \frac{p}{1-p} ey=1−pp
第3步：去分母，两边同乘 1−p1-p1−p
依据 ：等式两边同乘一个非零数，等式仍然成立。
因为 p∈(0,1)p \in (0,1)p∈(0,1)，所以 1−p>01-p > 01−p>0，非零，可以乘：
ey⋅(1−p)=p e^y \cdot (1-p) = p ey⋅(1−p)=p
第4步：展开左边
ey−ey⋅p=p e^y - e^y \cdot p = p ey−ey⋅p=p
第5步：移项，将含 ppp 的项全部移到右侧
依据 ：等式两边同时加 ey⋅pe^y \cdot pey⋅p，等式仍然成立：
ey=p+ey⋅p e^y = p + e^y \cdot p ey=p+ey⋅p
第6步：右侧提取公因子 ppp
ey=p⋅(1+ey) e^y = p \cdot \left( 1 + e^y \right) ey=p⋅(1+ey)
第7步：解出 ppp，两边同除以 1+ey1+e^y1+ey
依据 ：1+ey>01+e^y > 01+ey>0 恒成立，非零，可以除：
p=ey1+ey p = \frac{e^y}{1 + e^y} p=1+eyey
第8步：化简为标准 sigmoid 形式
分子分母同时乘以 e−ye^{-y}e−y（非零，分数值不变）：
p=ey⋅e−y(1+ey)⋅e−y p = \frac{e^y \cdot e^{-y}}{(1 + e^y) \cdot e^{-y}} p=(1+ey)⋅e−yey⋅e−y
分子：ey⋅e−y=ey−y=e0=1e^y \cdot e^{-y} = e^{y-y} = e^0 = 1ey⋅e−y=ey−y=e0=1
分母：1⋅e−y+ey⋅e−y=e−y+1=1+e−y1\cdot e^{-y} + e^y \cdot e^{-y} = e^{-y} + 1 = 1 + e^{-y}1⋅e−y+ey⋅e−y=e−y+1=1+e−y
因此：
p=11+e−y=sigmoid(y) p = \frac{1}{1 + e^{-y}} = \operatorname{sigmoid}(y) p=1+e−y1=sigmoid(y)