第 02/24 期：从线性模型到多层感知机：神经网络的表示能力

文章目录

- 一、线性模型究竟限制了什么
- - [1.1 多层线性变换为什么仍然是线性的](#1.1 多层线性变换为什么仍然是线性的)
- 二、非线性激活如何改变函数族
- - [2.1 从可学习的基函数理解隐藏层](#2.1 从可学习的基函数理解隐藏层)
- [三、用 XOR 看清线性可分性的边界](#三、用 XOR 看清线性可分性的边界)
- - [3.1 两个 ReLU 单元就能构造 XOR](#3.1 两个 ReLU 单元就能构造 XOR)
- 四、表示能力不等于训练结果
- - [4.1 宽度与深度分别改变什么](#4.1 宽度与深度分别改变什么)
- [五、NumPy 实验：从直线到非线性拟合](#五、NumPy 实验：从直线到非线性拟合)
- - [5.1 环境与运行方式](#5.1 环境与运行方式)
  - [5.2 完整实验代码](#5.2 完整实验代码)
  - [5.3 实验结果：仿射模型与 MLP](#5.3 实验结果：仿射模型与 MLP)
- 六、如何正确理解"神经网络更有表达能力"
- 参考文献

一、线性模型究竟限制了什么

上一篇从经验风险最小化的角度讨论了学习问题：给定训练样本，在某个函数族中寻找预测误差较小的函数。本期把注意力放到函数族本身。即使优化算法能够找到全局最优解，如果函数族无法表示目标关系，训练误差仍然可能很大。

考虑标量输出的仿射模型。输入 x ∈ R d x\in\mathbb R^d x∈Rd，参数 w ∈ R d w\in\mathbb R^d w∈Rd、 b ∈ R b\in\mathbb R b∈R，模型为

f ( x ) = w ⊤ x + b . f(x)=w^\top x+b. f(x)=w⊤x+b.

严格地说，当 b ≠ 0 b\neq0 b=0 时它是仿射函数 ，不是满足 f ( 0 ) = 0 f(0)=0 f(0)=0 的线性映射。机器学习中常把这类模型统称为线性模型，以下沿用这一习惯，但保留数学上的区分。

对一维输入， f ( x ) = w x + b f(x)=wx+b f(x)=wx+b 只能给出一条直线。增加样本量不会改变这类函数的形状。对于 d d d 维输入，函数的等值集 w ⊤ x + b = c w^\top x+b=c w⊤x+b=c 是超平面（当 w ≠ 0 w\neq0 w=0 时）；用于二分类时，阈值判决的边界仍是超平面。因此，线性分类器只能直接实现线性可分的分类规则。

1.1 多层线性变换为什么仍然是线性的

设第一层的输入为列向量 x ∈ R d 0 x\in\mathbb R^{d_0} x∈Rd0，两层仿射变换依次为

h = W 1 x + b 1 , y = W 2 h + b 2 , h=W_1x+b_1,\qquad y=W_2h+b_2, h=W1x+b1,y=W2h+b2,

其中 W 1 ∈ R d 1 × d 0 W_1\in\mathbb R^{d_1\times d_0} W1∈Rd1×d0、 W 2 ∈ R d 2 × d 1 W_2\in\mathbb R^{d_2\times d_1} W2∈Rd2×d1。代入可得

y = W 2 ( W 1 x + b 1 ) + b 2 = ( W 2 W 1 ) x + ( W 2 b 1 + b 2 ) . y=W_2(W_1x+b_1)+b_2=(W_2W_1)x+(W_2b_1+b_2). y=W2(W1x+b1)+b2=(W2W1)x+(W2b1+b2).

令 W e f f = W 2 W 1 W_{\mathrm{eff}}=W_2W_1 Weff=W2W1， b e f f = W 2 b 1 + b 2 b_{\mathrm{eff}}=W_2b_1+b_2 beff=W2b1+b2，便得到一个等价的单层仿射模型。无论堆叠多少层，只要层间没有非线性运算，整体仍是仿射映射。需要注意，给定的中间层宽度可能使 W e f f W_{\mathrm{eff}} Weff 受到秩约束；所以"可以折叠成一层"并不意味着它能实现任意给定维度的仿射映射。

由此可以看出，网络深度本身不足以扩展非线性函数的表达范围，关键在于层与层之间引入了什么运算。

二、非线性激活如何改变函数族

一个包含单隐藏层的多层感知机（MLP）可以写成

f θ ( x ) = W 2 σ ( W 1 x + b 1 ) + b 2 , f_\theta(x)=W_2\,\sigma(W_1x+b_1)+b_2, fθ(x)=W2σ(W1x+b1)+b2,

其中 W 1 ∈ R m × d W_1\in\mathbb R^{m\times d} W1∈Rm×d、 b 1 ∈ R m b_1\in\mathbb R^m b1∈Rm、 W 2 ∈ R q × m W_2\in\mathbb R^{q\times m} W2∈Rq×m、 b 2 ∈ R q b_2\in\mathbb R^q b2∈Rq， σ \sigma σ 对向量各分量逐元素作用，输出属于 R q \mathbb R^q Rq。这里 m m m 是隐藏层宽度， q q q 是输出维度。

如果 σ ( z ) = z \sigma(z)=z σ(z)=z，该网络仍可折叠为仿射映射。如果采用非线性激活函数，例如 tanh ⁡ ( z ) \tanh(z) tanh(z) 或 ReLU ⁡ ( z ) = max ⁡ ( 0 , z ) \operatorname{ReLU}(z)=\max(0,z) ReLU(z)=max(0,z)，各隐藏单元对输入的响应就不再局限于直线或超平面。最终输出将这些响应组合起来，从而得到更丰富的函数形状。

2.1 从可学习的基函数理解隐藏层

对标量输出，将 W 2 W_2 W2 的第 j j j 个元素记为 a j a_j aj，将 W 1 W_1 W1 的第 j j j 行写为 w j ⊤ w_j^\top wj⊤，则

f θ ( x ) = b 2 + ∑ j = 1 m a j σ ( w j ⊤ x + b 1 , j ) . f_\theta(x)=b_2+\sum_{j=1}^{m}a_j\,\sigma(w_j^\top x+b_{1,j}). fθ(x)=b2+j=1∑majσ(wj⊤x+b1,j).

定义 ϕ j ( x ) = σ ( w j ⊤ x + b 1 , j ) \phi_j(x)=\sigma(w_j^\top x+b_{1,j}) ϕj(x)=σ(wj⊤x+b1,j)，网络便是一组参数化函数 ϕ j \phi_j ϕj 的线性组合。与事先固定 ϕ j \phi_j ϕj、只估计组合系数的展开方法不同，MLP 在训练时还会调整 w j w_j wj 和 b 1 , j b_{1,j} b1,j，从而改变每个隐藏单元对输入的响应。这里通常预先选定激活函数 σ \sigma σ；可训练的是其输入端的仿射参数，而不是任意改变激活函数的定义。

对一维 ReLU 网络，每个隐藏单元 max ⁡ ( 0 , w j x + b 1 , j ) \max(0,w_jx+b_{1,j}) max(0,wjx+b1,j) 都是分段线性函数。当 w j ≠ 0 w_j\neq0 wj=0 时，它的折点位于 x = − b 1 , j / w j x=-b_{1,j}/w_j x=−b1,j/wj。多个隐藏单元相加，能够在不同位置形成斜率变化，因此整体是连续分段线性函数。增加隐藏单元数量，允许模型在更多位置调整局部斜率；但具体能够得到多少不同折点，还取决于参数和折点是否重合。

对于 tanh 激活，隐藏单元的响应是光滑的 S 形曲线，组合后可以得到平滑的非线性函数。本期的数值拟合实验采用 tanh，稍后的 XOR 构造则使用 ReLU，二者分别说明平滑拟合和非线性判别的表示机制。

三、用 XOR 看清线性可分性的边界

考虑四个二维输入点，其目标标签如下：

x 1 x_1 x1	x 2 x_2 x2	XOR 标签
0	0	0
0	1	1
1	0	1
1	1	0

设仿射分类器的打分为 s ( x ) = w 1 x 1 + w 2 x 2 + b s(x)=w_1x_1+w_2x_2+b s(x)=w1x1+w2x2+b，用 s ( x ) > 0 s(x)>0 s(x)>0 判为 1， s ( x ) < 0 s(x)<0 s(x)<0 判为 0。若它能严格正确分类四个点，就必须同时满足

b < 0 , w 1 + w 2 + b < 0 , b<0,\qquad w_1+w_2+b<0, b<0,w1+w2+b<0,

以及

w 1 + b > 0 , w 2 + b > 0. w_1+b>0,\qquad w_2+b>0. w1+b>0,w2+b>0.

将两个正类约束相加，得到 w 1 + w 2 + 2 b > 0 w_1+w_2+2b>0 w1+w2+2b>0；将两个负类约束相加，得到 w 1 + w 2 + 2 b < 0 w_1+w_2+2b<0 w1+w2+2b<0。矛盾。因此，单个仿射阈值分类器无法严格分离 XOR 的四个点。这是针对上述四点和单个仿射判别边界的结论，不是对所有模型的笼统断言。

3.1 两个 ReLU 单元就能构造 XOR

定义

h 1 = ReLU ⁡ ( x 1 − x 2 ) , h 2 = ReLU ⁡ ( x 2 − x 1 ) . h_1=\operatorname{ReLU}(x_1-x_2),\qquad h_2=\operatorname{ReLU}(x_2-x_1). h1=ReLU(x1−x2),h2=ReLU(x2−x1).

输出为

f ( x 1 , x 2 ) = h 1 + h 2 = ∣ x 1 − x 2 ∣ . f(x_1,x_2)=h_1+h_2=|x_1-x_2|. f(x1,x2)=h1+h2=∣x1−x2∣.

在四个二值输入点上， f f f 的输出恰好依次为 0 , 1 , 1 , 0 0,1,1,0 0,1,1,0。取阈值 0.5 0.5 0.5 即可得到正确的 XOR 分类结果。这里给出的是显式构造，并不需要先训练模型，也不能据此推断任意初始化的网络都能稳定学到该解。

图1绘制了这个函数在二维平面上的输出。颜色表示 ∣ x 1 − x 2 ∣ |x_1-x_2| ∣x1−x2∣ 的数值，白色等值线对应阈值 0.5 0.5 0.5。它不是一条贯穿平面的单一直线，而是两条平行的分界线；四个样本因此能够得到正确的分类。

图1：函数 ∣ x 1 − x 2 ∣ |x_1-x_2| ∣x1−x2∣ 的二维输出与阈值 0.5 0.5 0.5 等值线。圆点表示标签 0，方点表示标签 1。

四、表示能力不等于训练结果

从理论上讲，网络函数族越丰富，能够表达的关系通常也越多。但这不保证实际训练就能找到期望的参数，更不保证对未见样本的预测一定更好。至少需要区分三个问题：

表示问题： 是否存在某组参数 θ \theta θ，使 f θ f_\theta fθ 足够接近目标函数？

优化问题： 给定初始化、损失函数和优化算法，是否能找到这样的参数？

泛化问题： 训练样本上拟合良好，是否意味着在同分布的新样本上也有较小误差？

为讨论第一个问题，可以定义模型族 F m \mathcal F_m Fm 在目标函数 g g g 上的最佳平方逼近误差：

E a p p r o x ( m ) = inf ⁡ f ∈ F m E X $( f ( X ) - g ( X ) ) 2$ . \mathcal E_{\mathrm{approx}}(m) =\inf_{f\in\mathcal F_m}\mathbb E_{X}\left $(f(X)-g(X))\^2\\right$ . Eapprox(m)=f∈FminfEX $(f(X)-g(X))2$ .

这里的期望需要指定输入分布 P X P_X PX。如果将宽度为 m m m 的网络嵌入宽度为 m + 1 m+1 m+1 的网络，只需把新增隐藏单元的输出权重设为零，原来的函数就仍可表示。因此，在其他结构和激活函数保持一致的前提下， F m ⊆ F m + 1 \mathcal F_m\subseteq\mathcal F_{m+1} Fm⊆Fm+1，于是

E a p p r o x ( m + 1 ) ≤ E a p p r o x ( m ) . \mathcal E_{\mathrm{approx}}(m+1)\leq\mathcal E_{\mathrm{approx}}(m). Eapprox(m+1)≤Eapprox(m).

这是关于最优可表示误差的单调性，而不是关于某次训练得到的误差的单调性。即使更宽的网络包含更窄网络的全部函数，实际训练仍可能受初始化、优化路径和训练预算影响。

4.1 宽度与深度分别改变什么

宽度增加了同一层可并行使用的隐藏特征数量；深度则允许在前一层形成的特征之上继续进行非线性组合。对 ReLU 网络，深度可以显著增加输入空间中线性区域的复杂程度，但具体增长率依赖输入维度、层宽、参数配置和所讨论的区域计数定义。

通用逼近定理为神经网络的表达能力提供了理论依据。以常见的连续非多项式激活函数为例，在适当条件下，单隐藏层网络的有限宽度函数族在紧集上的连续函数空间中是稠密的。其含义是：对给定连续目标函数和任意正的误差容忍度，存在某个足够宽的网络能够逼近它。定理没有保证给定的有限宽度就够用，也没有保证梯度优化一定找到所需参数，更没有给出有限样本下的泛化结论。

五、NumPy 实验：从直线到非线性拟合

接下来用完全可复现的合成数据比较仿射模型和单隐藏层 tanh 网络。设目标函数为

g ( x ) = sin ⁡ ( 2 π x ) + 0.25 x , x ∈ $- 1 , 1$ . g(x)=\sin(2\pi x)+0.25x,\qquad x\in $-1,1$ . g(x)=sin(2πx)+0.25x,x∈ $-1,1$ .

训练集取区间上均匀分布的 81 个确定性网格点，标签由 g ( x ) g(x) g(x) 直接生成，不额外添加噪声。仿射基线用最小二乘法求解；MLP 使用 NumPy 手写前向传播、反向传播和 Adam 参数更新，隐藏层宽度分别取 2 , 8 , 32 2,8,32 2,8,32。所有网络训练 4000 步，学习率为 0.01 0.01 0.01，随机种子固定。

注意，本实验在固定样本和固定初始化下展示实际训练行为，不试图用一次训练证明宽度的普遍优劣。稠密网格上的误差只是对已知合成目标函数的数值比较，不等于真实应用中不可直接计算的总体风险。

5.1 环境与运行方式

建议 Python 3.10 或更新版本。安装依赖：

bash 复制代码

python -m pip install numpy matplotlib

将下面代码保存为 experiment.py，在其所在目录运行 python experiment.py。程序在同目录创建 images/，生成四张 PNG 图：XOR 构造图以及三张拟合实验图。为便于逐段阅读，文章已经将这四张实际运行生成的图放在对应讨论位置；压缩包中也保留了 experiment.py 作为可直接运行的源文件。

5.2 完整实验代码

python 复制代码

import numpy as np
import matplotlib
matplotlib.use('Agg')
import matplotlib.pyplot as plt
from pathlib import Path

OUT=Path(__file__).resolve().parent/'images'
OUT.mkdir(exist_ok=True)
SEED=20261110
rng=np.random.default_rng(SEED)

class MLP:
    def __init__(self, widths, seed):
        r=np.random.default_rng(seed)
        self.W=[r.normal(0,np.sqrt(2/a),(a,b)) for a,b in zip(widths[:-1],widths[1:])]
        self.b=[np.zeros((1,b)) for b in widths[1:]]
        self.params=[p for pair in zip(self.W,self.b) for p in pair]
        self.m=[np.zeros_like(p) for p in self.params]
        self.v=[np.zeros_like(p) for p in self.params]
        self.step=0
    def forward(self,x):
        a=x; acts=[x]; zs=[]
        for i,(w,b) in enumerate(zip(self.W,self.b)):
            z=a@w+b
            a=np.tanh(z) if i<len(self.W)-1 else z
            zs.append(z); acts.append(a)
        return acts,zs
    def predict(self,x): return self.forward(x)[0][-1]
    def train(self,x,y,steps=3500,lr=.01):
        hist=[]; n=len(x)
        for t in range(steps):
            acts,zs=self.forward(x)
            delta=2*(acts[-1]-y)/n
            gw=[None]*len(self.W); gb=[None]*len(self.b)
            for i in reversed(range(len(self.W))):
                gw[i]=acts[i].T@delta
                gb[i]=delta.sum(axis=0,keepdims=True)
                if i>0: delta=(delta@self.W[i].T)*(1-acts[i]**2)
            grads=[p for pair in zip(gw,gb) for p in pair]
            self.step+=1
            for j,(p,g) in enumerate(zip(self.params,grads)):
                self.m[j]=.9*self.m[j]+.1*g
                self.v[j]=.999*self.v[j]+.001*g*g
                p-=lr*(self.m[j]/(1-.9**self.step))/(np.sqrt(self.v[j]/(1-.999**self.step))+1e-8)
            if t%100==0 or t==steps-1:
                hist.append((t+1,float(np.mean((self.predict(x)-y)**2))))
        return np.asarray(hist)

# 1D nonlinearity: identical fixed samples and deterministic initialization
x=np.linspace(-1,1,81)[:,None]
y=np.sin(2*np.pi*x)+.25*x
xx=np.linspace(-1,1,801)[:,None]
ytrue=np.sin(2*np.pi*xx)+.25*xx
X=np.column_stack([x[:,0],np.ones(len(x))])
coef=np.linalg.lstsq(X,y,rcond=None)[0]
linear=np.column_stack([xx[:,0],np.ones(len(xx))])@coef
models={}; histories={}
for width in [2,8,32]:
    model=MLP([1,width,1],seed=100+width)
    histories[width]=model.train(x,y,steps=4000,lr=.01)
    models[width]=model
    print(f'width={width} train_mse={np.mean((model.predict(x)-y)**2):.8f} dense_mse={np.mean((model.predict(xx)-ytrue)**2):.8f}')
print(f'linear train_mse={np.mean((X@coef-y)**2):.8f}')

fig,ax=plt.subplots(figsize=(9,5.2))
ax.scatter(x[:,0],y[:,0],s=12,alpha=.4,label='Training samples')
ax.plot(xx[:,0],ytrue[:,0],lw=2.5,label='Target function')
ax.plot(xx[:,0],linear[:,0],lw=2,label='Affine model')
ax.plot(xx[:,0],models[32].predict(xx)[:,0],lw=2,label='tanh MLP (width 32)')
ax.set(xlabel='Input x',ylabel='Output y',title='Affine vs nonlinear representation')
ax.grid(alpha=.25);ax.legend();fig.tight_layout();fig.savefig(OUT/'figure_02_affine_vs_mlp.png',dpi=190);plt.close(fig)

fig,ax=plt.subplots(figsize=(9,5.2))
ax.plot(xx[:,0],ytrue[:,0],color='black',lw=2.5,label='Target')
for width in [2,8,32]:ax.plot(xx[:,0],models[width].predict(xx)[:,0],lw=1.8,label=f'Width {width}')
ax.set(xlabel='Input x',ylabel='Output y',title='Learned functions by hidden width')
ax.grid(alpha=.25);ax.legend();fig.tight_layout();fig.savefig(OUT/'figure_03_width_comparison.png',dpi=190);plt.close(fig)

fig,ax=plt.subplots(figsize=(9,5.2))
for width in [2,8,32]:
    h=histories[width];ax.plot(h[:,0],h[:,1],label=f'Width {width}')
ax.set(xlabel='Adam updates',ylabel='Training MSE (log scale)',title='Optimization trajectories under different widths')
ax.set_yscale('log');ax.grid(alpha=.25);ax.legend();fig.tight_layout();fig.savefig(OUT/'figure_04_training_curves.png',dpi=190);plt.close(fig)

# XOR: four corners, affine scores cannot assign alternating signs.
xor=np.array([[0.,0.],[0.,1.],[1.,0.],[1.,1.]])
labels=np.array([[0.],[1.],[1.],[0.]])
# Constructive exact solution: h1=ReLU(x1-x2), h2=ReLU(x2-x1), output=h1+h2.
xy=np.linspace(-.25,1.25,251)
a,b=np.meshgrid(xy,xy)
mesh=np.stack([a.ravel(),b.ravel()],axis=1)
z=np.abs(mesh[:,0]-mesh[:,1]).reshape(a.shape)
fig,ax=plt.subplots(figsize=(7,5.5))
cs=ax.contourf(a,b,z,levels=np.linspace(0,1.5,16),cmap='viridis')
ax.contour(a,b,z,levels=[.5],colors='white',linewidths=2)
for value,marker in [(0,'o'),(1,'s')]:
    sel=labels[:,0]==value
    ax.scatter(xor[sel,0],xor[sel,1],s=140,marker=marker,edgecolor='black',linewidth=1.5,label=f'XOR = {value}')
ax.set(xlabel='x1',ylabel='x2',title='Exact ReLU construction for XOR: |x1 - x2|')
ax.legend(loc='upper right');fig.colorbar(cs,ax=ax,label='Network output');fig.tight_layout()
fig.savefig(OUT/'figure_01_xor_surface.png',dpi=190);plt.close(fig)
print('XOR outputs:',np.abs(xor[:,0]-xor[:,1]).tolist())
print('Saved:',*[p.name for p in sorted(OUT.glob('*.png'))])

5.3 实验结果：仿射模型与 MLP

图2对比了仿射模型、宽度为 32 的 tanh MLP 与真实目标函数。由于目标函数包含周期性变化，仿射模型只能在整体意义上寻找一条误差最小的直线；MLP 则能够利用隐藏单元的非线性响应拟合这些起伏。

图2：81 个确定性训练样本、真实目标函数、最小二乘仿射拟合和宽度 32 的 tanh MLP 预测。

为了避免只展示一个网络，图3把隐藏层宽度为 2、8、32 时的预测曲线放在同一坐标系中。宽度为 2 的网络在当前训练设置下未能充分拟合目标函数；宽度 8 和 32 的结果更接近真实曲线。但这里不能仅凭图像判断哪一种宽度在所有数据集上都更好。

图3：同一训练集上，三种隐藏层宽度的 tanh MLP 与目标函数对比。

图4给出了三种网络的训练均方误差轨迹。它既能反映不同配置的最终拟合程度，也能展示训练过程中误差下降的速度和阶段性变化。曲线上的每个点来自程序按固定间隔记录的实际损失。

图4：宽度为 2、8、32 的 tanh MLP 在 4000 次 Adam 更新中的训练均方误差，纵轴采用对数刻度。

本次运行得到的数值如下（MSE 为均方误差）：

模型	训练集 MSE	801 点稠密网格 MSE
仿射最小二乘	0.42180618	0.42385816
tanh MLP，宽度 2	0.08474529	0.07727195
tanh MLP，宽度 8	0.00015504	0.00015178
tanh MLP，宽度 32	0.00018445	0.00017004

这里有一个值得注意的现象：宽度 32 的网络并没有在本次运行中取得比宽度 8 更低的训练误差。这个结果并不违背前面关于函数族包含关系的推导，因为后者比较的是函数族中的最小可能误差，而表格记录的是有限步 Adam 优化之后的结果。两者回答的是不同的问题。

六、如何正确理解"神经网络更有表达能力"

从本期的数学推导和实验可以得到一条清晰的认识路径：多层仿射变换可以合并，因而不能单凭层数获得非线性表达；引入非线性激活后，隐藏单元形成可学习的响应函数，其组合能够表示直线无法描述的关系；XOR 的显式构造说明两个 ReLU 单元就足以实现某个非线性判别任务；一维拟合实验则展示了不同宽度网络在固定训练条件下的实际表现。

因此，讨论网络能力时最好明确究竟是在比较函数族、优化过程，还是样本外预测。存在能够表达目标函数的参数 ，与训练算法找到了这些参数，是两件不同的事。下一期将沿着本期使用的网络表达式，进一步讨论前向传播中的矩阵运算与张量维度。

参考文献

$1$ Cybenko, G. (1989). Approximation by superpositions of a sigmoidal function. Mathematics of Control, Signals and Systems, 2, 303--314. DOI: 10.1007/BF02551274.

$2$ Hornik, K. (1991). Approximation capabilities of multilayer feedforward networks. Neural Networks, 4(2), 251--257. DOI: 10.1016/0893-6080(91)90009-T.

$3$ Leshno, M., Lin, V. Y., Pinkus, A., & Schocken, S. (1993). Multilayer feedforward networks with a nonpolynomial activation function can approximate any function. Neural Networks, 6(6), 861--867. DOI: 10.1016/S0893-6080(05)80131-5.

$4$ Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press. 在线版：https://www.deeplearningbook.org/

$5$ NumPy 官方文档：https://numpy.org/doc/stable/ ；Matplotlib 官方文档：https://matplotlib.org/stable/

发布提示： 本地 Markdown 使用 images/ 相对路径。发布到 CSDN 时，请将图片上传至编辑器或图床，并将相对路径替换为上传后返回的图片地址；独立文字图注应保留在图片下方。