神经网络

田里的水稻

PyTorch_Dataloader\TensorBoard---数据加载与可视化在 PyTorch 中，数据加载主要依赖两个核心类：Dataset 与 DataLoader。

田里的水稻

FA_CNN卷积神经网络三---非线性激活函数PyTorchFA：Formulas and Algorithm，CNN：Convolutional Neural Network

脉冲神经网络：神经网络发展历史背景很高兴看到大家对SNN脉冲神经网络的兴趣，于是我决定增加一个专题为大家从浅到深的完整学习SNN脉冲神经网络，今天我们要学的就是SNN的背景。

从 3Blue1Brown 到 NumPy：手写一个神经网络训练 MNIST最近通过 3Blue1Brown 的课程理解了神经网络的基本结构。为了不让这些概念停留在动画和公式层面，我用 NumPy 从零实现了一个简单的手写数字分类网络。

在所不辞兄

为什么残差连接能够缓解深层神经网络的退化问题，而不仅仅是改善梯度传播？残差连接（Residual Connection）之所以能缓解深层网络的退化问题（Degradation Problem），核心在于它重构了网络的优化目标与解空间结构，而不仅仅是改善了梯度流动的通道。退化问题的本质并非梯度消失导致的无法训练，而是随着层数增加，寻找最优解的难度呈指数级上升，导致深层模型的表现反而不如浅层模型。残差连接通过引入**恒等映射（Identity Mapping）**的捷径，将“学习完整映射”转化为“学习残差映射”，从而在数学上保证了深层网络的性能下限不低于浅层网络。

在所不辞兄

为什么神经网络对对抗扰动和分布偏移往往比较脆弱，而人类感知相对更鲁棒？神经网络对对抗扰动和分布偏移的脆弱性，根源在于其学习机制与人类感知存在本质差异：神经网络倾向于利用数据中的“虚假相关性”（非鲁棒特征）进行高频拟合，而人类视觉系统则依赖因果结构和语义上下文进行低频、全局的感知。### 1. 核心差异对比：机器统计拟合 vs. 人类因果感知

在所不辞兄

【神经网络干货】把指数级计算拆成四条一维路径：可分离 PI-DeepONet 如何破解高维 PDE把指数级计算拆成四条一维路径：可分离 PI-DeepONet 如何破解高维 PDEPINN 最难的地方，有时不是方程，而是梯度

a puppy slide 葱

ENAS | 基于参数共享的高效神经网络架构搜索让所有子模型共享权重，避免每个子模型都从零开始训练到收敛，以此提升 NAS 的效率 \color{brown}\textbf{让所有子模型共享权重，避免每个子模型都从零开始训练到收敛，以此提升 NAS 的效率} 让所有子模型共享权重，避免每个子模型都从零开始训练到收敛，以此提升 NAS 的效率

【AI】大模型参数训练原理：Softmax/损失函数交叉熵/反向传播/梯度下降优化器/学习率调度器/训练数据划分在之前的文章中我们介绍过，大模型的训练流程是先输入一段文本，转换成token列表，正向计算一遍输出预测下一个token的概率。然后与正确结果比较，通过反向传播更新参数值。那么大模型是如何得到输出概率的？如何判断大模型训练中的能力水平？参数具体是如何反向传播的？又是使用什么方法更新参数值的？这篇文章将会介绍从模型数据输出结果开始的参数训练原理，涉及很多主题。

静息态fMRI预处理没有一刀切：RESTplus参数选择与常见误区作者：长沙茗创科技（脑科学数据分析团队）使用 RESTplus 处理静息态 fMRI 时，界面中的模块往往并不难操作，真正困难的是参数怎么选。初始时间点删多少、头动标准定多严、平滑核用多大、全局信号要不要回归，这些选择都会改变后续结果。与其记住一套固定参数，不如先弄清每一步解决什么问题、可能带来什么影响。下面结合 6 类常见情况，梳理判断依据和更稳妥的处理方式。

在所不辞兄

【零基础学智能仿真-53】多智能体协作——有限元自动化实战从工程需求到可审核的仿真报告本节承接上一节的仿真质量检查，将需求分析、几何建模、网格划分、求解、后处理和报告组织成职责明确的协作流程。通过一个真实求解的一维杆有限元案例，学习结构化任务交接、状态管理和独立质量检查，并通过缺失参数、求解失败与结果篡改测试，理解系统何时应继续、暂停或拒绝发布结果。本节采用Python函数模拟协作角色，不调用大模型或Abaqus，为后续接入真实智能体与CAE求解器建立可验证的基础。

田里的水稻

PyTorch_TensorBoard展示TensorBoard 是深度学习训练过程中最常用的可视化工具之一，它可以帮助我们直观地观察训练状态，主要用途包括：

【生成式模型入门】（四）：Flow Matching——从速度场学习到生成路径x t − 1 = 1 α t ( x t − 1 − α t 1 − α ˉ t ε θ ( x t , t , c ) ) + σ t z x_{t-1} = \frac{1}{\sqrt{\alpha_t}}\left( x_t - \frac{1 - \alpha_t}{\sqrt{1 - \bar\alpha_t}}\, \varepsilon_\theta(x_t, t, c) \right) + \sigma_t z xt−1=αt 1(xt−1−αˉt 1−αtεθ(xt,t,c))+

Transformer原理大白话讲解想象你有一个全自动翻译机：左边塞一句中文进去，右边吐出一句英文出来。这就是 Transformer 最初被设计出来的目的——做机器翻译。但别小看它，今天所有大语言模型（LLM）本质上都在做同一件事：给一段文字，预测下一个最可能出现的词。

Linux 内存取证学与 Rootkit 猎杀——Volatility 核心剖析与内核隐藏模块逆向清除专栏定位：本篇为《RSHIELD 3.0 x Kali全域安全与红蓝博弈实战录》第八卷。承接上一卷关于变色龙高交互沙箱与内核级防逃逸隔离体系的探索，本篇将攻防对抗推向主机安全的终极幽暗之地——易失性物理内存（RAM）与内核级 Rootkit 猎杀。当具备国家级背景的 APT 组织或顶级黑客攻破应用层、将经过高度变异的恶意代码直接驻留在操作系统内存中、甚至通过篡改内核数据结构（DKOM）实现“进程隐身、文件隐身、网络连接隐身”时，所有基于用户态的命令（ps、ls、netstat）都将沦为被攻击者欺骗的提线木

在所不辞兄

为什么物理嵌入神经网络要把物理方程残差加入损失函数，而不是直接作为网络结构的硬约束？物理嵌入神经网络（PINN）将物理方程残差加入损失函数（软约束），而非直接作为网络结构的硬约束，核心原因在于偏微分方程（PDE）在连续域上的无限维特性与神经网络有限参数表达能力之间的数学矛盾。硬约束要求解在无穷多个点上严格满足方程，这在计算上不可行且会过度限制网络的拟合能力；而软约束通过有限配点采样和自动微分，将“满足方程”转化为一个可优化的统计目标，在保持模型灵活性的同时实现物理正则化。

种子点分析vs全脑分析：共激活模式（CAP）到底怎么选？作者：长沙茗创科技（脑科学数据分析团队）共激活模式（co-activation pattern，CAP）是一类基于单个 fMRI 时间点进行分析的方法。传统静息态功能连接通常用整段时间序列的相关性描述脑区之间的平均耦合，而 CAP 直接观察每一个 TR 对应的全脑 BOLD 空间模式，再把具有相似空间分布的时间点聚成若干状态。这样可以进一步描述不同脑状态在扫描过程中如何反复出现、持续和切换。

Claudecode报错402 insufficient balance(1008)我们在终端使用claude code中遇到如下报错：由于我们的claude是通过cc-switch接入minimax供应商的，那么我们点击编辑minimax供应商

AI基础之神经网络5 集按"结构 → 学习 → 分析 → 反向传播直觉 → 反向传播数学"递进，约 1.5 小时看完：工程背景读者的验收标准：能口述"学习=代价函数求最小值"和"反向传播=链式法则沿着依赖树倒着乘、分叉处求和"这两个故事，并知道每集对应的公式长什么样，不要求手推。

AI 模型隐藏任意能力拆解：把加密神经网络塞进宿主权重，能力评估为什么在密码学上抓不到十月九日，arXiv 挂出一篇论文，编号 2610.13928。它要做的事只有一件。把一个加密的神经网络，塞进另一个模型的权重里。