神经网络是如何实现的

18 篇文章 1 个主题模块 进入文章后，左侧会展开本课程章节

01 第 01 门课程

  1. 01 神经网络概论：从人工神经元到深度表示学习 本文围绕“神经网络概论：从人工神经元到深度表示学习”对课程 ASR 进行高密度论文式重构，并围绕 artificial neuron、perceptron、multilayer neural network、deep learning 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进行校正 →
  2. 02 人工神经元与前馈网络：线性变换、激活函数和层级表示 本文围绕“人工神经元与前馈网络：线性变换、激活函数和层级表示”对课程 ASR 进行高密度论文式重构，并围绕 perceptron、sigmoid、ReLU、feedforward neural network 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进行校正。 →
  3. 03 神经网络训练：损失函数、经验风险与梯度下降 本文围绕“神经网络训练：损失函数、经验风险与梯度下降”对课程 ASR 进行高密度论文式重构，并围绕 loss function、empirical risk、gradient descent、learning rate 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进行校正。 →
  4. 04 反向传播：链式法则、偏导数与计算图 本文围绕“反向传播：链式法则、偏导数与计算图”对课程 ASR 进行高密度论文式重构，并围绕 backpropagation、chain rule、partial derivative、computational graph 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进行校正。 →
  5. 05 卷积神经网络的提出：局部连接、权值共享与空间结构 本文围绕“卷积神经网络的提出：局部连接、权值共享与空间结构”对课程 ASR 进行高密度论文式重构，并围绕 CNN、local receptive field、weight sharing、feature map 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进行校正。 →
  6. 06 卷积运算与池化：卷积核、步幅、填充和输出尺寸 本文围绕“卷积运算与池化：卷积核、步幅、填充和输出尺寸”对课程 ASR 进行高密度论文式重构，并围绕 kernel、stride、padding、pooling、feature map 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进行校正。 →
  7. 07 LeNet 与手写数字识别：卷积特征与全连接分类器 本文围绕“LeNet 与手写数字识别：卷积特征与全连接分类器”对课程 ASR 进行高密度论文式重构，并围绕 LeNet-5、MNIST、convolution、pooling、fully connected layer 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进行校正。 →
  8. 08 深层卷积网络与 GoogLeNet：网络加深、Inception 与多尺度特征 本文围绕“深层卷积网络与 GoogLeNet：网络加深、Inception 与多尺度特征”对课程 ASR 进行高密度论文式重构，并围绕 GoogLeNet、Inception module、1x1 convolution、deep CNN 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进行 →
  9. 09 ResNet：退化问题、残差学习与跳跃连接 本文围绕“ResNet：退化问题、残差学习与跳跃连接”对课程 ASR 进行高密度论文式重构，并围绕 ResNet、residual learning、skip connection、degradation problem 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进行校正。 →
  10. 10 过拟合与泛化：训练集、验证集、正则化与早停 本文围绕“过拟合与泛化：训练集、验证集、正则化与早停”对课程 ASR 进行高密度论文式重构，并围绕 overfitting、generalization、validation set、regularization、early stopping 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界 →
  11. 11 文本的数值表示：One-hot、分布式表示与词向量 本文围绕“文本的数值表示：One-hot、分布式表示与词向量”对课程 ASR 进行高密度论文式重构，并围绕 one-hot encoding、distributed representation、word embedding、cosine similarity 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR →
  12. 12 神经网络语言模型：上下文条件概率与词向量学习 本文围绕“神经网络语言模型：上下文条件概率与词向量学习”对课程 ASR 进行高密度论文式重构，并围绕 neural language model、conditional probability、softmax、embedding matrix 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界 →
  13. 13 Word2Vec：CBOW、Skip-gram 与高效词向量学习 本文围绕“Word2Vec：CBOW、Skip-gram 与高效词向量学习”对课程 ASR 进行高密度论文式重构，并围绕 Word2Vec、CBOW、Skip-gram、negative sampling、hierarchical softmax 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念 →
  14. 14 循环神经网络：序列建模、隐藏状态与时间展开 本文围绕“循环神经网络：序列建模、隐藏状态与时间展开”对课程 ASR 进行高密度论文式重构，并围绕 RNN、hidden state、sequence modeling、BPTT 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进行校正。 →
  15. 15 RNN 的序列任务：标注、双向建模与编码器—解码器 本文围绕“RNN 的序列任务：标注、双向建模与编码器—解码器”对课程 ASR 进行高密度论文式重构，并围绕 sequence labeling、BiRNN、encoder-decoder、many-to-many 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进行校正。 →
  16. 16 LSTM：长期依赖、门控机制与记忆单元 本文围绕“LSTM：长期依赖、门控机制与记忆单元”对课程 ASR 进行高密度论文式重构，并围绕 LSTM、forget gate、input gate、output gate、cell state 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进行校正。 →
  17. 17 深度学习框架：自动微分、计算图与现代训练软件栈 本文围绕“深度学习框架：自动微分、计算图与现代训练软件栈”对课程 ASR 进行高密度论文式重构，并围绕 automatic differentiation、PyTorch、TensorFlow、JAX、computational graph 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进 →
  18. 18 反向传播推导补充：从复合函数到多层网络梯度 本文围绕“反向传播推导补充：从复合函数到多层网络梯度”对课程 ASR 进行高密度论文式重构，并围绕 backpropagation、Jacobian、chain rule、gradient flow 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进行校正。 →