深度学习基础——循环神经网络的结构及参数更新方式 深度学习领域的一大重要分支是循环神经网络（Recurrent Neural Networks，简称RNN），它是一种用于处理序列数据的神经网络结构。与传统的前馈神经网络不同，循环神经网络能够利用序列中的时间信息，从而更好地建模序列数据的依赖关系。 1. 概述 循环神经网络是一种具有循环连接的神经网络结构，用于处理序列数据，如文本、时间序列等。其主要特点是可以将过...

深度学习基础——残差神经网络（ResNet） 1. 定义 残差神经网络（ResNet）是一种深度神经网络结构，由微软研究院的Kaiming He等人于2015年提出。它通过引入残差块（Residual Block）来解决深度神经网络的退化问题，使得网络可以更深地进行训练。ResNet在ImageNet图像识别挑战赛上取得了第一名的成绩，并在许多领域取得了显著的成功应用。 2. 如何计算 ResNet的核心思想是...

深度学习基础——卷积神经网络的感受野、参数量、计算量 深度学习在图像处理领域取得了巨大的成功，其中卷积神经网络（Convolutional Neural Networks，CNN）是一种非常重要的网络结构。本文将介绍卷积神经网络的三个重要指标：感受野、参数量和计算量。首先，会对这些指标进行定义，然后介绍如何计算它们，并通过Python实现示例代码进行可视化展示。 1. 定义 1.1 感受野（Receptive ...

深度学习基础——卷积神经网络的基础模块 卷积神经网络（Convolutional Neural Networks，CNN）是深度学习中一种非常重要的神经网络结构，它在图像识别、图像分类、目标检测等领域取得了巨大成功。本文将介绍卷积神经网络的几个基础模块，包括批归一化、全局平均池化、瓶颈结构和沙漏结构。我们将首先对这些基础模块进行概述，然后介绍其概念及公式，并通过Python实现示例代码进行可视化展示。 1. 概...