DNN-全连接神经网络


全连接神经网络(DNN)的结构一般由输入层、隐藏层和输出层组成,全连接神经网络这种结构方式也成为多层感知机(MLP),DNN几乎可以拟合任何函数,其非线性拟合能力非常强,可以很容易的实现样本数据分类,通过反向传算法导利用梯度下降法可实现神经网络参数的训练。
神经网络

CNNs-卷积神经网络


深度卷积神经网络是当前最流行的神经网络,卷积神经网络目前在很多很多研究领域取得了巨大的成功,例如: 语音识别,图像识别,图像分割,自然语言处理等。基础的CNN由卷积(convolution), 激活(activation), and 池化(pooling)三种结构组成,通过感受野、权值共享并结合反向传播算法不仅提高了模型鲁棒性还大大降低了训练参数规模、缩短训练时间。
神经网络

RNN-循环神经网络(上)


循环神经网络是一类以序列数据为输入的的递归神经网络,循环神经网络在自然语言处理,例如语音识别、语言建模、机器翻译等领域有应用,也被用于各类时间序列预报,引入了卷积神经网络构筑的循环神经网络可以处理包含序列输入的计算机视觉问题。
神经网络

LSTM-循环神经网络(下)


LSTM(长短时记忆网络)是循环神经网络的一种,通过遗忘门、输入门、侯选门、输出门更新细胞状态,LSTM较好的解决了RNN的长时间依赖问题,比起诸如隐马尔科夫链等时序分析模型,LSTM有非常高的拟合能力。
神经网络

生成对抗网络


生成对抗网络简称GAN,是由两个网络组成的,一个生成器网络和一个判别器网络,两个网络通过博弈使双方能力提升,GAN的应用很多,利用GAN可以生成高质量的图像,可以增强照片,可以从文本生成图像,本篇详细介绍GAN及其几种变体,DGAN\CGAN等。
神经网络