第一章-深度学习概论

1.2 什么是神经网络

1. ReLU函数（修正线性单元）：“修正”指的是取不小于0的值 图右是单个神经元：输入面积->computer运算->输出价格
2. 多个神经元叠加构成一个更大的神经网络
3. 左边的是输入的特征（输入层-input layer）

• 中间的圆圈在神经网络中被称为“隐藏单元”（Hidden nuit）：每个的输入都来着四个特征，因此是让神经网络自己决定中间的数代表的含义（why，这里为什么要这么说？）

1.3 用神经网络进行监督学习

• 神经网络架构
• 1.standard neural network architecture 通用标准的神经网络架构
• 2. convolutional neural network 卷积神经网络（CNN）
• 数据 Structured Data ：结构化数据（数据库），意为着每个特征都有清晰的定义，如数据库表中值的定义 Unstructured Data : 非结构化数据，图像、音频文本中的内容 ### 1.4为什么深度学习流行起来 数据量的增加 硬件设备的提升 算法的不断改进创新 规模推动深度学习的发展（神经网络性能随规模、数据的增长不断增长） x轴代表训练的规模 ，y轴代表表现 数据集不大时，效果取决于手工设计的组件 在图形左边时，各个算法的效率不是很明确 ex： 但在大数据方面，足够的M（训练集）的支持使神经网络的效率领先其他算法