一,机器学习:
1.模式识别
2.数据挖掘
3.统计学习
4.计算机视觉
5.语音识别
6.自然语言处理
二,学习思路
- 人类学习的思路:通过观察总结经验获取技能
- 机器学习的思路:通过数据积累(计算)经验获取技能
有监督学习:
给定输入,预测输出
分类,回归
半监督学习:
使用部分有监督数据+无监督数据
无监督学习:
挖掘输入数据好的特征表示
聚类,降维
增强学习:
在环境给予的奖励或惩罚的刺激下,逐步做出最大利益的习惯性行为
三,Deep Learning = Learning Representations/Features
1.传统模式识别:固定特征提取器或者手工制造
2.端对端学习 特征学习,深度学习,Trainable Feature Extractor,Trainable Classifier
3.如果存在多个非线性特征变换,那么它就是深度的
四,发展历程ILSVRC
重点GoogleNet:宽度,Inception Module
MSRA
五,激活函数
激活函数(Activation functions)对于人工神经网络模型去学习、理解非常复杂和非线性的函数来说具有十分重要的作用。它们将非线性特性引入到我们的网络中。在神经元中,输入的 inputs 通过加权,求和后,还被作用了一个函数,这个函数就是激活函数。引入激活函数是为了增加神经网络模型的非线性。没有激活函数的每层都相当于矩阵相乘。就算你叠加了若干层之后,无非还是个矩阵相乘罢了。
六,常用的激活函数
七,全连接网络
八,卷积神经网络
九,图像卷积
十,不同的图像卷积示例
十一,MaxPooling
十二,全连接层
十三,卷积神经网络
十四,几种重要的CNN结构
十五,网络结构配置文件
十六,深度学习应用领域
十七,图像分析
十八,图像检测
十九,图像识别
二十,语义分割
二十一,图像语义检测
二十二,姿态估计
二十三,服饰关键点预测与属性识别
二十四,模特换装
二十五,人脸识别
二十六,图像超分辨率
二十七,高清图像生成