【4.1.1】深度学习概述

一、什么是神经网络

single neural network

根据房子的大小来预测房子的价格。这是一个线性回归的问题,因为价格是一个连续的变量。

我们知道价格永远不会为负数,所以我们可以创造一个从0开始的Rectified Linear Unit (ReLU)函数

  • 输入为房子的大小(x)
  • 输出是房子的价格(y)
  • 神经元应用了ReLU函数(蓝色的线)

多重神经网络

房子的价格会被其他的特征影响,例如大小,房间的数目,位置,气候等。神经网络的角色就是预测价格,他能够自动的产生隐藏的那些unit。

二、监督学习的神经网络

神经网络中的监督学习

监督学习,就是那些给出一堆数据集,我们已经知道了结果应该是啥样,已经知道了输入,以及对应的正确的输出。

监督学习可以分为两类:”regression” and “classification” 。

  • 回归 输出是连续变量
  • 分类 输出是离散变量,是分类变量

下图为监督学习的一些例子

有很多种类型的神经网络,比如:

  • Convolution Neural Network (CNN) 用来处理图片
  • Recurrent Neural Network (RNN) 用来处理一维序列,比如翻译
  • 自动驾驶,需要混合的神经网络

Structured vs unstructured data

  • 结构化的数据是那些已经定义好了数据的含义,比如价格,年龄。
  • 非结构化的数据比如文本,声音等

三、为什么神经网络会火起来

神经网络的起飞起源于 数字化的社会大量的数据,更快的计算能力以及神经网络算法的创新。

获得更好的预测能力,需要做到以下几点:

  1. Being able to train a big enough neural network
  2. 足够带标签的数据

The process of training a neural network is iterative.

训练一个神经网络会花大量的时间,会影响你的产出。越快的计算能够帮助你迭代与提升算法。

四、更多的资源

Discussion forum

  • Questions, technical discussions, bug reports, etc. Wiki (in-progress lecture notes)
  • deeplearning.ai/wiki

Contact us:

  • feedback@deeplearning.ai
  • Companies: enterprise@deeplearning.ai
  • Universities: academic@deeplearing.ai

参考资料

吴恩达 Andrew Ng 《神经网络和深度学习》

个人公众号,比较懒,很少更新,可以在上面提问题,如果回复不及时,可发邮件给我: tiehan@sina.cn

Sam avatar
About Sam
专注生物信息 专注转化医学