ML Lecture 6: Brief Introduction of Deep Learning

Three Steps for Deep Learning

1. 找到一個function set
2. 評估function的好壞
3. 挑最好的function

Step1. Define a set of function

對DL來說就是一個Neuron Network (NN)

Neuron Network: 把Logistic regression 集合再一起，一個Logistic regression就是一個neuron，全部的Logistic regression就是一個Neuron Network

這個network裡面，有一大堆的Logistic regression (activation function)，每個Logistic regression都有自己的weight與bias，把這些weight與bias集合起來，就是這個network的Network parameter，記做θ

一個 NN 如果參數已經知道的話，也可以看成是一個function，input是一個vector output也是一個 vector

如果還不知道參數，只知道這個NN的structure(neuron之間怎麼連結的)，那就只是決定好一個function set。只是這個function set比較大，能做到以前logistic or linear regression不能做到的事。