李宏毅2022《机器学习/深度学习》——学习笔记(1)
hyperparameters:机器学习中自己设定的参数,比如学习速率。weight: w(权重:与 feature 相乘的)如下所示是一个简单的 Model。优化下面函数,获得较好的参数值。模型就是带有未知参数的函数。bias: b(偏置)
文章目录
机器学习基本概念
机器学习不同的任务
Regression
连续
The function outputs a scalar.
Classification
离散
Given options(classes), the function outputs the correct one.
Structured Learning
Training的三个步骤
step 1. Function
function with unknown parameters
带有未知参数的函数
Model: function with unknown parameters
模型就是带有未知参数的函数
如下所示是一个简单的 Model
y = b + w x 1 y = b+wx_1 y=b+wx1
feature: x1 (已知数据)
weight: w(权重:与 feature 相乘的)
bias: b(偏置)
step 2. Loss
define loss from training data
从训练数据定义损失
- Loss is a function of parameters L ( b , w ) L(b,w) L(b,w) —— Loss 是带有未知参数的函数
- Loss 的值:how good a set of values is. —— Loss的值代表当确定一组未知参数时,模型是好还是不好。
Loss: L = 1 N ∑ n e n L=\frac{1}{N}\sum^ne_n L=N1∑nen
其中 e = ∣ y − y ^ ∣ e=|y-\hat{y}| e=∣y−y^∣
step 3. Optimization
优化下面函数,获得较好的参数值
w ∗ , b ∗ = arg min w , b L w^*,b^*=\arg{ \underset{w,b} {\min} \,L} w∗,b∗=argw,bminL
hyperparameters:机器学习中自己设定的参数,比如学习速率。
参考资料
更多推荐
所有评论(0)