开发者学堂课程【机器学习算法 ：总结与回顾】学习笔记，与课程紧密联系，让用户快速学习知识。
课程地址：https://developer.aliyun.com/learning/course/535/detail/7172
总结与回顾
内容介绍
一、课程纲要
二、学习目标
三、思考与练习
一、课程纲要
1、机器学习的几个基本概念（什么叫输入空间，什么叫输出空间，什么叫假设空间，什么叫特征空间等等。假设空间一定要理解透彻）
2、机器学习的实质（输入空间到输出空间的各种假设，从假设空间中，搜索一个假设。这个假设对当前的情况，适合情况或者是拟合情况最好。）
3、机器学习方法的三要素（1.模型2.策略（怎么评估模型好坏？）3.算法（怎么在学习规则要求的范围内去做优化得到想要的假设。））
4、经验风险与结构风险（在做要素与策略是怎么判断，一个好坏使用不同的方式，使用经验风险还是结构风险，通常会根据结果风险来判断。）
经验风险仅对模型在测试集的表现结果做评估，在测试集表现越好，经验风险越小，但是可以通过增加模型的复杂程度来提升拟合的程度。
这时引入结果风险，它会兼顾两方面的内容，第一模型在测试集上表现不错。同时兼顾模型不能太复杂，可能会影响后面的预测，造成过拟合
二、学习目标
1、了解机器学习相关概念（参考两位老师的书集）
2、了解机器学习的实质（在假设空间里收集当前数据的假设）
3、了解常见损失函数（定义了模型的预测结果和真实结果的差异，01函数，最常用的是平方损失函数，优点：计算容易，非负实值，求导后变为一次函数计算较简单；对数损失函数优点：可以将乘法变为加法，将除法变为减法，单调性。不同的损失函数应运与不同的场景）
4、了解经验风险与结构风险（非常重要。结构风险兼顾两方面内容。L0,L1,L2，范数的概念，不用太多关注，了解即可。惩罚项是干什么的，针对的是什么目标，能实现什么目的，不同的范数，不同的惩罚项的特点是什么。L0就是把期望更多的去掉；L1是在做优化的过程中，把其中的一些项变为0，保留另外的一些项；L2 是更倾向于把大部分的项都保留下来，把其中的某些项调的很低；不同的算法会倒向不同的模型）
三、思考与练习
1.了解基本概念，能说清楚了几个和空间相关的概念，从该角度解释机器学习的实质
2.经验风险和结构风险有何不同？经验风险和期望风险有什么不同？
3.为什么不能依赖期望风险？为什么要引入正则项，和经验风险结构风险有何关系？
4.说明损失函数的意义。井列出几个常见的损失函数，说明其异同。并去了解常见的算法分别选用了什么损失函数？
5.以泰坦尼克生还分析为例，结合本章内容，拆解该案例。
