ML基石_3_TypesOfLearning

Different Output Space

二分类问题

PLA A takes linear separable D and perceptrons H to get hypothesis g to approximate f. 做出各种不同的线，用PLA算法去找到最好的线。

这里写图片描述

多分类问题

回归问题

结构学习

这里写图片描述

y = structures. 好像一个很大的多分类问题。 从数据中学习潜在的结构。 比如自然语言处理中，每个单词的词性组合很复杂几乎无穷，但是其中肯定是有某些结构的，你总不可能连续5个动词吧。

总结

这里写图片描述

Different Data Label

监督学习

非监督学习

这里写图片描述

非监督式，目标比较分散，也很难评估演算法的好坏。

semi-supervised

这里写图片描述

reinforcement learning

这里写图片描述

通过惩罚或者奖励促使学习。

总结

这里写图片描述

DIfferent protocal

batch learning

这里写图片描述

online learning

这里写图片描述

active learning

前两种方式都是被动学习，是否可以让机器问问题，主动学习。

这里写图片描述

例如：我有这个输入，输出是多少。 手写识别中，生成一个字，那么到底是什么呢？

有点像online一轮一轮问，如果有技巧问，那么可能通过很少的问问题就可以解决问题。

通常用在标资料很贵的场合 与semi-supervised learning相像。

总结

这里写图片描述

Different Input Space

concrete features

把人类的专业知识喂给机器。

这里写图片描述

raw features

这里写图片描述

越抽象对机器越困难。 人如果帮机器做，叫做feature engineering 机器自己做，有deep learning

abstract features

这里写图片描述

需要抽取个人还有歌曲的特征，特征人想的或者机器学到的。

总结

这里写图片描述

总结

这里写图片描述