机器学习基石第三节 学习笔记

Types of Learning

一、监督式（supervised）的学习（上面的问题）和非监督式（unsupervised）的学习（下面的问题）

区分：是否提供yn（结果集）



（一）、unsupervised：learning with yn

根据输出空间变化，常见有以下几类问题

1、自动贩卖机识别硬币，多类别识别问题

（1）classify US coins（1c，5c，10c，25c） by （size，mass）

（2）y = {1c，5c，10c，25c}， or y={1，2，...，K}（abstractly）

（3）binary classification（分类）： special case with K = 2

类似多类别的分类问题，区别数字，邮件分类，多用在视觉听觉辨识



2、回归分析问题，regression

y = R or y = [lower, upper] 包含于R（bounded regression有范围回归）

线性回归是一类特殊的回归分析问题。回归分析特点，输出是一个特定值



3、自然语言辨识，structured learning，结构识别

（1）multiclass cliassification：word =》 world class

（2）structured learning：

sentence =》 structure（class of each word）

（3）y = {PVN，PVP，NVN，。。。}，not including vvvvv

（4）huge multiclass classification problem （structure === hyperclass） without ‘explicit（详细的）’ class definition



（二）、unsupervised：learning without yn

（1）分群问题clustering {Xn} => cluster（x）

（2）密度分析问题：density estimation： {Xn} => density(x)

（3）异常识别（outlier detetion）识别出一些疑似的异常数据



（三）、semi-supervised 半监督式，监督式与非监督式的中间情况

还有一些特殊的情况只给出了一部分yn，此为半监督式，这时候就需要用未给出yn的数据让已给出的yn更加完善和准确



（四）Reinforcement Learning 增强式学习

reinforcement：learn with ‘partial/implicit imformation’ （often sequentially）



（五）Batch learning 批量学习

一次性批量输入给学习算法，可以被形象的称为填鸭式学习。



（六）Online learning 在线学习

按照顺序，循序的学习，不断的去修正模型，进行优化



（七）Active learning 主动学习

让机器主动问问题（按顺序）



以上都是从输出角度做的分析，

下面从输入角度分析



（八）concrete learning



（九）raw learning



（十）abstract learning