24秋机器学习笔记-10-无监督学习

无监督学习简介

之前我们学习的都是有监督学习，我们的目标是最小化一个损失函数 $L(f(x),y)$，或者最大似然 $P(y|x)$。比如回归问题中的线性回归与 GPR，分类问题中的逻辑回归、SVM 与 NN 等。

而无监督学习可以理解为只给一堆 $X$，然后学习 $X$ 的分布 $P(X)$。

一般有三种：

1. 降维（dimensionality reduction）：学习一个更 compact 的 $f(x)$ 的表示。
2. 聚类（clustering）
3. 生成式模型

主成分分析（PCA）