EM算法

手上有一堆数据，明明知道里面有规律，却总有一些关键信息 缺了 ——不知道用户属于哪类人群，不知道一个样本到底该归到哪个类别……

普通算法直接傻眼，但EM算法却说： "没关系，我可以猜。"

01

🧠 EM算法是什么？

EM算法，全称 期望最大化（Expectation-Maximization） ，是统计学里的经典迭代方法，专治"数据不完整、信息藏起来了"的场景。

它的核心思想超级简单，就两步：

1. E步：Expectation（我猜你属于谁） 基于当前的模型参数，给每个样本算一个概率。不是非黑即白，而是："小明有70%可能是A班，30%可能是B班。"这叫 软分配 ，是EM算法最温柔的地方。
2. M步：Maximization（我猜完了，重新算规则）

根据E步算出来的概率权重，重新估计模型的参数——均值、方差、混合系数等等。

然后…… 把参数更新，让下一次猜得更准。

02

🔄 反复迭代，直到真相浮出水面

就这样，EM算法像一个耐心的侦探：

先根据线索猜 → 然后根据猜测更新思路 → 再猜 → 再更新……

直到参数不再变化， 收敛 ，隐藏的真相终于大白。

整个过程保证一件事： 每一次迭代，模型都在变得更靠谱。 不会越搞越糟。

03

🌰 经典应用场景

EM算法可不是理论玩具，它无处不在👇

你以为它冷门？其实天天都在用！

04

⚠️ 当然，它也有"小脾气"

✅ 优点

• 通用性强，只要有隐变量就能上
• 理论扎实，每次迭代都在进步
• 实现不复杂，很多场景有闭式解

❌ 缺点

• 对初始值敏感，猜得太离谱可能跑偏
• 收敛速度后期会变慢
• 你得先想清楚"数据里到底藏了什么"

05

💡 一句话记住EM算法

E步：我猜你属于谁。

M步：我猜完了，重新算规则。

反复循环，直到猜无可猜。

这就是EM算法的优雅之处——

面对未知，不逃避、不暴力枚举，只用概率和期望，一步一步逼近真相。 ✨