马尔可夫链蒙特卡洛（MCMC）是一种强大的计算技术，用于贝叶斯统计，在直接抽样困难时从后验分布中抽取样本。当后验分布复杂且没有闭合形式的解时，它特别有用。

MCMC 的关键概念

1. 贝叶斯推断与后验分布

   • 在贝叶斯统计中，我们使用贝叶斯定理估计参数：

     $$ P(\theta \mid D)=\frac{P(D \mid \theta) P(\theta)}{P(D)} $$

   其中：

   • P(θ∣D)→ 后验分布（给定数据的参数分布）
   • P(D∣θ)→ 似然函数（数据与参数的拟合程度）
   • P(θ)→ 先验分布（数据之前对参数的信念）
   • P(D)→ 证据（归一化常数）
   • 由于分母 P(D) 通常难以处理，MCMC 有助于在不需要显式计算的情况下近似后验分布。

2. 马尔可夫链

   • 马尔可夫链是一种随机过程，其中下一个状态仅取决于当前状态。
   • MCMC 构建一个马尔可夫链，其平稳分布是目标后验分布。

3. 蒙特卡洛抽样

   • 蒙特卡洛方法抽取随机样本来近似后验分布。
   • 经过多次迭代，这些样本近似于真实的后验分布。

流行的 MCMC 算法

1. Metropolis-Hastings 算法
   • 一种生成样本的通用 MCMC 方法。
   • 步骤：

     1. 从初始猜测 θ0​ 开始。

     2. 从提议分布 $q\left(\theta^* \mid \theta\right)$ 提出一个新样本 $\theta^*$。

     3. 计算接受率：

        $$ A=\frac{P\left(D \mid \theta^\right) P\left(\theta^\right)}{P(D \mid \theta) P(\theta)} $$

     4. 以概率 $A$ 接受 $\theta^*$，否则保持在 θ。

     5. 重复直到收敛。

2. Gibbs 抽样
   • Metropolis-Hastings 的特例，其中新样本从完全条件分布中抽取。
   • 对于具有多个参数的模型非常有效。
3. 哈密顿蒙特卡洛（HMC）
   • 使用基于梯度的抽样来提高效率。
   • 常用于现代贝叶斯计算（例如，Stan、PyMC3）。

🧠Python 示例：使用 Metropolis-Hastings 的 MCMC

以下是使用 MCMC 估计正态分布均值的实现：

https://gist.github.com/viadean/8b70b20cd524951303047564eec8ba5e

为什么使用 MCMC？

• 适用于复杂后验分布 → 无需解析解
• 可扩展到大型数据集 → 用于贝叶斯深度学习
• 对于高维问题非常有效 → HMC 在概率编程中广泛使用