<aside> <img src="/icons/condense_yellow.svg" alt="/icons/condense_yellow.svg" width="40px" /> Python | R | MATLAB | 概率分布 | 结构图 | 有向无环图 | 有向无环图 | 动态 | 贝叶斯网络 | 结构方程 | 模型 | 广义噪声 | 连接树 | 聚类图 | 因子图 | 马尔可夫链 | 多类分类 | 多维分类 | 分层分类 | 隐马尔可夫模型 | 学习树 | 决策过程

</aside>

🎯要点

🎯概率分布结构模型：有向无环图模型结构、部分有向无环图、动态贝叶斯网络、结构方程模型、广义噪声或模型、连接树、聚类图、因子图、马尔可夫链 | 🎯多类分类模型：朴素贝叶斯分类器、求和朴素贝叶斯分类器、高斯朴素贝叶斯分类器、树增强贝叶斯分类器、贝叶斯网络增强贝叶斯分类器、半朴素贝叶斯分类器 | 🎯多维分类模型：贝叶斯链分类器 | 🎯分层分类模型：贝叶斯网络和链式分类器的分层分类器。🎯隐马尔可夫模型 | 🎯马尔可夫随机场模型 | 🎯贝叶斯网络模型：学习树、学习有向无环图 | 🎯马尔可夫决策过程模型。

🎯结构化概率模型：Python问题决策影响图结构化概率模型 | 🎯多元统计模型：群体消息传播、遗传病筛选、知识工程、医疗处理决策。

✂️梗概

🍇Python概率图图像去噪

估计贝叶斯网络条件概率分布表中的数字只是计算该事件在我们的训练数据中发生的次数。 也就是说，为了估计 p(SAT=s1 | Intelligence = i1)，我们只需计算 SAT=s1 且 Intelligence = i1 的数据点在 Intelligence = i1 的总数据点中所占的比例。 虽然这种方法可能看起来是临时的，但事实证明，如此获得的参数最大化了观察到的数据的可能性。

但是，对于马尔可夫网络，上述计数方法没有统计依据（因此将导致参数次优）。 因此，我们需要使用更复杂的技术。 大多数这些技术背后的基本思想是梯度下降 - 我们定义描述概率分布的参数，然后使用梯度下降来找到这些参数的值，以最大化观察数据的可能性。我们有了模型的参数，我们就可以在新数据上使用它们来执行推理。

• 推理是我们提出整个框架的原因——能够根据我们已知的信息做出预测。
• 推理在计算上是困难的！在某些特定类型的图上，我们可以相当有效地执行推理，但在一般图上，这是很棘手的。因此我们需要使用近似算法来权衡准确性和效率。

有几个问题我们可以通过推理来回答：

• 边际推理：寻找特定变量的概率分布。例如，给定一个包含变量 A、B、C 和 D 的图，其中 A 取值 1、2 和 3，求 p(A=1)、p(A=2) 和 p(A=3)。
• 后验推理：给定一些取值为e的观察变量v_E（E表示证据），找到一些隐藏变量v_H的后验分布p(v_H | v_E=e)。
• 最大后验推理：给定一些取值为 e 的观察变量 v_E，找到具有最高概率的其他变量 v_H 的设置。

接下来，我们将研究一些用于回答这些问题的流行算法，包括精确的和近似的。所有这些算法都适用于贝叶斯网络和马尔可夫网络。

使用条件概率的定义，我们可以将后验分布写为：

$$ p\left(v_H \mid v_E=e\right)=\frac{p\left(v_H, v_E=e\right)}{p\left(v_E=e\right)} $$

让我们用一个简单的例子来看看如何计算上面的分子和分母。考虑一个具有三个变量的网络，联合分布定义如下：

$$ \begin{array}{|l|l|l|l|} \hline \text { A } & \text { B } & \text { C } & p ( A , B , C ) \\ \hline 0 & 0 & 0 & 0.05 \\ \hline 0 & 0 & 1 & 0.01 \\ \hline 0 & 1 & 0 & 0.10 \\ \hline 0 & 1 & 1 & 0.05 \\ \hline 1 & 0 & 0 & 0.30 \\ \hline 1 & 0 & 1 & 0.09 \\ \hline 1 & 1 & 0 & 0.25 \\ \hline 1 & 1 & 1 & 0.15 \\ \hline \end{array} $$

假设我们要计算 p(A | B=1)。请注意，这意味着我们要计算值 p(A=0 | B=1) 和 p(A=1 | B=1)，它们的总和应为 1。使用上面的等式，我们可以写出