如何解释负 AIC 值

赤池信息准则 (AIC) 是一种用于比较不同回归模型拟合程度的指标。

计算方法如下：

AIC = 2K – 2 ln (L)

金子：

拟合多个回归模型后，您可以比较每个模型的 AIC 值。 AIC 最低的模型提供最佳拟合。

学生经常问的关于 AIC 的一个问题是：如何解释负 AIC 值？

答案很简单： AIC 值越低，模型拟合得越好。 AIC值的绝对值并不重要。这可以是积极的，也可以是消极的。

例如，如果模型 1 的 AIC 值为 -56.5，模型 2 的 AIC 值为 -103.3，则模型 2 提供更好的拟合。如果两个AIC值都是负数也没关系。

如果我们简单地查看用于计算 AIC 的公式，就很容易看出给定的回归模型如何导致 AIC 为负值：

AIC = 2K – 2 ln (L)

假设我们有一个具有 7 个参数且对数似然为 70 的模型。

我们将计算该模型的 AIC 如下：

AIC = 2*7 – 2*70 = -126

然后，我们可以将此 AIC 值与其他回归模型的值进行比较，以确定哪个模型提供最佳拟合。

关于负 AIC 值的有用教科书参考来自模型选择和多模态推理：实用信息理论方法第 62 页：

通常 AIC 为正值；然而，它可以通过任何加性常数来移动，并且某些变化可能会导致负 AIC 值…这不是 AIC 值的绝对大小，它是所有考虑的模型的相对值，特别是AIC值之间的差异很重要。

另一个有用的参考来自《严肃的统计：行为科学高级统计指南》第 402 页：

与似然一样，AIC 的绝对值在很大程度上没有意义（由任意常数确定）。由于该常数依赖于数据，因此 AIC 可用于比较适用于相同样本的模型。

因此，在所有考虑的合理模型中，最好的模型是 AIC 值最小的模型（与真实模型相比，信息损失最少）。

正如两本教科书所指出的，AIC 的绝对值并不重要。我们简单地用AIC值来比较模型的拟合度，AIC值最低的模型是最好的。

如何在R中计算AIC如何用Python计算AIC

大家好，我是本杰明，一位退休的统计学教授，后来成为 Statorials 的热心教师。 凭借在统计领域的丰富经验和专业知识，我渴望分享我的知识，通过 Statorials 增强学生的能力。了解更多