机器学习模型性能的十个指标

尽管大模型非常强大， 但是解决实践的问题也可以不全部依赖于大模型。一个不太确切的类比，解释现实中的物理现象，未必要用到量子力学。有些相对简单的问题，或许一个统计分布就足够了。对机器学习而言， 也不用言必深度学习与神经网络，关键在于明确问题的边界。

那么在使用ML解决相对简单问题的时候，如何评估一个机器学习模型的性能呢？这里给出了10个相对常用的评价指标，希望对产研同学有所帮助。

1. 准确率

准确率是机器学习领域中的一个基础评价指标，通常用于快速地了解模型的性能。通过简单地计算模型正确预测的实例数量与数据集中总实例数量的比例，准确率提供了一个直观的方式来衡量模型的准确性。

图片

然而，准确率作为一个评价指标，在处理不平衡数据集时可能会显得力不从心。不平衡数据集是指某一类别的实例数量明显超过其他类别的数据集。在这种情况下，模型可能会倾向于预测数量较多的类别，从而导致准确率的虚高。

此外，准确率无法提供关于假阳性和假阴性的信息。假阳性是指模型错误地将负类实例预测为正类实例的情况，而假阴性则是指模型错误地将正类实例预测为负类实例的情况。在评估模型性能时，区分假阳性和假阴性是非常重要的，因为它们对模型的性能有着不同的影响。

综上所述，虽然准确率是一个简单易懂的评价指标，但在处理不平衡数据集时，我们需要更加谨慎地解释准确率的结果。

2. 精确度

精确度是一个重要的评价指标，它专注于衡量模型对正样本的预测准确性。与准确率不同，精确度计算的是模型预测为正样本的实例中，实际为正样本的比例。换句话说，精确度回答了一个问题：“当模型预测一个实例为正样本时，这个预测有多少概率是准确的？”一个高精确度的模型意味着，当它预测一个实例为正样本时，这个实例很有可能确实是正样本。

图片

在某些应用中，如医疗诊断或欺诈检测，模型的精确度尤为重要。在这些场景中，假阳性（即错误地将负样本预测为正样本）的后果可能是非常严重的。例如，在医疗诊断中，一个假阳性的诊断可能导致不必要的治疗或检查，给患者带来不必要的心理和生理压力。在欺诈检测中，假阳性可能会导致无辜的用户被错误地标记为欺诈行为者，从而影响用户体验和公司的声誉。

因此，在这些应用中，确保模型具有高的精确度至关重要。只有通过提高精确度，我们才能降低假阳性的风险，从而减少误判带来的负面影响。

3. 召回率

召回率是一个重要的评价指标，用于衡量模型对所有实际正样本的正确预测能力。具体来说，召回率计算的是模型预测为真阳性的实例与实际正样本总数的比率。这个指标回答了一个问题：“在所有实际为正样本的实例中，模型正确预测了多少？”

与精确度不同，召回率关注的是模型对实际正样本的查全能力。即使模型对某个正样本的预测概率较低，只要该样本实际上是正样本，并且被模型正确预测为正样本，那么这个预测就会计入召回率的计算中。因此，召回率更关注模型是否能够找到尽可能多的正样本，而不仅仅是预测概率较高的那些。

图片

在某些应用场景中，召回率的重要性尤为突出。比如在疾病检测中，如果模型遗漏了实际患病的患者，可能会导致病情的延误和恶化，给患者带来严重后果。又比如在客户的流失预测中，如果模型没有正确识别出可能流失的客户，企业可能会失去采取挽留措施的机会，从而损失重要客户。

因此，在这些场景中，召回率成为了一个至关重要的指标。一个具有高召回率的模型能够更好地找到实际的正样本，减少遗漏的风险，从而避免可能产生的严重后果。

4. F1 评分

F1评分是一个综合性的评价指标，旨在在准确率和召回率之间寻求平衡。它实际上是准确率和召回率的调和平均值，将这两个指标合并为一个单一的分数，从而提供了一种同时考虑假阳性和假阴性的评估方式。

图片

在许多实际应用中，我们往往需要在准确率和召回率之间做出权衡。准确率关注模型预测的正确性，而召回率则关注模型是否能够找到所有实际的正样本。然而，过分强调其中一个指标往往会损害另一个指标的性能。例如，为了提高召回率，模型可能会增加对正样本的预测，但这同时也可能增加假阳性的数量，从而降低准确率。

F1评分正是为了解决这一问题而设计的。它综合考虑了准确率和召回率，避免了我们为了优化一个指标而牺牲另一个指标的情况。通过计算准确率和召回率的调和平均值，F1评分在两者之间取得了一个平衡点，使得我们能够在不偏袒任何一方的情况下评估模型的性能。

因此，当你需要一个指标来综合考虑准确率和召回率，并且不希望偏袒其中一个指标时，F1评分是一个非常有用的工具。它提供了一个单一的分数，简化了模型性能的评估过程，并且帮助我们更好地理解模型在实际应用中的表现。

5. ROC-AUC

ROC-AUC是一种在二进制分类问题中广泛使用的性能度量方法。它衡量的是ROC曲线下的面积，而ROC曲线则描绘了在不同阈值下，真阳性率（也称为敏感度或召回率）与假阳性率之间的关系。

图片

ROC曲线提供了一种直观的方式来观察模型在各种阈值设置下的性能。通过改变阈值，我们可以调整模型的真阳性率和假阳性率，从而获得不同的分类结果。ROC曲线越靠近左上角，表明模型在区分正负样本方面的性能越好。

而AUC（曲线下的面积）则提供了一个量化的指标来评估模型的辨别能力。AUC值介于0和1之间，越接近1表示模型的辨别能力越强。一个高的AUC分数意味着模型能够很好地区分正样本和负样本，即模型对于正样本的预测概率高于负样本的预测概率。

因此，当我们想要评估模型在区分类别方面的能力时，ROC-AUC是一个非常有用的度量指标。相比其他指标，ROC-AUC具有一些独特的优势。它不受阈值选择的影响，可以综合考虑模型在各种阈值下的性能。此外，ROC-AUC还对于类别不平衡问题相对稳健，即使在正负样本数量不均衡的情况下，仍然能够给出有意义的评估结果。

ROC-AUC是一种非常有价值的性能度量方法，尤其适用于二进制分类问题。通过观察和比较不同模型的ROC-AUC得分，我们可以更加全面地了解模型的性能，并选择出具有更好辨别能力的模型。

6. PR-AUC

PR-AUC（精度-召回曲线下的面积）是一种性能度量方法，与ROC-AUC类似，但关注点略有不同。PR-AUC测量的是精度-召回曲线下的面积，该曲线描绘了在不同阈值下精确性与召回率之间的关系。

图片

与ROC-AUC相比，PR-AUC更注重精确性和召回率之间的权衡。精确性衡量的是模型预测为正样本的实例中实际为正样本的比例，而召回率衡量的是在所有实际为正样本的实例中，模型正确预测为正样本的比例。在不平衡的数据集中，或者当假阳性比假阴性更受关注时，精确性和召回率之间的权衡尤为重要。

在不平衡的数据集中，一个类别的样本数量可能远远超过另一个类别的样本数量。这种情况下，ROC-AUC可能无法准确反映模型的性能，因为它主要关注真阳性率和假阳性率之间的关系，而不直接考虑类别的不平衡性。相比之下，PR-AUC通过精确性和召回率的权衡来更全面地评估模型的性能，在不平衡数据集上更能体现模型的效果。

此外，当假阳性比假阴性更受关注时，PR-AUC也是一个更合适的度量指标。因为在某些应用场景中，错误地将负样本预测为正样本（假阳性）可能会带来更大的损失或负面影响。例如，在医疗诊断中，错误地将健康人诊断为患病者可能会导致不必要的治疗和焦虑。在这种情况下，我们更希望模型具有高的精确性，以减少假阳性的数量。

综上所述，PR-AUC是一种适用于不平衡数据集或关注假阳性的场景的性能度量方法。它可以帮助我们更好地了解模型在精确性和召回率之间的权衡，并选择合适的模型以满足实际需求。

7. FPR/TNR

假阳性率（FPR）是一个重要指标，用于衡量模型在所有实际阴性样本中错误地预测为正样本的比例。它是特异性的补充指标，与真阴性率（TNR）相对应。当我们想要评估模型避免误报的能力时，FPR成为一个关键要素。误报可能会导致不必要的担忧或资源浪费，因此，了解模型的FPR对于确定其在实际应用中的可靠性至关重要。通过降低FPR，我们可以提高模型的精确性和准确性，从而确保仅在实际存在正样本时发出阳性预测。

图片

另一方面，真阴性率（TNR），也被称为特异性，是一种衡量模型正确识别阴性样本的指标。它计算的是模型预测为真阴性的实例占实际总阴性的比例。在评估模型时，我们往往关注模型对于正样本的识别能力，但同样重要的是模型在识别负样本方面的表现。高TNR意味着模型能够准确地识别出阴性样本，即在实际为负样本的实例中，模型预测为负样本的比例较高。这对于避免误判和提高模型的整体性能至关重要。

8. 马修斯相关系数（MCC）

MCC（Matthews 相关系数）是一个在二元分类问题中使用的度量值，它为我们提供了一种综合考虑了真阳性、真阴性、假阳性和假阴性关系的评估方式。与其他的度量方法相比，MCC的优点在于它是一个范围在-1到1之间的单一值，其中-1表示模型的预测与实际结果完全不一致，1表示模型的预测与实际结果完全一致。

图片

更为重要的是，MCC提供了一个平衡度量二元分类质量的方式。在二元分类问题中，我们通常会关注模型对于正样本和负样本的识别能力，而MCC则同时考虑了这两个方面。它不仅关注模型正确预测正样本的能力（即真阳性），还关注模型正确预测负样本的能力（即真阴性）。同时，MCC也将假阳性和假阴性纳入考量，从而更全面地评估模型的性能。

在实际应用中，MCC特别适用于处理不平衡数据集的情况。因为在不平衡数据集中，一个类别的样本数量远大于另一个类别，这往往会导致模型偏向于预测数量较多的类别。然而，MCC能够平衡地考虑所有四个指标（真阳性、真阴性、假阳性和假阴性），因此对于不平衡数据集，它通常能提供一个更为准确和全面的性能评估。

总的来说，MCC是一种强大且全面的二元分类性能度量工具。它不仅综合考虑了所有可能的预测结果，还提供了一个直观的、范围明确的数值来度量预测与实际结果的一致性。无论是在平衡还是不平衡的数据集上，MCC都是一个有用的度量指标，能够帮助我们更深入地理解模型的性能。

9. 交叉熵损失

交叉熵损失是一种在分类问题中常用的性能度量指标，尤其适用于模型的输出为概率值的情况。该损失函数用于量化模型预测的概率分布与实际标签分布之间的差异。

图片

在分类问题中，模型的目标通常是预测样本属于不同类别的概率。交叉熵损失正是用于评估模型预测概率与实际二进制结果之间的一致性。它通过对预测概率进行对数运算，并与实际标签进行比较，得出损失值。因此，交叉熵损失也被称为对数损失。

交叉熵损失的优势在于它能够很好地衡量模型对于概率分布的预测准确性。当模型的预测概率分布与实际标签分布相近时，交叉熵损失的值较低；反之，当预测概率分布与实际标签分布差异较大时，交叉熵损失的值较高。因此，较低的交叉熵损失值意味着模型的预测更加准确，即模型具有更好的校准性能。

在实际应用中，我们通常追求更低的交叉熵损失值，因为这代表着模型对于分类问题的预测更加准确和可靠。通过优化交叉熵损失，我们可以提升模型的性能，并使其在实际应用中具备更好的泛化能力。因此，交叉熵损失是评估分类模型性能的重要指标之一，它能够帮助我们进一步了解模型的预测准确性以及是否需要进一步优化模型的参数和结构。

10. 科恩卡帕系数

科恩卡帕系数是一种用于测量模型预测与实际标签之间一致性的统计工具，它尤其适用于分类任务的评估。与其他度量方法相比，它不仅计算模型预测与实际标签之间的简单一致性，还对可能偶然发生的一致性进行了校正，因此提供了一个更为准确和可靠的评估结果。

在实际应用中，特别是当涉及多个评分者对同一组样本进行分类评分时，科恩卡帕系数非常有用。在这种情况下，我们不仅需要关注模型预测与实际标签的一致性，还需要考虑不同评分者之间的一致性。因为如果评分者之间存在显著的不一致性，那么模型性能的评估结果可能会受到评分者主观性的影响，从而导致评估结果的不准确。

通过使用科恩卡帕系数，可以校正这种可能偶然发生的一致性，从而更准确地评估模型性能。具体来说，它计算了一个介于-1和1之间的值，其中1表示完全一致性，-1表示完全不一致性，而0表示随机一致性。因此，一个较高的KAppa值意味着模型预测与实际标签之间的一致性超过了偶然期望的一致性，这表明模型具有较好的性能。

图片

科恩卡帕系数可以帮助我们更准确地评估分类任务中模型预测与实际标签之间的一致性，同时校正可能偶然发生的一致性。在涉及多个评分者的场景中，它尤其重要，因为它能够提供一个更为客观和准确的评估结果。

小结

机器学习模型评价的指标有很多，本文给出了其中一些主要的指标：

• 准确率（Accuracy）：正确预测的样本数占总样本数的比例。
• 精确率（Precision）：正真（True Positive，TP）样本占所有预测为正（TP和FP）样本的比例，体现了模型对正样本的识别能力。
• 召回率（Recall）：正真（True Positive，TP）样本占所有真实为正（TP和FN）样本的比例，体现了模型发现正样本的能力。
• F1值：精确率和召回率的调和平均值，同时考虑了精确率和召回率。
• ROC-AUC：ROC曲线下的面积，ROC曲线是真正率（True Positive Rate，TPR）与假正率（False Positive Rate，FPR）的函数。AUC越大，模型的分类性能越好。
• PR-AUC：精度-召回曲线下的面积，它专注于精确性和召回率之间的权衡，更适合不平衡的数据集。
• FPR/TNR：FPR衡量模型误报能力，TNR衡量模型正确识别负样本的能力。
• 交叉熵损失：用于评估模型预测概率与实际标签之间的差异。较低的值表示更好的模型校准和准确性。
• 马修斯相关系数（MCC）：一个综合考虑了真阳性、真阴性、假阳性和假阴性关系的度量值，提供了二元分类质量的平衡度量。
• 科恩卡帕系数（cohen's kappa): 评估分类任务模型性能的重要工具，能准确测量预测与标签的一致性，并校正偶然一致性，尤其在多个评分者场景中更具优势。

以上各个指标各有特点，适用于不同的问题场景。在实际应用中，可能需要结合多个指标来全面评价模型的性能。