1-VS-Rest策略

1-VS-Rest策略概念

1-VS-Rest策略是一种机器学习算法的策略,将每个类别作为一个二分类问题来处理,可以用于解决多类分类问题。

1VSRest示例1

在训练时,将需要识别出的类别的数据作为正例,其余数据作为反例。
这种训练方式被称为1-VS-Rest,也就是1对其余的策略。

例如,在对绿色、蓝色和红色三种数据进行分类时,分别训练绿色对蓝色和红色、蓝色对绿色和红色、红色对绿色和蓝色三个模型。

1VSRest示例2

如果有N个目标类别,就需要训练N个二分类模型。在使用这些模型时,这N个模型互相独立,互不干扰。
对于同一个待预测数据,每个模型都需要计算一遍。

输出识别结果时,可以选择置信度最大的某一个结果,也可以选择置信度超过0.5的多个结果。
具体如何选择,与实际的任务相关。

1VSRest示例3

例如,我们要搭建一个新闻分类系统,根据输入的文章内容,输出文章的类别。
这时,某偏文章就可能是既是体育新闻,同时还有娱乐属性,因此就需要同时输出这两个类别。

1VSRest示例4

1-VS-Rest策略使用场景

1-VS-Rest策略对目标类别,使用一个二分类算法(如逻辑回归、支持向量机等)来训练一个分类器。
这样,对于每个类别,都会得到一个独立的分类器。

对于不同的类别,我们甚至可以使用不同的二分类模型进行训练。
例如,我们可以将逻辑回归、SVM、决策树,这三种模型,应用在同一个分类系统中,来识别不同的类别。

1VSRest二分类算法

基于1-VS-Rest策略的多分类,其优势是可维护性高,随时可以增加新的类别模型,或者修改升级其中某个模型,都不会对其他已有模型产生影响。

另外,分类结果是相互独立的,可以自由选择这些模型的组合方式,进行更有针对的调试和优化。