基于不平衡数据分布的支持向量数据描述的中期报告.docx

基于不平衡数据分布的支持向量数据描述的中期报告
1.背景和动机
在实际生活中，许多应用场景中的数据往往是不平衡（imbalanced）的，即其中某一个或几个类别所占比例远远大于其他类别。这种不平衡的数据分布常常导致机器学习模型的训练和预测出现偏差，降低了模型的预测能力。因此，如何针对不平衡数据的特点选择合适的模型进行分类成为了当前研究的热点问题。
支持向量数据描述（SupportVectorDataDescription，SVDD）是经典的异常检测方法，其基本思想是利用一个超球形描述正常样本，然后将新样本映射到这个超球形上进行异常判断。SVDD可以很好地处理单个类别的数据，但在处理不平衡数据时，它需要一些特殊的设计，以确保对少数类别的样本提供足够的关注。
因此，本研究旨在探讨一种基于不平衡数据分布的支持向量数据描述方法，以提高在不平衡数据集上的效果，并应用于异常检测的任务中。
2.工作进展
2.1数据预处理
我们选取了UCI的公开数据集-LetterRecognition，该数据集中有26个类别，每个类别对应一个大写字母。我们在不失一般性的情况下，将该数据集的前七个类别（A到G）作为少数类别，而其余的19个类别共同构成多数类别。
对于不平衡数据集，数据预处理是尤为重要的。我们采用了下采样（undersampling）的方法，去除多数类别中的一部分样本，以实现数据集的平衡。同时，我们对数据进行标准化处理，以使得不同特征间的权重相同。
2.2SVDD算法
SVDD算法在正常样本集合中找到一个最小体积的k维超球体，该超球体完全包含正常样本，而尽可能少的包含异常样本。算法有两个主要的参数：核函数和正则项，它们控制着支持向量数据描述器的形状和复杂度。
我们采用径向基函数核函数（radialbasisfunction，RBF）和正则项的组合，同时，我们通过交叉验证的方法，得到了合适的核函数和正则项的参数。
2.3实验结果
我们在LetterRecognition数据集上进行了实验，使用F1值和AUC值作为评价指标。使用SVM方法作为对比实验，并采用了十折交叉验证的方法。
实验结果表明，使用我们提出的基于不平衡数据分布的SVDD方法，可以提高模型在不平衡数据集上的表现。在LetterRecognition数据集上，我们的方法相较于传统的SVM方法，F1值和AUC值分别提高了10.5%和15.0%。
3.计划和展望
未来我们将进一步探究如何将该方法应用于其他异常检测任务，并尝试优化SVDD算法的性能，在现有方法的基础上提高模型的鲁棒性和适应性。