基于多元支持向量回归的标记分布学习Matlab算法包文献综述

1. 文献综述（或调研报告）：

正如在上面的“选题背景与意义”中所阐述的，对现实中的很多实际应用而言，一个更自然的标记实例x的方法是赋一个实数值给每一个可能的标记y，表示y描述x的程度。在不失一般性的情况下，假设。进一步假设标记集合是完整的，即集合中的所有标记合在一起总可以完整地描述实例，则，称为y对x的描述度。对一特定实例，所有标记的描述度组成了一个与概率分布类似的数据模式，因此称之为标记分布。学习过程在被标记分布标明的实例中进行，因此称此为标记分布学习（LDL）。上述应用也揭示了某些标记歧义性的性质也许超出了已有的MLL框架。在此情形下，把MLL扩展到LDL是必要的。实际上，适用LDL的现实应用也许比适用MLL的更普遍，因为当多个标记与某实例相关时，它们的重要性及相关程度几乎不会完全一样。

在已知的单标记或多标记机器学习文献中，一个数值指标（如概率，置信度，级别，分数，投票等）被赋予每个标记的情况并不少见。如下图所示，标记分布学习不同于其他学习方法之处主要体现在三方面：

1）每个LDL的训练实例显示地与一标记分布关联，而不是与单个标记或一个相关标记的集合。来自具体应用自身的标记分布作为原始数据的一部分，而在先前的学习算法中，数值标记指标由原始数据集人工地得出，并用于之后的裁决。

2）之前算法中，指示器里使用大部分数值标记的目的是为标记排序，然后通过排名的阈值决定正标记。只要排名不变，指标的真实值就不重要。在大多数情况下，它仅关心排名第一个或前几个的标记。另一方面，LDL关心整体的标记分布，因此每个标记描述度的确切值都很重要。

3）先前的数值标记指标的学习算法中，其性能评价方法仍是一些被单标记学习（如分类准确度，错误率等）或多标记学习（如汉明损失，1-错误率，覆盖率，排序损失等）普遍采用的。另一方面，LDL的性能评价取决于预测的标记分布与真实标记分布的相似度或距离。

Xin Geng等人根据人脸年龄检测领域的特殊性及挑战，率先提出了标记学习的概念，并提出了相应的IIS-LLD算法用于解决此问题。随后的研究中，Xin Geng等人将此方法拓展为一个新的学习范型——标记分布学习，将之应用于许多不同的领域，并且提出了一系列应用该框架下的新算法，以解决实际的应用问题。实验结果证实，针对适合LDL框架的问题，使用或设计特定的LDL算法解决此问题是非常有效的。

参考文献

1. Xin Geng and Rongzi Ji. Label Distribution Learning. In Proceedings of the 2013 International Conference on Data Mining Workshops (ICDMrsquo;13 Workshops), Dallas, TA, 2013, pp. 377-383.
2. Xin Geng and Yu Xia. Head Pose Estimation Based on Multivariate Label Distribution. In: Proceedings of IEEE International Conference on Computer Vision and Pattern Recognition (CVPRrsquo;14), Columbus, OH, 2014, pp. 1837-1842.
3. Xin Geng, Chao Yin, and Zhi-Hua Zhou. Facial Age Estimation by Learning from Label Distributions. IEEE Transactions on Pattern Analysis and Machine Intelligence (IEEE TPAMI), 2013, 35(10): 2401-2412.
4. Xin Geng and Longrun Luo. Multilabel Ranking with Inconsistent Rankers. In: Proceedings of IEEE International Conference on Computer Vision and Pattern Recognition (CVPRrsquo;14), Columbus, OH, 2014, pp. 3742-3747.
5. Xin Geng, Qin Wang, and Yu Xia. Facial Age Estimation by Adaptive Label Distribution Learning. In: Proceedings of the 22nd International Conference on Pattern Recognition (ICPRrsquo;14), Stockholm, Sweden, 2014, pp. 4465 - 4470.

[6] Devis Tuia, Jochem Verrelst, Luis Alonso, Fernando Peacute;rez-Cruz, Senior and Gustavo Camps-Valls. Multioutput Support Vector Regression for Remote Sensing Biophysical Parameter Estimation. [ICANN2002]

[7] Fernando Perez-Cruz, Gustav o Camps-Valls, Emilio Soria-Olivas, Juan Jose Perez-Ruixo, Anbal R. Figueiras-Vidal and Antonio Artes-Rodrguez. Multi-dimensional Function Approximation And Regression Estimation. [IEEE2011]

[8] Alex J. Smola and Bernhard Sch uml;olkopf . A Tutorial on SVR.

[9] Pre-release Prediction of Crowd Opinion on Movies (have not been published yet)

1. 方案（设计方案、或研究方案、研制方案）论证