【非负矩阵分解及其应用探讨】非负矩阵分解
时间：2020-03-07 09:50:05 来源：雅意学习网 本文已影响 人 
摘 要： 介绍非负矩阵分解（non-negative matrix factorization，NMF）的基本算法思想及其实现过程，并对其在一些重要领域内的应用现状进行概括归纳，最后提出NMF方法在图像处理方面存在的问题及其改进的趋势。
关键词： 非负矩阵分解；特征提取；矩阵分解
中图分类号：TP391 文献标识码：A 文章编号：1671－7597（2011）1210164－01
随着现代计算机处理信息数据的规模越来越大，矩阵作为一种最常见的数据表示形式得到了广泛的应用。但在实际问题当中，由于矩阵的数据量往往很大，直接处理效率低，意义不大，在实际的操作中，都需要对原始矩阵进行分解。矩阵分解是将原始矩阵进行适当的分解，使得进一步处理变得简单些。NMF是D.D.Lee和H.S.Seung在1999年《Nature》中首次提出的算法[1]，该算法要求矩阵中所有元素均为非负的条件下对矩阵进行非负分解。由于非负矩阵分解实现简单、分解形式和分解结果上的可解释性，以及占用存储空间上的优点，使得非负矩阵分解在实际应用中得到了广泛应用。
1 非负矩阵分解算法
1）问题的描述
传统NMF问题可描述如下：
（1-1）
即给定m个n维数据向量集合 ，每个列向量表示一个样本数据，m为集合中数据样本的个数。W为基矩阵，H为编码矩阵。选取的r值一般要求满足 ，从而可使W和H矩阵的秩远远小于矩阵V的秩。这样就达到了对原始矩阵V的降维处理。NMF算法通过“乘性”迭代规则来保证每次迭代后矩阵的元素为非负，保证了非负矩阵分解的可行性。[2]这种算法实现容易因此得到十分广泛的应用。
2）算法的实现过程
NMF算法可以理解为一个带约束的非线性规划的问题，可转化成最优化问题，利用迭代的手段可求解出W和H。为了求出矩阵分解的结果，Lee和Seung引入了两类目标函数：
① 矩阵A和B之间的欧氏距离：
② Kullback-Leibler散度函数：
令A=V，B=WH，可得到用于NMF算法的两类目标函数
基于以上两个目标函数，就可得到如下的约束优化问题：
和
通过合适的迭代规则对以上两个约束优化问题进行收敛得到稳定的矩阵W和H。
2 非负矩阵分解的应用
NMF算法是十分有效的矩阵分解算法，它具有在实现上的简便性、分解形式及其分解结果的可解释性、算法精确以及占用的存储空间较小等优点。
NMF解已经被应用到众多领域：
1）图像处理与模式识别
图像的分析和处理是非负矩阵分解算法最成功的应用之一，由于图像包含大量的数据信息，计算机在处理图像信息时，都是按照矩阵的形式进行存储、识别、分析和处理的。目前人们已经可以利用NMF算法处理卫星图像来自动识别太空中的垃圾碎片。Lee和Seung在首次提出NMF理论时，就将其用于人脸图像的识别。苗启广等[4]首次提出将NMF算法用于图像融合，结果表明NMF的算法图像的融合比其它的效果更好。
2）文本聚类/数据挖掘
NMF算法可有效地用于挖掘用户所需数据和进行文本聚类的研究中，利用NMF能够表示信息的各个局部之间的相互关系，从而可以获得更准确的处理效果。典型的文本数据通常以矩阵的形式来处理，原始数据矩阵具有高维稀疏的特征，在矩阵处理中主要就是要削减原始数据的维数，而NMF算法可以高效的进行降维操作。由于该算法在处理文本信息的高效性，著名的数据库软件Oracle在它的第10版中采用了NMF算法来进行文本特征的提取和分类。
3）语音处理
自动识别语音是计算机研究中的一个重要的研究领域，许多科学家从事这方面的研究，它也是实现智能应用的一项基础技术。在现有的应用研究中，NMF算法成功实现了有效的语音特征提取，并且由于NMF算法的快速性，对于现实中的实时语音识别有着促进意义。
3 非负矩阵分解在图像处理方面的研究趋势
非负矩阵分解的算法同其它的特征提图像处理算法进行比较，NMF具有更好的算法效率，其分析结果可以得到更加合理的特征信息。因此，NMF在图像的处理中得到了广泛的应用。非负矩阵分解在应用的过程中它还存在一些缺点和问题，例如它的收敛速度较慢，分解结果不唯一导致全局最小点很难找到问题以及零值问题等，这有待于我们去思考与解决。在图像处理的应用中我们可以考虑使用NMF所描述的非负矩阵分解的方法对原始图像数据进行分解，可以得到它的基矩阵B和系数矩阵C，然后先将整体图像分成N*N像素块，对像素块逐个进行余弦变换。为了进一步的达到压缩数据的目的，还需使用Huffman编码的方法对系数矩阵进行熵编码。也就是将高位的数据矩阵在进行降维处理后，再进行压缩存放图像的数据量，实现数字图像分存。
参考文献：
[1]Lee D D,Seung H S.Learning the parts of objects with nonnegatitv matrix faxtorization.Nature,1999,401:788-791.
[2]D.D.Lee,H.S.Seung.Algorithms for non-negative matrix factoriz
ation.In Advances in Neural Information Processing Systems,2001.
[3]杨轩，一种非负矩阵分解算法，西南民族大学学报（自然科学版），2008，34（1）.
[4]苗启广、王宝树，图像融合的非负矩阵分解算法[J].计算机辅助设计与图形学学报，2005，25（6）：2029-2032.
推荐访问:矩阵 分解 及其应用 非负矩阵分解及其应用探讨
