假设是一个
的矩阵，如果存在一个分解：
其中为
的酉矩阵，
为
的半正定对角矩阵，
为
的共轭转置矩阵，且为
的酉矩阵。这样的分解称为
的奇异值分解，
对角线上的元素称为奇异值，
称为左奇异矩阵，
称为右奇异矩阵。
特征值分解与SVD奇异值分解的目的都是提取一个矩阵最重要的特征。然而，特征值分解只适用于方阵，而SVD奇异值分解适用于任意的矩阵，不一定是方阵。
这里，和
是方阵，
和
为单位矩阵，
为
的特征向量，
为
的特征向量。
和
的特征值为
的奇异值的平方。
%% 测试奇异值分解过程
load data.mat;%该文件是做好的一个手写体的图片
B = zeros(28,28);%将行向量重新转换成原始的图片
for i = 1:28
j = 28*(i-1)+1;
B(i,:) = A(1,j:j+27);
end
%进行奇异值分解
[U S V] = svd(B);
%选取前面14个非零奇异值
for i = 1:14
for j = 1:14
S_1(i,j) = S(i,j);
end
end
%左奇异矩阵
for i = 1:28
for j = 1:14
U_1(i,j) = U(i,j);
end
end
%右奇异矩阵
for i = 1:28
for j = 1:14
V_1(i,j) = V(i,j);
end
end
B_1 = U_1*S_1*V_1';
%同时输出两个图片
subplot(121);imshow(B);
subplot(122);imshow(B_1);