為什么線性判別分析的降維維數不能大于類別數減一

【為什么線性判別分析的降維維數不能大于類別數減一】這涉及到矩陣乘法的問題 , 我們假設類別總數為N:由于矩陣中的的秩為1,因此SB的秩最多為N,即類別數目(矩陣的秩小于等于各個相加矩陣的秩的和) 。又由于 和N個 不是線性無關的,和前N-1個 可以表示出第N個  , 或者說可以通的線性組合表示出來,因此 的秩最多為N-1,的秩最大也為N-1 。而LDA的映射矩陣W為 進行特征值求解的特征矩陣所組成 。由于秩為N-1,那么不為0的特征值個數為則不大于N-1,因此有用的特征向量個數也不大于N-1 。故其降維后的特征維度也不大于N-1 。也就是對于2類,只能降維為1維 。

    推薦閱讀