Descompunerea la valori singulare

În algebra liniară , descompunerea valorii singulare , numită și SVD (din acronimul englezesc Singular Value Decomposition ), este o factorizare particulară a unei matrice bazată pe utilizarea valorilor proprii și a vectorilor proprii . Având în vedere o matrice $M.$ ${\ displaystyle M}$ $M.$ de dimensiuni reale sau complexe $m\times n$ ${\ displaystyle m \ times n}$ $m \ ori n$ , este o scriere ca:

M=U\Sigma V^{*}

{\ displaystyle M = U \ Sigma V ^ {*}}

M = U \ Sigma V ^ {*}

unde este $U$ ${\ displaystyle U}$ $U$ este o matrice unitară de dimensiuni $m\times m$ ${\ displaystyle m \ times m}$ $m \ times m$ , $\Sigma$ ${\ displaystyle \ Sigma}$ $\ Sigma$ este o matrice diagonală dreptunghiulară de dimensiuni $m\times n$ ${\ displaystyle m \ times n}$ $m \ ori n$ Și $V^{*}$ ${\ displaystyle V ^ {*}}$ $V ^ *$ este transpunerea conjugată a unei matrice unitare $V.$ ${\ displaystyle V}$ $V.$ in marime $n\times n$ ${\ displaystyle n \ times n}$ $n \ ori n$ .

Elementele $\Sigma$ ${\ displaystyle \ Sigma}$ $\ Sigma$ se numesc valori singulare ale $M.$ ${\ displaystyle M}$ $M.$ ; fiecare dintre coloanele m ale $U$ ${\ displaystyle U}$ $U$ se numește vectorul singular stâng în timp ce fiecare dintre cele n coloane ale $V.$ ${\ displaystyle V}$ $V.$ se numește vectorul singular potrivit . Se întâmplă că:

Vectorii la stânga singulari ai $M.$ ${\ displaystyle M}$ $M.$ sunt vectorii proprii ai $MM^{*}$ ${\ displaystyle MM ^ {*}}$ $MM ^ {*}$
Vectorii singulari corecți ai $M.$ ${\ displaystyle M}$ $M.$ sunt vectorii proprii ai $M^{*}M$ ${\ displaystyle M ^ {*} M}$ $M ^ {*} M$
Valorile singulare nenule ale lui $M.$ ${\ displaystyle M}$ $M.$ (care sunt situate pe diagonala principală a $\Sigma$ ${\ displaystyle \ Sigma}$ $\ Sigma$ ) sunt rădăcinile pătrate ale valorilor proprii nenule ale lui $MM^{*}$ ${\ displaystyle MM ^ {*}}$ $MM ^ {*}$ Și $M^{*}M$ ${\ displaystyle M ^ {*} M}$ $M ^ {*} M$ .

Istorie

Inițial, descompunerea la valori singulare a fost dezvoltată de cercetătorii geometriei diferențiale pentru a determina dacă o formă biliniară reală ar putea fi echivalentă cu alta prin transformări ortogonale independente ale celor două spații avute în vedere. Eugenio Beltrami în 1873 și Camille Jordan în 1874, independent unul de celălalt, au descoperit că valorile singulare ale formei biliniare, reprezentate într-o matrice, formează un set complet de invarianți pentru formele biliniare. James Joseph Sylvester a venit și el cu rezultatul SVD , pare independent de studiile lui Beltrami și Jordan. Sylvester a numit valorile singulare multiplicatori canonici ai matricei. Al patrulea matematician care a descoperit descompunerea valorii singulare a fost Léon Autonne, în 1915, care și-a atins formularea prin studierea matricilor prin descompunerea polară . Prima demonstrație a procedurii de descompunere pentru matrici dreptunghiulare și complexe pare să fi fost produsă de Carl Eckart și Gale Young în 1936.

În 1907, Erhard Schmidt a definit un analog al valorilor singulare pentru operatorii integrali (care sunt compacte, sub unele ipoteze slabe); se pare că, în timpul studiilor sale, Schmidt nu era conștient de existența rezultatelor privind valorile singulare pentru matricile finite. Această teorie a fost dezvoltată în continuare de Émile Picard în 1910, care a fost primul care a numit numerele „valeurs singulières” și le-a notat $\sigma _{k}$ ${\ displaystyle \ sigma _ {k}}$ ${\ displaystyle \ sigma _ {k}}$ .

Metodele practice pentru calculul SVD datează de la Ervand Kogbetliantz între 1954 și 1955 și de la Magnus Hestenes în 1958 și au o implementare similară cu metoda Jacobi , care utilizează rotații plane sau rotații Givens. Aceste abordări au fost înlocuite de metoda lui Gene H. Golub și William Kahan publicată în 1965 (Golub și Kahan 1965), care se bazează pe transformări sau reflecții ale proprietarilor. În 1970, Golub și Christian Reinsch au publicat o variantă a algoritmului Golub / Kahan care este încă unul dintre cele mai utilizate.

Definiție

Este $A\in \mathbb {C} ^{m\times n}$ ${\ displaystyle A \ in \ mathbb {C} ^ {m \ times n}}$ $A \ in {\ mathbb {C}} ^ {{m \ times n}}$ o matrice. Apoi, există o factorizare a aceluiași sub formă:

A=U\Sigma V^{*}\

{\ displaystyle A = U \ Sigma V ^ {*} \}

A = U \ Sigma V ^ {*} \

unde este $U$ ${\ displaystyle U}$ $U$ este o matrice unitară de dimensiuni $m\times m$ ${\ displaystyle m \ times m}$ $m \ times m$ , $\Sigma$ ${\ displaystyle \ Sigma}$ $\ Sigma$ este o matrice diagonală dreptunghiulară (nu este pătrată, dar are elemente care nu sunt nule decât atunci când indicii rândului și coloanei coincid) de dimensiune $m\times n$ ${\ displaystyle m \ times n}$ $m \ ori n$ Și $V^{*}$ ${\ displaystyle V ^ {*}}$ $V ^ *$ este transpunerea conjugată a unei matrice unitare de dimensiuni $n\times n$ ${\ displaystyle n \ times n}$ $n \ ori n$ .

Acest factoring este denumit factoring SVD complet . În versiunea utilizată în mod normal, numită formă SVD redusă , matricea $U$ ${\ displaystyle U}$ $U$ are dimensiune $m\times n$ ${\ displaystyle m \ times n}$ $m \ ori n$ in timp ce $\Sigma$ ${\ displaystyle \ Sigma}$ $\ Sigma$ Și $n\times n$ ${\ displaystyle n \ times n}$ $n \ ori n$ . Elementele diagonalei $\Sigma$ ${\ displaystyle \ Sigma}$ $\ Sigma$ sunt valorile singulare ale $LA$ ${\ displaystyle A}$ $LA$ și au proprietățile:

s_{i}\geq 0\quad \forall i\qquad s_{1}\geq s_{2}\geq \ldots \geq s_{n}

{\ displaystyle s_ {i} \ geq 0 \ quad \ forall i \ qquad s_ {1} \ geq s_ {2} \ geq \ ldots \ geq s_ {n}}

s _ {{i}} \ geq 0 \ quad \ forall i \ qquad s _ {{1}} \ geq s _ {{2}} \ geq \ ldots \ geq s _ {{n}}

Se poate arăta că rangul matricei $LA$ ${\ displaystyle A}$ $LA$ este același cu cel al matricei $\Sigma$ ${\ displaystyle \ Sigma}$ $\ Sigma$ . În special, se observă că rangul de $\Sigma$ ${\ displaystyle \ Sigma}$ $\ Sigma$ depinde de valori singulare și este doar egal cu numărul de valori singular care nu sunt zero.

Să presupunem că avem o matrice $LA$ ${\ displaystyle A}$ $LA$ cu rang $rk(A)=r$ ${\ displaystyle rk (A) = r}$ $rk (A) = r$ , atunci avem asta $s_{1}\geq s_{2}\geq \ldots \geq s_{r}>s_{r+1}=\ldots =s_{n}=0$ ${\ displaystyle s_ {1} \ geq s_ {2} \ geq \ ldots \ geq s_ {r}> s_ {r + 1} = \ ldots = s_ {n} = 0}$ $s _ {{1}} \ geq s _ {{2}} \ geq \ ldots \ geq s _ {{r}}> s _ {{r + 1}} = \ ldots = s _ {{n}} = 0$ și descompunerea SVD a $LA$ ${\ displaystyle A}$ $LA$ este definit ca:

\mathbf {A} =\left({\begin{array}{cccc}a_{11}&a_{12}&\ldots &a_{1n}\\a_{21}&a_{22}&\ldots &a_{2n}\\\vdots &\vdots &\ddots &\vdots \\a_{m1}&a_{m2}&\ldots &a_{mn}\\\end{array}}\right)=\underbrace {\left({\begin{array}{cccc}u_{11}&u_{12}&\ldots &u_{1r}\\u_{21}&u_{22}&\ldots &u_{2r}\\\vdots &\vdots &\ddots &\vdots \\u_{m1}&u_{m2}&\ldots &u_{mr}\\\end{array}}\right)} _{U}\cdot \underbrace {\left({\begin{array}{cccc}s_{1}&0&\ldots &0\\0&s_{2}&\ldots &0\\\vdots &\vdots &\ddots &\vdots \\0&0&\ldots &s_{r}\\\end{array}}\right)} _{\Sigma }\cdot \underbrace {\left({\begin{array}{cccc}v_{11}&v_{12}&\ldots &v_{1n}\\{\bar {v_{21}}}&v_{22}&\ldots &v_{2n}\\\vdots &\vdots &\ddots &\vdots \\{\bar {v_{r1}}}&{\bar {v_{r2}}}&\ldots &v_{rn}\\\end{array}}\right)} _{V^{*}}

{\ displaystyle \ mathbf {A} = \ left ({\ begin {array} {cccc} a_ {11} & a_ {12} & \ ldots & a_ {1n} \\ a_ {21} & a_ {22} & \ ldots & a_ {2n} \\\ vdots & \ vdots & \ ddots & \ vdots \\ a_ {m1} & a_ {m2} & \ ldots & a_ {mn} \\\ end {array}} \ right) = \ underbrace {\ left ({\ begin {array} {cccc} u_ {11} & u_ {12} & \ ldots & u_ {1r} \\ u_ {21} & u_ {22} & \ ldots & u_ { 2r} \\\ vdots & \ vdots & \ ddots & \ vdots \\ u_ {m1} & u_ {m2} & \ ldots & u_ {mr} \\\ end {array}} \ right)} _ {U} \ cdot \ underbrace {\ left ({\ begin {array} {cccc} s_ {1} & 0 & \ ldots & 0 \\ 0 & s_ {2} & \ ldots & 0 \\\ vdots & \ vdots & \ ddots & \ vdots \\ 0 & 0 & \ ldots & s_ {r} \\\ end {array}} \ right)} _ {\ Sigma} \ cdot \ underbrace {\ left ({\ begin {array} {cccc } v_ {11} & v_ {12} & \ ldots & v_ {1n} \\ {\ bar {v_ {21}}} & v_ {22} & \ ldots & v_ {2n} \\\ vdots & \ vdots & \ ddots & \ vdots \\ {\ bar {v_ {r1}}} & {\ bar {v_ {r2}}} & \ ldots & v_ {rn} \\\ end {array}} \ right)} _ {V ^ {*}}}

{\ mathbf {A}} = \ left ({\ begin {array} {cccc} a _ {{11}} & a _ {{12}} & \ ldots & a _ {{1n}} \\ a _ {{21}} & a_ {{22}} & \ ldots & a _ {{2n}} \\\ vdots & \ vdots & \ ddots & \ vdots \\ a _ {{m1}} & a _ {{ m2}} & \ ldots & a _ {{mn}} \\\ end {array}} \ right) = \ underbrace {\ left ({\ begin {array} {cccc} u _ {{11}} & u _ {{12}} & \ ldots & u _ {{1r}} \\ u _ {{21}} & u _ {{22}} & \ ldots & u _ {{2r}} \\\ vdots & \ vdots & \ ddots & \ vdots \\ u _ {{m1}} & u _ {{m2}} & \ ldots & u _ {{mr}} \\\ end {array}} \ right)} _ { {U}} \ cdot \ underbrace {\ left ({\ begin {array} {cccc} s _ {{1}} & 0 & \ ldots & 0 \\ 0 & s _ {{2}} & \ ldots & 0 \\\ vdots & \ vdots & \ ddots & \ vdots \\ 0 & 0 & \ ldots & s _ {{r}} \\\ end {array}} \ right)} _ {{\ Sigma}} \ cdot \ underbrace {\ left ({\ begin {array} {cccc} v _ {{11}} & v _ {{12}} & \ ldots & v _ {{1n}} \\ {\ bar {v _ {{21}}}} & v _ {{22}} & \ ldots & v _ {{2n}} \\\ vdots & \ vdots & \ ddots & \ vdots \\ {\ bar {v _ {{r1 }}}} & {\ bar {v _ {{r2}}}} & \ ldots & v _ {{rn}} \\\ end {array}} \ right)} _ {{V ^ {{*} }}}

unde este $U$ ${\ displaystyle U}$ $U$ este o matrice ortogonală la stânga singular , $V^{*}$ ${\ displaystyle V ^ {*}}$ $V ^ {{*}}$ este matricea de transpunere conjugată a unei matrice ortogonale singulare drepte e $\Sigma$ ${\ displaystyle \ Sigma}$ $\ Sigma$ este o matrice diagonală singulară de ordine $r$ ${\ displaystyle r}$ $r$ (adică cu $r$ ${\ displaystyle r}$ $r$ valori diferite de zero).

Rangul matricei $LA$ ${\ displaystyle A}$ $LA$ , și în consecință a matricei singulare $\Sigma$ ${\ displaystyle \ Sigma}$ $\ Sigma$ , furnizați dimensiunea reală a celor trei matrice $U_{[m\times r]}$ ${\ displaystyle U _ {[m \ times r]}}$ $U _ {{[m \ times r]}}$ , $\Sigma _{[r\times r]}$ ${\ displaystyle \ Sigma _ {[r \ times r]}}$ $\ Sigma _ {{[r \ times r]}}$ Și $V_{[r\times n]}^{*}$ ${\ displaystyle V _ {[r \ times n]} ^ {*}}$ $V _ {{[r \ times n]}} ^ {{*}}$ .

The $r$ ${\ displaystyle r}$ $r$ coloane ale matricei $U$ ${\ displaystyle U}$ $U$ si $r$ ${\ displaystyle r}$ $r$ rânduri ale matricei $V^{*}$ ${\ displaystyle V ^ {*}}$ $V ^ {{*}}$ reprezintă vectorii proprii ortogonali asociați cu $r$ ${\ displaystyle r}$ $r$ valorile proprii ale $A\cdot A^{*}$ ${\ displaystyle A \ cdot A ^ {*}}$ $A \ cdot A ^ {{*}}$ Și $A^{*}\cdot A$ ${\ displaystyle A ^ {*} \ cdot A}$ $A ^ {{*}} \ cdot A$ . Cu alte cuvinte, $r$ ${\ displaystyle r}$ $r$ coloane de $U$ ${\ displaystyle U}$ $U$ corespund unor valori singulare diferite de zero ale spațiului coloanei matricei $LA$ ${\ displaystyle A}$ $LA$ si $r$ ${\ displaystyle r}$ $r$ rânduri de $V^{*}$ ${\ displaystyle V ^ {*}}$ $V ^ {{*}}$ corespund unor valori singulare diferite de zero care corespund spațiului rândurilor matricei $LA$ ${\ displaystyle A}$ $LA$ .

Mai mult, a fi $U$ ${\ displaystyle U}$ $U$ Și $V^{*}$ ${\ displaystyle V ^ {*}}$ $V ^ {{*}}$ două matrice unitare, au următoarea proprietate:

U\cdot U^{*}=I\qquad V\cdot V^{*}=I

{\ displaystyle U \ cdot U ^ {*} = I \ qquad V \ cdot V ^ {*} = I}

U \ cdot U ^ {{*}} = I \ qquad V \ cdot V ^ {{*}} = I

Aplicații

SVD are numeroase aplicații în domeniul algebrei liniare. În primul rând, oferă informații importante despre matrice $LA$ ${\ displaystyle A}$ $LA$ , la fel ca rangul său, care este nucleul său și care este imaginea sa. Este folosit pentru a defini pseudo-inversul unei matrici dreptunghiulare utile pentru soluționarea problemei celor mai mici pătrate . Este, de asemenea, utilizat în rezolvarea unui sistem liniar omogen de ecuații .

O altă aplicație importantă se referă la aproximarea matricei $LA$ ${\ displaystyle A}$ $LA$ , cu un rang inferior (SVD trunchiat), utilizat în procesarea imaginilor și procesarea semnalului .

SVD are, de asemenea, aplicații cunoscute în domeniul analizei componentelor principale . ^[1] ^[2]

Exemplu

Având în vedere matricea:

{\begin{bmatrix}1&0&0&0&2\\0&0&3&0&0\\0&0&0&0&0\\0&4&0&0&0\end{bmatrix}}

{\ displaystyle {\ begin {bmatrix} 1 & 0 & 0 & 0 & 2 \\ 0 & 0 & 3 & 0 & 0 \\ 0 & 0 & 0 & 0 & 0 \\ 0 & 4 & 0 & 0 & 0 \ end {bmatrix}}}

{\ begin {bmatrix} 1 & 0 & 0 & 0 & 2 \\ 0 & 0 & 3 & 0 & 0 \\ 0 & 0 & 0 & 0 & 0 \\ 0 & 4 & 0 & 0 & 0 \ end {bmatrix}}

o descompunere de valoare singulară este dată de:

U={\begin{bmatrix}0&0&1&0\\0&1&0&0\\0&0&0&-1\\1&0&0&0\end{bmatrix}};\;\Sigma ={\begin{bmatrix}4&0&0&0&0\\0&3&0&0&0\\0&0&{\sqrt {5}}&0&0\\0&0&0&0&0\end{bmatrix}};\;V^{*}={\begin{bmatrix}0&1&0&0&0\\0&0&1&0&0\\{\sqrt {0.2}}&0&0&0&{\sqrt {0.8}}\\0&0&0&1&0\\-{\sqrt {0.8}}&0&0&0&{\sqrt {0.2}}\end{bmatrix}}

{\ displaystyle U = {\ begin {bmatrix} 0 & 0 & 1 & 0 \\ 0 & 1 & 0 & 0 \\ 0 & 0 & 0 & -1 \\ 1 & 0 & 0 & 0 \ end {bmatrix }}; \; \ Sigma = {\ begin {bmatrix} 4 & 0 & 0 & 0 & 0 \\ 0 & 3 & 0 & 0 & 0 & 0 \\ sqrt {5}} & 0 & 0 \\ 0 & 0 & 0 & 0 & 0 \ end {bmatrix}}; \; V ^ {*} = {\ begin {bmatrix} 0 & 1 & 0 & 0 & 0 \\ 0 & 0 & 1 & 0 & 0 \ \ {\ sqrt {0.2}} & 0 & 0 & 0 & {\ sqrt {} 0.8} \\ 0 & 0 & 0 & 1 & 0 \\ - {\ sqrt {0.8}} & 0 & 0 & 0 & {\ sqrt {0.2}} \ end {bmatrix}}}

{\ displaystyle U = {\ begin {bmatrix} 0 & 0 & 1 & 0 \\ 0 & 1 & 0 & 0 \\ 0 & 0 & 0 & -1 \\ 1 & 0 & 0 & 0 \ end {bmatrix }}; \; \ Sigma = {\ begin {bmatrix} 4 & 0 & 0 & 0 & 0 \\ 0 & 3 & 0 & 0 & 0 & 0 \\ sqrt {5}} & 0 & 0 \\ 0 & 0 & 0 & 0 & 0 \ end {bmatrix}}; \; V ^ {*} = {\ begin {bmatrix} 0 & 1 & 0 & 0 & 0 \\ 0 & 0 & 1 & 0 & 0 \ \ {\ sqrt {0.2}} & 0 & 0 & 0 & {\ sqrt {} 0.8} \\ 0 & 0 & 0 & 1 & 0 \\ - {\ sqrt {0.8}} & 0 & 0 & 0 & {\ sqrt {0.2}} \ end {bmatrix}}}

Avem:

{\begin{bmatrix}1&0&0&0&2\\0&0&3&0&0\\0&0&0&0&0\\0&4&0&0&0\end{bmatrix}}={\begin{bmatrix}0&0&1&0\\0&1&0&0\\0&0&0&-1\\1&0&0&0\end{bmatrix}}\cdot {\begin{bmatrix}4&0&0&0&0\\0&3&0&0&0\\0&0&{\sqrt {5}}&0&0\\0&0&0&0&0\end{bmatrix}}\cdot {\begin{bmatrix}0&1&0&0&0\\0&0&1&0&0\\{\sqrt {0.2}}&0&0&0&{\sqrt {0.8}}\\0&0&0&1&0\\-{\sqrt {0.8}}&0&0&0&{\sqrt {0.2}}\end{bmatrix}}

{\ displaystyle {\ begin {bmatrix} 1 & 0 & 0 & 0 & 2 \\ 0 & 0 & 3 & 0 & 0 \\ 0 & 0 & 0 & 0 & 0 \\ 0 & 4 & 0 & 0 & 0 \ end {bmatrix}} = {\ begin {bmatrix} 0 & 0 & 1 & 0 \\ 0 & 1 & 0 & 0} \ & 0 & 0 & 0 & 1 brix \\ 0 & 0 & 1 \ cdot {\ begin {bmatrix} 4 & 0 & 0 & 0 & 0 \\ 0 & 3 & 0 & 0 & 0 \\ 0 & 0 & {\ sqrt {5}} & 0 & 0 \\ 0 & 0 & 0 & 0 & 0 & 0 \ end {bmatrix}} \ cdot {\ begin {bmatrix} 0 & 1 & 0 & 0 & 0 & 0 \\ 0 & sq & 0 0.2}} & 0 & 0 & 0 & {\ sqrt {0.8}} \\ 0 & 0 & 0 & 1 & 0 \\ - {\ sqrt {0.8}} & 0 & 0 & 0 & {\ sqrt {0.2}} \ end {bmatrix}}}

{\ displaystyle {\ begin {bmatrix} 1 & 0 & 0 & 0 & 2 \\ 0 & 0 & 3 & 0 & 0 \\ 0 & 0 & 0 & 0 & 0 \\ 0 & 4 & 0 & 0 & 0 \ end {bmatrix}} = {\ begin {bmatrix} 0 & 0 & 1 & 0 \\ 0 & 1 & 0 & 0} \ & 0 & 0 & 0 & \ brix 1 & \\ 0 & 0 & 1 brix \ \ cdot {\ begin {bmatrix} 4 & 0 & 0 & 0 & 0 \\ 0 & 3 & 0 & 0 & 0 \\ 0 & 0 & {\ sqrt {5}} & 0 & 0 \\ 0 & 0 & 0 & 0 & 0 & 0 \ end {bmatrix}} \ cdot {\ begin {bmatrix} 0 & 1 & 0 & 0 & 0 & 0 \\ 0 & sq & 0 0.2}} & 0 & 0 & 0 & {\ sqrt {0.8}} \\ 0 & 0 & 0 & 1 & 0 \\ - {\ sqrt {0.8}} & 0 & 0 & 0 & {\ sqrt {0.2}} \ end {bmatrix}} }

Înmulțirea matricilor $U$ ${\ displaystyle U}$ $U$ sau $V^{*}$ ${\ displaystyle V ^ {*}}$ $V ^ *$ pentru transpunerile lor respective, se obține matricea identității , adică ambele matrice sunt ortogonale :

{\begin{bmatrix}0&0&1&0\\0&1&0&0\\0&0&0&-1\\1&0&0&0\end{bmatrix}}\cdot {\begin{bmatrix}0&0&0&1\\0&1&0&0\\1&0&0&0\\0&0&-1&0\end{bmatrix}}={\begin{bmatrix}1&0&0&0\\0&1&0&0\\0&0&1&0\\0&0&0&1\end{bmatrix}}

{\ displaystyle {\ begin {bmatrix} 0 & 0 & 1 & 0 \\ 0 & 1 & 0 & 0 \\ 0 & 0 & 0 & -1 \\ 1 & 0 & 0 & 0 \ end {bmatrix}} \ cdot {\ begin {bmatrix} 0 & 0 & 0 & 1 \\ 0 & 1 & 0 & 0 \\ 1 & 0 & 0 & 0 & 0 \\ 0 bmatrix}} = {\ begin {bmatrix} 1 & 0 & 0 & 0 \\ 0 & 1 & 0 & 0 \\ 0 & 0 & 1 & 0 \\ 0 & 0 & 0 & 1 \ end {bmatrix}}}

{\ begin {bmatrix} 0 & 0 & 1 & 0 \\ 0 & 1 & 0 & 0 \\ 0 & 0 & 0 & -1 \\ 1 & 0 & 0 & 0 \ end {bmatrix}} \ cdot { \ begin {bmatrix} 0 & 0 & 0 & 1 \\ 0 & 1 & 0 & 0 \\ 1 & 0 & 0 & 0 \} 0 & -1matrix = {\ begin {bmatrix} 1 & 0 & 0 & 0 \\ 0 & 1 & 0 & 0 \\ 0 & 0 & 1 & 0 \\ 0 & 0 & 0 & 1 \ end {bmatrix}}

Și:

{\begin{bmatrix}0&0&{\sqrt {0.2}}&0&-{\sqrt {0.8}}\\1&0&0&0&0\\0&1&0&0&0\\0&0&0&1&0\\0&0&{\sqrt {0.8}}&0&{\sqrt {0.2}}\end{bmatrix}}\cdot {\begin{bmatrix}0&1&0&0&0\\0&0&1&0&0\\{\sqrt {0.2}}&0&0&0&{\sqrt {0.8}}\\0&0&0&1&0\\-{\sqrt {0.8}}&0&0&0&{\sqrt {0.2}}\end{bmatrix}}={\begin{bmatrix}1&0&0&0&0\\0&1&0&0&0\\0&0&1&0&0\\0&0&0&1&0\\0&0&0&0&1\end{bmatrix}}

{\ displaystyle {\ begin {bmatrix} 0 & 0 & {\ sqrt {0.2}} & 0 & - {\ sqrt {0.8}} \\ 1 & 0 & 0 & 0 & 0 \\ 0 & 1 & 0 & 0 & 0 \\ 0 & 0 & 0 & 1 & 0 \\ 0 & 0 & {\ sqrt {0.8}} & 0 & {\ sqrt 0.2}} \ end {bmatrix}} \ cdot {\ begin {bmatrix} 0 & 1 & 0 & 0 & 0 \\ 0 & 0 & 1 & 0 & 0 \\ {\ sqrt {0.2}} & 0 & 0 & 0 & {\ sqrt {0.8}} \\ 0 & 0 & 0 & 1 & 0 \\ - {\ sqrt {0.8}} & 0 & 0 & 0 & {\ sqrt {0.2}} \ end {bmatrix}} = {\ begin {bmatrix} 1 & 0 & 0 & 0 & 0 \\ 0 & 1 & 0 & 0 & 0 \\ 0 & 0 & 1 & 0 & 0 \\ 0 & 0 & 0 & 1 & 0 \\ 0 & 0 & 0 & 0 & 1}} end} {bmatrix

{\ begin {bmatrix} 0 & 0 & {\ sqrt {0.2}} & 0 & - {\ sqrt {0.8}} \\ 1 & 0 & 0 & 0 & 0 \\ 0 & 1 & 0 & 0 & 0 \\ 0 & 0 & 0 & 1 & 0 \\ 0 & 0 & {\ sqrt {0.8}} & 0 & {\ sqrt {0.2}} \ end {bmatrix}} \ cdot {\ begin {bmatrix} 0 & 1 & 0 & 0 & 0 \\ 0 & 0 & 1 & 0 & 0 \\ {\ sqrt {0.2}} & 0 & 0 & 0 & {\ sqrt {0.8}} \\ 0 & 0 & 0 & 1 & 0 \\ - {\ rt {0.8}} & 0 & sq & 0 \ sqrt {0.2}} \ end {bmatrix}} = {\ begin {bmatrix} 1 & 0 & 0 & 0 & 0 \\ 0 & 1 & 0 & 0 & 0 \\ 0 & 0 & 1 & 0 & 0 \\ 0 & 0 & 0 & 1 & 0 \\ 0 & 0 & 0 & 0 & 1 \ end {bmatrix}}

De asemenea, se poate observa că descompunerea cu valoare singulară nu este unică pentru fiecare matrice. De exemplu, alegerea aceleiași matrice $U$ ${\ displaystyle U}$ $U$ , poti sa o obtii:

V^{*}={\begin{bmatrix}0&1&0&0&0\\0&0&1&0&0\\{\sqrt {0.2}}&0&0&0&{\sqrt {0.8}}\\{\sqrt {0.4}}&0&0&{\sqrt {0.5}}&-{\sqrt {0.1}}\\-{\sqrt {0.4}}&0&0&{\sqrt {0.5}}&{\sqrt {0.1}}\end{bmatrix}}

{\ displaystyle V ^ {*} = {\ begin {bmatrix} 0 & 1 & 0 & 0 & 0 \\ 0 & 0 & 1 & 0 & 0 \\ {\ sqrt {0.2}} & 0 & 0 & 0 & {\ sqrt {0.8}} \\ {\ sqrt {0.4}} & 0 & 0 & {\ sqrt {0.5}} & - {\ sqrt {0.1}} \\ - {\ sqrt {0.4}} & 0 & 0 & {\ sqrt {0.5}} & {\ sqrt {0.1}} \ end {bmatrix}}}

V ^ {*} = {\ begin {bmatrix} 0 & 1 & 0 & 0 & 0 \\ 0 & 0 & 1 & 0 & 0 \\ {\ sqrt {0.2}} & 0 & 0 & 0 & {\ sqrt {0.8}} \\ {\ sqrt {0.4}} & 0 & 0 & {\ sqrt {0.5}} & - {\ sqrt {0.1}} \\ - {\ sqrt {0.4}} & 0 & 0 & {\ sqrt {0.5}} și {\ sqrt {0.1}} \ end {bmatrix}}

care este o altă descompunere validă la singular.

Notă

^ Wall-Rechtsteiner-Rocha .
^ (EN) Glenn Tesler, Principal Components Analysis (PCA) and Singular Value Decomposition (SVD) with applications to Microarrays (PDF) on math.ucsd.edu, UCSD - Department of Mathematics, 2015. Accesat la 30 iunie 2017 (arhivat din adresa URL originală la 30 iunie 2017) .

Bibliografie

( EN ) Gene H. Golub , Charles F. Van Loan, Matrix computations , ediția a treia, Johns Hopkins University Press, 1996, ISBN 0-8018-5414-8 .
( EN ) Lloyd N. Trefethen și David Bau III, Algebra liniară numerică , Philadelphia, Society for Industrial and Applied Mathematics, 1997, ISBN 978-0-89871-361-9 .
( EN ) Gene H. Golub și Charles F. Van Loan , Matrix Computations , 3rd, Johns Hopkins, 1996, ISBN 978-0-8018-5414-9 .
(EN) Horn, Roger A.; Johnson, Charles R., Secțiunea 7.3 , în Matrix Analysis , Cambridge University Press, 1985, ISBN 0-521-38632-2 .
(EN) Horn, Roger A.; Johnson, Charles R.,capitolul 3 , în Topics in Matrix Analysis , Cambridge University Press, 1991, ISBN 0-521-46713-6 .
( EN ) Samet, H., Fundamente ale structurilor de date multidimensionale și metrice , Morgan Kaufmann, 2006, ISBN 0-12-369446-9 .
( EN ) Strang G., Secțiunea 6.7 , în Introducere în algebra liniară , a treia, Wellesley-Cambridge Press, 1998, ISBN 0-9614088-5-5 .
( EN ) Michael E. Wall, Andreas Rechtsteiner, Luis M. Rocha, Singular value descomposition and principal component analysis , în DP Berrar, W. Dubitzky, M. Granzow (ed.), A Practical Approach to Microarray Data Analysis , Norwell, MA, Kluwer, 2003, pp. 91 -109.

Elemente conexe

linkuri externe

(EN) descompunere valoare singulară , în PlanetMath .
( EN ) Echipa GSL, §14.4 Descompunerea valorii unice , în Biblioteca Științifică GNU. Manual de referință , 2007.

Portalul de matematică : accesați intrările Wikipedia care se ocupă de matematică

[1] Wall-Rechtsteiner-Rocha .

[2] (EN) Glenn Tesler, Principal Components Analysis (PCA) and Singular Value Decomposition (SVD) with applications to Microarrays (PDF) on math.ucsd.edu, UCSD - Department of Mathematics, 2015. Accesat la 30 iunie 2017 (arhivat din adresa URL originală la 30 iunie 2017) .

[1]

[2]

V · D · M Algebră liniară
Spațiu vectorial	Purtător · subspațiu ( Subspatiu generat ) · Aplicație liniară ( nucleu · Imagine ) · Bază · Dimensiune · Teorema dimensiunii · Formula Grassmann · Sistem liniar · Algoritm Gauss · Teorema Rouché-Capelli · Regula lui Cramer · Spațiu dual · Spațiul proiectiv · Spațiul afinat · Dimensiunea teorema pentru spațiile vectoriale
Matrici	Identitate · Nimic · Pătrat · Reversibil · Simetric · înclinat · Transpunere · Diagonală · Triunghi · Ca schimbare de bază · Ortogonală · Normală · Simplectică · Multiplicarea matricilor · Rang · Teorema Kronecker · Minor · Matricea cofactorilor · Determinant · Teorema Binet · Laplace teorema · Rădăcina pătrată a unei matrice
Diagonalizabilitate	Valori proprii și vectori proprii · Spectru · Caracteristică polinomială · Minim polinomial · Teorema Cayley-Hamilton · Bloc matricial · Formă canonică Jordan · Diagonalizabilitatea teoremei
Produs scalar	Forma biliniară · subspațiu ortogonală · spațiu euclidian · ortonormală de bază · Lagrange Algoritmul · Mark · teorema lui Sylvester · Gram-Schmidt · Forma sesquilineare · Hermitian Forma · Spectral teorema