11. Cvičení 11: Dokončení separace - použití statistik vyšších řádů

Shrňme nejprve závěry z minulého cvičení věnovanému separaci pomocí statistik 2. řádů. Máme k dispozici směs nezávislých procesů. Směs je reprezentována náhodným vektorem $\mathbf{x}$

$$\mathbf{x} = \mathbf{M}\mathbf{s},$$ (11.1)

kde $\mathbf{M}$ je jakákoli regulární matice (mixážní matice) a náhodný vektor $\mathbf{s}$ s nezávislými složkami reprezentuje ony nezávislé procesy. $\mathbf{M}$ i $\mathbf{s}$ nejsou známy. Naším cílem je najít transformaci (separační matici), která ze směsi obnoví původní nezávislé procesy (s pomocí reprezentujících náhodných vektorů: která z $\mathbf{x}$ separuje původní složky $\mathbf{s}$). Používáme k tomu nezávislost složek $\mathbf{s}$. Hledáme tedy transformaci, která transformuje $\mathbf{x}$ na náhodný vektor s nezávislými složkami. To že nalezená transformace skutečně separuje původní složky $\mathbf{s}$ nemusí být pravda viz. příklad s normálními rozděleními viz. Obr. 10.5, ale je-li transformace nezávislostí složek výsledku určena jednoznačně, až na permutaci a měřítka složek ^11.1, pak musí separovat původní složky $\mathbf{s}$ ( $\mathbf{M}^{-1}$ má také uvedené vlastnosti, tak to musí být z jednoznačnosti ona, až na permutci a měřítka).

Označme $\mathbf{V}$ ortogonální matici a $\mathbf{D}$ diagonální matici vlastního rozkladu korelační matice $\mathbf{R}_{xx}$

$$\mathbf{R}_{xx} = \mathbf{V}\mathbf{D}\mathbf{V}^T .$$ (11.2)

Bylo ukázáno, že transformace

$$\mathbf{v} = \mathbf{D}^{-\frac{1}{2}}\mathbf{V}^T\mathbf{x}$$ (11.3)

složky $\mathbf{x}$ vždy dekoreluje, což lze nahlédnout výpočtem korelační matice výsledku

$$\mathbf{R}_{vv} = \mathrm{E}[\mathbf{v}\mathbf{v}^T] = \mathbf{D}... ...hbf{V}\mathbf{D}\mathbf{V}^T \mathbf{V}\mathbf{D}^{-\frac{1}{2}} = \mathbf{E} .$$ (11.4)

To samozřejmě ještě neznamená, že $\mathbf{v}$ musí mít nezávislé složky. Zbývá tedy najít transformaci (matici) $\mathbf{W}$

$$\mathbf{z} = \mathbf{W}\mathbf{v} ,$$ (11.5)

která transformuje $\mathbf{v}$ na vektor s nezávislými složkami (označen $\mathbf{z}$). Z nezávislosti složek $\mathbf{z}$ plyne jejich nekorelovanost (změny měřítek mě opět nezajímají, proto se místo diagonální omezuji opět na jednotkovou korelační matici)

$$\mathbf{R}_{zz} = \mathbf{E} .$$ (11.6)

Korelační matici můžeme vyjádřit rovněž pomocí (11.5) a (11.4)

$$\mathbf{R}_{zz} = \mathrm{E}[\mathbf{z}\mathbf{z}^T] = \mathbf{W}... ..._{vv}\mathbf{W}^T = \mathbf{W}\mathbf{E}\mathbf{W}^T = \mathbf{W}\mathbf{W}^T .$$ (11.7)

Z (11.6) a (11.7) dostáváme omezující podmínku na možné $\mathbf{W}$

$$\mathbf{W}\mathbf{W}^T = \mathbf{E} .$$ (11.8)

Hledaná matice $\mathbf{W}$ tedy musí být ortogonální. Dekorelace (vybělení) složek $\mathbf{x}$ tedy nevede obecně k separaci, ale úlohu značně zjednodušší (při hledání vhodné matice $\mathbf{W}$ nemusíme vybírat mezi všemi regulárními maticemi, ale stačí se soustředit na ortogonální matice).