... Sovka¹

Tyto stránky částečně čerpají ze starší verze stránek pro cvičení od Romana Čmejly a Pavla Sovky.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... Z-transformaci^1.1

Zde jen krátce uvedu, že Z-transformace definovaná $X(z) = \sum_{n=0}^{\infty} x[n] z^n$, je lineární, dále zpoždění předmětu ($x[n]$) o $k$ vzorků se v obraze projeví násobením obrazu nezpožděného předmětu ($X(z)$) faktorem $z^{-k}$.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... ^1.2

Pro spojitě rozloženou n. v. $x$ s hustotou pravděpodobnosti $f(x)$ střední hodnotu definujeme $\mathrm{E}[x] = \intop_{-\infty}^{\infty}x f(x) \mathrm{d}x$

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

...filter ^1.3

Nápověda: Uvědomte si, že impulsová odezva je výstup systému pri buzení jednotkovým impulsem při nulových počátečních podmínkách. Chceme-li prvních 100 vzorků impulsové odezvy stačí zavolat filter(B,A,[1; zeros(99,1)]).

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... přesnosti?^2.1

Ktomu abyste zjistili, který z odhadů je více lokální si uvědomte, které vzorky pro dané $n$ k odhadu nejvíce přispívají. U průběžného odhadu se jedná o LTI systém a tedy hodnoty odhadu pro různá $n$ obdržíme konvolucí s impulsovou odezvou, vzpomeňte si jak vypadala, viz. 1. cvičení. U rekurentního odhadu si pořádně prohlédněte rekurzi a zjistíte, že hodnota odhadu pro dané $n$ je střední hodnota vzorků $x[1],\ldots,x[n]$.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... přednášce^2.2

Z (2.1),(2.2) lze jednoduše sestavit věrohodnost pro parametry $a_1,\ldots,a_M$ a $\sigma^2$, a určit ML odhad AR koeficientů, když tak učiníte zjistíte, že tento odhad je shodný se zde uvedeným (nejmenší čtverce).

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... ^2.3

Zde lze již název predikce signálu $x_p[n]$ lépe zdůvodnit. Minimalizací disperze $e[n]$ se vlastně snažíme, aby $x_p[n]$ byla $x[n]$ co nejblíž. Z (2.5) je vidět, že $x_p[n]$ je konstruována pouze s použitím minulých vzorků $x[n]$ ($x[n-1]$, $x[n-2]$, ...) nikoli $x[n]$ samotného (lze tedy vyčíslit již v čase $n-1$), odtud název predikce $x[n]$.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... (gradient)^2.4

Když Vám nebude jasné, jak se dospělo k derivaci výrazu $\mathbf{a}^T \mathbf{R}_{xx} \mathbf{a}$, uvědomte si předně, že $\mathbf{R}_{xx}$ jako autokorelační matice musí být symetrická ( $\mathbf{R}_{xx} = \mathbf{R}_{xx}^T$). Dále si rozepište součin $\mathbf{a}^T \mathbf{R}_{xx} \mathbf{a}$ pro rozměr matice $2\times2$ pomocí prvků $\mathbf{R}_{xx}$ (ze symetrie vystačíte pouze se třemi symboly) a složek $\mathbf{a}$. Roznásobte a jednoduše zderivujte podle první složky vektoru $\mathbf{a}$ a pak podle druhé. Uspořádáte-li výsledeky do sloupcového vektoru, vyjde Vám vektor $2\mathbf{R}_{xx} \mathbf{a}$. Uvidíte, že výsledek $\mathbf{a}^T \mathbf{A} \mathbf{a} = 2\mathbf{A} \mathbf{a}$ pro $\mathbf{A} = \mathbf{A}^T$ lze jednoduše zobecnit pro jakýkoli rozměr $\mathbf{A}$. Derivace výrazu $\mathbf{a}^T \mathbf{r}_p$, je již mnohem jednodušší úloha.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... blok^2.5

Vyberte si nějaký, kde je řečový signál výrazný. Zkuste také volit znělý, neznělý blok.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

...specgram(y)^2.6

Funkce specgram bohužel vytváří trochu špatně časovou osu (podívejte se na obrázek).

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... ^3.1

Inverze vztahu dopadne přesně takto

$$\varphi(t) = \varphi(0) + \int_{0}^{t} \omega(\tau) \mathrm{d} \tau,$$

ale protože nám příliš nepůjde o počáteční fázi, omezím se zde na použití neurčitého integrálu.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... gradientu^3.2

Gradient udává směr (zde v prostoru vah) ve kterém funkce (zde $e^2[n]$) roste nejrychleji.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... popisováno^3.3

Jestli někomu chybí 2 z gradientu lze zahrnout do $\mu$ (konstantu $\mu$ jsem kvůli tomu nepřeznačoval)

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... ^3.4

Přesně filtr s proměnnými vahami nemusí mít nuly, není totiž LTI a nemusí mít vůbec přenosovou funkci (ale najdou se výjimky).

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

...plant_A ^4.1

neznámý systém se obvykle označuje jako plant (kytička).

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... povrch^4.2

Všimněte si, že váhy nemají již index $n$, označením $\mathrm{E}[e^2[n]](\mathbf{w})$ míníme MSE pro fixní váhy filtru (v ustáleném stavu)

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... predikovat^5.1

Adaptivní filtr v Obr. 5.1 vytváří lineární kombinaci minulých vzorků vstupu $x[n]$ tedy predikci $x_p[n]$. Chyba $e[n]$ vzniká tak, že se od vstupu $x[n]$ odčítá jeho predikce $x_p[n]$, proto zde má predikovatelnost velký význam pro minimalizaci $\mathrm{E}[e^2[n]]$.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... jednoznačná^7.1

Sloupcové vektory $\tilde{\mathbf{Q}}_1$ tvoří ortonormální bázi doplňku $<\mathbf{v}_{i,0}>$ k $\mathcal{R}^N$.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... determinantu^7.2

$\vert\mathbf{A}\mathbf{B}\vert = \vert\mathbf{A}\vert \vert\mathbf{B}\vert$

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... typu^7.3

Rozklad se nazývá vlastním rozkladem matice $\mathbf{A}$.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... ^7.4

Existenci $\mathbf{P}^{\frac{1}{2}}[n-1]$ dokážeme následovně. Jelikož $\mathbf{P}[n-1]$ symetrická, existuje její vlastní rozklad, viz. lemma 7.5 $\mathbf{P}[n-1] = \mathbf{V} \mathbf{D} \mathbf{V}^T$, kde $\mathbf{V}$ je ortogonální ( $\mathbf{V}^T\mathbf{V} = \mathbf{E}$) a $\mathbf{D}$ je diagonální. Definuji matici $\mathbf{D}^{\frac{1}{2}}$ jako diagonální matici jež má na diagonále odmocněné diagonální prvky $\mathbf{D}$ (povšiměte si, že $\mathbf{D}^{\frac{1}{2}}\mathbf{D}^{\frac{1}{2}}= \mathbf{D}$). Matici $\mathbf{P}^{\frac{1}{2}}[n-1]$ požadovaných vlastností pak sestrojím takto $\mathbf{P}^{\frac{1}{2}}[n-1] = \mathbf{V} \mathbf{D}^{\frac{1}{2}} \mathbf{V}^T$. Uvedená matice je jistě symetrická ( $(\mathbf{P}^{\frac{1}{2}}[n-1])^T = \mathbf{P}^{\frac{1}{2}}[n-1]$) a z ortogonality $\mathbf{V}$ platí $(\mathbf{P}^{\frac{1}{2}}[n-1])\mathbf{P}^{\frac{1}{2}}[n-1] = \mathbf{V} \mat... ...rac{1}{2}} \mathbf{V}^T = \mathbf{V} \mathbf{D} \mathbf{V}^T = \mathbf{P}[n-1]$

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... závorky^7.5

Platí $(\mathbf{A}\mathbf{B})^{-1} = \mathbf{B}^{-1}\mathbf{A}^{-1}$ (utvořte součin levé a pravé strany rovnosti).

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... přiblížení^8.1

Pro pomalu měnící se váhy (dostatečně malé $\mu$) mohu systém považovat přibližně za LTI s váhami $c_1[n],c_2[n]$ pro nějaké malé okolí času $n$.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... kaskády^8.2

Impulsová odezva celé kaskády je dána jako konvoluce impulsových odezev obou prediktorů a konvoluce je komutativní $e = (x * h_1) * h_2 = (x * h_2) * h_1$.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... variancí^10.1

Předpoklady nulových středních hodnot nenulových variancí jsou zde kvůli zpřehlednění výkladu (při výpočtu rozptylů nemusíme odečítat střední hodnoty, pro nenulové rozptyly vychází jednodušší struktura vlastního rozkladu korelačních matic). Jejich vynecháním lze obdržet obecněji aplikovatelné výsledky.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... inverze^10.2

Všiměte si, že jsouli náhodné veličiny $x$,$y$ nezávislé, pak jsou nezávislé i $\alpha y$,$\beta x$ ( $\alpha,\beta$ jsou nějaké reálné konstanty).

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... prvek^10.3

Při násobení jednotkovou maticí $\mathbf{E}\mathbf{a}$ se zachovává všechno (měřítka i pořadí složek $\mathbf{a}$). Proházení (permutaci) složek výsledku dosáhneme také proházením řádků $\mathbf{E}$. Všiměte si, že vzniklou matici pak můžete charakterizovat tak, že má v každém řádku a sloupci právě jednu jedničku. Taková matice se nazývá permutační (provádí permutaci složek $\mathbf{a}$). Připustíme-li navíc změnu měřítka, máme naši definici separační matice.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

...\space ^10.4

To poznáme tak, že neumíme sestrojit významě odlišnou matici (která se neliší pouze permutacemi a měřítky) pro kterou jsou separované složky rovněž nezávislé.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... složek^11.1

Nelze nalézt jinou významě odlišnou transformaci (lišící se i jinak než permutací a měřítky složek) uvedených vlastností (poskytne vektor s nezávislými složkami).

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... ukázat^11.2

Záměna derivace a integrálu není samozřejmá (záměna dvou limit), ale zde je možná. Vysvětlení neuvádím.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... kolmé^11.3

Všiměte si, že jakákoli ortogonální transformace $\mathbf{W}$ zachvává skalární součin $(\mathbf{W}\mathbf{a})^T (\mathbf{W}\mathbf{b}) = \mathbf{a}^T\mathbf{W}^T \mathbf{W}\mathbf{b} = \mathbf{a}^T\mathbf{b}$.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

... ^12.1

$JK-J$ je dimenze $\mathbf{C}^T\mathbf{w} = \mathbf{o}$.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.