Sezione 21.8: Single frequency network - SFN Su Capitolo 21: Sistemi multiantenna o MIMO Part IV: Sistemi di Telecomunicazione 

21.9 Appendice

21.9.1 Entropia di variabile gaussiana complessa multivariata

Estendiamo il risultato trovato al § 9.3.2 per l’entropia differenziale hG(X) = 12 log2(2πeσ2) di una v.a. gaussiana reale X con varianza σ2 a due altri casi, quello in cui X sia una v.a. vettoriale a componenti gaussiane (§ 6.5) con matrice di covarianza Σ, e quello in cui oltre a ciò, le v.a. marginali assumano valori complessi.
Caso reale
La v.a. X (vettore colonna ad n elementi) è descritta dalla d.d.p. n − dimensionale
(21.290)
pX(x) = 1√(2π)ndet(Σ) exp⎧⎩− 12( x − m)TΣ− 1( x − m)⎫⎭
alla quale applichiamo la definizione di entropia HX = E{ − log2 pX(x)}, ponendo m = 0 in quanto l’entropia differenziale è indipendente dalle traslazioni (pag. 1), e tenendo conto che log2 p(x) = ln p(x)ln2, in modo da ottenere
(21.291)
hGM  = 1ln2 E⎧⎩n2 ln (2π) + 12 ln (det( Σ)) + 12 xTΣ− 1 x⎫⎭ =       = 1ln2 ⎛⎝n2 ln (2π) + 12 ln (det( Σ)) + 12 E{xTΣ− 1 x}⎞⎠
All’ultimo termine si applica ora il trucco della traccia [1299]   [1299] Vedi ad es. https://sgfin.github.io/ che permette due sostituzioni: la prima è [1300]   [1300] L’operatore matriciale tr(A) restituisce la somma degli elementi sulla diagonale della matrice quadrata A. Dal momento che xΣxT è un numero, ovvero una matrice 1 × 1, la sua traccia è pari al numero stesso. xTΣ− 1 x =  tr(xTΣ− 1 x), e la seconda che si può scrivere [1301]   [1301] Nota come proprietà ciclica, vedi https://en.wikipedia.org/wiki/Trace_(linear_algebra) tr(UVW) =  tr(WUV), dunque
E{xTΣ− 1 x} = E{tr(xTΣ− 1 x)} =  tr(E{xxT}Σ− 1) = tr(ΣΣ− 1) = n
dato che E{xxT} è una matrice con elementi E{xixj} = σij ossia esattamente gli elementi della covarianza Σ, il cui prodotto per Σ− 1 è dunque la matrice identità di dimensione n. Pertanto risulta
(21.292)
hGM  = 1ln2 ⎛⎝n2 ln (2π) + 12 ln (det( Σ)) + n2⎞⎠
e dato che ln (e) = 1 scriviamo
hGM  = 1ln2 ⎛⎝n2 ln (2π) + 12 ln (det( Σ)) + n2 ln e⎞⎠ =       = 12 1ln2 ln ((2πe)ndet(Σ)) = 12 log2 ((2πe)ndet(Σ))
che può anche essere scritta come hGM = 12 log2(det(2πeΣ)).
Caso complesso
In questo caso Z è un vettore ad n componenti complesse zk = xk + jyk note come v.a. gaussiana centrata a simmetria circolare [1302]   [1302] Vedi ad es. https://en.wikipedia.org/wiki/Complex_normal_distribution, le cui parti reale ed immaginaria xk, yk sono v.a. gaussiane indipendenti (in quanto E{xky * k} = 0) a media nulla e varianza 12 σ 2k (in modo che E{zkz * k} = E{xkx * k} + E{yky * k} = σ2k), con matrice di covarianza ∑ Hermitiana [1303]   [1303] Ossia ∑ coincide con la propria trasposta coniugata (o aggiunta); dunque se la matrice è ad elementi reali, è simmetrica. Vedi ad es. https://it.wikipedia.org/wiki/Matrice_hermitiana ad elementi σi, j = E{ziz * j}. Per calcolare l’entropia hGC di questo tipo di sorgente informativa [1304]   [1304] O molto più banalmente, il campionamento dell’inviluppo complesso del rumore osservato su n canali equivalenti di bassa frequenza. si può procedere in (almeno) due modi: il primo prende in considerazione la d.d.p. di Z che ora si scrive
(21.293)
pX(z) = 1πndet(Σ) exp{ − z† Σ− 1 z }
in cui (a parte il resto) al posto del trasposto T che compare nella (21.290) ora si usa il trasposto coniugato † o Hermitiano. A partire dalla (21.293), applicando sviluppi analoghi alle (21.291) - (21.292) si può ottenere
hGC(Z) = log (det(πeΣ))
Un secondo modo di procedere prende in considerazione il fatto che l’entropia hGC(Z) è pari a quella h(X, Y) di un vettore [X, Y] = [ℜ{Z}, ℑ{Z}] ottenuto concatenando i vettori delle parti reale ed immaginaria di Z. Dato che gli elementi di X ed Y sono statisticamente indipendenti a coppie perché incorrelati, si ha h(X, Y) = h(X) + h(Y). Dato che inoltre sia X che Y sono vettori gaussiani a media nulla e covarianza 12  Σz l’entropia differenziale di ciascuno di essi è pari a 12 log2⎛⎝det(2πe 12 Σz)⎞⎠. Mettendo tutto assieme si ottiene
hGC(Z)  = h(X, Y) = h(X) + h(Y) =       = 12 log2⎛⎝det(2πe 12 Σz)⎞⎠ + 12 log2⎛⎝det(2πe 12 Σz)⎞⎠ =       = log2(det(πe Σz))
 Sezione 21.8: Single frequency network - SFN Su Capitolo 21: Sistemi multiantenna o MIMO Part IV: Sistemi di Telecomunicazione