Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples...

54
Señales Aleatorias Ingeniería Electrónica de Comunicaciones Jesús Chacón Sombría Departamento de Arquitectura de Computadores y Automática Universidad Complutense de Madrid Curso 2020-2021 Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 1 / 54

Transcript of Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples...

Page 1: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Señales Aleatorias

Ingeniería Electrónica de Comunicaciones

Jesús Chacón Sombría

Departamento de Arquitectura de Computadores y AutomáticaUniversidad Complutense de Madrid

Curso 2020-2021

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 1 / 54

Page 2: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Esquema

1 Objetivos

2 Introducción

3 Variables aleatorias

4 Señales aleatorias

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 2 / 54

Page 3: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Objetivos del tema

Aprender a distinguir desde un punto de vista matemático elcomportamiento de las señales deterministas y los diferentestipos de señales aleatorias (estacionarias, ergódicas, procesode Markov).Definir matemáticamente las propiedades más relevantes de:• Variables aleatoria: distribución/densidad de probabilidad,

valor medio, valor cuadrático medio, varianza, correlación• Señales aleatorias: valor medio, valor cuadrático medio,

covarianza, autocorrelacionn y correlación cruzada,densidad espectral de potencia

Procesamiento de señales aleatorias a través de las técnicasde procesamiento de señales deterministas

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 3 / 54

Page 4: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Esquema

1 Objetivos

2 Introducción

3 Variables aleatorias

4 Señales aleatorias

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 4 / 54

Page 5: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Señales deterministas y estocásticas I

Señales deterministas:• Toman siempre el mismo valor para el mismo instante de tiempo.• Se representan por una única secuencia continua/discreta de valores.• El valor en cada instante puede ser definido de forma explícita.• Función matemática determinista: t → f (t)

relaciona el valor de la señal con el valor de variable independiente (tiempo).

Señales estocásticas/aleatorias:• No toman siempre el mismo valor para un mismo instante de tiempo.• Colección infinita de secuencias continuas/discretas de valores.• El valor en cada instante es una variable aleatoria.• El comportamiento se define a través de una función de probabilidad.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 5 / 54

Page 6: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Señales deterministas y estocásticas II

Señal determinista:

0 2 4 6 8 10−1

−0.8

−0.6

−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

t (s)

x(t

)

x(t) = sen(ωt)

Señal estocástica:

0 2 4 6 8 10−4

−3

−2

−1

0

1

2

3

4

5

6

t (s)

x(t

)

p(x(t0), x(t1), x(t2), . . . , x(t∞))

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 6 / 54

Page 7: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Señales deterministas y estocásticas III

¿Las señales reales son deterministas o estocásticas?• Argumento 1: No existen señales totalmente deterministas.

F Puede existir algún fenómeno que no haya sido tenido en cuenta.F Los valores de la señal no están totalmente determinados a priori.

• Argumento 2: Todas las señales son intrínsecamente deterministas.F Desconocimiento parcial del proceso que las genera.F Por tanto no son realmente aleatorias.

Clasificación determinista vs. estocástica:• Atiende al tratamiento que se le desea dar a la señal,• No a la forma en que la señal ha sido generada.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 7 / 54

Page 8: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Esquema

1 Objetivos

2 Introducción

3 Variables aleatoriasUna variable aleatoriaMúltiples variables aleatorias

4 Señales aleatorias

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 8 / 54

Page 9: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Esquema

1 Objetivos

2 Introducción

3 Variables aleatoriasUna variable aleatoriaMúltiples variables aleatorias

4 Señales aleatorias

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 9 / 54

Page 10: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Definición de una variable aleatoria

Variable aleatoria1 X (continua o discreta):• Representa el resultado de un experimento aleatorio.• Su valor no es conocido a priori.• ¿Cómo podemos caracterizarla?

F ¿Que valores puede tomar?F ¿Es igual de probable cada valor?

Ejemplo discreto: X valores de un dadopX (x) = 1

6

0 1 2 3 4 5 6 70

0.02

0.04

0.06

0.08

0.1

0.12

0.14

0.16

0.18

0.2

X

pX(x

)

Ejemplo continuo: X tiempo de esperapX (x) = UX∈[0,30](x)

-5 0 5 10 15 20 25 30 35

x

0

0.005

0.01

0.015

0.02

0.025

0.03

0.035

px(x

)

0 5 10 15 20 25 30 35

x

0

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

Px(x

)

1En estadística es habitual definir la variable aleatoria con mayúsculas y sus valores conminúsculas.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 10 / 54

Page 11: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Definición de una variable aleatoria

Para variables discretas:• Función de masa de probabilidad: pX (xi ) = Probabilidad(X = xi )

• Propiedades:F 0 ≤ pX (xi ) ≤ 1F

∑x∈X pX (x) = 1

Para variables continuas:• Distribución de probabilidad: PX (x) = Probabilidad(X ≤ x)

• Densidad de probabilidad: pX (x) = ∂PX (x)∂x

• Propiedades:F pX (x) ≥ 0→ PX (x) es una función crecienteF PX (x) =

∫ x−∞ pX (y)dy → PX (∞) = 1

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 11 / 54

Page 12: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Estadísticos

Un estadístico es una medida cuantitiva de una muestra.• Valor esperado de alguna función g(x).

F Continuo:E(g(X )) =

∫∞−∞ g(x)pX (x)dx

F Discreto:E(g(X )) =

∑xi∈X g(xi )pX (xi )

• Respecto a la probabilidad pX (x).

Trata de inferir o estimar una propiedad de la población.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 12 / 54

Page 13: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Estadísticos de una variable aleatoria

Estadísticos/características habituales (expresiones continuas1)• Valor medio:µX , E(X ) =

∫∞−∞ xpX (x)dx

• Valor cuadrático medio:E(X 2) =

∫∞−∞ x2pX (x)dx

• Varianza2:σ2

X , E((X − µx )(X − µx )) =∫∞−∞(x − µx )(x − µx )pX (x)dx

= E(X 2)− µ2x

1La relación discreta se puede sacar de la continua, construyendo una función densidad deprobabilidad para la variable aleatoria discreta: pXC

(x) =∑

xi∈X pX (xi )δ(x − xi )→E(g(XC))=

∫∞−∞g(x)

∑xi∈X pX (xi )δ(x−xi )dx =

∑xi∈X g(xi )pX (xi ) = E(g(X)). Equivale a

sustituir las integrales por sumarios en las relaciones de las variables continuas. Por lotanto, podemos definir únicamente las relaciones continuas y extrapolar las discretas.2Relación entre σ2

X , µX y E(X 2): σ2X =∫∞−∞(x2−2µX x +µ2

X )pX (x)dx =

= E(X 2)− 2µX∫∞−∞ xpX (x)dx + µ2

X

∫∞−∞ pX (x)dx = E(X 2)− 2µ2

X + µ2X

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 13 / 54

Page 14: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Variables aleatorias comunes

Distribución uniforme: pX (x) = UX∈[a,b](x) ={ 1

b−a x ∈ [a,b]0 c.c.

• µx =∫∞−∞ xpX (x)dx = b+a

2∫ ba

xb−a dx = x2

2(b−a)|ba = b2−a2

2(b−a)= b+a

2

• E(X 2) =∫∞−∞ x2pX (x)dx = b2+a2+ab

3∫ ba

x2

b−a dx = x3

3(b−a)|ba = b3−a3

3(b−a)= b2+a2+ab

3

• σ2X = E(X 2)− µ2

X = (b−a)2

12

a b0

1/(b−a)

X

pX(x

)

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 14 / 54

Page 15: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Variables aleatorias comunes

Distribución gaussiana: pX (x) = NX (x ;µ, σ) = 1√2πσ2

e−(x−µ)2

2σ2

• µx =∫∞−∞ xpX (x)dx = µ

• E(X 2) =∫∞−∞ x2pX (x)dx = σ2 + µ2

x

• σ2X = E(X 2)− µ2

X = σ2

m−s m m+s

0

1/sqrt(2*pi*s^2)

X

PX(x

)

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 15 / 54

Page 16: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Muestreo de una variable aleatoria ILa operación de muestreo de una variable aleatoria consiste en obtener susvalores (muestras) de acuerdo con la densidad de probabilidad elegida.

Matemáticamente representaremos la función como: x ∼ pX (x)

Las muestras se pueden generar:• Experimentalmente, excitando/observando la respuesta de un proceso

aleatorio o de un proceso determinista con una entrada aleatoria• Utilizando un generador de números pseudo-aleatorios:

F Probabilidad discreta px (xi ) con i ∈ [1 : N]• Equiprobables con Matlab: randi(#valores,filas,col)• No equiprobables: método de la ruleta

F Probabilidad uniforme UX∈[a,b](x)• Matlab: a+(b-a)*rand(filas,col)• Secuencias básicas: xi+1 = (a ∗ xi + c) mod m.

Ejemplo con a = 65539,m = 229

F Probabilidad gaussiana NX (x ;µ, σ)• Matlab: µ+σ*randn(filas,col)• Transformada de Box-Muller (a partir de la uniforme)

F Probabilidades genéricas:• Muestreo por rechazo, por importancia• Muestreo de mezclas

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 16 / 54

Page 17: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Muestreo de una variable aleatoria II

Método de la ruleta:• p(xi )• Muestreo variable auxiliar:

y ∼ Uy∈[0,1](y)• x = {j|

∑j−1i=1 p(xi ) < y <

∑ji=1 p(xi )}

p=[0.1,0.3,0.2,0.4];cump=cumsum(p);N=1000;

for i=1:Nv(i)=rand(1);x(i)=sum(v(i)>cump)+1;

end

Transformada de Box-Muller:• N (x , µ=0, σ2 =1)• Muestreo de 2 variables auxiliares:

y1 ∼ Uy∈[0,1](y)y2 ∼ Uy∈[0,1](y)

• Transformación de las muestras:r =

√−2 log(y1)

θ = 2πy2

x1 = r cos(θ)x2 = r sin(θ)

Se genera un par, para hacer unaguassiana de dos dimensiones o uncomplejo. Se puede usar solo uno.

N=10000;y = rand(2,N);r = sqrt(-2*log(y(1,:)));theta = 2*pi*y(2,:);x1 = r.*cos(theta); %x1 normalx2 = r.*sin(theta); %x2 normal%Sirve para generar una%bidimensional (x1,x2) o%complejo z=x1+jx2

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 17 / 54

Page 18: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Muestreo de una variable aleatoria III

Método de muestreo por rechazo:• Función de probabilidad genérica p(x)• Las muestras se obtienen de una q(x)

auxiliar que debe cumplir que paraalgún M que Mq(x)-p(x)>0. Este hechofuerza a que tengan el mismo soporte(que q(x) 6= 0 sobre los mismospuntos x que p(x) 6= 0).

• Las x ∼ q(x) son también muestrasde p(x) si se cumple queyMq(x) < p(x) con y ∼ Uy∈[0,1](y)

-1 -0.5 0 0.5 1 1.5 20

0.2

0.4

0.6

0.8

1

1.2

1.4

1.6

1.8

2p(x)q(x)Mq(x)

function x=MuestreoRechazo(N)

x=[];M=2; %Valor de Mhm=0;while hm<Ny=rand(N-hm,1);xp=rand(N-hm,1); %Muestras q(x)l=find(y*M.*q(xp)-p(xp)<0)x=[x;xp(l)];hm=length(x)

end

function val=q(x)%Densidad prob. q(x)val=1;

function val=p(x)%Densidad prob. p(x)val=2*x;

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 18 / 54

Page 19: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Muestreo de una variable aleatoria IV

Muestreo de una mezcla:• Función de probabilidad genérica

p(x) =∑L

i=1 aipi (x), con∑L

i=1 ai = 1• Para muestrearla, podemos seguir el

siguiente proceso:F Elegimos la componente de la

mezcla (el valor de la i)utilizando la probabilidaddiscreta q(i) = ai

F Muestreamos la x de lacomponente elegida x ∼ pi (x)

0 2 4 6 8 100

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4

0.45

x

pX(x

)

function [x,aux]=MuestreoMezcla(N)

q_i=[0.4,0.2,0.4];qsum=cumsum(q_i);for i=1:N

%Muestreo ruletaindex=sum(rand>qsum)+1;aux(i)=index;switch index

case 1,%gaussianax(i)=3+0.5*randn;

case 2,%uniformex(i)=4+2*rand;

case 3,%Delta centrada en 7x(i)=7;

endend

pX (x) = 0,4N (x ,3,0,5)+0,2U[4,6](x)+0,4δ(x − 7)

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 19 / 54

Page 20: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Caracterización de las muestras¿Que hacer cuando nos proporcionan un conjunto de muestras sin sufunción de probabilidad?

El proceso de caracterización de las muestras es conceptualmente análogoal proceso de caracterización de la función de probabilidad.

La diferencia reside que en el primer caso no se dispone de una función deprobabilidad y en el segundo si.

En el proceso de caracterización de las muestras se puede:• Intentar estimar la función de probabilidad:

1 Determinar el tipo de función de probabilidad: histograma de lasmuestras

2 Determinar los parámetros de la función de probabilidad: a partirde las muestras

• Obtener el valor de los estadísticos a partir:F De la muestras: Método de Monte-Carlo1

F De la función de probabilidad que se ha estimado.1Los métodos de Monte-Carlo también se utilizan para estimar los estadísticos defunciones de probabilidad conocidas de las que no se pueden calcular las integrales deforma cerrada. El proceso consiste en utilizar los métodos de muestreo para generarmuestras de la función de probabilidad y luego el método de Monte-Carlo para estimar elestadístico sobre las muestras generadas.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 20 / 54

Page 21: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Histograma de un conjunto muestral IEl histograma divide el espaciomuestral en H segmentos(cubos/bins) continuos de igualtamaño y contabiliza el número demuestras que pertenecen a cada unode los segmentos.

−4 −3 −2 −1 0 1 2 3 40

100

200

300

400

500

600

x

his

t(x)

Podemos utilizarlos para realizar una representación aproximada de laprobabilidad de las muestras, siempre y cuando se normalizan las cuentasdel histograma de forma que:• La suma de los valores normalizados del histograma sea 1 para el

caso de trabajar con variables aleatorias discretas.• El area recogida por el histograma normalizado sea igual a 1 para el

caso de trabajar con variables aleatorias continuas.Una análisis de la forma del histograma (o del histograma normalizado), enla que obviemos los escalones introducidos por la segmentación delespacio muestral, nos puede permitir determinar en algunos casos el tipode función de probabilidad al que pertenecen las muestras1.

1En el caso continuo, es conveniente hacer divisiones suficientemente pequeñas para quelos escalones no escondan la función de probabilidad real de las muestras.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 21 / 54

Page 22: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Histograma de un conjunto muestral IIEjemplo: Histograma de muestras ∼ NX (x , 0, 1)

N=10000; %10000 muestrassamples=randn(N,1);hist(samples,50); %Histograma con 50 binsxlabel('x');ylabel('hist(x)');%Normalizar histograma[h,xbin]=hist(samples,50);inc=xbin(2)-xbin(1);hnormal=h/N/inc;bar(xbin,hnormal,1)%Pintar la probabilidad encimamu=0;sigma=1;x=-10:0.01:10;prob=1/sqrt(2*pi*sigma)*exp(-(x-mu).^2/2/sigma^2);hold on;plot(x,prob,'r');xlabel('x');ylabel('prob(x)');

−4 −3 −2 −1 0 1 2 3 40

100

200

300

400

500

600

x

his

t(x)

−10 −5 0 5 100

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4

0.45

x

pro

b(x

)

Histograma del ejemplo del rechazo

−1 −0.5 0 0.5 1 1.5 20

0.5

1

1.5

2

2.5

x

pX(x

)

Histograma del ejemplo de la mezcla

0 2 4 6 8 100

0.5

1

1.5

2

2.5

3

3.5

4

x

pX(x

)

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 22 / 54

Page 23: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Métodos de Monte-Carlo¿Como podemos estimar el valor de los estadísticos a partir de lasmuestras directamente?

Podemos aproximar la probabilidad que representan las N muestras por:pX (x) = 1

N

∑Nn=1 δ(x − xi ).

A partir de esa fórmula, podemos obtener los estadísticos directamente:• E(g(X ))=

∫∞−∞ g(x)pX (x)dx =

∫∞−∞ g(x) 1

N

∑Nn=1 δ(x − xi )dx =

= 1N

∑Nn=1g(xi )

• Valor medio: µX = E(X ) = 1N

∑Nn=1xi

• Valor cuadrático medio: E(X 2) = 1N

∑Nn=1x2

i

• Varianza: σ2X = E((X − µX )2) = 1

N

∑Nn=1(xi − µx )2

Los estadísticos básicos se pueden calcular directamente con Matlab:• Valor medio: mu=mean(samples)• Varianza1: sigma2=var(samples,1)• Desviación estandard1 (σX ): sigma=std(samples,1)

1El segundo parámetro tiene que tomar el valor de 1 para que se calcule la varianzadividiendo los resultados entre N.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 23 / 54

Page 24: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Esquema

1 Objetivos

2 Introducción

3 Variables aleatoriasUna variable aleatoriaMúltiples variables aleatorias

4 Señales aleatorias

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 24 / 54

Page 25: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Definición de múltiples variables aleatorias ILas propiedades de un conjunto {X1,X2, . . . ,XM} de variables aleatorias sedefinen a través de la función probabilidad1 conjuntap{X1,X2...,XM}(x1, x2, . . . , xM ).

Las probabilidad conjunta se refiere al hecho de la probabilidad de lavariable X1 se encuentre en el estado x1 y la variable X2 se encuentre en elestado x2 ... y la variable XM se encuentre en el estado xM .

Operaciones básicas de probabilidades:• Regla de la cadena (existen M! factorizaciones posibles):

p{X1,...,XM}(x1, . . . , xM ) = pX1 (x1|x2, . . . , xM )pX2 (x2|x3, . . . , xM ) · · · pXM (xM )

• Independencia condicional de Xa de Xb dados los valores de{x1, . . . , xL}:

p(xa|x1, . . . , xL, xb) = p(xa|x1, . . . , xL)• Independencia condicional de un conjunto de variables2:

p{X1,...,XM}(x1, . . . , xM ) =∏M

i=1 pXi (xi )

1Aunque la definición de las variables aleatorias puede realizarse, al igual que en el casode continuos, a través de diferentes funciones de probabilidad, vamos a utilizar la definiciónde probabilidad de masa y densidad de probabilidad.2La expresión se obtiene a partir de la regla de la cadena y aplicando el hecho de que sonprobabilisticamente independientes todas de todas.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 25 / 54

Page 26: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Definición de múltiples variables aleatorias IIOperaciones básicas de probabilidades conjuntas:• Marginalización (probabilidad de un subconjunto):

F Variables discretas: pX1 (x1) =∑

x2∈X2p{X1,X2}(x1, x2)

F Variables continuas: pX1 (x1) =∫∞−∞ p{X1,X2}(x1, x2)dx2

• Teorema Bayes1: pX1 (x1|x2) =pX2

(x2|x1)pX1(x1)

pX2(x2)

Ejemplo continuo: Representar la distribución conjunta de las variables {X1,X2} apartir de pX1 (x1) = U[2,4](x1) y la pX2 (x2|x1) = N (x2; x1, 1)

pX1 (x1) =

{ 14−2 2 ≤ x1 ≤ 40 c.c.

pX2 (x2|x1) = 1√2π

e−(x2−x1)2

2

p{X1,X2}(x1, x2) = p(x2|x1)p(x1) =

=

12√

2πe−

(x2−x1)2

2 2 ≤ x1 ≤ 40 c.c.

x1=0:0.1:10;x2=0:0.1:10;[X1,X2]=meshgrid(x1,x2);P=exp(-(X2-X1).^2/2)/sqrt(2*pi)/2P(X1<2)=0;P(X1>4)=0;mesh(X1,X2,P);xlabel('x');ylabel('y');

02

46

810

0

2

4

6

8

100

0.05

0.1

0.15

0.2

xy

1Se puede derivar a partir de la regla de la cadena para un conjunto de dos variables:p(x1, x2) = p(x1|x2)p(x2) = p(x2|x1)p(x1)

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 26 / 54

Page 27: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Estadísticos de conjuntos de variables aleatoriasSuponemos un conjunto de variables aleatorias X = {X1,X2, . . . ,XM} y sufunción de probabilidad conjunta p{X1,X2...,XM}(x1, x2, . . . , xM ).

Los estadísticos que se suelen utilizar son:• Los estadísticos de cada variable aleatoria por separado: son los

mismos que los de una variable aleatoria (sobre la función deprobabilidad marginal asociada a cada variable):

F pXi (xi )=∫∫∫∞−∞ p{X1,X2...,XM}(x1, x2, . . . , xM )dx1 · · · dxi−1dxi+1dxM

F Media: µXi = E(Xi ) =∫∞−∞ xi pXi (xi )dxi

F Valor cuadrático medio: E(X 2i ) =

∫∞−∞ x2

i pXi (xi )dxi

F Varianza: σ2xi

=E((Xi−µxi )2)=

∫∞−∞(xi−µxi )

2pXi (xi )dxi =E(X 2i )−µ2

Xi

• Aparecen estadísticos de parejas de variables aleatorias (sobre lafunción de probabilidad marginal de cada par de variables):

F pXi Xj (xi , xj )=∫∞−∞ pX (x1, x2, . . . , xM )dx1:i−1dxi+1:j−1dxj+1:M

F Correlación cruzada: φXi Xj =E(Xi Xj )=∫∞−∞xi xj pXi Xj (xi , xj )dxi dxj

F Covarianza: ψXi Xj = E((Xi − µXi )(Xj − µXj )) =

=∫∞−∞(xi − µxi )(xj − µxj )pXi ,Xj (xi , xj )dxi dxj = φXi Xj − µXiµXj

F Coeficiente de correlación: ρXi Xj =ψXi XjσXi

σXj

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 27 / 54

Page 28: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Propiedades de pares de variables aleatorias

Independencia probabilística: p(xi , xj ) = p(xi |xj )p(xj ) = p(xi )p(xj )

Independencia lineal o falta de correlación cruzada: E(XiXj ) = µXiµXj

• Independencia probabilística→ independencia linealE(XiXj )=

∫∞−∞xixjpXi Xj (xi , xj )dxidxj =

∫∞−∞xixjpXi (xi )pXj (xj )dxidxj =µXiµXj

• No hay independencia lineal (o las variables están correlacionadas)→hay dependencia probabilística

• Por lo tanto, la correlación cruzada de las señales (E(XiXj ) 6= µXiµXj )sirve para determinar la existencia de la dependencia probabilística.

Independencia probabilística→ ψXi Xj = 0 (covarianza nula)• ψXi Xj = E(Xi ,Xj)− µXiµXj = µXiµXj − µXiµXj

• ψXi Xj 6= 0→ Hay dependencia probabilística.Coeficiente de correlación:• Independencia probabilística→ ρXi Xj = 0 (la covarianza es nula)• Dependencia lineal→ ρXi Xj = ±1

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 28 / 54

Page 29: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Variables aleatorias comunesConjunto de variables con una distribuciónuniforme: p(x1, · · · , xM ) =

∏i=1:M U[ai ,bi ](xi )

• Probabilísticamente independientes.• Mismas características individuales.• Características de los pares de variables

(independencia condicional):F Correlación cruzada:φXi Xj = µXiµXj = bi +ai

2bj +aj

2

F Covarianza: ψXi Xj = 0

0

5

10

0

5

100

0.05

0.1

0.15

0.2

xy

Conjunto de variables (x = [x1, x2, . . . , xM ]) con unadistribución gaussiana:p(x1, · · · , xM ) = 1√

(2π)M |Σ|e−

12 (x−µ)Σ−1(x−µ)T

• µ = [µX1 , µX2 , · · · , µXM ]

• Σ =

σ2

X1ψX1X2 . . . ψX1XM

ψX1X2 σ2X2

. . . ψX2XM

......

. . ....

ψX1XM ψX2XM . . . σ2XM

0 2 4 6 8 100

1

2

3

4

5

6

7

8

9

10

x

y

02

46

810

0

2

4

6

8

10

0

0.02

0.04

0.06

xy

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 29 / 54

Page 30: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Variables aleatorias gaussianasLa matriz de covarianza Σ representa un elipsoide M-dimensional,reorientado según los valores de la covarianza que existe entre losdiferentes pares de variables.

Σ se puede construir usando la expresión Σ = RDR′, donde R es unamatriz de rotación, y D es una matriz diagonal en la que en cadacomponente se coloca la varianza asociada a la dirección marcada con lamatriz de rotación.

Si tenemos la matriz Σ podemos calcular la descomposición con la ordende Matlab svd: [R,D]=svd(Sigma).

x1=0:0.1:10;x2=0:0.1:10;[X1,X2]=meshgrid(x1,x2);P=zeros(size(X1));ang=0; %Orientacionmu=[6,4];diag=[1 0;0 9];rot=[cos(ang),sin(ang);

-sin(ang),cos(ang)];sigma=rot*diag*rot'invsigma=inv(sigma);coeff=1/2/pi/sqrt(det(sigma));for i=1:length(x1)*length(x2)

xvec=[X1(i),X2(i)]; xdif=xvec-[6,4];aux=xdif*invsigma*xdif';P(i)=coeff*exp(-aux/2);

endmesh(X1,X2,P);xlabel('x');ylabel('y');

0 1 2 3 4 5 6 7 8 9 100

1

2

3

4

5

6

7

8

9

10

x

y

0 1 2 3 4 5 6 7 8 9 100

1

2

3

4

5

6

7

8

9

10

x

y

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 30 / 54

Page 31: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Muestreo de conjuntos variables aleatoriasSi tenemos un conjunto de M variables distribuidas uniformemente,podemos aprovechar el hecho de que son independientescondicionalmente las unas de las otras y muestrear cada una de ellas de sudistribución uniforme. Una muestra será formada por los conjuntos de Mvalores muestreados de cada distribución.

Si tenemos un conjunto de M variables que tienen una distribucióngaussiana conjunta, podemos muestrearlas a partir de la función randn,teniendo en cuenta el valor medio µ de cada variable y la matriz decovarianza Σ = RDR′

mu = [1 2]; %MediaSigma = [1 .5; .5 2]; %CovarianzaS = chol(Sigma); %''Raiz cuadrada''x = repmat(mu,100,1) + randn(100,2)*S;

En el caso de una distribución genérica, se utilizan métodos de simulaciónde Monte-Carlo. Por ejemplo, se puede hacer un muetreo ordenado,siguiendo una factorización de la distribución de probabilidad:p(x1, . . . , xM ) = p(x1)p(x2|x1) · · · p(xM |x1, · · · , xM−1).En esta factorización, se empezaría muestreando x1, luego x2 a partir delvalor muestreado de x1, y así sucesivamente.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 31 / 54

Page 32: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Caracterización de las muestrasEstimar la probabilidad conjunta de todas la variables es mucho máscomplicado que estimar la probabilidad de una única variable aleatoria.• Para simplificar el problema, se puede buscar una factorización de

variables que explote las propiedades de independencia de los datos.• Ademas de obtener las independencias, es necesario saber que

función de probabilidad captura a cada una de las variables. Lo que sesuele hacer es suponer que pertenecen a una determinada familia.

Estimar los estadísticos que hemos vistos a partir de las muestras es unalabor más sencilla. Al igual que en el caso univariable se puede asimilar laprobabilidad a diferentes deltas, y por lo tanto, estimar los estadísticos comosumatorios de funciones de las muestras. En el caso de los estadísticosbidimensionales, aparece un doble sumario externo (ya que es necesariorealizar la integración/sumatorio respecto a las dos variables involucradas).

Operaciones con Matlab:• Para que los cálculos se realicen sin problemas, es conveniente que

los datos se encuentren recogidos en una matriz #datos ·M.• Media de cada variable: mean(x);• Matriz de covarianza: cov(x,1);• Matriz de coeficiente de correlación: corr(x);

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 32 / 54

Page 33: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Ejemplo de muestreo y caracterizacionMuestrear la función de distribución conjuntade las variables {X1,X2} a partir depX1(x1) = U[2,4](x1) y lapX2(x2|x1) = N (x2; x1,1) y caracterizar lasmuestras obtenidas

02

46

810

0

2

4

6

8

100

0.05

0.1

0.15

0.2

xy

%MuestreoN=100000;x=2+2*rand(N,1);y=x+randn(N,1);samples=[x,y];%Caracterizacion%Histogramahist3(samples,[30,50])xlabel('x');ylabel('y')%Estadisticosm=mean(samples) %Media%Valor cuadratico mediom2=mean(samples.*samples)%Matriz de covarianzasigma2=cov(samples,1)%Correlacion cruzadacorrelacion=mean(x.*y)%Coeficiente de correlacionrho=corr(samples)

m =[ 3.0012 3.0001]

sigma2 = [0.3348 0.33860.3386 1.3423]

rho = [ 1.0000 0.50510.5051 1.0000]

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 33 / 54

Page 34: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Esquema

1 Objetivos

2 Introducción

3 Variables aleatorias

4 Señales aleatorias

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 34 / 54

Page 35: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Señales aleatoriasUna señal aleatoria (x(t) ó x(n)) es aquella cuyo comportamiento en cadainstante de tiempo (t ó n) se encuentra definido por una variable aleatoriaasociada al instante de tiempo correspondiente (X (t) ó X (n)).

Al tener una variable aleatoria asociada a cada instante de tiempo, elcomportamiento de la señal a lo largo del tiempo se puede definir

• Con la función de probabilidadconjunta asociada a todas1 lasvariables asociadas a la señalaleatoria

• A partir de un número infinito desecuencias muestrales.

• A partir de los estadísticosrelacionados con las variablesaleatorias

p(x(0), x(1), x(2), . . . , x(10))

0 2 4 6 8 10−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

1.2

1.4

n

x(n

)

Ejemplos: µx(n), φx(n)x(m)

1 En principio, si la variable independiente es continua tendremos infinitas variablesaleatorias, mientras que si la variable independiente es discreta tendremos tantas variablesaleatorias como instantes de n estemos analizando.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 35 / 54

Page 36: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Señales aleatoriasUna señal aleatoria (x(t) ó x(n)) es aquella cuyo comportamiento en cadainstante de tiempo (t ó n) se encuentra definido por una variable aleatoriaasociada al instante de tiempo correspondiente (X (t) ó X (n)).

Al tener una variable aleatoria asociada a cada instante de tiempo, elcomportamiento de la señal a lo largo del tiempo se puede definir

• Con la función de probabilidadconjunta asociada a todas1 lasvariables asociadas a la señalaleatoria

• A partir de un número infinito desecuencias muestrales.

• A partir de los estadísticosrelacionados con las variablesaleatorias

p(x(0), x(1), x(2), . . . , x(10))

0 2 4 6 8 10−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

1.2

1.4

n

x(n

)

Ejemplos: µx(n), φx(n)x(m)

1 En principio, si la variable independiente es continua tendremos infinitas variablesaleatorias, mientras que si la variable independiente es discreta tendremos tantas variablesaleatorias como instantes de n estemos analizando.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 36 / 54

Page 37: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Estadísticos de las señales aleatoriasLos estadísticos de una señal aleatoria, o de un par de señales aleatorias,se calculan de la misma forma que se calcula los estadísticos de conjuntosde variables aleatorias:• Probabilidades necesarias:

F La probabilidad de la señal en cada instante: pX(t)(x(t)) , pX (x , t).F La probabilidad conjunta:

De 1 señal en 2 instantes: pX(t1)X(t2)(x(t1), x(t2)) , pX (x1, t1, x2, t2).De 2 señales en 2 instantes: pXi (ti )Xj (tj )(xi (ti ),xj (tj )),pXi Xj (xi ,ti ,xj ,tj ).

• Estadísticos habituales:F Media: µX (t) , µX(t) =

∫∞−∞ x(t)p(x(t))dx(t) =

∫∞−∞ xp(x , t)dx

F Valor cuadrático medio:ΨX (t) , E(X 2(t)) =

∫∞−∞ x2(t)p(x(t))dx(t) =

∫∞−∞ x2p(x , t)dx

F Correlación cruzada: φXi ,Xj (ti , tj ) , φXi (ti ),Xj (tj ) =∫∞−∞ xi (ti )xj (tj )p(xi (ti ), xj (tj ))dxi (ti )dxj (tj ) =

∫∞−∞ xi xj p(xi , ti , xj , tj )dxi dxj

F Autocorrelación:φXX (t1, t2) , φX(t1),X(t2) =

∫∞−∞ x(t1)x(t2)p(x(t1), x(t2))dx(t1)dx(t2) =∫∞

−∞ x1x2p(x1, t1, x2, t2)dx1dx2

Estas probabilidades se podrían obtener marginalizando de las conjuntas de la secuenciade la señal o de las secuencias de las señales las variables que no están involucradas en laprobabilidad final.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 37 / 54

Page 38: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Tipos de señales aleatorias ISeñal Markoviana Discreta de Orden I:• La probabilidad de la señal en un instante únicamente depende del

valor de la variable en el instante anterior: p(x(n)|x(n − 1))• Este hecho permite realizar una factorización muy conveniente:

p(x(0), x(1), · · · , x(n)) =

= p(x(0)p(x(1)|x(0))p(x(2)|x(0), x(1)) · · · p(x(n)|x(0), · · · , x(n − 1)) =

= p(x(0))p(x(1)|x(0))p(x(2)|x(1)) · · · p(x(n)|x(n − 1)) =

= p(x(0))∏n

i=1 p(x(n)|x(n − 1))

Ejemplo: random walk gaussianop(x(0)) = NX (x(0); 1; 0,1)

p(x(n)|x(n − 1)) = NX (x(n); x(n − 1); 0,25)→ x(n) = x(n − 1) + sqrt(0,25) ∗ randn

n=0:1:10;secuencias=[];for l=1:50 %Bucle para varios procesosx=0+sqrt(0.1)*randn(1);for i=2:length(n)

x(i)=x(:,i-1)+sqrt(0.25)*randn(1);endsecuencias=[secuencias;x];endplot(n,secuencias,'LineWidth',2)xlabel('n');ylabel('x(n)')

0 2 4 6 8 10−5

−4

−3

−2

−1

0

1

2

3

4

5

n

x(n

)

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 38 / 54

Page 39: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Tipos de señales aleatorias II

Señal Markoviana Continua de Orden I:• Mientras que a la hora de modelar sistemas/señales discretos se

utilizan los retardos para relacionar las variables, a la hora de modelarsistemas/señales continuos se utilizan las derivadas:

Ejemplo discreto: y(k) + y(k − 1) + y(k − 2) = x(k)

Ejemplo continuo: y(t) + y(t) + y(t) = x(t)• Por lo tanto, la relación probabilística que se establece en señales

Markovianas discretas entre una señal y su versión retardada, enseñales Markovianas continuas se establece entre la derivada de laseñal y la señal sin derivar: p(x(t)|x(t))

Ejemplo: proceso Markov gaussianop(x(0)) = NX (x(0); 1; 0,1)

p(x(t)|x(t))=NX (x(t); x(t); 0,25)

→ x(t)=x(t)+u(t) con u(t) = NU (u, 0, 1)Lo podríamos simular con lsim o Simulink, suponiendo un sistema de

primer orden.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 39 / 54

Page 40: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Tipos de señales aleatorias IIISeñales aleatorias estacionarias (en sentido amplio):• Son aquellas señales en las que la función de probabilidad no

depende del tiempo: p(x(t1)) = p(x(t2)) , p(x)

• Este hecho implica que:F Los estadísticos de una variable no dependen del tiempo:

Media: µX (t) ,∫∞−∞ x(t)p(x(t))dx(t) =

∫∞−∞ xp(x)dx = µX

Valor cuadrático medio:ΨX (t) =

∫∞−∞ x2(t)p(x(t))dx(t) =

∫∞−∞ x2p(x)dx = ΨX

Varianza: σ2X (t) = ΨX (t)− µ2

X (t) = ΨX − µ2X = σ2

X

F Los estadísticos de dos variables dependen de la diferenciatemporal:

Correlación cruzada:φXi ,Xj (ti , tj ) =

∫∞−∞ xi (ti )xj (tj )p(xi (ti ), xj (tj ))dxi (ti )dxj (tj ) =∫∞

−∞ xi (t)xj (t + τ)p(xi (t), xj (t + τ))dxi (t)dxj (t + τ) = φXi Xj (τ)

Autocorrelación:φXX (t1, t2) =

∫∞−∞ x(t1)x(t2)p(x(t1), x(t2))dx(t1)dx(t2) =∫∞

−∞ x(t)x(t + τ)p(x(t), x(t + τ))dx(t)dx(t + τ) = φXX (τ)

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 40 / 54

Page 41: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Tipos de señales aleatorias IV¿Cuales de las señales siguientes son estacionarias (en sentido amplio)?Ej1: ¿sistema discreto con variables x(n)independientes y p(x(n)) = U[a,b](x(n))Si, ya que las variables son independientes ytienen la misma función de probabilidad a lo largodel tiempo.

0 2 4 6 8 101

1.5

2

2.5

3

3.5

4

n

x(n

)

Ej2: ¿sistema discreto con variables x(n)independientes y p(x(n)) = NX (x(n);µx , (0,5)n)

No, ya que aunque las variables sonindependientes la función de probabilidad cambiaa lo largo del tiempo.

0 2 4 6 8 10−3

−2

−1

0

1

2

3

4

n

x(n

)

Ej3: ¿random walk gaussiano discreto propuesto?No, ya que la varianza del proceso (estadístico deuna variable) aumenta a lo largo del tiempo.

0 2 4 6 8 10−5

−4

−3

−2

−1

0

1

2

3

4

5

n

x(n

)

Ej4: Markoviano discreto p(x(0)) = U[a,b](x(0)) yp(x(n)|x(n − 1)) = δ(x(n)− x(n − 1))Si, ya que se puede demostrar quep(x(n)) = U[a,b](x(n)).

0 2 4 6 8 101

1.2

1.4

1.6

1.8

2

2.2

2.4

2.6

2.8

3

n

x(n

)

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 41 / 54

Page 42: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Tipos de señales aleatorias V

Señales ergódicas:• Son señales aleatorias estacionarias cuyos estadísticos pueden ser

caracterizados directamente a partir de una muestra (secuencia devalores) de la señal.

• Es decir, en vez de tener que utilizar la función de probabilidadconjunta o las infinitas muestras de la señal en cada instante detiempo, los estadísticos se pueden estimar a partir de los valores deuna muestra de la señal real.

• La redefinición de los estadísticos a partir de una muestra (secuenciade valores) de la señal no requiere de funciones de probabilidad, si nodel cálculo de la media, ... y correlación de las señales directamente:

F Media: µX , lımT→∞1

2T

∫ T−T x(t)dt

F Valor cuadrático medio: ΨX , lımT→∞1

2T

∫ T−T x2(t)dt

F Correlación cruzada: φXi ,Xj (τ) , lımT→∞1

2T

∫ T−T xi (t)xj (t + τ)dt

F Autocorrelación: φXX (τ) , lımT→∞1

2T

∫ T−T x(t)x(t + τ)dt

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 42 / 54

Page 43: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Tipos de señales aleatorias VI¿Cuales de las señales siguientes son ergódicas?Ej1: ¿sistema discreto con variables x(n)independientes y p(x(n)) = U[a,b](x(n))Si, ya que es estacionario y se puede obtener losestadísticos de una única secuencia de valores.

0 2 4 6 8 101

1.5

2

2.5

3

3.5

4

n

x(n

)

Ej2: ¿sistema discreto con variables x(n)independientes y p(x(n)) = NX (x(n);µx , (0,5)n)

No, ya que no es estacionario.0 2 4 6 8 10

−3

−2

−1

0

1

2

3

4

n

x(n

)

Ej3: ¿random walk gaussiano discreto propuesto?No, ya que no es estacionario.

0 2 4 6 8 10−5

−4

−3

−2

−1

0

1

2

3

4

5

n

x(n

)

Ej4: Markoviano discreto p(x(0)) = U[a,b](x(0)) yp(x(n)|x(n − 1)) = δ(x(n)− x(n − 1))No, ya que una secuencia de valores no esrepresentativa de la muestra (cada señal toma unvalor constante).

0 2 4 6 8 101

1.2

1.4

1.6

1.8

2

2.2

2.4

2.6

2.8

3

n

x(n

)

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 43 / 54

Page 44: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Señales aleatorias estacionarias: Propiedades IMedia (µX ), Valor cuadrático medio (ΨX ), y la varianza σ2

X son constantesen el tiempo.

Correlación cruzada (φXY (τ)), autocorrelacion (φXX (τ)) y covarianzacruzada (φXY (τ)) dependen de la diferencia temporal τ .

Relaciones con la autocorrelación:• La autocorrelación en el instante inicial es igual al valor cuadrático

medio: φXX (0) = ΨX = E(X 2).ΨX = E(X 2) =

∫x2(t)p(x(t))dx(t)

φXX (τ) =∫

x(t)x(t + τ)p(x(t), x(t + τ))dx(t)• φXX (∞) = |µX |2.• φXX (0) > φXX (τ) (el máximo de la autocorrelación está en cero)• Estas propiedades nos pueden permitir saber si la señal tiene una

componente determinista o no:F Si no la tiene deberá tender al valor medio según pasa el tiempo.F Si la tiene la autocorrelación tendrá un comportamiento

diferente.F Aun más, en el caso en que la señal tenga un comportamiento

determinista periódico, la autocorrelación también mostrará elcomportamiento periódico.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 44 / 54

Page 45: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Señales aleatorias estacionarias: Propiedades II

Ejemplos de autocorrelación de señales ergódicas (usadas como casos deestacionarias porque permiten cálculos a partir de una secuencia de valores).

[phixy,lags]=xcorr(x,y,limk,’unbiased’): cálculo de la correlación1

cruzada de las señales x e y.

[phixy,lags]=xcorr(x,limk,’unbiased’): cálculo de la autocorrelación1 dela señal x.

Ej1: Sistema continuo con variables x(t)independientes y p(x(t)) = N (x(t); 5, 1)

Lo discretizamos con periodo Ts = 0,01

Ts=0.01;t=0:Ts:10;x=5+randn(size(t)); %Señal (modificar)subplot(2,1,1);plot(t,x);xlabel('t (s)');ylabel('x(t)');[xc,lags]=xcorr(x,100,'unbias');subplot(2,1,2);plot(lags*Ts,xc);xlabel('\tau (s)');ylabel('\phi_{xx}(\tau)');

0 2 4 6 8 102

4

6

8

10

t (s)

x(t

)

−1 −0.5 0 0.5 124.5

25

25.5

26

τ (s)

φxx(τ

)

φXX (0) = ΨX = σ2X + µ2

X = 26φXX (∞)→ µ2

X = 25

1liml se utiliza para limitar los valores de la k sobre los que se calcula la correlación y laautocorrelación. Los límites temporales están τ = ±Ts limk .

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 45 / 54

Page 46: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Señales aleatorias estacionarias: Propiedades IIIEj2: Sistema continuo con variables x(t)independientes y p(x(t)) = U[2,6](x(t))

Lo discretizamos con periodo Ts = 0,01

Ts=0.01;t=0:Ts:10;x=2+4*rand(size(t)); %Señal (modificar)subplot(2,1,1);plot(t,x);xlabel('t (s)');ylabel('x(t)');[xc,lags]=xcorr(x,100,'unbias');subplot(2,1,2);plot(lags*Ts,xc);xlabel('\tau (s)');ylabel('\phi_{xx}(\tau)');

0 2 4 6 8 102

3

4

5

6

t (s)

x(t

)

−1 −0.5 0 0.5 116

16.5

17

17.5

18

τ (s)

φxx(τ

)

φXX (0)=ΨX = b2+a2+ab3 =17,3

φXX (∞)→ µ2X =

(b+a

2

)2= 16

Ej3: Sistema continuo determinista conx(t) = sen(2πFt) con F = 10 Hz.Lo discretizamos con periodo Ts = 0,01

Ts=0.01;t=0:Ts:10;x=sin(2*pi*F*t); %Señal (modificar)subplot(2,1,1);plot(t,x);xlabel('t (s)');ylabel('x(t)');[xc,lags]=xcorr(x,100,'unbias');subplot(2,1,2);plot(lags*Ts,xc);xlabel('\tau (s)');ylabel('\phi_{xx}(\tau)');

0 2 4 6 8 10−1

−0.5

0

0.5

1

t (s)

x(t

)

−1 −0.5 0 0.5 1−0.5

0

0.5

τ (s)

φxx(τ

)

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 46 / 54

Page 47: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Señales aleatorias estacionarias: Propiedades IV

Relaciones con la correlación cruzada:• No tiene necesariamente un máximo en τ = 0• φXY (τ) = φYX (−τ)

• |φXY (τ)|2 ≤ φXX (0)φYY (0)

• |φXY (τ)|2 ≤ 12 [φXX (0) + φYY (0)]

• Si las variables son independientes φXY (0) = µXµY .

Utilidades adicionales de la función de correlación cruzada:• Determinar retardos entre señales: esto se debe a que en la zona en

la que se superpongan la señal original y la señal retardada apareceun máximo en la señal de correlación cruzada. A veces el pico no eslo suficientemente significativo para para poder determinar el retardo.

• Determinación de caminos de transmisión con diferentes retardos.• Recuperar señales con ruido (podemos calcular la correlación de la

señal original sin ruido con la que viene con ruido y determinar lospicos donde se superponen).

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 47 / 54

Page 48: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Señales aleatorias estacionarias: Propiedades VEjemplos de aplicación de correlación cruzada de señales.

Ej1: Calcular el desfase de las señalesx(t) = sinc(t − 2) y y(t) = sinc(t − 3)

Lo discretizamos con periodo Ts = 0,01

Ts=0.01;t=0:Ts:10;x=sinc(t-2);y=sinc(t-3); %Cambiar señalessubplot(2,1,1);plot(t,x,'r',t,y,'b');xlabel('t (s)');ylabel('x(t)');[yxc,lags]=xcorr(y,x,200,'unbias');subplot(2,1,2);plot(lags*Ts,xyc);xlabel('\tau (s)');ylabel('\phi_{yx}(\tau)');

0 2 4 6 8 10−0.5

0

0.5

1

t (s)

x(t

)

−2 −1.5 −1 −0.5 0 0.5 1 1.5 2−0.05

0

0.05

0.1

0.15

τ (s)

φyx(τ

)

Máximo en τ = 1, tiempo queestá retardada la señal.

Ej2: Localizar la señal x(t) = sinc(t − 2)en y(t) = sinc(t − 3) + u(t) conu(t) ∼ NU(u, 0, 4)

Lo discretizamos con periodo Ts = 0,01

Ts=0.01;t=0:Ts:10;x=sinc(t-2);y=sinc(t-3)+2*randn(size(t));subplot(2,1,1);plot(t,x,'r',t,y,'b');xlabel('t (s)');ylabel('x(t)');[yxc,lags]=xcorr(y,x,200,'unbias');subplot(2,1,2);plot(lags*Ts,xyc);xlabel('\tau (s)');ylabel('\phi_{yx}(\tau)');

0 2 4 6 8 10−10

−5

0

5

10

t (s)

x(t

)

−2 −1.5 −1 −0.5 0 0.5 1 1.5 2−0.1

0

0.1

0.2

0.3

τ (s)

φyx(τ

)Máximo en τ = 1, tiempo queestá retardada la señaldeterminista buscada

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 48 / 54

Page 49: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Potencia de una señal aleatoria

La potencia de una señal aleatoria se define1 como el valor esperado de lapotencia de una señal:PX = E(lımN→∞

12N+1

∑Nn=−N x2(n)) = lımN→∞

12N+1

∑Nn=−N E(x2(n))

En los casos en los que E(x2(n)) es una señal aleatoria estacionaria secumple que:• PX = E(x2(n)) (sumario de 2N+1 términos iguales hace que se

cancele el denominador de la expresión).• PX = φXX (0) = σ2

X + µ2x .

Por lo tanto, en el caso de las señales aleatorias estacionarias, la potenciade la señal se encuentra relacionada con la autocorrelación en el instanteinicial2.

1Vamos a utilizar las definiciones sobre señales discretas en esta caso. Equivalentemente,se podría utilizar la definición sobre continuas, cambiando el sumatorio por la integral.2Este hecho hace que la autocorrelación se entienda como una potencia generalizadavariable con τ .

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 49 / 54

Page 50: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Transformada de Fourier de señales aleatoriasLas transformadas de Fourier representativas (es decir, que mejorcaracterizan) a las señales aleatorias no son la transformada de unamuestra/secuencia de la señal, si no las de las señales de autocorrelacion ycorrelación cruzada.

La densidad espectral de potencia1 es la transformada de Fourier de laseñal de autocorrelación:• Continuo: ΦXX (jw) =

∫∞−∞ φXX (τ)e−jwτdτ

• Discreto: ΦXX (ejw ) =∑∞

l=−∞ φXX (l)e−jwl

• El espectro de potencia permite clasificar las señales aleatorias: ruidoblanco, señal aleatoria de banda ancha, señal aleatoria de bandaestrecha.

La densidad espectral cruzada es la transformada de Fourier de la señal decorrelación cruzada:• Continuo: ΦXY (jw) =

∫∞−∞ φXY (τ)e−jwτdτ

• Discreto: ΦXY (ejw ) =∑∞

l=−∞ φXY (l)e−jwl

También se denomina espectro de densidad de potencia o simplemente espectro depotencia.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 50 / 54

Page 51: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Clasificación de las señales aleatoriasSeñal de ruido blanco: aquella cuyo espectro en potencia toma valorconstante• Continuo: ΦXX (jw) = a→ φXX (τ) = aδ(τ).

No es físicamente realizable, ya que tendría que ser una señal de potenciainfinita (ya que PX = φXX (τ = 0) =∞).

• Discreto: ΦXX (ejw ) = a→ φXX (l) = aδ(l).

Señal con bias constante: aquella cuya autocorrelación toma un valorconstante:• Continuo: ΦXX (jw) = µ2

X δ(w)← φXX (τ) = µ2X .

• Discreto: ΦXX (ejw ) = µ2X δ(w)← φXX (l) = µ2

X .

Una combinación de las dos anterioresSeñal aleatoria con espectro en potencia paso baja: es la que su espectroen potencia tiene la forma de un filtro paso bajo ideal.Señal aleatoria con espectro en potencia paso banda: es la que su espectroen potencia tiene la forma de un filtro paso banda ideal.Señal aleatoria de banda estrecha: aquella cuyo espectro en frecuenciatiene una banda en frecuencias estrechaSeñal aleatoria de banda ancha: aquella cuyo espectro en frecuencia tieneuna banda en frecuencia ancha.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 51 / 54

Page 52: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Procesamiento de señales aleatorias ILas señales aleatorias, como señales que son, se pueden procesar contodos los sistemas lineales y filtros ideales con los que hemos trabajado alo largo de la asignatura.

Pero debido a su aleatoreidad, para caracterizar su comportamientocorrectamente necesitamos estudiar que le sucede a la función deprobabilidad o a los estadísticos de la señal aleatoria filtrada.

Esto se pude hacer determinando que le sucede a la media, al valorcuadrático medio, autocorrelación, etc ... de la señal de salida del filtro H(s)o H(z) a partir de los valores de los estadísticos correspondientes de laseñal de entrada.

El análisis se puede realizar tanto en continuo como en discreto. En nuestrocaso, realizaremos en discreto el análisis restante del tema.

Y en todo momento vamos a suponer que los sistemas lineales/filtros sondeterministas, y que por lo tanto, la aleatoreidad del proceso se encuentraúnicamente asociado a la aleatoreidad de la señal.

Además, también supondremos que las señales aleatorias sonestacionarias (en el sentido amplio).

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 52 / 54

Page 53: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Procesamiento de señales aleatorias IILa respuesta de un sistema determinista a cualquier entrada se puedecalcular a través de la función de convolución:y(n) = (h ∗ x)(n) =

∑∞k=−∞ h(k)x(n − k)

El valor medio de la señal de salida: µY = H(ej0)µX

Se calcula aprovechando las propiedades de la linealidad del sistemaµY = E(y(n)) = E(

∑∞k=−∞ h(k)x(n − k)) =

∑∞k=−∞ h(k)E(x(n − k)) =

= µX∑∞

k=−∞ h(k) = H(ej0)µX

La señal de autocorrelación (productos aparecen en el dominio de lafrecuencia): ΦYY (ejw ) = |H(ejw )H(e−jw )|ΦXX (ejw )

φYY (l)=E(y(n+l)y(n))=E((∑∞

i=−∞ h(i)x(n+l−i))(∑∞

k=−∞ h(k)x(n−k)))

=

=∑∞

i=−∞ h(i)∑∞

k=−∞ h(k)E(x(n+l−i)x(n−k)) =1

=∑∞

i=−∞ h(i)∑∞

k=−∞ h(k)ψXX (l + k − i) =2

=∑∞

m=−∞ ψXX (l −m)∑∞

k=−∞ h(k)h(m + k) = (ψXX ∗ (h(k) ∗ h(−k))(l)

En el dominio de la transformada las operaciones son más sencillas: dosconvoluciones sucesivas se convierten en dos productos.φYY (ejw ) = |H(ejw )H(e−jw )|ΦXX (ejw )

1Como son señales estacionarias el valor esperado solo depende de la diferencia de losindices: E(x(n+l−i)x(n−k)) = ψXX (l + k − i)2Cambio de variable m = i − k

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 53 / 54

Page 54: Señales Aleatorias - Cartagena99...3 Variables aleatorias Una variable aleatoria Múltiples variables aleatorias 4 Señales aleatorias Jesús Chacón Sombría (DACYA. UCM) Procesamiento

Procesamiento de señales aleatorias IIILa señal de autocorrelacion: ΦYY (ejw ) = |H(ejw )H(e−jw )|ΦXX (ejw )

• Utilidad: La expresión es especialmente útil para obtener el espectroen frecuencia de un sistema lineal con una función de transferenciadesconocida:

F Para eso basta con excitar el sistema con una señal aleatoriaestacionaria x(n) de espectro en potencia conocido y observarel espectro en potencia de la señal de salida.

F El cociente de ambos espectros nos da el cuadrado del módulodel espectro del sistema lineal.

La señal de correlación cruzada: ΦXY (ejw ) = H(ejw )ΦXX (ejw )

• La demostración es análoga a la anterior, calculando la correlaciónentre la señal de salida (que pasa una vez por el sistema) y la señalde entrada (que no pasa por el filtro).

• En este caso, la expresión nos relaciona el espectro de potencia de laseñal de entrada con la densidad espectral cruzada de la entrada y lasalida.

• Utilidad similar a la del caso anterior, pero ahora podemos obtener larespuesta en frecuencia completa.

Jesús Chacón Sombría (DACYA. UCM) Procesamiento de Señales Señales Aleatorias 54 / 54