Estocasticos Clase 1

1

ESCUELA SUPERIOR POLITÉCNICA DEL LITORAL FACULTAD DE INGENIERÍA EN ELECTRICIDAD Y COMPUTACIÓN

FRANCISCO NOVILLO, PhD.

Probabilidades y Procesos Estocásticos

F. Novillo Probabilidades y Procesos Estocásticos

Política de Evaluación 1 PARCIAL Examen ………………..50 Lección …………………25 Deber …………………..15 Trabajo en Clase …..10 TOTAL …………………100

2 PARCIAL Examen ………………..50 Proyecto .……………..20 Lección …………………10 Deber …………………..10 Trabajo en Clase …..10 TOTAL …………………100

F. Novillo Probabilidades y Procesos Estocásticos 2

Examen

Hoja papel ministro Calculadora Lápiz/pluma Borrador/corrector Ficha de fórmulas No celulares


Objetivos

Presentar al estudiante el análisis y aplicación de los conceptos básicos de la teoría de probabilidades con principal énfasis en el estudio de las variables aleatorias individuales y múltiples, funciones y suma de variables aleatorias, teorema del límite central, los procesos estocásticos y la densidad espectral de potencia.


Contenido del Curso I. VARIABLES ALEATORIAS. Definición. La función de distribución acumulativa (cdf). La función densidad de probabilidad (pdf). Variables

aleatorias discretas y continuas importantes y su función densidad

Funciones de una variable aleatoria. Valor esperado de x y de f(x). Varianza.

Desigualdad de Chevyshev Métodos de transformación. Función característica y

teorema de momentos. Función generadora


Contenido del Curso II. VARIABLES ALEATORIAS MULTIPLES. Variables vectoriales. Eventos y probabilidades Dos variables aleatorias. Pdf y cdf conjuntas. Funciones marginales Independencia de dos variables aleatorias. Probabilidad condicional y valor esperado condicional Múltiples variables aleatorias. Distribución conjunta e

independencia. Regla de la cadena Funciones de varias variables aleatorias. Una función de varias

variables aleatorias. Transformación lineal y general de pdf. Valor esperado de funciones de variables aleatorias. Correlación y

covarianza de 2 variables aleatorias. Función característica conjunta. Variables aleatorias conjuntamente Gausianas. Transformación

lineal


Contenido del Curso III. SUMA DE VARIABLES ALEATORIAS. Sumas de variables aleatorias. Media y varianza. Pdf de suma de variables

aleatorias independientes El teorema de límite central.

IV. PROCESOS ALEATORIOS O ESTOCÁSTICOS. Definición. Especificación de un proceso aleatorio. Función Valor medio,

Autocorrelación y Autocovarianza. Procesos estocásticos múltiples. Correlación y covarianza cruzada.

Ejemplos de procesos aleatorios de tiempo discreto y continuo. Procesos iid y suma. Procesos de Poisson y la señal telegráfica aleatoria

Procesos aleatorios estacionarios. Procesos estacionarios en el sentido amplio (WSS). Función de Autocorrelación de un proceso WSS. Propiedades

Procesos cicloestacionarios Promedios de tiempo en procesos estocásticos y teoremas de ergodicidad.


Contenido del Curso

V. ANÁLISIS Y PROCESAMIENTO DE SEÑALES ALEATORIAS.

La densidad espectral de potencia (PDF). Teorema de Wiener- Khinchin. Densidad espectral de potencia para procesos estocásticos continuos y discretos.

Densidad espectral de potencia como un promedio de tiempo. Fórmula

Respuesta de sistemas lineales a señales aleatorias Proceso estocástico Ruido Blanco Modulación de amplitud con señales aleatorias


Referencias TEXTO GUÍA: "Probability and random process for electrical

engineering". Autor: Alberto Leon-Garcia. Editorial: Addison-Wesley Publishing Company, segunda

BIBLIOGRAFÍA: "Probability and Random Variables, and Stochastic

Processes". Autor: Athanasios Papoulis. Editorial: McGraw Hill, tercera edición, 1991.

"Stochastic Processes". Autor: Sheldon M. Ross. Edidtorial: Academic Press. Inc., 1983.


Modelo Un modelo es representación aproximada de una situación

física. Intenta explicar el comportamiento observado usando un

conjunto de reglas simples y comprensibles. Las reglas pueden ser usadas para predecir las salidas de los

experimentos que envuelven una determinada situación física Un modelo útil explica todos los aspectos relevantes de una

situación dada. Tales modelos pueden ser usados en lugar de experimentos

para responder cuestiones con respecto a la situación dada. Los modelos por lo tanto permiten a los ingenieros evitar los

costes de experimentación, mano de obra, equipo, y el tiempo.


Modelos Matemáticos

Estos son usados cuando el fenómeno observacional tiene propiedades medibles. Consiste de un conjunto de asunciones sobre

como un sistema o proceso físico trabaja. Estas asunciones son declaradas en la forma

de relaciones matemáticas envolviendo los parámetros importantes y variables del sistema.


El proceso de modelamiento El proceso de desarrolla y

validar un modelos consiste necesariamente e de una serie de experimentos y modificaciones del modelo.

Cada experimento investiga un cierto aspecto del fenómeno bajo investigación y consiste en la toma de observaciones y mediciones en un conjunto específico de condiciones.

El modelo es usado para predecir el resultado del experimento y estas predicciones se comparan con las observaciones reales que resultan cuando el experimento se lleva a cabo.


Escenario a modelar


Primary user (PU)

Individual WLANs using ISM channels or primary band channels as secondary users (SUs).

Access Point (AP)

Client Station (STA)

ab

Parámetros de modelado


System Model

Areas

Primary users

Coverage/Service

Frequency planing

Interference

Spectrum usage parameters

ModelsPropagation

Primary Channel AvailabilityInterference-

Based MetricChannel Assignment

Constraints

Spectrum

Power parameters

Deployment

WLANs

Spectrum usage parameters

Power parameters

Deployment

Escenario modelado


0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

0.46

0.59

0.057

0.480.016

0.18

0.057

0.180.032

0.480.66

0.37

0.59

0.37

0.0240.024

0.0160.66

0.032

Highdensity

ofneighboring

APs

ap4

neighboringAPs

nonneighbords

Vertex

PenaltyEdge

ap2

ap1

ap3

ap5

ap6

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

Interference area from the PU to

any AP

Usage area of the AP

Interference area from the AP

to another AP

Access Point (AP)

Interference area from the AP

to any PU

Usage area of the PU

Primary User (PU)

,UA PUR,IA PU SUR →

,UA SUR

ap apu vIAR→

,IA SU PUR →

CDF


0

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

0 1 2 3 4 5 6 7 8 9 10 11 12

CDF

Neighbords per AP

AP=10AP=20AP=30AP=40AP=50

PDF


0

10

20

30

40

50

60

0 10 20 30 40 50 60 70 80 90 100

Prob

abili

ty (%

)

Percentage of Available Primary Channels per AP

PU=4 PU=12 PU=20 PU=28 PU=36

Promedio


15

25

35

45

55

65

75

85

95

0 4 8 12 16 20 24 28 32 36

Perc

enta

ge o

f Ava

ilabl

e Pr

imar

y Ch

anne

ls p

er A

P

Number of Primary Users

Ru,PU=25

Ru,PU=50

Ru,PU=75

Ru,PU=100

Evaluación 1

Enfocado en su carrera trate de identificar 3 casos o escenarios probabilísticos. Dada una superficie cuadrangular de 1x1

sobre la cual se quieren distribuir uniformemente N puntos. Qué procedimiento propondría para calcular el número promedio de puntos por vecino. Definiendo como vecinos aquellos cercanos entre entre si. F. Novillo Probabilidades y Procesos Estocásticos 19

Trabajo en clase

Lectura, resumen, presentación y debate: – 1. TRANSMISION DE PULSOS EN BANDA BASE – 1.1 Filtro acoplado. Propiedades de los filtros acoplados. – 1.2. Probabilidad de error en la detección con filtro acoplado

de una señal NRZ PCM.


Propiedades Las asignaciones de probabilidades deben satisfacer las

siguientes propiedades: A experimento aleatorio debe ser definido y un conjunto S

de todos los posibles resultados ha sido identificado Una clase de subconjunto de S llamados eventos ha sido

especificado Cada evento A ha sido asignado un número, P[A].


Experimentos aleatorios

Un experimento aleatorio es un experimento en que la salida varia de manera impredecible cuando el experimento es repetido bajo las mismas condiciones. Un Experimento aleatorio es especificado

estableciendo un procedimiento y un conjunto de una o mas mediciones u observaciones. Ejemplo lanzar una moneda tres veces y notar

la secuencia de caras y sellos.


Espacio muestral Dado un experimento aleatorio no consecutivamente el

mismo resultado, es necesario determinar el conjunto de posibles resultados.

Se define un resultado o punto de muestra de un experimento aleatorio como un resultado que no puede descomponerse dentro de otros resultados.

Cuando se ejecuta el experimento uno y solo un resultado ocurre.

El espacio muestral S de un experimento aleatorio es definido como el conjunto de todas las posibles soluciones.

Se denota un resultado de un experimento como ζ, que corresponde a un elemento o punto en S.


Evento

Normalmente no se está interesado en la ocurrencia de resultados específicos, pero si en la ocurrencia de algunos eventos (i.e. si el resultado satisface ciertas condiciones).

Esto requiere que se considere subconjuntos de S. Se dice que A es un subconjunto de B si cada elemento

de A también pertenece a B. Ejemplo: dado un experimento que consiste en

determinar el valor de la señal de audio en el tiempo t1. Un evento podría ser definido como

E: El valor absoluto del voltaje menor que 1 V.


Variable aleatoria

Una variable aleatoria es definida como una función que asigna un valor numérico al resultado del experimento. Una variable aleatoria X es una función que

asigna un número real, X(ζ), a cada resultado ζ en el espacio muestral de un experimento aleatorio.


Ejemplo variable aleatoria

Una moneda es lanzada tres veces y la secuencia de caras y cruz es observada. El espacio muestral para este experimento es S={HHH, HHT, HTH, HTT, THH, THT, TTH, TTT}. Dígase que X es el número de caras en los tres

lanzamientos. X asigna a cada resultado ζ en S un número desde el conjunto Sx={0,1,2,3}.


Ejemplo variable aleatoria

La tabla a continuación lista 8 resultados de S y los correspondientes valores de X.


X es luego una variable aleatoria tomando valores en el conjunto Sx={0,1,2,3}.

Ejemplo 2 variable aleatoria

Un jugador paga $1.5 para jugar el siguiente juego: Una moneda es lanzada tres veces y el número de caras X es contado. El jugador recibe $1 si X=2 y $8 si X=3, pero nada en otros casos.

Dígase que Y es el premio al jugador. Y es una función de la variable aleatoria X y sus resultados pueden relacionarse de nuevo al espacio muestral del experimento aleatorio subyacente de la siguiente manera:


Ejemplo 2 variable aleatoria

Y es entonces una variable aleatoria tomada sobre valores en el conjunto Sy={0,1,8}

Este ejemplo muestra que una función de una variable aleatoria produce otra variable aleatoria.


Dígase X es el número de caras en tres lanzamientos independientes de una moneda justa. Conseguir la probabilidad de que el evento {X=2}. Conseguir la probabilidad que el jugador gane $8.

Note que X(ζ)=2 si y solamente si ζ esta en {HHT, HTH, THH}. Por lo tanto:


El evento {Y=8} ocurre si y solamente si el resultado ζ es HHH

La función de distribución acumulativa (CUMULATIVE DISTRIBUTION FUNCTION,

CDF).

Esto es la probabilidad que la variable aleatoria X tome un valor en el conjunto (-∞, x).


La función de distribución acumulada es un enfoque que usa eventos de la forma {X≤b}.

Esta función tiene como ventaja que no está limitada a variables discretas y aplica a todos los tipos de variable aleatoria.

Se la puede definir formalmente como: La función de distribución de una variable aleatoria X es definida

como la probabilidad del evento {X ≤x}:

Ejemplo

Se conoce que X toma solo valores de 0,1,2,3 con probabilidades 1/8, 3/8, 3/8 y 1/8, respectivamente. De manera que F(x) es la suma de las

probabilidades de los resultados desde {0,1,2,3} que son menores o iguales a x.


Ejemplo


La función de distribución acumulativa (CUMULATIVE DISTRIBUTION FUNCTION,

CDF).

La cdf puede ser escrita en términos de un escalón unitario


Ejemplo El tiempo de espera X de un cliente en una parada de taxis

es cero si el cliente encuentra un taxi estacionado en la parada, y una longitud aleatoria uniformemente distribuida de tiempo en el intervalo de 0, 1 (en horas) si ningún taxi se encuentra a la llegada. la probabilidad de que un taxi está en el soporte cuando llega el cliente es p. Encuentre la cdf de X.


Note que P[X≤x|encuentra taxi]=1 cuando x≥0 y 0 en otros casos.

Por lo tanto P[X≤x|no encuentre taxi] es dada:

Propiedades de las CDF


Propiedades de las CDF

La CDF tiene propiedades que permiten calcular la probabilidad de eventos envolviendo intervalos y valores simples de X:


Ejemplo Dígase que X es el número de caras en tres

lanzamientos de una moneda. Use la CDF para conseguir las probabilidades de los siguientes eventos: A={1<X≤2}, B={0.5 ≤X<2.5} y C={1 ≤X<2}.


Tipos de Variables aleatorias

Variables aleatorias discretas Variables aleatorias continuas Variables aleatorias de tipo mixtas


Variables aleatorias discretas Tiene una cdf que es continua por la derecha, función

escalera de x, con saltos en un conjunto contable de puntos x0, x1, x1,….

La cdf Fx(x) de una variable aleatoria discreta es la suma de las probabilidades de los resultados menores que x y pueden ser escritos como la suma de pesos de funciones de paso unitario:


Variables aleatorias Continuas Son definidas como una variable aleatoria cuyo

cdf Fx(x) es continua en todas partes Adicionalmente es suficientemente lisa que

puede ser escrita como una integral de una función no negativa f (x):


Para variables aleatorias continuas P[X=x]=0 para todo x. Para las variables aleatorias continuas, las probabilidades

son calculadas como integrales de "densidad de probabilidad" en intervalos de la línea real

Variables aleatoria tipo mixta Es una variable aleatoria con una cdf que tiene saltos

sobre un conjunto contable de puntos x0, x1, x2, …, pero que también incrementa continuamente sobre al menos un intervalo de valores de x.

El cdf se representa como:


Donde 0<p<1 y F1(x) es la cdf de una variable aleatoria discreta y F2(x) es la cdf de una variable aleatoria continua.

Función densidad de probabilidad

La función densidad de probabilidad de X (pdf), si existe, está definida como la derivada de Fx(x):




La pdf es una alternativa y mas usada manera para especificar la información contenida en la función de distribución acumulada.

La pdf representa la densidad de probabilidad en el punto x en el siguiente sentido: La probabilidad que X es un intervalo pequeño en la vecindad de x, eso es, {x<X≤x+h} es

Si la cdf tiene una derivada en x, entonces h se hace muy pequeña:


Así fx(x) representa la densidad de probabilidad en el punto x en el sentido que la probabilidad que X sea un pequeño intervalo en la vecindad de x es aproximadamente fx(x)h. La derivada de la cdf, cuando esta existe es

positiva puesto que la cdf es una función no decreciente de x, entonces:



Función fx(x) función no negativa, llamada función densidad de probabilidad. Especifica la probabilidad de eventos de la forma X en un pequeño intervalo de ancho dx sobre el punto x.

La probabilidad de eventos en torno a X son expresados en términos de la pdf añadiendo la probabilidad de intervalos de ancho dx.


La probabilidad del un intervalo es por lo tanto el área bajo fx(x) en el intervalo dado.

La cdf de X puede ser obtenida integrando la pdf:


La variable aleatoria continua es definida como una variable aleatoria X cuyo cdf es la integral de fx(x).

Dado que las probabilidades de todos los eventos envolviendo X pueden ser escritos en términos de cdf, este entonces sigue que las probabilidades pueden ser escritas en términos de la pdf.

De esta manera la pdf especifica completamente el comportamiento de variables aleatorias continuas.



Condición de normalización para pdf


Una pdf válida puede ser formada desde cualquier función continua no negativa, por partes g(x) que tenga una integral finita:

Al permitir fx(x)=g(x)/c, se obtiene una función que satisface la condición de normalización

Ejemplo pdf

Variable aleatoria uniforme La pdf de una variable aleatoria uniforme es dada por:


Ejemplo pdf Variable aleatoria exponencial. El tiempo de transmisión X de mensajes en un sistema de

comunicación tiene una distribución exponencial:


Pdf de variables aleatorias discretas

La derivada de la cdf no existe en el punto donde la cdf no es continua. De esa manera la definición para variables

continuas no aplica para variables discretas en el punto donde la cdf es discontinua. La función densidad de probabilidad es

definida de manera general haciendo notar la relación entre la función de escalón unitario y la función delta.



La derivada de la cdf no existe en puntos donde la cdf es no continua. De manera que la expresión antes usada no

aplica a variables aleatorias discretas en el punto donde la cdf es discontinua. Así que se puede generalizar la definición de la

función densidad de probabilidad señalando la relación entre la función escalón y la función delta, F. Novillo Probabilidades y Procesos Estocásticos 54


Siendo la función de escalón unitario definida como:


La función delta es relacionada a la escalón unitario:

Una función escalón unitario traducido es entonces:


Sustituyendo la escalón anterior en la cdf de una variable aleatoria discreta:


Esto sugiere que se defina la pdf de una variable aleatoria discreta como:

Ejemplo Dígase X el número de caras en tres monedas lanzadas.

Conseguir la pdf de X. Conseguir P[1<X≤2] y P[2 ≤X ≤3] Integrando la pdf.


Cuando la función delta aparece en los límites de

integración se debe indicar si las funciones delta están incluidas en la integración.

Pdf y cdf condicionales

Suponer que el evento C es dado y que P[C]>0. La cdf condicional de X dado C es definida por:


La pdf condicional de X dado C:

Ejemplo El tiempo de vida X de una máquina tiene una cdf continua

Fx(x). Conseguir la cdf y pdf condicionales dado el evento C={X>t} (i.e. la máquina sigue trabajando en el tiempo t)


La intersección de los dos eventos en el numerador es un conjunto vacío cuando x<t y a {t<X ≤x} cuando x≥t.

El valor esperado de X Suponer una serie de experimentos para variables

aleatorias continuas. Dada variables aleatorias continuas teniendno que P[X=x]=0 para cualquier valor especifico de x, dividir la línea real en pequeños intervalos y contar el número de veces Nk(n) las observaciones caen en el intervalo {xk<X<xk+∆}.

Como n se hace grande entonces la frecuencia relativa fk(n)=Nk(n)/n se acercará fx(xk) ∆, la probabilidad del intervalo.

Se calcula la media de la muestra en términos de las frecuencias relativas y se deja n→∞


La expresión en la parte derecha se acerca a un integral que disminuye ∆

El valor esperado de X

El valor esperado o media de una variable aleatoria X es definida por:


Ejemplo

Media de una variable aleatoria uniforme La media de una variable aleatoria uniforme es

dada por:


Ejemplo Media de una variable aleatoria Gaussiana. La pdf es simétrico con respecto a x=m. Entonces

E[X]=m. La siguientes expresiones son usadas cuando X es una

variable aleatoria no negativa.


Varianza de X

La varianza de una variable aleatoria X es definida por:


La desviación estándar de una variable aleatoria X es definida por:

Desigualdad de Markov

Probabilidad de X exceda t: 𝑃𝑃 𝑋𝑋 ≥ 𝑡𝑡 =?

𝑃𝑃 𝑋𝑋 ≥ 𝑡𝑡 ≤ 𝐸𝐸[ℎ(𝑥𝑥)]ℎ(𝑡𝑡)

X es una variable aleatoria y h es una función decreciente y no negativa. Si X es no negativa y h(x)=x, se tiene la desigualdad de Markov:

𝑃𝑃(𝑋𝑋 ≥ 𝑡𝑡) ≤ 𝐸𝐸[𝑋𝑋]𝑡𝑡


Desigualdad de Markov

La altura media de niños en el jardín es 3 pies, 6 pulgadas. Conseguir el límite de que la probabilidad que un niño en la clase sea mas alto que 9 pies. De la desigualdad de Markov

𝑃𝑃 𝐻𝐻 ≥ 9 ≤ 42 𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝108 𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝

= 0.389=38.9%


Desigualdad de Chebyshev

𝑃𝑃 𝑋𝑋 − 𝐸𝐸 𝑋𝑋 ≥ 𝑡𝑡 ≤ 𝜎𝜎𝑥𝑥2

𝑡𝑡2

Requiere conocimiento de la varianza Puede ser aplicado en variables negativas Ofece mejore límites Puede ser usado en el cálculo de intervalos de

confianza y simulaciones.


Desigualdad de Chebyshev

El tiempo medio de respuesta y la desviación estándar en un sistema de computo multiusuario son 15 seg y 3 seg respectivamente. Estimar la probabilidad que la respuesta de tiempo sea mayor que 5 seg de la media.


Métodos de transformación

Mapear 𝑓𝑓𝑓𝑓 𝑥𝑥 en otra función 𝐹𝐹(𝑤𝑤) y satisfacer la propiedad

𝐹𝐹 𝑓𝑓1 𝑥𝑥 ∗ 𝑓𝑓2 𝑥𝑥 = 𝐹𝐹1 𝑤𝑤 𝐹𝐹2(𝑤𝑤)

Se remplaza a la con una operación de multipliación más simple.


La función característica

La función característica de una variable aleatoria X está definida por:


Transformada de Fourier de la pdf de f(x)

De la transformada inversa de Fourier se tiene que :

Ejemplo

Variable aleatoria exponencial La función característica para una variable

aleatoria distribuida exponencial con parámetro λ es dada por:


Momentos Dado que fx(x) y Φx(w) forman un par de

transformadas, se puede esperar obtener los momentos de X de Φx(w).

El teorema del momento establece que los momentos de X son dados por


Los diferentes momentos de X son determinados por:

Ejemplo Para conseguir la media de una variable aleatoria

distribuida exponencialmente, de Φ𝑋𝑋(𝑤𝑤) = 𝜆𝜆(𝜆𝜆 − 𝑗𝑗𝑤𝑤)


El teorema del momento implica que E X =Φ′𝑋𝑋(0)/𝑗𝑗 = 1/𝜆𝜆

Considerando la segunda derivada

El segundo momento es E X2 = Φ′′𝑋𝑋(0)/𝑗𝑗2 = 2/𝜆𝜆2 , entonces la varianza de X es dada por:

Función Generadora

La función generadora de probabilidad GN(z) de una variable aleatoria entera no negativa N es definida por:


La primera expresión es el valor esperado de la función de N, zN

La segunda es la transformada z de la función de masa de probabilidad

Note que la función característica de N está dada por Φ𝑁𝑁(𝑤𝑤) =𝐺𝐺𝑁𝑁(𝑒𝑒𝑗𝑗𝑤𝑤)

Usando la derivación del teorema del momento, se tiene:

Función generadora

Los momentos de X son:


Media Varianza

Ejemplo Variable aleatoria de Poisson La función generadora de probabilidad para una variable aleatoria

de Poisson con parámetro α es dada por


La primera y segunda derivada de GN(z) son:

Media: Varianza:

Estocasticos Clase 1

Documents

Transcript of Estocasticos Clase 1