Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos...

27
Algunos objetivos de la signatura 2 Ajustes por mínimos cuadrados Ajustes por mínimos cuadrados Sean x 1 ,x 2 ,...,x n números reales distintos y sean y 1 ,y 2 ,...,y n números reales.

Transcript of Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos...

Page 1: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 2

Ajustes por mínimos cuadradosAjustes por mínimos cuadradosSean x1, x2, . . . , xn números reales distintos ysean y1, y2, . . . , yn números reales.

Page 2: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 2

Ajustes por mínimos cuadradosAjustes por mínimos cuadradosSean x1, x2, . . . , xn números reales distintos ysean y1, y2, . . . , yn números reales.

• Problema.- Hallar los coeficientes a y b de larecta y = ax + b que mejor se ajusta a lospuntos (x1, y1), . . . , (xn, yn). Es decir, buscarel punto (a, b) que hace mínimo el valor de lafunción

E(a, b) :=n∑

i=1

(axi + b − yi)2.

Page 3: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 3

−12 −9 −6 −3 0 3 6 9 12

−2

−1.5

−1

−0.5

0

0.5

1

1.5

2

x

y

y=ax+b

Page 4: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 4

• Problema.- Hallar el polinomio de segundo

grado y = ax2 + bx + c que mejor se ajusta a

los puntos (x1, y1), . . . , (xn, yn); en este caso,

se debe buscar el mínimo de la función

E(a, b, c) de las variables a, b, c, dada por

E(a, b, c) :=n∑

i=1

(ax2i + bxi + c − yi)2.

Page 5: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 5

• Problema.- Hallar la elipsex2

a2+

y2

b2= 1 que

mejor se ajusta a los puntos

(x1, y1), . . . , (xn, yn) en el sentido de los

mínimos cuadrados.

Page 6: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 6

Ajustes de planosAjustes de planosDados n puntos en el espacio

(x1, y1, z1), . . . , (xn, yn, zn) hallar el plano

z = ax + by + c que minimice el error cuadrático

total

E(a, b, c) :=n∑

i=1

(axi + byi + c − zi)2.

Page 7: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 7

Sistemas lineales incompatiblesSistemas lineales incompatiblesSabemos que un sistema de ecuaciones lineales

⎧⎪⎪⎪⎪⎪⎨⎪⎪⎪⎪⎪⎩

a11x1 + a12x2 + · · · + a1nxn = b1,

a21x1 + a22x2 + · · · + a2nxn = b2,

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

am1x1 + am2x2 + · · · + amnxn = bm,

tiene soluciones (o es compatible) si se cumple el

Teorema de Rouché-Frobenius.

Page 8: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 8

Este teorema dice que el sistema tiene soluciones si

y solo si los rangos de las matrices⎛⎜⎜⎜⎜⎜⎜⎝

a11 a12 · · · a1n

a21 a22 · · · a2n

......

. . ....

am1 am2 · · · amn

⎞⎟⎟⎟⎟⎟⎟⎠

,

⎛⎜⎜⎜⎜⎜⎜⎝

a11 a12 · · · a1n b1

a21 a22 · · · a2n b2

......

. . ....

...

am1 am2 · · · amn bm

⎞⎟⎟⎟⎟⎟⎟⎠

son iguales.

Page 9: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 9

Ejemplo 1.- El sistema⎧⎨⎩

3x1 + 2x2 + x3 = −2,

9x1 + 6x2 + 3x3 = −6,

tiene solución,

Page 10: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 9

Ejemplo 1.- El sistema⎧⎨⎩

3x1 + 2x2 + x3 = −2,

9x1 + 6x2 + 3x3 = −6,

tiene solución, pues

rg

⎛⎝3 2 1

9 6 3

⎞⎠ = 1 y rg

⎛⎝3 2 1 −2

9 6 3 −6

⎞⎠ = 1.

Page 11: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 10

Ejemplo 2.- El sistema⎧⎨⎩

3x1 + 2x2 + x3 = −2,

9x1 + 6x2 + 3x3 = −6.01,

no tiene ninguna solución,

Page 12: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 10

Ejemplo 2.- El sistema⎧⎨⎩

3x1 + 2x2 + x3 = −2,

9x1 + 6x2 + 3x3 = −6.01,

no tiene ninguna solución, pues

rg

⎛⎝3 2 1

9 6 3

⎞⎠ = 1 y rg

⎛⎝3 2 1 −2

9 6 3 −6.01

⎞⎠ = 2.

Page 13: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 10

Ejemplo 2.- El sistema⎧⎨⎩

3x1 + 2x2 + x3 = −2,

9x1 + 6x2 + 3x3 = −6.01,

no tiene ninguna solución, pues

rg

⎛⎝3 2 1

9 6 3

⎞⎠ = 1 y rg

⎛⎝3 2 1 −2

9 6 3 −6.01

⎞⎠ = 2.

¿Es satisfactoria esta situación? Cualquiera diría

que este segundo sistema “casi” tiene solución.

Juan-Miguel
Rectángulo
Page 14: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 11

Esto llegará a ser cierto si en las ecuaciones

cambiamos el signo igual = por el signo de

aproximadamente igual � (ó ≈ en inglés).⎧⎨⎩

3x1 + 2x2 + x3 � −2,

9x1 + 6x2 + 3x3 � −6.01,

Page 15: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 12

Consideremos un caso más general, hallar las

soluciones que mejor satisfacen al sistema⎧⎪⎪⎨⎪⎪⎩

a11x1 + a12x2 � b1

a21x1 + a22x2 � b2

a31x1 + a32x2 � b3

Page 16: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 13

Este sistema lo podemos reescribir en forma de

vectores columnas así:

x1

⎛⎜⎜⎝

a11

a21

a31

⎞⎟⎟⎠ + x2

⎛⎜⎜⎝

a12

a22

a32

⎞⎟⎟⎠ �

⎛⎜⎜⎝

b1

b2

b3

⎞⎟⎟⎠

Page 17: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 13

Este sistema lo podemos reescribir en forma de

vectores columnas así:

x1

⎛⎜⎜⎝

a11

a21

a31

⎞⎟⎟⎠ + x2

⎛⎜⎜⎝

a12

a22

a32

⎞⎟⎟⎠ �

⎛⎜⎜⎝

b1

b2

b3

⎞⎟⎟⎠

De esta forma el problema se puede reformular de

este modo: Hallar el vector del “plano” (subespacio

vectorial de dimensión 2) engendrado por los

Page 18: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 14

vectores ⎛⎜⎜⎝

a11

a21

a31

⎞⎟⎟⎠ y

⎛⎜⎜⎝

a12

a22

a32

⎞⎟⎟⎠

que esté lo más cerca posible del vector⎛⎜⎜⎝

b1

b2

b3

⎞⎟⎟⎠

Page 19: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 15

Con lo cual este problema es equivalente al

problema de hallar la distancia de un punto a un

plano; es decir, dados un punto P y un plano π

hallar el punto Q de π que hace mínima la distancia

PX de P a un punto cualquiera X de π.

Juan-Miguel
Línea
Juan-Miguel
Línea
Page 20: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 15

Con lo cual este problema es equivalente al

problema de hallar la distancia de un punto a un

plano; es decir, dados un punto P y un plano π

hallar el punto Q de π que hace mínima la distancia

PX de P a un punto cualquiera X de π.

Es fácil averiguar la solución utilizando el teorema

de Pitágoras, pues Q viene dado por la intersección

de la recta que pasa por P y es perpendicular a π

con este plano. La mínima distancia es PQ.

Page 21: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 16

Podemos observar dos figuras que ilustran esta

idea.

Page 22: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 17

π

P

Q X

Page 23: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 17

π

P

Q Xa_1

a_2

x

x_0

b

Page 24: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 18

Interpretación geométrica del

ajuste por mínimos cuadrados

Interpretación geométrica del

ajuste por mínimos cuadradosDados los puntos (x1, y1), . . . , (xn, yn) labúsqueda de (a, b) tal que la recta y = ax + b seala que mejor se ajusta a los puntos en el sentido delos mínimos cuadrados, puede intepretarse de lamanera siguiente.

Page 25: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 18

Interpretación geométrica del

ajuste por mínimos cuadrados

Interpretación geométrica del

ajuste por mínimos cuadradosDados los puntos (x1, y1), . . . , (xn, yn) labúsqueda de (a, b) tal que la recta y = ax + b seala que mejor se ajusta a los puntos en el sentido delos mínimos cuadrados, puede intepretarse de lamanera siguiente.

Si miramos la fórmula

E(a, b) :=n∑

i=1

(axi + b − yi)2.

Page 26: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 19

vemos que se trata de hacer lo más pequeñas

posible las siguientes cantidades simultáneamente,

(ax1 + b − y1)2

(ax2 + b − y2)2

...

(axn + b − yn)2

Page 27: Algunos objetivos de la signatura 2 Ajustes por mínimos ... · PDF fileAlgunos objetivos de la signatura 2 Ajustes por mínimos cuadrados ... Sabemos que un sistema de ecuaciones

Algunos objetivos de la signatura 20

Lo cual es equivalente a hallar la combinación

lineal

a

⎛⎜⎜⎜⎜⎜⎜⎝

x1

x2

...

xn

⎞⎟⎟⎟⎟⎟⎟⎠

+ b

⎛⎜⎜⎜⎜⎜⎜⎝

1

1...

1

⎞⎟⎟⎟⎟⎟⎟⎠

más próxima al vector

⎛⎜⎜⎜⎜⎜⎜⎝

y1

y2

...

yn

⎞⎟⎟⎟⎟⎟⎟⎠

.