Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2...

39
Capítol 2 1 Àlgebra lineal numèrica i Models lineals

Transcript of Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2...

Page 1: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Capítol 2 1

Àlgebra lineal numèricai Models lineals

Page 2: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Sistemes lineals 2Notació

Sistema de m equacions lineals amb n incògnites:

a11x1 + a12x2 + · · ·+ a1nxn = b1a21x1 + a22x2 + · · ·+ a2nxn = b2· · · · · · · · ·am1x1 + am2x2 + · · ·+ amnxn = bm

Forma matricial: Ax = b, on

A =

a11 a12 · · · a1na21 a22 · · · a2n...

......

am1 am2 · · · amn

, x =

x1x2...

xn

, b =

b1b2...

bm

.

A és la matriu de coeficients,b és el vector de dades,x és el vector d’incògnites.

Page 3: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Sistemes lineals 3Notació

També definim els residus o errors:

e = b− Ax =

e1e2...

em

.

e és el vector de residus,

ea = ‖e‖2, er =‖e‖2

‖b‖2, on ‖x‖2 =

√x2

1 + · · ·+ x2n .

Page 4: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss 4Metodologia: triangularització

Matriu ampliada:

A =

a11 a12 · · · a1n b1a21 a22 · · · a2n b2...

......

...am1 am2 · · · amn bm

.

Idea:Podem operar amb les files de la matriu ampliada, querepresenten les equacions.Podem aconseguir al final del procés un sistema triangular,fàcilment resoluble.

Observació: Tractarem el cas n = m. Es pot veure que el númerod’operacions per resoldre un sistema d’n equacions pel mètode deGauss és d’ordre 1

3 n3.

Page 5: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss 5Exemple 1

Exemple 1: Volem resoldre el sistema lineal x + z = 1,x + 0.0001y + 2z = 2,x + y + z = 0,

usant aritmètica de punt flotant amb 4 dígits i arrodoniment.Escrivim la matriu ampliada 1 0 1 1

1 0.0001 2 21 1 1 0

.

Page 6: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss 6Exemple 1 (continuació)

Apliquem el mètode de Gauss.Pas 1:

Fila 2→ Fila 2− Fila 1.Fila 3→ Fila 3− Fila 1.

Obtenim la matriu 1 0 1 10 0.0001 1 10 1 0 −1

.

Pas 2:Fila 3→ Fila 3− 10000 Fila 2.

Obtenim la matriu 1 0 1 10 0.0001 1 10 0 −10000 −10000

.

Page 7: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss 7Exemple 1 (continuació)

Cal resoldre el sistema lineal x + z = 1,0.0001y + z = 1,

− 10000z = −10000,

que és compatible determinat. Aquest té per solució

001

.

Calculem el vector de residus: e =

00−1

. Tenim que ea = 1 i

er = 0.4472 . . .El determinant de la matriu original és el producte dels elements de ladiagonal de la matriu triangular final. En aquest cas, det(A) = −1.000

Page 8: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss 8Exemple 2

Exemple 2: Volem resoldre el sistema lineal

0.000135 x1 +0.00201 x2 −2.07 x3 +3.04 x4 = 0.3454.21 x1 +0.0432 x2 −0.183 x3 −12.3 x4 = 87.4−2.72 x1 +205 x2 −12.1 x3 +324 x4 = −434

0.00871 x1 +332 x2 +23.4 x3 +0.0456 x4 = 23

(treballem amb precissió simple)

Page 9: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss 9Exemple 2 (continuació)

1.3499999e − 04 2.0099999e − 03 −2.0699999e + 00 3.0400000e + 00 3.4500000e − 014.2100000e + 00 4.3200001e − 02 −1.8300000e − 01 −1.2300000e + 01 8.7400002e + 01−2.7200000e + 00 2.0500000e + 02 −1.2100000e + 01 3.2400000e + 02 −4.3400000e + 02

8.7099997e − 03 3.3200000e + 02 2.3400000e + 01 4.5600001e − 02 2.3000000e + 01

Pas 1:

(Fila 2) = (Fila 2) − ( 3.1185188e + 04) * (Fila 1)

(Fila 3) = (Fila 3) − (−2.0148148e + 04) * (Fila 1)

(Fila 4) = (Fila 4) − ( 6.4518517e + 01) * (Fila 1)

1.3499999e − 04 2.0099999e − 03 −2.0699999e + 00 3.0400000e + 00 3.4500000e − 010.0000000e + 00 −6.2639027e + 01 6.4553152e + 04 −9.4815266e + 04 −1.0671489e + 040.0000000e + 00 2.4549777e + 02 −4.1718766e + 04 6.1574371e + 04 6.5171113e + 030.0000000e + 00 3.3187033e + 02 1.5695332e + 02 −1.9609068e + 02 7.4111187e − 01

Page 10: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss 10Exemple 2 (continuació)

Pas 2:

(Fila 3) = (Fila 3) − (−3.9192462e + 00) * (Fila 2)

(Fila 4) = (Fila 4) − (−5.2981400e + 00) * (Fila 2)

1.3499999e − 04 2.0099999e − 03 −2.0699999e + 00 3.0400000e + 00 3.4500000e − 010.0000000e + 00 −6.2639027e + 01 6.4553152e + 04 −9.4815266e + 04 −1.0671489e + 040.0000000e + 00 0.0000000e + 00 2.1128094e + 05 −3.1003000e + 05 −3.5307082e + 040.0000000e + 00 0.0000000e + 00 3.4216859e + 05 −5.0254066e + 05 −5.6538305e + 04

Pas 3:

(Fila 4) = (Fila 4) − ( 1.6194959e + 00) * (Fila 3)

1.3499999e − 04 2.0099999e − 03 −2.0699999e + 00 3.0400000e + 00 3.4500000e − 010.0000000e + 00 −6.2639027e + 01 6.4553152e + 04 −9.4815266e + 04 −1.0671489e + 040.0000000e + 00 0.0000000e + 00 2.1128094e + 05 −3.1003000e + 05 −3.5307082e + 040.0000000e + 00 0.0000000e + 00 0.0000000e + 00 −4.4835208e + 02 6.4136877e + 02

Page 11: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss 11Exemple 2 (continuació)

Pas 4:

Sistema compatible determinat

Solució del sistema triangular

x =

1.6482010e + 012.2871000e − 01−2.2662044e + 00−1.4305025e + 00

Residu (estimació de l’error):

e =

1.4901161e − 07−9.0408325e − 03

7.2631836e − 031.9132614e − 02

, ea = 0.2237 . . . · 10−1, er = 0.5046 . . . · 10−4

El determinant de la matriu original és el producte dels elements de la diagonal de la matriutriangular final. En aquest cas:

det A = 8.0104750e + 05

Page 12: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss 12Pivotatge

En el pas k -èssim de l’eliminació gaussiana, per calcular cadamultiplicador mik = aik/akk , hem de dividir per l’element diagonalakk , anomenat pivot.

Si akk = 0, podem canviar d’ordre dues files (equacions), peraconseguir un pivot diferent de zero (si no és posible, vol dir queel determinant del sistema és zero).Si akk 6= 0 però és petit, pot crear inestabilitat numèrica.

Estratègia: pivotatge maximal per columnes.

En el que al pas k−èssim es pren com a pivot el coeficientde valor absolut més gran entre els aik (i = k , . . . ,n).

Page 13: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss (pivotatge) 13Exemple 1

Exemple 1: Volem resoldre el sistema lineal x + z = 1,x + 0.0001y + 2z = 2,x + y + z = 0,

usant aritmètica de punt flotant amb 4 dígits i arrodoniment.Escrivim la matriu ampliada 1 0 1 1

1 0.0001 2 21 1 1 0

.

Page 14: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss (pivotatge) 14Exemple 1 (continuació)

Apliquem el mètode de Gauss amb pivotatge maximal per columnes.Pas 1: No pivotem

Fila 2→ Fila 2− Fila 1.Fila 3→ Fila 3− Fila 1.

Obtenim la matriu 1 0 1 10 0.0001 1 10 1 0 −1

.

Pas 2: Pivotem 2 i 3Fila 2↔ Fila 3.

Obtenim la matriu 1 0 1 10 1 0 −10 0.0001 1 1

.

Page 15: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss (pivotatge) 15Exemple 1 (continuació)

Pas 3:Fila 3→ Fila 3− 0.0001 Fila 2.

Obtenim la matriu 1 0 1 10 1 0 −10 0 1 1

.

La solució del sistema és

0−11

. Calculem el vector de residus:

e =

000

. El determinant de la matriu original és el producte dels

elements de la diagonal de la matriu triangular final, canviat designe si el número de vegades que hem pivotat és senar. Enaquest cas det(A) = −1.000.

Page 16: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss (pivotatge) 16Exemple 2

Exemple 2: 1.3499999e − 04 2.0099999e − 03 −2.0699999e + 00 3.0400000e + 00 3.4500000e − 01

4.2100000e + 00 4.3200001e − 02 −1.8300000e − 01 −1.2300000e + 01 8.7400002e + 01−2.7200000e + 00 2.0500000e + 02 −1.2100000e + 01 3.2400000e + 02 −4.3400000e + 02

8.7099997e − 03 3.3200000e + 02 2.3400000e + 01 4.5600001e − 02 2.3000000e + 01

Pas 1: Pivotem 1 2 4.2100000e + 00 4.3200001e − 02 −1.8300000e − 01 −1.2300000e + 01 8.7400002e + 01

1.3499999e − 04 2.0099999e − 03 −2.0699999e + 00 3.0400000e + 00 3.4500000e − 01−2.7200000e + 00 2.0500000e + 02 −1.2100000e + 01 3.2400000e + 02 −4.3400000e + 02

8.7099997e − 03 3.3200000e + 02 2.3400000e + 01 4.5600001e − 02 2.3000000e + 01

(Fila 2) = (Fila 2) − ( 3.2066506e − 05) * (Fila 1)

(Fila 3) = (Fila 3) − (−6.4608073e − 01) * (Fila 1)

(Fila 4) = (Fila 4) − ( 2.0688835e − 03) * (Fila 1)

4.2100000e + 00 4.3200001e − 02 −1.8300000e − 01 −1.2300000e + 01 8.7400002e + 010.0000000e + 00 2.0086146e − 03 −2.0699940e + 00 3.0403943e + 00 3.4219739e − 010.0000000e + 00 2.0502791e + 02 −1.2218233e + 01 3.1605319e + 02 −3.7753253e + 020.0000000e + 00 3.3199991e + 02 2.3400377e + 01 7.1047269e − 02 2.2819180e + 01

Page 17: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss (pivotatge) 17Exemple 2 (continuació)

Pas 2: Pivotem 2 4

4.2100000e + 00 4.3200001e − 02 −1.8300000e − 01 −1.2300000e + 01 8.7400002e + 010.0000000e + 00 3.3199991e + 02 2.3400377e + 01 7.1047269e − 02 2.2819180e + 010.0000000e + 00 2.0502791e + 02 −1.2218233e + 01 3.1605319e + 02 −3.7753253e + 020.0000000e + 00 2.0086146e − 03 −2.0699940e + 00 3.0403943e + 00 3.4219739e − 01

(Fila 3) = (Fila 3) − ( 6.1755413e − 01) * (Fila 2)

(Fila 4) = (Fila 4) − ( 6.0500456e − 06) * (Fila 2)

4.2100000e + 00 4.3200001e − 02 −1.8300000e − 01 −1.2300000e + 01 8.7400002e + 010.0000000e + 00 3.3199991e + 02 2.3400377e + 01 7.1047269e − 02 2.2819180e + 010.0000000e + 00 0.0000000e + 00 −2.6669233e + 01 3.1600931e + 02 −3.9162460e + 020.0000000e + 00 0.0000000e + 00 −2.0701356e + 00 3.0403938e + 00 3.4205934e − 01

Page 18: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss (pivotatge) 18Exemple 2 (continuació)

Pas 3: No pivotem

(Fila 4) = (Fila 4) − ( 7.7622615e − 02) * (Fila 3)

4.2100000e + 00 4.3200001e − 02 −1.8300000e − 01 −1.2300000e + 01 8.7400002e + 010.0000000e + 00 3.3199991e + 02 2.3400377e + 01 7.1047269e − 02 2.2819180e + 010.0000000e + 00 0.0000000e + 00 −2.6669233e + 01 3.1600931e + 02 −3.9162460e + 020.0000000e + 00 0.0000000e + 00 0.0000000e + 00 −2.1489075e + 01 3.0740986e + 01

Pas 4:

Sistema compatible determinat

Solució del sistema triangular

x =

1.6479750e + 012.2877161e − 01−2.2662601e + 00−1.4305402e + 00

Page 19: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mètode de Gauss (pivotatge) 19Exemple 2 (continuació)

Residus (estimació de l’error)

e =

−7.1525574e − 077.6293945e − 063.0517578e − 059.5367432e − 06

, ea = 0.3287 . . . · 10−4, er = 0.7416 . . . 10−7

El determinant de la matriu original és el producte dels elements de la diagonal de la matriutriangular final, canviat de signe si el número de vegades que hem pivotat és senar. En aquestcas:

det A = 8.0102912e + 05

Page 20: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Sistemes sobredeterminats 20Un exemple: Càlcul de pesos atòmics

Problema: Sabem que els pesos atòmics de l’oxigen i del nitrogensón aproximadament O = 16 i N = 14. Tenim els pesos molecularsdels sis òxids de nitrogen donats a continuació.

Òxid NO N2O NO2 N2O3 N2O5 N2O4Pes molecular 30.006 44.013 46.006 76.012 108.010 92.011

Pregunta: Com podem calcular més acuradament els pesos atòmicsde l’oxigen i del nitrogen, usant les dades de la taula anterior?

Observació: Tenim dues incògnites i 6 equacions!

Idea: Trobar “la millor solució” del problema

Page 21: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Sistemes sobredeterminats 21Definició i plantejament

Un sistema Ax = b, onA és una matriu d’ordre m × n i de rang n,m > n,

es diu sistema sobredeterminat.

Problema. Trobar la millor “solució” x = (x1, . . . , xn)>.

Estratègia. Buscar x tal que el quadrat de l’error

e2a = ‖b− Ax‖2

2 =m∑

i=1

(ai1x1 + · · ·+ ainxn − bi

)2

sigui el més petit possible.La solució d’aquest problema d’optimització, es diu que és la solucióde Ax = b, en el sentit dels mínims quadrats.

Page 22: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Sistemes sobredeterminats 22Problema analític

Problema Analític. Trobar el mínim global de la funció

S(x1, . . . , xn) =m∑

i=1

(n∑

k=1

aik xk − bi

)2

.

Solució:La funció és positiva, i quan x tendeix a infinit, S també tendeix ainfinit. Així, S té un mínim global.Els extrems locals satisfan, per a tot j = 1, . . . ,m,

0 =∂S∂xj

= 2m∑

i=1

(n∑

k=1

aik xk − bi

)aij ,

o, equivalentment,

m∑i=1

n∑k=1

aijaik xk =m∑

i=1

aijbi .

Page 23: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Sistemes sobredeterminats 23Problema analıtic

L’equació dels extrems locals es pot escriure, en formacompacta,

A>Ax = A>b

Així, és un sistema lineal quadrat n × n,on la matriu A>A té rangn (perque el rang d’A és maximal, n).Només hi ha una solució de les anomenadades equacionsnormals, que correspon a l’únic extrem local de la funció S, queserà el mínim global.

En resum, la solució de Ax = b en el sentit dels mínims quadrats ésla solució del sistema normal

A>Ax = A>b.

Page 24: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Sistemes sobredeterminats 24Problema geomètric

Problema Geomètric. Com

Ax = x1

a11...

am1

+ · · ·+ xn

a1n...

amn

,

es tracta de trobar la combinació lineal dels vectors columna d’A méspròxima a b.Solució:

La mínima longitud de e = b− Ax es dona quan e ésperpendicular al subespai generat pels vectors columna d’A.Llavors, x satisfà A>

(b− Ax

)= 0, o equivalentment(

A>A)x = A>b.

Page 25: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mínims quadrats 25Exemple: Càlcul de pesos atòmics

Problema: Volem calcular més acuradament els pesos atòmics de l’oxigen i del nitrogen, que sónaproximadament O = 16 i N = 14, usant els pesos moleculars dels sis òxids de nitrogen donats acontinuació.

òxid NO N2O NO2 N2O3 N2O5 N2O4Pes molecular 30.006 44.013 46.006 76.012 108.010 92.011 .

Solució. Siguin o i n els pesos atòmics de l’oxigen i del nitrogen, respectivament. Per estimar elseu valor, hem de resoldre el sistema sobredeterminat següent:

n + o = 30.0062n + o = 44.013n + 2o = 46.006

2n + 3o = 76.0122n + 5o = 108.0102n + 4o = 92.011

−→ A =

1 12 11 22 32 52 4

, x =

(no

), b =

30.00644.01346.00676.012

108.01092.011

.

Així, hem de resoldre el sistema normal A>Ax = A>b.

Page 26: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mınims quadrats 26Un problema de pesos atòmics

Tenim:

A>A =

(1 2 1 2 2 21 1 2 3 5 4

)

1 12 11 22 32 52 4

=

(18 2929 56

),

A>b =

(1 2 1 2 2 21 1 2 3 5 4

)

3.0006001e + 014.4013000e + 014.6006001e + 017.6012001e + 011.0801000e + 029.2011002e + 01

=

(7.1610400e + 021.3021610e + 03

).

Page 27: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Mínims quadrats 27Un problema de pesos atòmics

Llavors:(18 2929 56

)(no

)=

(7.1610400e + 021.3021610e + 03

)−→

(no

)=

(14.006925e + 0015.999290e + 00

)

Els residus són:

e =

−2.1362305e − 04−1.3732910e − 04

4.9591064e − 042.8228760e − 04−2.8991699e − 04−7.6293945e − 06

, ea = 0.6886 . . . 10−3, er = 0.3919 . . . 10−5

Page 28: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Ajust de paràmetres en models lineals 28Models lineals

Un model lineal den variables de control x = (x1, . . . , xn)>,1 variable de resposta y ,p funcions generadores f(x) = (f1(x), . . . fp(x))>,p paràmetres del model a = (a1, . . . ,ap)>,

és una relació de la forma

y = a1f1(x) + · · ·+ apfp(x) =< a, f(x) >

Problema: Donada una taula de m ≥ p dades experimentals

x1 x2 . . . xm

y1 y2 . . . ym

volem ajustar els paràmetres a1, . . . ,ap del model.

Page 29: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Ajust de dades en models lineals 29Models lineals

Solució: (en el sentit de mınims quadrats)Es tracta de “resoldre” el sistema sobredeterminat m × p, Fa = y:

f1(x1) f2(x1) · · · fp(x1)f1(x2) f2(x2) · · · fp(x2)

......

...f1(xm) f2(xm) · · · fp(xm)

a1a2...

ap

=

y1y2...

ym

F és la matriu de control, y el vector de respostes, i a el vector deparàmetres.Per tant, cal resoldre el sistema

FT Fa = FT y

Page 30: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Ajust de dades en models lineals 30Un exemple de regressió lineal

Exemple. Per mesurar la concentració d’una solució hom pot utilitzar test coliromètrics, en els queun cert reactiu s’afegeix a la mostra, de forma que la intensitat del color obtingut depén de laconcentració. De fet, la intensitat de la llum depén de l’absorbància de la substància, quecaracteritza l’absorció d’energia per part d’aquesta.

Realitzem un test colorimètric per a la concentració de glucosa, obtenint les següents dades

x= concentració (mM) 0 2 4 6 8 10y= absorbància 0.002 0.150 0.294 0.434 0.570 0.704

La representació gràfica de les dades suggereix que la dependència de l’absorbància respecte a laconcentració és lineal. Així, doncs, volem ajustar les dades a una recta

y = a + bx.

Page 31: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Ajust de dades en models lineals 31Un exemple de regressió lineal

Test colorimètric per a la concentració de glucosa

Page 32: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Ajust de dades en models lineals 32Un exemple de regressió lineal

Com

F>F =

(1 1 1 1 1 10 2 4 6 8 10

)

1 01 21 41 61 81 10

=

(6 3030 220

),

les equacions normals són:

(6 30

30 220

)(ab

)=

(1 1 1 1 1 10 2 4 6 8 10

)

0.0020.1500.2940.4340.5700.704

=

(2.15415.68

),

Els paràmetres són, doncs: (ab

)=

(0.008290.07014

)Els residus són:

e =

0.0020.1500.2940.4340.5700.704

1 01 21 41 61 81 10

(

0.008280.07014

)=

−0.006280.001430.005140.004860.00057−0.00571

, ea = 0.1115 . . . 10−1, er = 0.1055 . . . 10−1

Page 33: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Ajust de dades en models lineals 33Un exemple de regressió parabòlica

Exemple. Volem obtenir un model millor per mesurar l’absorbància en funció de la concentració deglucosa. Per exemple, proposem un model parabòlic

y = a + bx + cx2

Page 34: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Ajust de dades en models lineals 34Un exemple de regressió parabòlica

Com

F>F =

1 1 1 1 1 10 2 4 6 8 100 4 16 36 64 100

1 0 01 2 41 4 161 6 361 8 641 10 100

=

6 30 22030 220 1800

220 1800 15664

,

les equacions normals són:

6 30 22030 220 1800220 1800 15664

abc

=

1 1 1 1 1 10 2 4 6 8 100 4 16 36 64 100

0.0020.1500.2940.4340.5700.704

Llavors, els paràmetres són: a

bc

=

0.002210.07496−0.00046

,

Els residus són:

e =

0.0020.1500.2940.4340.5700.704

1 0 01 2 41 4 161 6 361 8 641 10 100

0.00221

0.07496−0.00046

=

−0.00021−0.000210.000290.00000−0.000640.00036

,ea = 0.8435 . . . 10−3,

er = 0.7978 . . . 10−3.

Page 35: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Ajust de dades en models lineals 35Un exemple de regressió lineal múltiple

Problema. Es realitza una investigació per tal d’explorar les condicions de reacció en les qualss’obté un polímer amb elasticitat màxima. Les variables amb influència rellevant sobre l’elasticitat Ehan estat reduïdes a tres en una fase anterior de la investigació: les concentracions (%) C1 i C2 dedos components, i la temperatura (◦C) de reacció T . En un experiment per avançar més enaquesta investigació s’han obtingut les dades de la taula.

C1 C2 T E15 2.3 135 25.7421 2.3 135 48.9415 3.1 135 42.7821 3.1 135 35.9415 2.3 155 41.5021 2.3 155 50.1015 3.1 155 46.0621 3.1 155 27.70

Volem obtenir un model lineal del tipus

E = b0 + b1 C1 + b2 C2 + b3 T ,

Font: G.E.P. Box & N.R. Draper (1986), Empirical Model Building and Response Surfaces, Wiley.

Page 36: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Ajust de dades en models lineals 36Un exemple de regressió lineal múltiple

Tenim

F =

1 15 2.3 1351 21 2.3 1351 15 3.1 1351 21 3.1 1351 15 2.3 1551 21 2.3 1551 15 3.1 1551 21 3.1 155

, y =

25.7448.9442.7835.9441.5050.1046.0627.70

de forma que les equacions normals són (treballant amb precisió simple)

8.0000000e+00 1.4400000e+02 2.1600000e+01 1.1600000e+031.4400000e+02 2.6640000e+03 3.8879999e+02 2.0880000e+042.1600000e+01 3.8879999e+02 5.9600002e+01 3.1320000e+031.1600000e+03 2.0880000e+04 3.1320000e+03 1.6900000e+05

b0b1b2b3

=

3.1876001e+025.7574800e+038.5513196e+024.6339801e+04

Així, doncs, b0b1b2b3

=

2.4861162e + 012.7500221e − 01−4.3125401e + 00

1.4950107e − 01

.Els residus són

e =

−1.3509996e + 018.0399895e + 006.9800339e + 00−1.5099792e + 00−7.4002075e − 01

6.2099686e + 007.2700157e + 00−1.2740002e + 01

, ea = 23.5039 . . . , er = 0.2038 . . .

Page 37: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Ajust de dades en models lineals 37Un exemple de regressió no lineal

Els problemes de regressió no lineal, en models en que elsparàmetres no entren linealment, són més complicats que elsproblemes de regressió lineal, ja que s’han de resoldre sistemesd’equacions no lineals (utilitzant, per exemple, el mètode de Newton).

Afortunadament, hi ha casos en els que el problema no lineal es potreduir a un de lineal mitjançant una tranformació adequada de les va-riables de control i/o de resposta.

Page 38: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Ajust de dades en models lineals 38Un exemple de regressió no lineal

Exemple. Els processos termodinàmics adiabàtics de sistemes físics caracteritzats per la pressióP, el volum V i la temperatura T (els gasos, per exemple) segueixen una llei del tipus PVγ = C, onC és constant al llarg del procés (i depèn de la temperatura, que es manté constant).

Volem ajustar els valors de C i de γ en un procés adiabàtic segons la taula de mesuresexperimentals següent:

P (atm) 1.62 1.00 0.75 0.62 0.52 0.46V (litres) 0.5 1.0 1.5 2.0 2.5 3.0 .

Treient logaritmes a l’equació d’estat PVγ = C, obtenim

log P = log C − γ log V

de forma que podem escollir:

Com a variable de control, x = log V ,

Com a variable de resposta y = log P,

Com a paràmetres: a = log C, b = −γ.

Page 39: Àlgebra lineal numèrica i Models linealsftp.maia.ub.es/mates2/cap2.pdf · Sistemes lineals 2 Notació Sistema de m equacions lineals amb n incògnites: a 11x 1 + a 12x 2 + + a 1nx

Ajust de dades en models lineals 39Un exemple de regressió no lineal

Així, doncs, reduïm el problema a un de regressió lineal simple: y = a + bx .La taula de dades és (treballant amb precisió simple)

x = log V −6.9314718e−01 0. 4.0546510e−01 6.9314718e−01 9.1629076e−01 1.0986123e+00y = log P 4.8242614e−01 0. −2.8768209e−01 −4.7803581e−01 −6.5392649e−01 −7.7652878e−01

S’obté, llavorsa = −2.0496447e − 03, b = −7.0297122e − 01

i, finalment, com C = exp(a) i γ = −b,

C = 0.99795245, γ = 0.70297122.

Nota: Si escollim x = log P com a variable de control, i y = log V com a variable de resposta,llavors el model de regressió lineal és log V = 1

γ log C − 1γ log P, de forma que a = 1

γ log C,b = − 1

γ . Les estimacions obtingudes són:

C = 0.99800582, γ = 0.70310375.