la-pred

8/19/2019 la-pred

1/144

Linearna algebra

Vektorji in matrike

Bojan Orel

Fakulteta za računalništvo in informatiko

23. februar 2015

http://goforward/http://find/http://goback/

8/19/2019 la-pred

2/144

Vektorji

Vektor je urejena n-terica števil, ki ga običajno zapiemo kot stolpec

x =

x 1...

x n

Števila x 1, . . . , x n so koordinate ali komponente vektorja.

Komponente vektorja so navadno realna ali kompleksna števila.

Tukaj bodo komponente vektorja realna števila.

http://find/

8/19/2019 la-pred

3/144

Operacije z vektorji

1. Produkt s skalarjem α ∈ R

αx = α

x 1...

x n

=

αx 1...

αx n

2. Vsota

x + y =

x 1.

..x n

+

y 1.

..y n

=

x 1 + y 1

.

..x n + y n

http://find/

8/19/2019 la-pred

4/144

Linearna kombinacija

vektorjev x in y je vsota

αx + β y

http://find/

8/19/2019 la-pred

5/144

Skalarni produkt in dolžina vektorja

Skalarni produkt vektorjev x in y je število

x

·y = x 1y 1 + x 2y 2 +

· · ·+ x ny n

Vektorja x in y sta ortogonalna, kadar je x · y = 0Doľzina vektorja x je ||x|| = √ x · x.Enotski vektor je vektor z dolžino 1.

http://find/

8/19/2019 la-pred

6/144

Kot med vektorjema, trikotniška in Schwartzova neenačba

Če je ϕ kot med vektorjema x in y, potem je

x · y||x||||y|| = cos ϕ

Trikotniška neenakost

||x + y|| ≤ ||x|| + ||y||

Schwartzova neenakost

|x · y| ≤ ||x||||y||

http://find/

8/19/2019 la-pred

7/144

Matrike

Matrika je m × n števil, urejenih v m vrstic in n stolpcev:

A =

a11 a12 · · · a1na21 a22

· · · a2n

......

. . . ...

am1 am2 · · · amn

Števila aij so elementi matrike, navadno realna ali kompleksna

števila.

http://find/

8/19/2019 la-pred

8/144

Operacije z matrikami

1. Produkt s skalarjem

αA =

αa11 αa12 · · · αa1nαa21 αa22 · · · αa2n

......

. . . ...

αam1 αam2

· · · αamn

2. Vsota

A + B =

a11 + b 11 a12 + b 12 · · · a1n + b 1na21 + b 21 a22 + b 22 · · · a2n + b 2n

.

.....

.. .

...

am1 + b m1 am2 + b m2 · · · amn + b mn

Pozor! Seštevamo lahko samo matrike, ki imajo enako število

stolpcev in vrstic.

http://find/

8/19/2019 la-pred

9/144

Linearna algebra

Matrike

Bojan OrelFakulteta za računalništvo in informatiko

2.marec 2015

http://find/

8/19/2019 la-pred

10/144

Matrike

Matrika je m × n števil, urejenih v m vrstic in n stolpcev:

A =

a11 a12 · · · a1na21 a22 · · · a2n

... ... . . . ...am1 am2 · · · amn

Števila aij so elementi matrike, navadno realna ali kompleksna

števila.

http://find/

8/19/2019 la-pred

11/144

Operacije z matrikami

1. Produkt s skalarjem

αA =

αa11 αa12 · · · αa1nαa21 αa22 · · · αa2n

... ...

. . . ...

αam1 αam2 · · · αamn

2. Vsota

A + B =

a11 + b 11 a12 + b 12 · · · a1n + b 1na21 + b 21 a22 + b 22 · · · a2n + b 2n

.

.. .

.. .

. . .

..am1 + b m1 am2 + b m2 · · · amn + b mn

Pozor! Seštevamo lahko samo matrike, ki imajo enako številostolpcev in vrstic.

http://find/

8/19/2019 la-pred

12/144

Produkt matrike in vektorja

Produkt matrike A in vektorja x je linearna kombinacija stolpcevmatrike A, uteži linearne kombinacije so komponente vektorja x:

Ax = u v w ·

x 1x 2

x 3

= x 1u + x 2v + x 3w

Pozor! Matrika A mora imeti toliko stolpcev, kolikor komponentima vektor x.

http://find/

8/19/2019 la-pred

13/144

Množenje vrstice z matriko

Produkt vrstice y z matriko A je linearna kombinacija vrsticmatrike A, uteži linearne kombinacije so komponente vrstice y:

y · A = [y 1, y 2, y 3] ·

u

v

w

= y 1u

y 2v

y 3w

Pozor! Matrika A mora imeti toliko vrstic, kolikor komponent imavrstica y.

http://find/http://goback/

8/19/2019 la-pred

14/144

Množenje matrik

Matrično množenje lahko opišemo po stolpcih, po vrsticah ali kot

skalarne produkte vrstic s stolpci:

po stolpcih: če matriko B sestavljajo stolpci b 1, b 2, . . . , b n,potem je

A · B =

A · [b 1 b

2 · · · b

n] = [Ab

1 Ab

2 · · · , Ab

n] po vrsticah: če matriko A sestavljajo vrstice a1, a2, . . . , am,

potem je

A · B =

a1

a

2

...am

· B =

a1B

a

2

B ...amB

http://find/

8/19/2019 la-pred

15/144

Množenje matrik - nadaljevanje

Skalarni produkt matrike s stolpcem: v produktu C = A · B jeelement v i -ti vrstici in j -tem stolpcu skalarni produkt i -tevrstice matrike A ij j -tega stolpca matrike B

c ij = k

aik b kj .

Pozor: Pri produktu C = A · B mora imeti matrika A tolikostolpcev, kot ima matrika B vrstic. Rezultat (matrika C ) imatoliko vrstic kot A in toliko stolpcev kot B .

A[m×n] · B [n×p ] = C [m×p ]

http://find/

8/19/2019 la-pred

16/144

Enotska matrika

Med matrikami ima posebno vlogo enotska matrika; to jekvadratna matrika, ki ima 1 po diagonali, sicer pa le 0:

I =

1 0 0

0 1 00 0 1

Če katerokoli matriko A pomnožimo (z leve ali z desne) z enotskomatriko, je rezultat A

IA = AI = A

http://find/

8/19/2019 la-pred

17/144

Linearna algebraSistemi linearnih enačb in LU razcep


9.marec 2015

S

http://find/

8/19/2019 la-pred

18/144

Sistem linearnih enačb - primer

Dve linearni enačbi z dvema neznankama

x −2y = 1

3x +2y = 11

Lahko ga zapišemo v matrični obliki:

Ax = b ,

kjer je

A =

1 −23 2

, b =

111

in x =

x

y

V iˇ i l ˇ lik ǐ j ik

http://find/

8/19/2019 la-pred

19/144

Vrstična in stolpčna slika, razširjena matrika

Vrstična slika: dve premici, ki se sekata v točki (rešitev)

Stolpčna slika: linearna kombinacija stolpcev matrike na levi

strani, ki mora biti enaka vektorju na desni strani. Uteži telinearne kombinacije so rešitev.

Razširjena matrika sistema Ax = b je matrika [A b].

G li i ij i

http://find/

8/19/2019 la-pred

20/144

Gaussova eliminacija - primer

x −2y = 1

3x +2y = 11

Prvo enačbo, pomnoženo s 3, odštejemo od druge enačbe:

x −2y = 1

8y = 8

Prva neznanka (x) je iz druge enačbe izginila.

G li i ij l it

http://find/

8/19/2019 la-pred

21/144

Gaussova eliminacija - algoritem

Če je matrika A lepa1, potem algoritem

for k = 1 : n − 1for i = k + 1 : n

M (i , k ) = A(i , k )/A(k , k )for j = k + 1 : n

A(i , j ) = M (i , k ) ∗ A(k , j )end

b (i ) = b (i ) − M (i , k ) ∗ b (k )end

end

sistem linearnih enačb Ax = b predela v ekvivalentni sistem enačbU x = c, kjer je matrika U zgornje trikotna.

1

če je v spodnjem algoritmu A

(k

,k

) (pivot) v imenovalcu vedno različen odnič.

Ob t t lj j l it

http://find/

8/19/2019 la-pred

22/144

Obratno vstavljanje - algoritem

Naslednji algoritem izračuna rešitev sistema linearnih enačbU x = c z zgornje trikotno matriko U :

x (n) = c (n)/U (n, n)for i = n − 1 : −1 : 1

for j = i + 1 : nc (i ) = c (i ) − U (i , j ) ∗ x ( j )

end

x (i ) = c (i )/U (i , i )

end

P i e i ko Ga sso a eli i acija od o e

http://find/

8/19/2019 la-pred

23/144

Primeri, ko Gaussova eliminacija odpove

1. Na pivotnem mestu je 0, z zamenjavo vrstic (pivotiranjem)

lahko nadaljujemo 0 2 43 −2 5

−→

3 −2 50 2 4

2. Na pivotnem mesto je 0, ni rešitve 1 −2 13 −6 11

−→

1 −2 10 0 8

3. Sistem ima neskončno mnogo rešitev 1 −2 13 −6 3

−→

1 −2 10 0 0

Gaussova eliminacija matrična formulacija


8/19/2019 la-pred

24/144

Gaussova eliminacija - matricna formulacija

Vsak korak Gaussove eliminacije je operacija nad vrsticami matrikeA. Zato ga lahko opǐsemo kot produkt elementarne eliminacijske

matrike E ij z matriko sistema.Primer: Pri matriki

A =

2 4 −24 9 −3

−2 −3 7

moramo najprej (korak (2,1)) od druge vrstice odšteti dvakratnikprve vrstice, ostali dve vrstici pustimo pri miru. To opǐsemo kot(levo) množenje z matriko E 21:

E 21A =

1 0 0−2 1 0

0 0 1

2 4 −24 9 −3−2 −3 7

=

2 4 −20 1 1−2 −3 7

Gaussova eliminacija matrična formulacija (nadaljevanje)

http://find/

8/19/2019 la-pred

25/144

Gaussova eliminacija - matricna formulacija (nadaljevanje)

V naslednjem koraku moramo eliminirati a31, kar naredimo zmatriko E 31,potem pa še a32 z E 32. Tako je

E 32(E 31(E 21A)) = U ,

kjer je U zgornje trikotna matrika. Celotno Gaussovo eliminacijo bilahko opisali z

EA = U ,

kjer je E = E 32E 31E 21 celotna eliminacijska matrika.

http://find/

8/19/2019 la-pred

26/144

Linearna algebraSistemi linearnih enačb

LU razcep

Gauss-Jordanova eliminacija


16.marec 2015

Enotska matrika

http://find/

8/19/2019 la-pred

27/144

Enotska matrika

Med matrikami ima posebno vlogo enotska matrika; to jekvadratna matrika, ki ima 1 po diagonali, sicer pa le 0:

I = 1 0 0

0 1 00 0 1

Če katerokoli matriko A pomnožimo (z leve ali z desne) z enotskomatriko, je rezultat A

IA = AI = A

Inverzna matrika

http://find/

8/19/2019 la-pred

28/144

Inverzna matrika

DEFINICIJA: Kvadratna matrika A je obrnljiva, če obstaja takamatrika A−1, da je

A · A−1 = I in A−1 · A = I .

Matrika A−1

(če obstaja) se imenuje matriki A inverzna matrika.Matrika, ki ni obrnljiva, je singularna.Obrnljiva matrika ima samo eno inverzno matriko.Kvadratna matrika reda n je obrnljiva natanko tedaj, ko priGaussovi eliminaciji dobimo n pivotov.

Če obstaja neničelna rešitev x enačbe Ax = 0, matrika A niobrnljiva (je singularna).

Inverz produkta

http://find/

8/19/2019 la-pred

29/144

Inverz produkta

Če sta matriki A in B obrnljivi, je obrnljiv tudi produkt A · B in

(A · B )−1 = B −1 · A−1

Dokaz:

(B −1 · A−1) · (A · B ) = B −1(A−1A)B = B −1I · B = B −1B = I

Inverz produkta matrik je produkt inverznih matrik v obratnem

vrstnem redu.

Matrična oblika Gaussove eliminacije - nadaljevanje

http://find/

8/19/2019 la-pred

30/144

Matricna oblika Gaussove eliminacije nadaljevanje

Ugotovili smo, da lahko Gauusovo eliminacijo opǐsemo kotE · A = U , kjer je U zgornje trikotna in E spodnje trikotnamatrika. Z matriko L = E −1 lahko to zapišemo kot A = L · U .Ker je E produkt elementarnih inverznih matrik E ij , je L (tudispodnje trikotna) produkt inverznih matrik E −1ij v obratnerm

vrstem redu.Primer za matriko 3 × 3: Namesto

E · A = E 32E 31E 21A = U

imamoA = L · U = E −1

21 E −1

31 E −1

32 U .

LU razcep matrike A


8/19/2019 la-pred

31/144

LU razcep matrike A

Matrika L je spodnje trikotna z 1 na diagonali. Elementi poddiagonalo so množitelji, s katerimi smo eliminirali elemente na tehmestih v matriki A.Primer:

A =

2 4 −24 9 −3−2 −3 7

=

1 0 02 1 0−1 1 1

·

2 4 −20 1 1

0 0 4

= L · U

Rešitev sistema Ax = b z LU razcepom

http://find/

8/19/2019 la-pred

32/144

Resitev sistema Ax b z LU razcepom

Ko poznamo razcep A = L · U (zanj potrebujemo O(n3) operacij),namesto sistema Ax = b rešujemo sistem L · U x = b, kar lahkonaredimo v dveh korakih. Najprej rešimo

Ly = b, potem pa U x = y

Ker sta oba sistema trikotna, za njuno rešitev potrebujemo O(n2)operacij.

Permutacijske matrike

http://find/

8/19/2019 la-pred

33/144

j

Pri Gaussovi eliminaciji se lahko zgodi, da je element na pivotnemmestu enak 0. Če v istem stolcu pod pivotnim mestom obstajakakšen element = 0, moramo zamenjati vrstici v matriki. Todosežemo z (levim) množenjem s permutacijsko matriko , to jematrika, ki jo dobimo tako, da v enotski matriki I zamenjamo isti

dve vrstici.Množenje permutacijske matrike

P 23 =

1 0 00 0 1

0 1 0

z matriko A zamenja drugo in tretjo vrstico v matriki A.

Simetrične matrike


8/19/2019 la-pred

34/144

Simetrične so tiste matrike, ki so ”odporne” na transponiranje:

A je simetrǐcna ⇔ AT = A .

Za elemente simetrične matrike velja aij = a ji .

Če je A simetrična, je tudi A−1

simetrǐcna.Če je R poljubna (pravokotna) matrika, sta R T R in R · R T

simetrični matriki.Dokaz za R T R :

(R T R )T = R T (R T )T = R T R .

LU -razcep s pivotiranjem


8/19/2019 la-pred

35/144

p p j

Vsaka permutacijska matrika je obrnljiva.Če je P permutacijska matrika, je tudi P −1 permutacijska inP −1 = P T .ˇCe je pri Gaussovi eliminaciji potrebna zamenjava vrstic, potemA = L · U ne velja več.Ker bi lahko vse zamenjave vrstic naredili PRED Gaussovoeliminacijo, lahko zapǐsemo P · A = L · U , kjer je P permutacijskamatrika, ki določa potrebne menjave vrstic.

Izračun inverzne matrike — Gauss-Jordanova eliminacija

http://find/

8/19/2019 la-pred

36/144

j

Ideja: Rešitev matrǐcne enačbe A · X = I je inverzna matrikaX = A−1.Z enotsko matriko I razširjeno matriko A, t.j. [A I ] najprej

izvedemo Gaussovo eliminacijo, da imamo na levi zgornje trikotnomatriko, nato nadaljujemo z obratnim vstavljanjem, da dobimo nalevi enotsko matriko I .Na koncu je inverzna matrika na desni strani.

Gauss-Jordanova eliminacija — primer

http://find/

8/19/2019 la-pred

37/144

Iščemo inverzno matriko matrike A =

1 23 4

1 2 1 03 4 0 1

−→

1 2 0 10 −2 −3 1

−→

1 2 1 00 1 3/2 −1/2

−→

1 0 −2 10 1 3/2 −1/2

Tako je A−1 = −2 13/2 −1/2

Preveri!


8/19/2019 la-pred

38/144

Linearna algebraVektorski prostori in podprostori


23.marec 2015

Vektorski prostori

http://find/

8/19/2019 la-pred

39/144

Definicija: realni vektorski prostor V je množica ”vektorjev”skupaj s pravili za

seštevanje vektorjev

množenje vektorja z realnim številom (skalarjem).

Če sta x in y poljubna vektorja v V , morajo biti v V tudi

vsota x + y in

produkti αx za vse α ∈ R

Zato morajo biti v vektorskem prostoru V tudi VSE linearne

kombinacije αx + β y.

Pravila za operacije v vektorskih prostorih

http://find/

8/19/2019 la-pred

40/144

Operaciji seštevanja vektorjev in množenja vektorja s skalarjem vvektorskem prostoru morajo zadoščati naslednjim pravilom:

1. x + y = y + x (komutativnost seštevanja);

2. x + (y + z) = (x + y) + z (asociativnost seštevanja);

3. obstaja en sam nǐcelni vektor , da velja x + 0 = x;4. za vsak x obstaja natanko en −x, da je x + (−x) = 0

5. 1 · x = x;

6. (αβ )x = α(β x);

7. α(x + y) = αx + αy (distributivnost);8. (α + β )x = αx + β x.

Primeri vektorskih prostorov

http://find/

8/19/2019 la-pred

41/144

Rn - vektorski prostor stolpčnih vektorjev z n komponentami;

R2×2 - vektorski prostor vseh realnih 2 × 2 matrik;

C (a, b ) - vektorski prostor vseh funkcij, zveznih na odprtemintervalu (a, b );

Pn - vektorski prostor vseh polinomov stopnje ne več kot n;

Z - vektorski prostor, ki ga sestavlja samo ničelni vektor.

Podprostori

http://find/

8/19/2019 la-pred

42/144

Definicija: Podmnožica U vektorskega prostora V je podprostor ,

če je za vsak par vektorjev x in y iz U in vsako realno število α tudi x + y ∈ U in

αx ∈ U .

Nekaj posledic definicije:

Vsak podprostor vsebuje ničelni vektor; Za vsak vektor iz V so vsi njegovi mnogokratniki podprostor

(za Rn so to premice skozi izhodišče);

Podprostori v R3 so

1. Z sam ničelni vektor 02. Premice skozi izhodǐsče3. Ravnine skozi izhodǐsče4. Cel prostor R3

Kaj NI podprostor - primeri

http://find/

8/19/2019 la-pred

43/144

1. Naj bo U ⊂ R2 množica tistih dvokomponentnih vektorjev, kiimajo obe komponenti pozitivni, na primer [2, 3]T . To nipodprostor, ker produkt z −1, to je vektor [−2,−3]T ni v U .

2. Tudi če v U vključimo vse vektorje, ki imajo obe komponenti

negativni, na primer [−3,−2], to ne bo podprostor, ker vsotavektorjev [2, 3]T in [−3,−2]T , to je [−1, 1]T ni v U .

3. V množici linearnih polinomov p (x ) = ax + b naj bo U podmnožica tistih polinomov, ki imajo v 0 vrednost 1. Ker ima

vsota dveh takih polinomov v 0 vrednost 2, to ni podprostor.

Primeri podprostorov - kaj JE podprostor

http://find/

8/19/2019 la-pred

44/144

1. V prostoru matrik R2×2 vse zgornje trikotne matrike

a b

0 d

sestavljajo podprostor.

2. V prostoru matrik Rn×n vse simetrične matrike sestavljajo

podprostor.3. V prostoru linearnih polinomov vsi linearni polinomi, ki imajo

v 1 vrednost 0, sestavljajo podprostor.

4. V prostoru C [0, 1] zveznih funkcij na intervalu [a, b ], funkcije,

ki imajo zvezen prvi odvod, sestavljajo podprostor.

Stolpčni prostor matrike

http://find/

8/19/2019 la-pred

45/144

Stolpčni prostor C (A) matrike A je vektorski prostor, ki vsebujenatanko vse linearne kombinacije stolpcev matrike A.Ker je produkt matrike A z vektorjem x linearna kombinacijastolpcev matrike A, je C (A) ravno množica vseh produktov Ax zavse možne x.

C (A) vsebuje ne samo vse stolpce matrike A, ampak tudi vsenjihove linearne kombinacije.Posledica: Sistem linearnih enačb Ax = b je rešljiv natanko tedaj,

ko je b ∈ C (A).

Stolpčni prostor matrike je lahko cel vektorski prostor R

m

ali lenjegov podprostor.

Ničelni prostor matrike

http://find/

8/19/2019 la-pred

46/144

Rešujemo sistem linearnih enačb Ax = 0, kjer je matrika A lahkokvadratna n × n ali pravokotna m × n.

Definicija: Ničelni prostor N (A) matrike A je množica vseh rešitev

sistema Ax = 0.Ničelni prostor N (A) je podprostor v Rn.

Posledica: Če je A kvadratna in obrnljiva, potem je N (A) = Z (samo vektor 0).

Primer izračuna ničelnega prostora

http://find/

8/19/2019 la-pred

47/144

Kaj je ničelni prostor singularne matrike A =

1 23 6

?

Sistem enačb rešimo Ax = 0 z eliminacijo, po prvem koraku

dobimo

1 20 0

, kar pomeni, da si vrednost zadnje spremenljivke

lahko izberemo poljubno, prva je njen (−2)-kratnik.

Posebna rešitev: Če za drugo spremenljivko izberemo 1, dobimoposebno rešitev (−2, 1).

Splošna rešitev: Če za drugo komponento rešitve izberemo c ,potem je prva komponenta −2c . Ker v tem primeru lahko prostoizberemo le eno komponento rešitve, druga pa je s tem določena, je splošna rešitev c (−2, 1).

Splošna rešitev je linearna kombinacija posebnih rešitev.

Vrstična stopničasta oblika matrike

http://find/

8/19/2019 la-pred

48/144

Kadar delamo Gaussovo eliminacijo nad pravokotno matriko Adimenzije m × n, ne moremo pričakovati, da bo končna matrika U zgornje trikotna.

Matrika je vrstǐcno stopničaste oblike , kadar se vsaka od njenih

vrstic začne z vsaj eno ničlo več kot prejšnja.Prvi neničelni element v vsaki vrstici vrstično stopničaste matrike jepivot .

Stolpci, v katerih so pivoti, so pivotni stolpci, ostali stolpci so

prosti .

Stopničasta oblika matrike - primer

http://find/

8/19/2019 la-pred

49/144

Naj bo A =

1 1 2 32 2 8 10

3 3 10 13

. Spremenimo jo v stopničasto

obliko. Najprej prvo vrstico×2 odštejmo od druge, nato pa prvovrstico×3 odštejmo od tretje (v okvirjih so pivoti):

1 1 2 30 0 4 40 0 4 4

,

Potem še drugo od tretje:

U := 1 1 2 30 0 4 4

0 0 0 0

1. in 3. stolpec sta pivotna, 2. in 4. prosta

Primer (nadaljevanje)

http://find/

8/19/2019 la-pred

50/144

2. in 4. spremenljivki (prosti spremenljivki ) lahko poljubnoizberemo vrednost, vrednosti 1. in 3. neznanke potem določata

prvi dve enačbi.Za proste neznanke je ugodno izbrati vrednosti 0 ali 1:

če izberemo x 2 = 1 in x 4 = 0, dobimo x 3 = 0 in x 1 = −1;

če izberemo x 2 = 0 in x 4 = 1, dobimo x 3 = −1 in x 1 = −1.

Ti dve posebni rěsitvi rěsita enačbo U x = 0, torej tudi Ax = 0.Obe sta v ničelnem prostoru. Vsaka druga rešitev je linearnakombinacija teh dveh posebnih rešitev.Ničelni prostor torej sestavljajo vsi vektorji oblike

x = x 2

−1

100

+ x 4

−1

0−1

1

=

−x 2 − x 4

x 2−x 4

x 4

.

http://find/

8/19/2019 la-pred

51/144

Linearna algebraPosebne in splošna rešitev sistema linearnih enačb


25.marec 2014

Reducirana stopničasta oblika matrike

http://find/

8/19/2019 la-pred

52/144

Iz stopničaste oblike dobimo reducirano stopničasto obliko tako, da

1. Vrstice, v katerih je pivot, delimo s pivotom, da so vsi pivotienaki 1;

2. Z obratno eliminacijo postavimo ničle v stolpcih nad pivoti.

Nadaljevanje primera:

U =

1 1 2 30 0 4 4

0 0 0 0

−→

1 1 2 30 0 1 1

0 0 0 0

−→

1 1 0 10 0 1 10 0 0 0

= R

Stopničasta oblika in rang

http://find/

8/19/2019 la-pred

53/144

Število vrstic v matriki še ne določa števila enačb v sistemuAx = 0, saj enačbe, kot je 0 = 0 ne moremo šteti. Če je nekavrstica v matriki linearna kombinacija ostalih vrstic, bomo prieliminaciji dobili stopničasto obliko, ki bo imela v tisti vrstici sameničle. Pravo število neodvisnih enačb nam pove rang matrike.

Definicija: Rang matrike (r ) je število pivotov.

Matrika ranga 1 ima en sam pivot. Taka matrika ima vse vrstice

(in vse stolpce) proporcionalne, zato jo lahko vedno zapǐsemo kot

produkt stolpca in vrstice: A = xyT .

Reducirana stopničasta oblika - nadaljevanje

http://find/

8/19/2019 la-pred

54/144

V reducirani stopničasti matriki R imajo pivotni stolpci 1 napivotnem mestu, drugod same 0.

Vsi pivotni stolpci skupaj sestavljajo r × r enotsko matriko. V

spodnjih m − n

vrsticah so same ničle.Noben od pivotnih stolpcev se ne da zapisati kot kombinacijaprejšnjih stolpcev.

Prosti stolpci so linearna kombinacija pivotnih stolpcev.

Posebne rešitve


8/19/2019 la-pred

55/144

Posebne rešitve enačb Ax = 0 in R x = 0 bomo izbrali tako, da bo

vedno ena prosta spremenljivka enaka 1, ostale bodo enake 0.Posebne rešitve dobimo direkto iz reducirana stopničaste oblike.

Primer: Iščemo splošno rešitev sistema linearnih enačb kjer jematrika že v reducirani stopničasti obliki (proste neznanke in prosti

stolpci so tiskani debelo)

R x =

1 3 0 2 −10 0 1 4 −3

0 0 0 0 0

=

x 1x2x 3

x4x5

=

00

0

.

Nadaljevanje primera

http://goforward/http://find/http://goback/

8/19/2019 la-pred

56/144

Posebne rešitve so:

1. če izberemo x 2 = 1 in x 4 = x 5 = 0, dobimoz1 = [−3, 1, 0, 0, 0]

T ;

2. če izberemo x 4 = 1 in x 2 = x 5 = 0, dobimoz2 = [−2, 0,−4, 1, 0]

T ;

3. če izberemo x 5 = 1 in x 2 = x 4 = 0, dobimo z3 = [1, 0, 3, 0, 1]T

Tako smo za vsako prosto spremenljivko dobili eno posebno rešitev.

Ničelni prostor matrike R so vse linearne kombinacije vektorjevz1, z2 in z3.

Izrek: Če ima matrika A dimenzije m × n rang r , potem imasistem Ax = 0 r neodvisnih enačb in zato n − r neodvisnih rešitev.

Posebne rešitve in reducirana stopničasta oblika

http://find/

8/19/2019 la-pred

57/144

Iz reducirane stopničeste oblike matrike R zlahka preberemo

posebne rešitve sistema R x = 0: Vzemimo, da je prvih r stolpcevmatrike R pivotnih. Potem je reducirana stopničasta oblika

R =

I F

0 0

,

kjer je I enotska r × r matrika, F dimenzije r × n − r , nǐcelnimatriki pa imata m − r vrstic in n in n − r stolpcev.Sistem enačbe je torej

I

pivotneneznanke

= −F

prosteneznanke

Posebne in splošna rešitev homogenega sistema

http://find/

8/19/2019 la-pred

58/144

Posebne rešitve homogenega sistema Ax = 0 so stolpci matrike

N = −F

I

r pivotnih neznank

n−

r prostih neznank

.

Splošna rešitev homogenega sistema so vse linearne kombinacijeposebnih rešitev, torej stolpčni prostor C (N ) matrike N .

Splošna rešitev sistema Ax = bPogoj, da rešitev sploh obstaja: b ∈ C (A).

http://find/

8/19/2019 la-pred

59/144

Sistem enačb rešimo tako, da matriko A razširimo s stolpcem b.Matrika [A b] je razširjena matrika sistema.

Nato z Gaussovo eliminacijo razširjeno matriko predelamo nastopničasto obliko.Primer: Sistem enačb

1 3 0 20 0 1 4

1 3 1 6

x 1x 2x 3x 4

= 16

7

ima razširjeno matriko 1 3 0 2 10 0 1 4 6

1 3 1 6 7

= [A b]

Primer (nadaljevanje)

http://find/

8/19/2019 la-pred

60/144

Po redukciji dobimo matriko v reducirani stolpčni obliki

1 3 0 2 10 0 1 4 6

0 0 0 0 0

= R .

Rang matrike A je 2, prav tako kot rang razširjene matrike.Pivotna stolpca sta prvi in tretji, torej

pivotni neznanki sta x 1 in x 2;

prosti neznanki sta x 2 in x 4.

Če za prosti neznanki izberemo vrednost x 2 = 0 in x 4 = 0, dobimovrednosti pivotnih neznank x 1 = −1 in x 3 = −6.

Splošna rešitev sistema Ax = b (nadaljevanje)

http://find/

8/19/2019 la-pred

61/144

Splošna rešitev je vsota posebne rešitve xp in splošne rešitve xnhomogene enačbe Ax = 0.

V prejšnjem primeru je xp = [−1, 0,−6, 0]T , splošna rešitev

homogene enačbe pa

xn = x 2

−3

100

+ x 4

−2

0−4

1

Poseben primer - poln stolpčni rang

http://find/

8/19/2019 la-pred

62/144

Za vsako matriko, ki ima poln stolpčni rang n = r , velja tudi

1. Vsi stolpci A so pivotni stolpci;

2. Ni prostih neznank in ni posebnih rešitev;

3. Nǐcelni prostor N (A) vsebuje le ničelni vektor x = 0;

4. Kadar ima sistem enačb Ax = b rešitev (kar ni vedno res!), jerěsitev ena sama.

Poseben primer - poln vrstični rang

http://find/

8/19/2019 la-pred

63/144

Za vsako matrik, ki ima poln vrstični rang m = r , velja tudi

1. vsaka vrstica ima pivot in R (reducirana vrstična obika) nimanobene ničelne vrstice);

2. enačba Ax = b ima rešitev za vsako desno stran b;3. stolpčni prostor je cel prostor Rm;

4. V ničelnem prostoru matrike A je n − r = n −m posebnihrešitev.

Razvrstitev enačb glede na dimenzijo in rang matrike

http://find/

8/19/2019 la-pred

64/144

Sistem linearnih enačb Ax = b spada v enega od 4 razredov gledena število vrstic in stolpcev ter rang matrike A:

1 r = m in r = n kvadratna, obrnljiva ima natančno 1 rešitev2 r = m in r

8/19/2019 la-pred

65/144

Linearna algebraOrtogonalnost in pravokotne projekcije


13.april 2015

Pitagorov izrek z vektorji

http://find/

8/19/2019 la-pred

66/144

Trikotnik naj določata vektorja x in y (dve stranici trikotnika),

tretja stranica naj bo x + y.

Pitagorov izrek: Če sta x in y pravokotna, potem je

|x|2 + |y|2 = |x + y|2.

Ker je

|x+y|2 = (x+y)T (x+y) = xT x+2xT y+yT y = |x|2+2xT y+ |y|2 ,

se to zgodi natanko tedaj, ko je xT y = 0.

Definicija: Vektorja x in y sta ortogonalna natanko tedaj, ko jexT y = 0.

Ortogonalnost podprostorov

http://find/

8/19/2019 la-pred

67/144

Definicija: Podprostora U in V vektorskega prostora staortogonalna, če je vsak vektor u ∈ U ortogonalen na vsak vektorv ∈ V .

Primer: Vodoravna ravnina je ortogonalna na navpično premico.

Primer: Vodoravna in navpična ravnina nista ortogonalni, saj jenjun presek premica. Neničelni vektor, ki določa to premico, pa niortogonalen sam nase!

V preseku dveh ortogonalnih podprostorov je lahko samo ničelni

vektor (to je edini vektor, ki je ortogonalen nase.).

Ortogonalnost osnovnih matričnih podprostorov

http://find/

8/19/2019 la-pred

68/144

Izrek: Za vsako matriko A ∈ Rm×n velja:

1. Nǐcelni prostor N (A) in vrstični prostor C (AT ) staortogonalna podprostora prostora Rn;

2. Levi ničelni prostor N (AT

) in stolpčni prostor C (A) staortogonalna podprostora prostora Rm.

Prvi del izreka dokažemo z enačbo Ax = 0, drugi del z enačboAT y = 0.

Ortogonalni komplement in osnovni izrek LA

http://find/

8/19/2019 la-pred

69/144

Vrstični in ničelni prostor matrike nista samo ortogonalna. Tudinjuni dimenziji se seštejeta do dimenzije celega prostora. Ravnotako velja za levi ničelni in stolpčni prostor.

Definicija: Ortogonalni komplement V ⊥ podprostora V vsebujeVSE vektorje, ki so ortogonalni na V .

Osnovni izrek linearne algebre:

1. Nǐcelni prostor N (A) je ortogonalni komplement vrstičnegaprostora v Rn;

2. levi ničelni prostor N (AT ) je ortogonalni komplementstolpčnega prostora v Rm.

Projekcija na premico

http://find/

8/19/2019 la-pred

70/144

Naloga: Dan je vektor a. Na premici skozi izhodišče v smerivektorja a ǐsčemo vektor p, ki je najbližji vektorju b.

Ključ za rešitev naloge je: premica, ki povezuje b in p mora bitipravokotna na a.

Rešitev: Ker sta a in p kolinearna, pišemo p = x̂ a. ˇStevilo x̂ bomo določili tako, da bo vektor e := b − p pravokoten na a.

aT e = aT (b − x̂ a) = 0 torej x̂ = aT b

aT a ,

Rešitev naloge je p = aT

baT aa

Projekcija na premico (nadaljevanje)


8/19/2019 la-pred

71/144

Dva posebna primera:

Če je b = αa, potem je x̂ = α in p = b.

Če je b pravokoten na a, potem je x̂ = 0 in p = 0.

Poiskali smo pravokotno projekcijo vektorja b na vektor a. Rešitevlahko predstavimo kot:

1. p = x̂ a, kjer je x̂ = aT b

aT a;

2. p = P b, kjer je projekcijska matrika P = aaT

aT a.

Premisli: Koliko je rang projekcijske matrike P .

Kaj je njen stolpčni prostor C (P )?Kaj je ničelni prostor N (P )?

Projekcija na podprostor

I li ih d i ih kt j Rm

http://find/

8/19/2019 la-pred

72/144

Imamo n linearnih neodvisnih vektorjev v Rm.

Naloga: Iščemo linearno kombinacijo p = x 1a1 + · · · + x nan, ki jenajbližje danemu vektorju b.Z drugimi besedami: iščemo pravokotno projekcijo vektorja b napodprostor, ki ga razpenjajo vektorji a1, . . . an.

Za n = 1 je to projekcija na premico, rešitev že poznamo.

Rešitev: Sestavimo matriko A s stolpci a1, . . . , an. Ǐsčemo takolinearno kombinacijo stolpcev p = Ax̂ (pravokotno projekcijo), kibo najblǐze b.To bo takrat, ko bo vektor napake e := b − Ax̂ pravokoten na

podprostor C (A), torej

AT (b − Ax̂) = 0 .

Projekcija na podprostor (nadaljevanje)

http://find/

8/19/2019 la-pred

73/144

Pravokotna projekcija vektorja b na C (A) je p = Ax̂, kjer x̂ dobimokot rešitev sistema AT Ax̂ = AT b.

Matrika AT A je kvadratna dimenzije n in simetrična. Ker sostolpci matrike A neodvisni, je tudi obrnljiva, zato je rešitev

p = Ax̂ = A(AT A)−1AT b .

Rešitev lahko zapišemo s projekcijsko matriko:

p = P b, kjer je P = A(AT A)−1AT

Projekcijske matrike

http://find/

8/19/2019 la-pred

74/144

Definicija: Matrika P je projekcijska, kadar

je simetrična: P T = P in

velja P 2 = P .

Vprašanje: Ali matrika na preǰsnji strani ima obe lastnosti

projekcijskih matrik?Če je P projekcijska matrika, ki projecira na podprostor U , potem je tudi I − P projekcijska matrika, ki projecira na ortogonalnikomplement U ⊥.

Izziv: Preveri, da je tudi I − P projekcijska matrika, če je P projekcijska!


8/19/2019 la-pred

75/144

Linearna algebraNajmanjši kvadrati, Gram-Schmidtovaortogonalizacija in QR razcep


20.april 2015

Najmanǰsi kvadrati

http://find/

8/19/2019 la-pred

76/144

ˇCe b ∈ C (A), potem enačba Ax = b nima rešitve. To se pogostodogaja, ker je prisoten šum. Rešitev bi morala biti, pa je ni, ker jeb ”malo pokvarjen”. Kako vseeno priti blizu rešitvi?

V praksi se velikokrat dogaja, da je nek pojav odvisen oddoločenega števila n parametrov. Da bi določili vrednost

parametrov, naredimo veliko meritev, zato je število enačb precejvečje kot število parametrov.

Recept: Enačbo z leve pomnožimo z AT , da dobimo

AT Ax = AT b, kar je kvadraten sistem, Matrika AT A je obrnljiva,

če so le stolpci matrike A linearno neodvisni.

Projekcija in ostanek

http://find/

8/19/2019 la-pred

77/144

S projekcijo smo vektor b razdelili na dve komponenti:1. projekcijo p v smeri stolpčnega prostora C (A) in

2. ostanek e = b − p, pravokoten na C (A), torej v smeri N (AT ).

Projekcijo na podprostor N (AT ) dobimo torej z matriko I − P .

Izziv: Prepričaj se, da matrika I − P res zadošča lastnostim, ki jihmora imeti projekcijska matrika.

Povzetek: Kadar sistem Ax = b nima rešitve (kar pomenib ∈ C (A)), rešujemo raje sistem AT Ax̂ = AT b, ki nam da

najmanjši ostanek e = Ax̂ − b.

Ortogonalne baze

Z l i i k ji j ˇ j lik l ǰ K d l i

http://find/

8/19/2019 la-pred

78/144

Z ortogonalnimi vektorji je računanje veliko lažje. Kadar so stolpcimatrike A paroma pravokotni, je matrika AT A diagonalna.Ta teden imamo dva cilja.

Ugotoviti, kako nam ortogonalnost pomaga pri računanjuprojekcij in

Konstrukcijo ortogonalnih vektorjev.

Definicija: Vektorji q1, q2, . . . , qn so ortonormalni , kadar soortogonalni im imajo vsi dolžino 1, torej

qT i q j = 0 ko je i = j pravokotni vektorji1 ko je i = j enotski vektorji

Za matriko Q = [q1 q2 · · · qn] velja Q T Q = I .

Ortogonalne matrike

D fi i ij M ik Q j l k d j


8/19/2019 la-pred

79/144

Definicija: Matrika Q je ortogonalna, kadar je

1. kvadratna in2. ima ortonormirane stolpce.

Za ortogonalno matriko Q velja Q T = Q −1.

Primer: Permutacijske matrike (= enotska matrika s preměsanimi

vrsticami) so ortogonalne.Trditev: Množenje z ortogonalno matriko ohranja dolžino

vektorjev in kote med njimi:

||Q x|| = ||x|| za vsak vektor x

(Q x)T Q y = xT Q T Q y = xT y .

Projekcija z ortogonalno bazo: Q namesto A

Č b i kt ji t i i t j j k ij

http://find/

8/19/2019 la-pred

80/144

Ce so bazni vektorji ortonormirani, potem je projekcija napodprostor enostavna: namesto kanoničnega sistemaAT Ax = AT b, imamo

Q T Q ̂x = I ̂x = x̂ = Q T b ,

torej kar eksplicitno izraženo rešitev.

Če je q1, . . . , qn ortonormirana baza celotnega prostora, potem jeb = QQ T b, zato lahko vsak vektor b enostavno razvijemo poortogormirani bazi:

b = q1(qT 1 b) + q2(q

T 2 b) + · · · + qn(q

T n b)

To je osnova Fourierovih vrst (Pridejo na vrsto kasneje).

Gram-Schmidtov postopekKako iz poljubne baze narediti ortonormirano bazo?Začnimo s tremi linearno neodvisnimi (ne ortogonalnimi) vektorji


8/19/2019 la-pred

81/144

( g ) ja, b in c. Za smer prvega baznega vektorja sprejmemo x := a.

Druga smer mora biti pravokotna na x, zato od b odštejemonjegovo projekcijo na na x:

y = b − xT b

xT xx .

Tretja smer mora biti pravokotna na prvi dve, zato od c odštejemonjegovi projekciji na x in y:

z = c − xT c

xT

x

x − yT c

yT

y

y .

Nazadnje vektorje še delimo z njihovo dolžino:

q1 = x/||x||, q2 = y/||y||, q3 = z/||z||

Gram-Schmidtov postopek (nadaljevanje)


8/19/2019 la-pred

82/144

Ideja Gram-Schmidtovega procesa je torej preprosta:

od vsakega novega vektorja odštejemo njegove projekcije na žedoločene smeri. Na koncu (ali pa že sproti) vsakega od vektorjevdelimo z njegovo dolžino.

Tako dobljeni vektorji so ortonormalni.

Naloga: Imamo vektorje a = [1,−1, 0]T , b = [2, 0, −2] in

c = [3,−3, 3]. Z Gram-Schmidtovim postopkom izračunaj ustrezneortonormirane vektorje.

QR razcep matrike

http://find/

8/19/2019 la-pred

83/144

Imamo matriko A (n vrstic) in trije stolpci a, b in c. Ko na

stolpcih naredimo Gram-Schmidtov postopek, dobimo matriko Q (n vrstic) z ortonormiranimi stolpci q1, q2 in q3. Kako sta ti dvematriki povezani?

Ker so vsi trije vektorji q linearne kombinacije stolpcev matrike A,

obstaja taka matrika R

, da je A

= QR

. Kaksna je matrika R

?Ker je

1. q1 v smeri a,

2. q2 v ravnini, ki jo določata a in b in

3. q3 v podprostoru, ki ga razpenjajo a, b in c, je matrika R trikotna.

QR razcep matrike - nadaljevanje

http://find/

8/19/2019 la-pred

84/144

Kaj so elementi zgornje trikotne matrike R ?Enačbo A = QR z leve pomnožimo z Q T . Ker ima Q ortogonalnestolpce, je Q T Q = I , zato je Q T A = R , kar pomeni, da enačbaA = QR izgleda kot

... ...

...a b c...

... ...

=

... ...

...q1 q2 q3...

... ...

q

T 1

a qT 1

b qT 1

c

qT 2

b qT 3

c

qT 3

c

http://find/

8/19/2019 la-pred

85/144

Linearna algebraFourierove vrsteDeterminante


4.maj 2015

Neskončno dimenzionalni prostori

http://find/

8/19/2019 la-pred

86/144

Neskončno dimenzionalni prostori se zelo razlikujejo od končnodimenzionalnih, ki smo jih spoznavali do sedaj, vendar nekaterekoncepte lahko, nekoliko spremenjene, še vedno s pridomuporabimo.

Kako lahko opišemo vektor v neskončno dimenzionalnem prostoru?Imamo dve možnosti:

1. Vektorji neskončna zaporedja x = (x 1, x 2, . . .). Na primer(1, 1/2, 1/6, . . . , 1/(n!), . . .).

2. Vlogo vektorjev prevzamejo funkcije. Na primer f (x ) = sin x .

Skalarni produkt za neskončna zaporedja

http://find/

8/19/2019 la-pred

87/144

Naravna posplošitev skalarnega produkta dveh neskončnihvektorjev v = (v 1, v 1, . . .) in u = (u 1, u 2, . . .) na neskončnazaporedja je neskončni produkt u · v = u 1v 1 + u 2v 2 + · · · . Problemnastane, če vrsta ne konvergira. Zato se omejimo na vektorje u,katerih dolžina

||u

|| je končna:

||u||2 = u · u = u 21 + u 22 + · · · < ∞ .

Za tako definiran skalarni produkt velja Schwartzova neenačba

|u

·v

|

8/19/2019 la-pred

88/144

Za funkcije na intervalu (a, b ) je naravna posplošitev vektorskegaprodukta

(f , g ) =

b

a

f (x )g (x ) dx

in naravna posplošitev dolžine vektorja norma

||f || =

b

a

(f (x ))2 dx .

Primer

Za trigonometrične funkcije cos x , cos2x , . . . ter sin x , sin2x , jeprimeren interval [−π π] Norma funkcije f (x) = sin x ne tem


8/19/2019 la-pred

89/144

primeren interval [ π, π]. Norma funkcije f (x ) = sin x ne temintervalu je

||f || =

(f , f ) =

π

−π

(sin x )2 dx =√

π .

Skalarni produkt f (x ) in g (x ) = cos x pa je

(f , g ) =

π

−π

sin x cos x dx = 1

2

π

−π

sin2x dx = 0 ,

torej sta sin x in cos x ortogonalni na [−π, π].Še več: vse funkcije zaporedja1 = cos 0x , cos x , sin x , cos 2x , sin 2x , cos 3x , sin 3x , . . . so medseboj ortogonalne.

Trigonometrične Fourierove vrste

Če je funkcija f (x ) odsekoma zvezna na intervalu [−π, π), jo lahkora ijemo po sin sih in kosin sih

http://find/

8/19/2019 la-pred

90/144

razvijemo po sinusih in kosinusih:

f (x ) = a0 + a1 cos x + b 1 sin x + a2 cos 2x + b 2 sin 2x + · · · .

Ker razvijamo po funkcijah, ki so ortogonalne na [−π, π), lahkokoeficiente izračunamo kot

a0 = (1, f )(1, 1)

= 12π

π

−π

f (x ) dx ,

ak = (cos kx , f )

(cos kx , cos kx ) =

1

π π

−π

f (x )cos kx dx , k = 1, 2, . . . ,

b k = (sin kx , f )

(sin kx , sin kx ) =

1

π

π

−π

f (x )sin kx dx , k = 1, 2, . . . ,

Primer: Fourierova vrsta za stopničasto funkcijoPo trigonometričnih funkcijah želimo razviti odsekoma konstantno

funkcijo f (x) = 1 0

8/19/2019 la-pred

91/144

funkcijo f (x )

0 −π

≤x

≤0

Najprej izračunamo koeficiente

a0 = 12π

π

0 dx = 1

2

ak =

1π π0 cos kx dx =

1

k π sin kx |π

0 = 0

b k = 1π

π

0 sin kx dx = −1

k π cos kx |π0 =

1 − (−1)k k π

.

Zato je b 2k = 0 in b 2k −1 = 2(2k −1)π . Končno lahko zapišemo razvoj

f (x ) = 1

2 +

∞k =1

2

(2k − 1)π sin (2k − 1)x .

Trigonometrične Fourierove vrste na intervalu [−a, a]S transformacijo t → πx

a iz funkcije f (x ), definirane na [−a, a]

dobimo funkcijo f (x ) = g (πx a

) = g (t ), definirano na [−π, π]. Zato

http://find/

8/19/2019 la-pred

92/144

j ( ) g (a

) g ( ), [ , ]f lahko zapišemo kot vsoto Fourierove vrste

f (x ) = a0 +∞k =1

ak cos

k πx

a + b k sin

k πx

a

,

kjer koeficiente izračunamo kot

a0 = 1

2a

a

−a

f (x ) dx

ak = 1

a a

−a

f (x )cos k πx

a

dx

b k = 1

a

a

−a

f (x )sin k πx

a dx

Legendreovi polinomiNa intervalu [−1, 1] so ortogonalni Legendreovi polinomi .Izračunamo jih lahko iz Rodriguesove formule


8/19/2019 la-pred

93/144

P n(x ) = 1

2nn!

d n

dx n (x 2 − 1)n

ali s pomočjo rekurzije

(n + 1)P n+1(x ) = (2n + 1)xP n(x )

−nP n−1(x ) .

Prvih nekaj Lagrangeovih polinomov je

P 0(x ) = 1

P 1(x ) = x

P 2(x ) = 1

2(3x 2 − 1)

P 3(x ) = 1

2(5x 3 − 3x )

Determinante

http://find/

8/19/2019 la-pred

94/144

Determinanta je število, ki pripada vsaki kvadratni matriki.

Pogled naprej Determinanto lahko izračunamo

1. z množenjem pivotov - pivotna formula

2. s seštevanjem n! produktov - velika formula

3. s seštevanjem n manjših determinant - kofaktorska formulaNamesto z običajno (precej zapleteno) formulo, bomodeterminanto definirali z njenimi osnovnimi lastnostmi.

Determinanto kvadratne matrike A bomo zapisali kot

|A

| ali

det(A).

Osnovne lastnosti determinant

Osnovne lastnosti popolnoma določajo determinante. ostalelastnosti determinant so posledica osnovnih lastnosti

http://find/

8/19/2019 la-pred

95/144

lastnosti determinant so posledica osnovnih lastnosti.

1. det(I ) = 1 determinanta enotske matrike je enaka 1.2. Ko v matriki zamenjamo dve vrstici, determinanta spremeni

predznak.

a b

c d = − c d

a b 3. Determinanta je linearna funkcija vsake vrstice posebej.

ta tb

c d

= t

c d

a b

a + a b + b c d

= a b c d

+ a b c d

Lastnosti determinant

http://find/

8/19/2019 la-pred

96/144

4. Matrika z dvema enakima vrsticama ima determinanto 0.Posledica lastnosti 2.

5. Če v matriki od poljubne vrstice odštejem mnogokratnik nekedruge vrstice, se determinanta ne spremeni.Posledica lastnosti lastnosti 3 in 4.

Posledica: Pri Gaussovi eliminaciji se determinanta matrikeohranja (ali kvečjemu spremeni predznak, če menjavamovrstice).

6. Matrika, ki ima eno vrstico samih ničel, je enaka 0.

Posledica lastnosti 3.

Lastnosti determinant (nadaljevanje)

7. Determinanta trikotne (spodnje ali zgornje) matrike jed kt di l ih l t

http://find/

8/19/2019 la-pred

97/144

produkt diagonalnih elementov.

Če so vsi diagonalni elementi različni od 0, lahko z običajnimivrstičnimi operacijami (Gauss ali Jordan) eliminiramo vsezunajdiagonalne elemente. Potem uporabimo lastnost 3.Če je vsaj eden izmed diagonalnih elementov enak 0, zeliminacijo dobimo vsaj eno ničelno vrstico in je (zaradilastnosti 6) determinanta enaka 0.

8. Če je A singularna, potem je det(A) = 0. Če je A obrnljiva,potem je det(A) = 0.Pri singularni matriki z eliminacijo pridelamo vsaj eno ničelno

vrstico, uporabimo lastnost 6.Obrnljivo matriko z eliminacijo predelamo v zgornje trikotno,uporabimo lastnost 7.


9. det(AB ) = det(A)det(B ).Če je B singularna, je det(B) = 0 (lastnost 8), pa tudi AB

http://find/

8/19/2019 la-pred

98/144

Ce je B singularna, je det(B ) 0 (lastnost 8), pa tudi AB

singularna in det(AB ) = 0.Če je B obrnljiva, potem det(B ) = 0 in pogledamo kakšnelastnosti ima razmerje D (A) := det(AB )/ det(B ):

9.1 (Determinanta enotske matrike) D (I ) = det(B )/ det(B ) = 1;9.2 (Zamenjava dveh vrstic) Če v A zamenjamo dve vrstici, se

zamenjata isti dve vrstici v AB . Zato det(AB ) zamenjapredznak, prav tako tudi D (A);

9.3 (Linearnost) Če 1. vrstico matrike A pomnožimo s t , se tudi 1.vrstica AB pomnoži s t , prav tako razmerje D (A).Prvi vrstici matrike A prǐstejmo prvo vrstico matrike A, Potemse tudi prvi vrstici matrike AB prišteje prva vrstica matrikeAB in se zaradi lastnosti 3 determinanti seštejeta. Pracv takose seštejeta razmerji, če delimo z det(B ).

Ker ima D (A) lastnosti 1–3 determinant, je D (A) = det(A).


10. Transponirana matrika AT ima isto determinanto kot AK j A i l j i l di AT i b i

http://find/

8/19/2019 la-pred

99/144

Ko je A singularna, je singularna tudi AT in obe imatadeterminanto 0.Ko je A obrnljiva, naredimo LU -razcep PA = LU . Obe stranitransponiramo AT P T = U T LT in uporabimo lastnost 9 zadeterminanto produkta.

Posledica: Vsaka lastnost, ki velja za vrstice determinante, veljatudi za njene stolpce.

Determinanta spremeni predznak, če med seboj zamenjamodva stolpca;

Determinanta je enaka 0, če sta dva stolpca enaka; Determinanta je enaka 0, če so v vsaj enem stolpcu same

ničle.

http://find/

8/19/2019 la-pred

100/144

Determinante in njihova uporaba

Bojan Orel

Fakulteta za računalništvo in informatiko

11.maj 2015

Determinanta 3 × 3Podobno kot determinanto matrike 2 × 2 lahko izračunamodeterminanto matrike 3 × 3

a11 a12 a13

http://find/

8/19/2019 la-pred

101/144

D = a11 a12 a13

a21 a22 a23a31 a32 a33

Vsako vrstico razčlenimo v 3 enostavnejše vrstice (npr. [a11 0 0]) spomočjo lastnosti 3b. Tako dobimo 27 enostavnih determinant.

Ko spustimo tiste, ki imajo vsaj eno ničelno vrstico ali stolpec, namostane 6 determinant brez neničelnih vrstic in stolpcev

D =

a11 0 00 a22 0

0 0 a33

+

0 a12 00 0 a23

a31 0 0

+

0 0 a13a21 0 0

0 a32 0

+

a11 0 00 0 a230 a32 0

+

0 a12 0a21 0 0

0 0 a33

+

0 0 a130 a22 0

a31 0 0

Detrerminanta 3 × 3 (nadaljevanje)Z upoštevanjem lastnosti 3b lahko zapišemo

|A|

1 0 00 1 0

+

0 1 00 0 1

http://find/

8/19/2019 la-pred

102/144

|A| = a11a22a33 0 1 00 0 1 + a12a23a31 0 0 11 0 0

+ a13a21a32

0 0 11 0 00 1 0

+ a11a23a32

1 0 00 0 10 1 0

+ a12a21a33

0 1 01 0 00 0 1

+ a13a22a31

0 0 10 1 01 0 0

Za vsako determinanto še prěstejemo, s koliko menjavami vrstic

dobimo enotsko matriko in končno

|A| = a11a22a33 + a12a23a31 + a13a21a32

− a11a23a32 − a12a21a33 − a13a22a31

Velika formula za determinanto


8/19/2019 la-pred

103/144

Podobno za n × n. Iz vsake vrstice in iz vsakega stolpca izberemopo en element, izračunamo njihov produkt, ga opremimo s pravimpredznakom, vse to seštejemo in pridemo do formule

|A| =

det(P )a1αa2β · · · anω,

kjer seštevamo po vseh n! permutacijah stolpcev P = (α,β , . . . , ω).

Kofaktorji

Determinanto 3 × 3 lahko zapǐsemo tudi kot

http://find/

8/19/2019 la-pred

104/144

|A| = a11(a22a33−a23a32)+a12(a23a31−a21a33)+a13(a21a32−a22a31) .

V tej formuli so faktorji a1 j pomnoženi s kofaktorji C 1 j , ki so, dopredznaka natančno, determinante A1 j dimenzije 2 × 2, ki jihdobimo, ko v prvotni determinanti izpustimo vrstico in stolpec, v

katerih se nahaja a1 j .Kofaktorji elementov i te vrstice so C ij = (−1)

i + j Aij . Razvojdeterminante po kofaktorjih je

det(A) = ai 1C i 1 + ai 2C i 2 + · · · + ainC in .

Razvoj po kofaktorjih je uporaben predvsem takrat, ko ima matrikaveliko elementov enakih 0.

Uporaba determinant

http://find/

8/19/2019 la-pred

105/144

Ogledali si bomo nekaj problemov, pri katerih lahko pridemo dorešitve z uporabo determinante:

Cramerjevo pravilo za reševanje sistemov linearnih enačb;

Formulo za izračun inverzne matrike;

Izračun ploščine romboida in prostornine paralelepipeda.

Nato se bomo spoznali z lastnimi vrednostmi in lastnimi vektorjimatrike, kjer tudi potrebujemo determinante.

Cramerjevo pravilo

S Cramerjevim pravilom zapišemo rešitev sistema enačb Ax = b.

Preprosta ideja nas pripelje do prve komponente vektorja x: če prvi

http://find/

8/19/2019 la-pred

106/144

Preprosta ideja nas pripelje do prve komponente vektorja x: ce prvistolpec enotske matrike nadomestimo z x, dobimo matriko zdeterminanto x 1. To matriko z leve pomnožimo z A. Prvi stolpectako dobljene matrike je Ax, torej b, ostali stolpci so isti kot v A:

A x 1 0 0x 2 1 0x 3 0 1

= b 1 a12 a13b 2 a22 a23b 3 a32 a33

=: B 1Iz determinant teh treh matrik dobimo

det(A)x 1 = det(B 1) torej x 1 = det(B 1)det(A)

.

Cramerjevo pravilo (nadaljevanje)

Cramerjevo pravilo: Če je matrika A nesingularna n × n, potemlahko rešitev sistema Ax = b zapišemo s pomočjo determinant:

http://find/

8/19/2019 la-pred

107/144

x 1 = B 1

det(A), x 2 =

B 2

det(A), · · · x n =

B n

det(A) ,

kjer je vsaka od matrik B j dobljena tako, da v matriki Azamenjamo j -ti stolpec z vektorjem b.

Za rešitev sistema n enačb z n neznankami s Cramerjevim,moramo izračunati n + 1 determinanto reda n. Čeprav za izračundeterminante uporabimo najučinkoviteǰso metodo, t.j. Gaussovoeliminacijo, je to veliko dela. Kot vemo, je za rešitev sistema enačb

dovolj ena sama Gaussova eliminacija.Opozorilo: Cramerjevo pravilo je za reševanje sistemov z več kot

3 neznankami popolnoma neprimerno!

Inverzna matrika

S Cramerjevim pravilom poiščimo inverz matrike 2 × 2 kot rešitevenačbe AX = I :

http://find/

8/19/2019 la-pred

108/144

a b

c d

x 11x 21

=

01

,

a b

c d

x 12x 22

=

10

Za izračun elementov matrike X potrebujemo pet determinant

a b c d in

1 b 0 d

a 1c 0

0 b 1 d

a 0c 1

Zadnje štiri so kofaktorji d , −c , −b , a, zato je

A−1 = 1ad − bc

d −b −c a

Splošna formula za inverzno matriko

Izrek: Inverzna matrika A−1 matrike A je transponirana matrika


8/19/2019 la-pred

109/144

j p

kofaktorjev, deljena z determinanto |A|:

A−1 = C T

det(A) .

Ideja dokaza: Matriko A pomnožimo s C T :

a11 a12 a13a21 a22 a23a31 a32 a33

C 11 C 21 C 31C 12 C 22 C 32C 13 C 23 C 33

=

det(A) 0 00 det(A) 00 0 det(A)

Ploščine in prostornine

Ploščina paralelograma, ki ga določata vektorja a in b v R2 je

http://find/

8/19/2019 la-pred

110/144

absolutna vrednost determinante |a b|. Ploščina trikotnika jepolovica ploščine paralelepipeda.

Ploš̌cina trikotnika z oglǐšci (x 1, y 1), (x 2, y 2) in (x 3, y 3) je

ploščina trikotnika = 12

x 1 y 1 1

x 2 y 2 1x 3 y 3 1

Prostornina paralelepipeda, ki ga določajo vektorji a, b in c v R3 jeabsolutna vrednost determinante |a b c|. Prostornina tetraedra je16

prostornine paralelepipeda.

Vektorski produkt

Vektorski produkt je posebna operacija, ki je definirana samo v R3.

Definicija: Vektorski produkt vektorjev a = [a1, a2, a3]T in

http://find/

8/19/2019 la-pred

111/144

b = [b 1, b 2, b 3]T je vektor

a×b =

i j k

a1 a2 a3b 1 b 2 b 3

= (a2b 3−a3b 2)i−(a1b 3−a3b 1) j+(a1b 2−a2b 1)k

Lastnosti vektorskega produkta:

Antikomutativnost: b × a = −a × b;

a × b je pravokoten na a in b;

a × a = 0 ||a × b|| = ||a||||b|| sin ϕ, kjer je ϕ kot, ki ga oklepata vektorja

a in b.

http://find/

8/19/2019 la-pred

112/144

Lastne vrednosti in lastni vektorji matrike


18.maj 2015

Lastne vrednosti in lastni vektorji kvadratne matrike

Produkt matrike A in vektorja x je vektor Ax, ki največkrat nikolinearen z x. Nekateri posebni vektorji pa pri množenju z matriko

http://find/

8/19/2019 la-pred

113/144

p j p p j

ohranjajo smer. To so lastni vektorji . Pri množenju z matriko A sesamo pomnožijo s številom λ.

Definicija: Vektor x, za katerega je Ax = λx je lastni vektor .

Število λ je lastna vrednost .

Opomba: Izraz lastni vektor je lahko zavajajoč, saj pomeni samo

smer (enodimenzionalni podprostor). Vsak vektor v tej smeri jelastni vektor z isto lastno vrednostjo. Lastna vrednost pomeni, zakoliko se pri množenju z A vektorji v smeri x podaljšajo ali skrčijo.

Primer: Za enotsko matriko I je vsak vektor lastni vektor, lastnavrednost je enaka 1, saj je vedno I x = 1x.

Lastne vrednosti in lastni vektorji - primeri za posebnematrike

Za projekcijsko matriko P je ena lastna vrednost 1, lastni vektor

http://find/

8/19/2019 la-pred

114/144

je katerikoli vektor iz stolpčnega podprostora C (P ) (lastnipodprostor). Druga lastna vrednost je 0, lastni vektor je katerikolivektor iz ničelnega prostora N (P ) (spet lastni podprostor).

Permutacijska matrika P = 0 1

1 0 ima lastno vrednost 1 z

lastnim vektorjem [1 1]T in lastno vrednost −1 z lastnim vektorjem[1 − 1]T .

Trditev: Če ima A lastno vrednost λ in lastni vektor x, potem imaA2 lastno vrednost λ2 in isti lastni vektor x.

če je Ax = λx potem je A2x = A(Ax) = A(λx) = λAx = λ2x .

Računanje lastnih vrednosti in lastnih vektorjev

Enačbo za lastne vrednosti in lastne vektorje Ax = λx lahkozapišemo tudi kot (A − λI )x = 0. Da bi ta enačba imela rešitev,

http://find/

8/19/2019 la-pred

115/144

p ( λ ) ,mora biti matrika A − λI singularna. Lastne vrednosti so torejrěsitve enačbe

det(A − λI ) = 0 .

Ta karakteristǐcna enačba je algebrajska enačbe stopnje n

(det(A = λI je polinom stopnje n), zato ima n korenov, nekaterikoreni so večkratni, kompleksni koreni nastopajo vedno kot parkonjugiranih števil.

Za vsako lastno vrednost λ lastne vektorje izračunamo kot ničelni

podprostor matrike A − λI . Za vsako k -kratno lastno vrednost jedimenzija ničelnega prostora največ k .

Primer:Poǐsčimo lastne vrednosti in lastne vektorje matrike

A =

1 −1−6 2

.

http://find/

8/19/2019 la-pred

116/144

Iz karakteristǐcne enačbe 1 − λ −1−6 2 − λ = (1 − λ)(2 − λ) − 6 = λ2 − 3λ − 4 = 0 .

Izračunamo lastne vrednosti λ1 = −1 in λ2 = 4.

Za prvo lastno vrednost λ1 = −1 dobimo sistem 2 −1−6 3

x = 0 , katerega rešitev je prvi lastni vektor

x1 = [1, 2]T .

Za drugo lastno vrednost λ1 = 4 dobimo sistem −3 −1−6 −2

x = 0 , katerega rešitev je drugi lastni vektor

x2 = [−1, 3]T .

Povzetek dejstev:

Ax = λx pomeni, da lastni vektor x pri množenju z A ne

http://find/

8/19/2019 la-pred

117/144

spremeni smeri.

Iz (A = λI )x = 0 ugotovimo, da lastne vrednosti λ zadoščajoenačbi det(A − λI ) = 0.

Če je λ lastna vrednost matrike A, ima A2 lastno vrednost λ2

in A−1 lastno vrednost 1/λ.

Vsota vseh lastnih vrednosti A je sled(A)(= a11 + a22 + · · · + ann), produkt lastnih vrednosti je det(A).

Singularna matrika ima vsaj eno lastno vrednost enako 0.

Trikotne matrike imajo lastne vrednosti na diagonali.

Diagonalizacija matrike

Izrek: Denimo, da ima matrika A n linearno neodvisnih lastnihvektorjev x1, x2, . . . , xn. Če jih zložimo kot stolpce v matriko S

http://find/

8/19/2019 la-pred

118/144

S = [x1 x2 · · · xn] ,

potem je Λ =: S −1AS diagonalna matrika z lastnimi vrednostmi nadiagonali

S −1AS = Λ =

λ1 . . .λn

.

Opomba: Kadar so lastne vrednosti matrike med seboj vse

različne, so lastni vektorji neodvisni. Vsako matriko, pri kateri senobena lastna vrednost ne ponovi, lahko diagonaliziramo po temizreku.

Diagonalizacija - primer

Naj bo A =

1 −1−6 2

.

http://find/

8/19/2019 la-pred

119/144

Najprej iz karakteristične enačbe det(A −λI ) = 0 izračunamo lastnivrednosti λ1 = −1 in λ2 = 4, potem lastna vektorja kot rešitevsistemov (A = λi I )x = 0. Dobimo x1 = [1 2]

T in x2 = [−1 3]T .

Sestavimo matriko S in izračunamo njen inverz S −1

S =

1 −12 3

; S −1 = 1

5

3 1−2 1

Končno izračunajmo S −1AS =

−1 0

0 4

= Λ.

Opomba: Lastni vektorji v matriki S so v istem vrstnem redu kotlastne vrednosti v matriki Λ.

Potence matrike

Opozorilo: Vse trditve o uporabi diagonalizacije veljajo le, če imamatrika dovolj linearno neodvisnih lastnih vektorjev.

1 1


8/19/2019 la-pred

120/144

Enačbo S −

AS = Λ lahko napišemo tudi kot A = S ΛS −

ali pakot AS = S Λ.

Trditev: Če je A = S ΛS −1, potem je A2 = S Λ2S −1 inAk = S Λk S −1.

Potence diagonalne matrike izračunamo preprosto:

Λk =

λk 1 · · · 0...

. . . ...

0 · · · λk n

,

zato lahko preprosto izračunamo tudi potence poljubnediagonalizabilne matrike.

Uporaba potenc matrike

Naj bo A matrika dimenzije n × n in y0 ∈ Rn. A naj ima n linearno

neodvisnih vektorjev. Zanima nas, kako se obnaša zaporedje

http://find/

8/19/2019 la-pred

121/144

vektorjev, definirano kot yk +1 = Ayk . Posebej nas zanima, ali tozaporedje konvergira in kaj je limitni vektor.

Obnašanje zaporedja yk je predvsem odvisno od lastnih vrednostimatrike A.

Najprej y0 razvijemo po bazi lastnih vektorjev

y0 = c 1x1 + c 2x2 + · · · + c nxn

in pomnožimo z A

Ay0 = c 1λ1x1 + c 2λ2x2 + · · · + c nλnxn .

Uporaba potenc matrike (nadaljevanje)

Prav tako je


8/19/2019 la-pred

122/144

Ak y0 = c 1λk

1x1 + c 2λk

2x2 + · · · + c nλk

nxn .

Vidimo, da je rezultat odvisen od velikosti lastnih vrednosti:

Če je za vsaj eno lastno vrednost |λi | > 1, potem zaporedje yk

neomejeno narašča. Če so vse lastne vrednosti |λ|

8/19/2019 la-pred

123/144

1, 2, 3, 5, 8, 13, . . ..

Vprašanje: Kako hitro naraščajo Fibonaccijeva števila? Koliko jeF 2010?

F 2010 sicer lahko izračunamo s pomočjo rekurzije

F k +2 = F k +1 + F k , vendar bi predolgo trajalo :) .

Fibonaccijevo zaporedje (dvočlenska skalarna rekurzija) lahkozapišemo kot enočlensko vektorsku rekurzijo xk +1 = Axk , ki jo žeobvladamo. Naj bo xk = [F k +1 F k ]

T . Potem pravilo

F k +2=F k +1 + F k F k +1=F k +1

lahko zapišemo v matrični obliki

xk +1 =

1 11 0

xk

Primer: Fibonaccijeva števila (nadaljevanje)

Izračunamo lastne vrednosti in lastne vektorje te matrike:

det(A = λI ) = λ2 − λ − 1 = 0 ,

http://find/

8/19/2019 la-pred

124/144

torej λ1 = 1+

√ 5

2 ≈ 1.618 in λ2 =

1−√ 5

2 ≈ −0.618. Ustrezna lastna

vektorja sta x1 = [λ1 1]T in x2 = [λ2 1]

T . Začetni vektorx0 = [0 1]

T izrazimo kot kombinacijo lastnih vektorjev

10

= 1

λ1 − λ2

λ1

1

− λ2

1

ali x0 = x

1 − x2λ1 − λ2

.

Od tod

x2010 = λ20101 x1 − λ

20102

x2

λ1 − λ2

Tako je F 2010 = 1√ 5

1+

√ 5

2

2010−1−

√ 5

2

2010 ≈ 5.3 · 10419.

L d i i l i k ji ik

http://find/

8/19/2019 la-pred

125/144

Lastne vrednosti in lastni vektorji matrike


25. maj 2015

Primer: Fibonaccijeva številaDefinicija: Zaporedje Fibonaccijevih števil F k zadošča rekurziji

F k +2 = F k +1 + F k .

Če izberemo F 0 = 0 in F 1 = 1, so naslednja Fibonaccijeva števila

1 2 3 5 8 13


8/19/2019 la-pred

126/144

1, 2, 3, 5, 8, 13, . . ..

Vprašanje: Kako hitro naraščajo Fibonaccijeva števila? Koliko jeF 2010?

F 2010 sicer lahko izračunamo s pomočjo rekurzije

F k +2 = F k +1 + F k , vendar bi predolgo trajalo :) .

Fibonaccijevo zaporedje (dvočlenska skalarna rekurzija) lahkozapišemo kot enočlensko vektorsku rekurzijo xk +1 = Axk , ki jo žeobvladamo. Naj bo xk = [F k +1 F k ]

T . Potem pravilo

F k +2=F k +1 + F k F k +1=F k +1

lahko zapišemo v matrični obliki

xk +1 =

1 11 0

xk

Primer: Fibonaccijeva števila (nadaljevanje)

Izračunamo lastne vrednosti in lastne vektorje te matrike:

det(A − λI ) = λ2 − λ − 1 = 0 ,

http://find/

8/19/2019 la-pred

127/144

torej λ1 = 1+

√ 5

2 ≈ 1.618 in λ2 =

1−√ 5

2 ≈ −0.618. Ustrezna lastna

vektorja sta x1 = [λ1 1]T in x2 = [λ2 1]

T . Začetni vektorx0 = [0 1]

T izrazimo kot kombinacijo lastnih vektorjev

10

= 1

λ1 − λ2

λ1

1

−

λ21

ali x0 = x

1 − x2λ1 − λ2

.

Od tod

x2010 = λ20101 x1 − λ

20102 x2

λ1 − λ2

Tako je F 2010 = 1√ 5

1+

√ 5

2

2010−1−

√ 5

2

2010≈ 5.3 · 10419.

Lastne vrednosti in diferencialne enačbe

Linearna diferencialna enačba 1. reda y = ay ima splošno rešitevy = C exp(ax ). To znanje želimo uporabiti pri sistemu linearnihdiferencialnih enačb s konstantnimi koeficienti y = Ay (A je

t ik × i R→ Rn)

http://find/

8/19/2019 la-pred

128/144

matrika n × n in y : R→ Rn).

Če ima A poln sistem lastnih vektorjev, si lahko pomagamo zdiagonalizacijo: A = S ΛS −1, torej imamo sistem enačby = S ΛS −1y. Z novo spremenljivko u = S −1y sistem enačb

razpade na n nepovezanih enačb u = Λu oz.

u 1 = λ1u 1, u 2 = λ2u 2, . . . u

n = λnu n ,

katerih rešitve so

u 1 = c 1 exp(λ1x ), u 2 = c 2 exp(λ2x ), . . . u n = c n exp(λnx )

To bi radi zapisali z matrikami.

Lastne vrednosti in diferencialne enačbe (nadaljevanje)Rěsitev u(x ) želimo napisati v obliki exp(Ax )u(0). Kaj pomenieksponentna funkcija matrike?

Eksponentna funkcija e x (ali exp(x )) je za realen x definirana kot

neskončna rsta 1 + x + x

2

2! + x

3

3! + Za matričen arg ment Ax

http://find/

8/19/2019 la-pred

129/144

neskoncna vrsta 1 + x + 2! + 3! + · · · . Za matricen argument Ax jo definiramo podobno

exp(Ax ) = I + Ax + x 2

2!A2 +

t 3

3!A3 + · · ·

Pri računanju exp(Ax ) si lahko pomagamo z diagonalizacijo: če Aima n neodvisnih vektorjev, je A = S ΛS −1. vstavimo v vrsto

exp Ax = I + S ΛS −1 + 1

2!(S ΛS −1x )(S ΛS −1x ) + . . . .

Produkt S in S −1 v sredini je I , S na začetku in S −1 in dobimo

exp(Ax ) = S (I + Λx + x 2

2!Λ2 +

x 3

3!Λ3 + · · · )S −1 = S exp(Λx )S −1 .

Primer:

Poǐsčimo tisto rešitev sistema diferencialnih enačb

y = y − z 6 2

http://find/

8/19/2019 la-pred

130/144

z = −6y + 2z ,

ki zadošča začetnima pogojema y (0) = 2 in z (0) = −1.

Najprej obe skalarni funkciji y in z združimo v eno vektorsko

u = [y z ]T

, pa lahko sistem enačb zapišemo v matrični obliki

u = Au, kjer je matrika A =

1 −1−6 2

. Njene lastne vrednosti

in lastne vektorje že poznamo (glej zgoraj): λ1 = −1 z x1 = [1 2]T

ter λ2 = 4 z x2 = [−1 3]T .

Začetno vrednost u(0) = [2 − 1]T izrazimo z lastnima vektorjema:u(0) = x1 − x2.

Primer (nadaljevanje)Iskana rešitev je u(x ) = exp Ax u(0), torej

u(x ) = S exp(Λx )S −1(x1 − x2)

−x 0

http://find/

8/19/2019 la-pred

131/144

Ker je S −1(x1 − x2) = [1 − 1]T in exp(Λx ) =

e −x 0

0 e 4x

,

končno rešitev zapǐsemo kot

u(x ) = e −x 1

2− e

4x −13

,

oziroma s prvotnimi spremenljivkami

y (x ) = e −x + e 4x

z (x ) = 2e −x − 3e 4x .

Preveri, če je to res rešitev zastavljene naloge!

Simetrične matrike

Kakšne so lastne vrednosti in lastni vektorji simetričnih matrik?

Izrek: Vse lastne vrednosti realne simetrične matrike so realne

http://find/

8/19/2019 la-pred

132/144

Izrek: Vse lastne vrednosti realne simetricne matrike so realne.Ideja dokaza Enačbo Ax = λx konjugiramo: Ax̄ = λ̄x̄ in

transponiramo: x̄T A = λ̄x̄T ter pomnožimo z x z desne

x̄T Ax =

λ̄x̄T x .

Ker je x̄T Ax enako x̄T (λx) in ker je x̄T x > 0 za x = 0, je λ̄ = λ,torej realen.

Izrek: Lastni vektorji realne simetrične matrike, ki pripadajo

različnim lastnim vrednostim, so pravokotni.

Spektralni izrek za simetrične matrike

Ker so lastni vektorji simetrične matrike ortogonalni, velja

Izrek: Vsako realno simetrično matriko A lahko razcepimo v

http://find/

8/19/2019 la-pred

133/144

Izrek: Vsako realno simetricno matriko A lahko razcepimo vA = Q ΛQ T , kjer je Q ortogonalna matrika.

Posledica: Vsako realno simetrično matriko lahko zapišem kotlinearno kombinacijo

A = λ1q1qT

1 + λ2q2qT

2 + . . . + λnqnqT

n ,

kjer so qi stolpci matrike Q (torej lastni vektorji matrike A).

Matrike qi qT

i so projekcijske matrike na lastni podprostor, ki ga q1

določa.

Pozitivno definitne simetrične matrike

Definicija: Kvadratna matrika je pozitivno definitna, kadar so vse

njene lastne vrednosti pozitivne


8/19/2019 la-pred

134/144

njene lastne vrednosti pozitivne.Posledica: Kvadratna matrika reda 2 je pozitivno definitna

natanko tedaj, kadar sta pozitivni njena determinanta in sled.

Izrek: Simetrična matrika A reda n je pozitivno definitna natanko

tedaj, ko je za vsak vektor x = 0 ∈ Rn

xT Ax > 0.

Posledica: Če sta matriki A in B pozitivno definitni, je pozitivno

definitna tudi njuna vsota A + B .

Pozitivno definitne matrike

I k M t ik j iti d fi it t k t d j k d

http://find/

8/19/2019 la-pred

135/144

Izrek: Matrika je pozitivno definitna natanko tedaj, kadar so vsenjene vodilne glavne poddeterminante pozitivne.

Izrek: Če so stolpci matrike R linearno neodvisni, je matrikaA = R T R pozitivno definitna.

Izrek: Za vsako simetrično, pozitivno definitno matriko obstajazgornjetrikotna matrika R , da je A = R T R

Pozitivno definitne matrike - povzetek

Izrek: Simetričan matrika reda n ki ima eno od spodaj naštetih

http://find/

8/19/2019 la-pred

136/144

Izrek: Simetrican matrika reda n, ki ima eno od spodaj nastetihlastnosti, ima tudi vse ostale:

1. Vseh n pivotov je pozitivnih;

2. Vseh n vodilnih glavnih determinant je pozitivnih;

3. Vseh n lastnih vrednosti je pozitivnih;4. Za vsak x = 0 je xT Ax > 0;

5. A = R T R za neko matriko R z linearno neodvisnimi stolpci.

Razcep singularnih vrednosti


8/19/2019 la-pred

137/144



1. junij 2015

Motivacija

Za simetrično matriko A vemo, da obstaja razcep A = Q ΛQ T , kjer je Q ortogonalna matrika lastnih vektorjev in Λ diagonalna matrika

lastnih vrednosti.

http://find/

8/19/2019 la-pred

138/144

lastnih vrednosti.Za poljubno matriko A ∈ Rm×n so z diagonalizacijo A = S ΛS −1hude težave:

če A ni kvadratna, potem enačba Ax = λx sploh nima smisla.

Lastne vrednosti in lastni vektorji pravokotnim matrikam ”nepripadajo”.

Tudi če je A kvadratna, nima nujno dovolj neodvisnih lastnihvektorjev.

Tudi če ima A dovolj lastnih vektorjev, navadno med sebojniso pravokotni.


Dobra novica: Vsako matriko (tudi pravokotno) lahko zapišemo

kot produkt A = U ΣV

T

, kjer je matrika U ortogonalna m × m, Σdiagonalna m × n z singularnimi vrednostmi σi na diagonali in V

http://find/

8/19/2019 la-pred

139/144

p , j j g ,diagonalna m × n z singularnimi vrednostmi σi na diagonali in V ortogonalna n × n.Cena, ki jo moramo plačati za diagonalizacijo splošne matrike vprimerjavi s simetrično, sta dve različni ortogonalni matriki

namesto ene same.

Problem: Kako določiti matriki U in V , oziroma ortonormiranobazo levih singularnih vektorjev prostora Rm in ortonormirano bazodesnih singularnih vektorjev prostora Rn?

Kaj so singularne vrednosti σi

Razcep singularnih vrednosti (nadaljevanje)m levih singularnih vektorjev vi moramo poiskati tako, da bodo

1. ortonormirani (to ni težko)

2. vektorji Avi tudi ortogonalni (to je malo težji problem).

Končno za desne singularne vektorje u vzamemo u σ Av kjer

http://find/

8/19/2019 la-pred

140/144

Koncno za desne singularne vektorje ui vzamemo ui = σi Avi , kjer je σi =

1

||Avi ||.

Če je A = U ΣV T , potem je

AT A = V ΣT UTU ΣV T = V ΣT ΣV T ,

kar je spektralni razcep simetrične matrike AT A, saj je Σdiagonalna matrika, tako kot tudi ΣT Σ. Prav tako tudi

AAT = U ΣV T V ΣT U = U ΣΣT U T ,

kar je spektralni razcep simetrične matrike AAT .

Razcep singularnih vrednosti (nadaljevanje)

Tako so levi singularni vektorji lastni vektorji simetrične matrikeAAT in iz njih sestavimo ortogonalno matriko U Desni singularni

http://find/

8/19/2019 la-pred

141/144

g j jAAT in iz njih sestavimo ortogonalno matriko U . Desni singularnivektorji so lastni vektorji simetrične matrike AT A in iz njihsestavimo ortogonalno matriko V .

Singularne vrednosti so koreni lastnih vrednosti matrike AT A (patudi AAT ), ki so vse realne in nenegativne. Iz njih sestavimodiagonalno matriko Σ. Navadno singularne vrednosti uredimopadajoče σ1 ≥ σ2 ≥ · · · ≥ σr > 0.

PrimerIzračunajmo SVD razcep matrike A =

4 34 −3

.

Najprej izračunamo matriko AT A =

32 0

0 18

, ki ima lastno

vrednost λ1 = 32 z lastnim vektorjem x1 = [1 0]T in lastno

http://find/

8/19/2019 la-pred

142/144

j [ ]vrednost λ2 = 18 z lastnim vektorjem x + 2 = [0 1]

T . Ortogonalnamatrika V in diagonalna Σ sta tako

V = 1 0

0 1, Σ =

√

32 0

0 √ 18

Matrika AAT =

25 7

7 25

ima isti lastni vrednosti kot AT A,

λ1 = 32 z lastnim vektorjem x1 = [1 1]T in λ2 = 18 z lastnim

vektorjem x2 = [1 − 1]T . Tako dobimo še

U = 1√

2

1 11 −1 .

SVD in 4 osnovni prostori matrike

Matriki U in V vsebujeta ortonormirana baza štirih osnovniht t ik A

http://find/

8/19/2019 la-pred

143/144

prostorov matrike A:

1. prvih r stolpcev V je baza vrstičnega prostora C (AT );

2. zadnjih n − r stolpcev V je baza ničelnega prostora N (A);3. prvih r stolpcev U je baza stolpčnega prostora C (A);4. zadnjih m − r stolpcev U je baza levega ničelnega prostora

N (AT ).

Uporaba razcepa singularnih vrednosti

Podobno kot pri spektralnem izreku za simetrične matrike, namtudi SVD razcep omogoca, da matriko napǐsemo kot linearno

http://find/

8/19/2019 la-pred

144/144

p g pkombinacijo matrik ranga 1: če je A = U ΣV T matrika ranga r ,potem je

A = σ1u1vT

1 + σ2u2v

T

2 + · · ·σr ur vT r .

Ta enačba je osnova analize glavnih komponent (angl. PrincipalComponent Analysis - PCA), metode ki so jo najprej uporabljali vstatistiki, danes pa je nepogrešljiva med drugim v računalniškemvidu in kompresiji podatkov.
http://find/

Documents

la-pred