Grundbegriffe der Informatik: 10. Ubung¨gbi13.ira.uka.de/uebungen/uebung-10-folien.pdf · 2014. 1. 14. · GRUNDBEGRIFFE DER INFORMATIK Grundbegriffe der Informatik: 10. Ubung¨

GRUNDBEGRIFFE DER INFORMATIK

Grundbegriffe der Informatik: 10. UbungMaster-Theorem

Thomas Bittner | 10. Januar 2014

KIT – Universitat des Landes Baden-Wurttemberg und

nationales Forschungszentrum in der Helmholtz-Gemeinschaft

www.kit.edu

http://www.kit.edu

Uberblick

1 Master-Theorem

2 Ergebnisse Evaluation

Master-Theorem Ergebnisse Evaluation Schluss

Thomas Bittner – 10. Ubung - Grundbegriffe der Informatik 10. Januar 2014 2/24

Rekurrenzgleichung

Beschreibung von Divide-and-Conquer-Algorithmen durch

T (n) = aT(n

b

)+ f (n)

Bedeutung der Konstantena: In wie viele Teilprobleme wird aufgeteilt?

b: Wie groß sind die Teilprobleme?

f (n): Was muss der Algorithmus noch zusatzlich tun?



Beispiel: Summe

Gegeben: Ein ”Array“ von ZahlenGesucht: Die Summe uber alle Zahlen

Algorithmus:Basisfall: Array hat Lange 1

Dann: Gib die eine Zahl zuruck.

Rekursionsfall:

1 Teile Array in der Mitte2 Berechne Summe auf beiden Teilarrays (rekursiv)3 Addiere diese beiden Summen

Rekurrenzgleichung:

T (n) = 2T(n

2

)+ 1



Beispiel: Summe

Gegeben: Ein ”Array“ von ZahlenGesucht: Die Summe uber alle Zahlen

Algorithmus:Basisfall: Array hat Lange 1

Dann: Gib die eine Zahl zuruck.

Rekursionsfall:

1 Teile Array in der Mitte2 Berechne Summe auf beiden Teilarrays (rekursiv)3 Addiere diese beiden Summen

Rekurrenzgleichung:

T (n) = 2T(n

2

)+ 1



Master-Theorem

T (n) = aT (nb

) + f (n)

Master-Theorem

T (n) ∈

Θ(nlogb a) f (n) ∈ O(nlogb a−ε) fur ein ε > 0

Θ(nlogb a log n) f (n) ∈ Θ(nlogb a)

Θ(f (n)) f (n) ∈ Ω(nlogb a+ε) fur ein ε > 0 und

∃d ∈ R : 0 < d < 1,

sodass fur alle hinreichend großen n gilt:

a · f ( nb ) ≤ d · f (n)



Master-Theorem

T (n) = aT (nb

) + f (n)

Master-Theorem

T (n) ∈




∃d ∈ R : 0 < d < 1,


a · f ( nb ) ≤ d · f (n)



Master-Theorem

T (n) = aT (nb

) + f (n)

Master-Theorem

T (n) ∈




∃d ∈ R : 0 < d < 1,


a · f ( nb ) ≤ d · f (n)



Master-Theorem

T (n) = aT (nb

) + f (n)

Master-Theorem

T (n) ∈




∃d ∈ R : 0 < d < 1,


a · f ( nb ) ≤ d · f (n)



Veranschaulichung 1. Fall

1. Fall Master-Theorem

T (n) ∈ Θ(nlogb a) f (n) ∈ O(nlogb a−ε) fur ein ε > 0

Betrachte Rekurrenzgleichung:

T (1) = 1

T (n) = aT(n

b

)+ 0




1. Fall Master-Theorem

T (n) ∈ Θ(nlogb a) f (n) ∈ O(nlogb a−ε) fur ein ε > 0


T (1) = 1

T (n) = aT(n

b

)+ 0





T (1) = 1

T (n) = aT(n

b

)+ 0

Betrachte T(bk):

T(bk) = aT

(bk

b

)= aT

(bk−1) = a · aT

(bk−1

b

)= a · aT

(bk−2) = · · ·

= ak · T (1) = ak · 1= ak





T (1) = 1

T (n) = aT(n

b

)+ 0

T(bk) = ak

Setze n := bk =⇒ k = logb n

=⇒ ak = alogb n =(blogba)logb n

= blogb a·logb n = blogb n·logb a = nlogb a

=⇒ T (n) = nlogb a ∈ Θ(nlogb a)





T (1) = 1

T (n) = aT(n

b

)+ 0

T(bk) = ak









T (1) = 1

T (n) = aT(n

b

)+ 0

T(bk) = ak







Beispiel 1. Fall

T (n) = 2T(n

2

)+ log2 n

1 nlogb a = nlog2 2 = n1

2 f (n) = log2 n ∈ O(n1−ε) (z.B. fur ε = 0.1)3 =⇒ Erster Fall Master-Theorem4 =⇒ T (n) ∈ Θ(n)



Beispiel 1. Fall

T (n) = 2T(n

2

)+ log2 n





Beispiel 1. Fall

T (n) = 2T(n

2

)+ log2 n





Beispiel 1. Fall

T (n) = 2T(n

2

)+ log2 n





Beispiel 1. Fall

T (n) = 2T(n

2

)+ log2 n





Grenze des 1. Falls

T (n) = aT(n

b

)+ f (n)

Frage:

Wie schnell darf f (n) wachsen, damit es nicht ”ins Gewicht fallt“?

Master-Theorem:

f (n) ∈ O(nlogb a−ε)⇐⇒ f (n) ∈ O(nc) mit c < logb a

Wachst zu stark:

f (n) = nlogb a/ log2 n



Grenze des 1. Falls

T (n) = aT(n

b

)+ f (n)

Frage:


Master-Theorem:


Wachst zu stark:




Grenze des 1. Falls

T (n) = aT(n

b

)+ f (n)

Frage:


Master-Theorem:


Wachst zu stark:




Grenze des 1. Falls

Wachst zu stark:


Beispiel:

T (n) = 2T (n2

) + n/ log2 n

T (1) = 0

T (2) = 2

T (4) = 6

T (8) = 44/3

T (16) = 100/3

T (32) = 1096/15



Grenze des 1. Falls

Wachst zu stark:


Beispiel:

T (n) = 2T (n2

) + n/ log2 n

T (1) = 0

T (2) = 2

T (4) = 6

T (8) = 44/3

T (16) = 100/3

T (32) = 1096/15



Grenze des 1. FallsBetrachte Verhaltnis von T (n)/nlogb a.Mit

T (n) = 2T (n2

) + n/ log2 n

also das Verhaltnis T (n)/n

T (1)/1 = 0/1 = 0

T (2)/2 = 2/2 = 1→ Differenz 1

T (4)/4 = 6/4 = 3/2→ Differenz 1/2

T (8)/8 = (44/3)/8 = 11/6→ Differenz 1/3

T (16)/16 = (100/3)/16 = 25/12→ Differenz 1/4

T (32)/32 = (1096/15)/32 = 137/60→ Differenz 1/5

T (2k )/2k =k∑

i=1

1i




T (n) = 2T (n2

) + n/ log2 n


T (1)/1 = 0/1 = 0

T (2)/2 = 2/2 = 1→ Differenz 1

T (4)/4 = 6/4 = 3/2→ Differenz 1/2

T (8)/8 = (44/3)/8 = 11/6→ Differenz 1/3

T (16)/16 = (100/3)/16 = 25/12→ Differenz 1/4

T (32)/32 = (1096/15)/32 = 137/60→ Differenz 1/5

T (2k )/2k =k∑

i=1

1i




T (n) = 2T (n2

) + n/ log2 n


T (1)/1 = 0/1 = 0

T (2)/2 = 2/2 = 1→ Differenz 1

T (4)/4 = 6/4 = 3/2→ Differenz 1/2

T (8)/8 = (44/3)/8 = 11/6→ Differenz 1/3

T (16)/16 = (100/3)/16 = 25/12→ Differenz 1/4

T (32)/32 = (1096/15)/32 = 137/60→ Differenz 1/5

T (2k )/2k =k∑

i=1

1i




T (n) = 2T (n2

) + n/ log2 n


T (1)/1 = 0/1 = 0

T (2)/2 = 2/2 = 1→ Differenz 1

T (4)/4 = 6/4 = 3/2→ Differenz 1/2

T (8)/8 = (44/3)/8 = 11/6→ Differenz 1/3

T (16)/16 = (100/3)/16 = 25/12→ Differenz 1/4

T (32)/32 = (1096/15)/32 = 137/60→ Differenz 1/5

T (2k )/2k =k∑

i=1

1i



Grenze des 1. Falls

T (2k )/2k =∑k

i=11i

⇐⇒ T (2k ) = 2k · (∑k

i=11i ) (Beweis durch Vollstandige Induktion)

Harmonische Reihe∑ki=1

1i ist die Harmonische Reihe

Es gilt:k∑

i=1

1i∈ Θ(log k)

Setze n := 2k =⇒ k = log2 n=⇒ T (n) ∈ Θ(n log(log n))



Grenze des 1. Falls

T (2k )/2k =∑k

i=11i

⇐⇒ T (2k ) = 2k · (∑k




Es gilt:k∑

i=1

1i∈ Θ(log k)




Grenze des 1. Falls

T (2k )/2k =∑k

i=11i

⇐⇒ T (2k ) = 2k · (∑k




Es gilt:k∑

i=1

1i∈ Θ(log k)




Beispiel 2. Fall

T (n) = 9T(n

3

)+ n2 + 2n + 1


2 f (n) = n2 + 2n + 1 ∈ Θ(n2)

3 =⇒ Zweiter Fall Master-Theorem4 =⇒ T (n) ∈ Θ(n2 log n)



Beispiel 2. Fall

T (n) = 9T(n

3

)+ n2 + 2n + 1


2 f (n) = n2 + 2n + 1 ∈ Θ(n2)




Beispiel 2. Fall

T (n) = 9T(n

3

)+ n2 + 2n + 1


2 f (n) = n2 + 2n + 1 ∈ Θ(n2)




Beispiel 2. Fall

T (n) = 9T(n

3

)+ n2 + 2n + 1


2 f (n) = n2 + 2n + 1 ∈ Θ(n2)




Beispiel 2. Fall

T (n) = 9T(n

3

)+ n2 + 2n + 1


2 f (n) = n2 + 2n + 1 ∈ Θ(n2)




Beispiel 3. Fall

T (n) = 4T(n

4

)+ n√

n


2 f (n) = n√

n = n · n12 = n

32 ∈ Ω(n1+ε) (z.B. fur ε = 0.1)

3 Außerdem gilt:

a · f(n

b

)= 4 · f

(n4

)= 4 · n

√n

4√

4= 4 · n

√n

8=

12

n√

n =12· f (n)

=⇒ ∃d ∈ R mit 0 < d < 1 und a · f(

nb

)≤ d · f (n)

4 =⇒ Dritter Fall Master-Theorem5 =⇒ T (n) ∈ Θ(f (n)) = Θ(n

√n)



Beispiel 3. Fall

T (n) = 4T(n

4

)+ n√

n


2 f (n) = n√

n = n · n12 = n

32 ∈ Ω(n1+ε) (z.B. fur ε = 0.1)

3 Außerdem gilt:

a · f(n

b

)= 4 · f

(n4

)= 4 · n

√n

4√

4= 4 · n

√n

8=

12

n√

n =12· f (n)

=⇒ ∃d ∈ R mit 0 < d < 1 und a · f(

nb

)≤ d · f (n)


√n)



Beispiel 3. Fall

T (n) = 4T(n

4

)+ n√

n


2 f (n) = n√

n = n · n12 = n

32 ∈ Ω(n1+ε) (z.B. fur ε = 0.1)

3 Außerdem gilt:

a · f(n

b

)= 4 · f

(n4

)= 4 · n

√n

4√

4= 4 · n

√n

8=

12

n√

n =12· f (n)

=⇒ ∃d ∈ R mit 0 < d < 1 und a · f(

nb

)≤ d · f (n)


√n)



Beispiel 3. Fall

T (n) = 4T(n

4

)+ n√

n


2 f (n) = n√

n = n · n12 = n

32 ∈ Ω(n1+ε) (z.B. fur ε = 0.1)

3 Außerdem gilt:

a · f(n

b

)= 4 · f

(n4

)= 4 · n

√n

4√

4= 4 · n

√n

8=

12

n√

n =12· f (n)

=⇒ ∃d ∈ R mit 0 < d < 1 und a · f(

nb

)≤ d · f (n)


√n)



Beispiel 3. Fall

T (n) = 4T(n

4

)+ n√

n


2 f (n) = n√

n = n · n12 = n

32 ∈ Ω(n1+ε) (z.B. fur ε = 0.1)

3 Außerdem gilt:

a · f(n

b

)= 4 · f

(n4

)= 4 · n

√n

4√

4= 4 · n

√n

8=

12

n√

n =12· f (n)

=⇒ ∃d ∈ R mit 0 < d < 1 und a · f(

nb

)≤ d · f (n)


√n)



Beispiel 3. Fall

T (n) = 4T(n

4

)+ n√

n


2 f (n) = n√

n = n · n12 = n

32 ∈ Ω(n1+ε) (z.B. fur ε = 0.1)

3 Außerdem gilt:

a · f(n

b

)= 4 · f

(n4

)= 4 · n

√n

4√

4= 4 · n

√n

8=

12

n√

n =12· f (n)

=⇒ ∃d ∈ R mit 0 < d < 1 und a · f(

nb

)≤ d · f (n)


√n)



Beispiel: Kein Fall

T (n) = 4T (n4

) + n log n


2 f (n) = n log nn log n /∈ O(n1−ε)n log n /∈ Θ(n1)n log n /∈ Ω(n1+ε)

3 =⇒ Kein Fall des Master-Theorems anwendbar



Beispiel: Kein Fall

T (n) = 4T (n4

) + n log n






Beispiel: Kein Fall

T (n) = 4T (n4

) + n log n






Beispiel: Kein Fall

T (n) = 4T (n4

) + n log n






Beispiel: Kein Fall

T (n) = 4T (n4

) + n log n






Beispiel: Kein Fall

T (n) = 4T (n4

) + n log n






Beispiel: Kein Fall

T (n) = 4T (n4

) + n log n






Beispiel: Ebenfalls Kein Fall

T (n) = 2nT (n2

) + nn

1 a = 2n

2 a ist keine KonstanteAllgemein gilt: a und b durfen nicht von n abhangen!

3 =⇒ Master-Theorem nicht anwendbar




T (n) = 2nT (n2

) + nn

1 a = 2n






T (n) = 2nT (n2

) + nn

1 a = 2n






T (n) = 2nT (n2

) + nn

1 a = 2n






T (n) = 2nT (n2

) + nn

1 a = 2n





Uberblick

1 Master-Theorem

2 Ergebnisse Evaluation



Ergebnisse der Evaluation

Gut gefallen hat:

Kompetenz des Ubungsleiters

Tempo

Foliengestaltung

Anschauliche Beispiele

Geht nur 45 min

Wechsel des Ubungsleiters



Ergebnisse der Evaluation

Nicht gefallen hat:

Wechsel des Ubungsleiters

Termin der Ubung (3h vor UB-Abgabe)

Spates Hochladen der Folien

Hohe Komplexitat und hoher Abstraktionsgrad

Mehr konkrete/einfachere Beispiele

Lehrveranstalter versteht Fragen/Probleme nicht

manchmal zu viele Folien zum Mitschreiben/zu schnell

manchmal undeutlich

Frauenanteil zu gering



Das war’s fur heute

Schones Wochenende!



Documents

Grundbegriffe der Informatik: 10. Ubung¨gbi13.ira.uka.de/uebungen/uebung-10-folien.pdf · 2014. 1. 14. · GRUNDBEGRIFFE DER INFORMATIK Grundbegriffe der Informatik: 10. Ubung¨