29
Numerik f¨ ur High-Performance Computing Christian Engwer October 9, 2012 wissen leben WWU M¨ unster Westf¨ alische Wilhelms-Universit¨ at unster

Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

  • Upload
    hadat

  • View
    216

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

Numerik fur High-Performance Computing

Christian Engwer October 9, 2012wissen lebenWWU Munster

WestfalischeWilhelms-UniversitatMunster

Page 2: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 2 /17

Vorlesung

DozentI Christian EngwerI zu finden in: Einsteinstrasse 62, Zimmer 120.020I email: [email protected]

Termine: Di 14-16, Do 10-12, SRA (Computerpool)

Begleitung, Fragen, AntwortenI Sebastian WesterheideI email: [email protected]

Homepagehttp://wwwmath.uni-muenster.de/num/Vorlesungen/

NumForHPC_WS1213/

,,

Christian Engwer

Page 3: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 3 /17

Ziele der Vorlesung

I Praktische Erfahrungen beim programmieren parallelerProgramme

I Tieferes Verstandnis der numerischen Verfahren im parallelenRechnen

I Eigenstandige Implementierung paralleler Simulationen

,,

Christian Engwer

Page 4: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 4 /17

Organisation der Vorlesung

I Blocke mit VorlesungscharakterI Zeitraume zur Bearbeitung einer großeren AufgabeI Fragemoglichkeiten in der PraktikumszeitI kleinere und großere Programmierprojekte

,,

Christian Engwer

Page 5: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 5 /17

Organisatorisches

I Wer studiert auf Mathematik, wer andere Facher?I Wer hat bereits Programmiert?I Wer hat bereits C/C++ Programmiert?

,,

Christian Engwer

Page 6: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 6 /17

Organisatorisches

Was? Warum?

Parallele Rechner

,,

Christian Engwer

Page 7: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 7 /17

Warum parallel Rechnen ?

,,

Christian Engwer

Page 8: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 7 /17

Warum parallel Rechnen ?

,,

Christian Engwer

Page 9: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 7 /17

Warum parallel Rechnen ?

nur etwas fur spezial Anwendungen!

,,

Christian Engwer

Page 10: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 7 /17

Warum parallel Rechnen ?

wirklich?!

,,

Christian Engwer

Page 11: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 7 /17

Warum parallel Rechnen ?

Parallelrechner gibt es uberall!

,,

Christian Engwer

Page 12: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 8 /17

Wie hilft paralleles Rechnen ?I Nebenlaufigkeit

I Abarbeitung mehrerer Prozesse auf einem ProzessorI Multi-Tasking Betriebssysteme seit den 60er JahrenI Bedienung mehrerer Gerate und BenutzerI Ziel: Steigerung der AuslastungI “Hyperthreading”: Nutze Wartezeiten des ProzessorsI “Multi-Core” / “Multi-Processor”I Mehrere Dinge gleichzeitig : Web-Browser, DesktopI Koordinationsproblematik tritt bereits hier auf

I Verteilte AnwendungenI Datenbasis ist inharent verteilt: betriebswirtschaftliche

Software, Warenfluß in großen UnternehmenI Hier wichtig: plattformubergreifende Kommunikation,

Client-Server ArchitekturenI Auch wichtig: Sicherheit, VPN, etc. (behandeln wir nicht)

,,

Christian Engwer

Page 13: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 9 /17

Was hat das mit uns zu tun?

,,

Christian Engwer

Page 14: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 9 /17

Was hat das mit uns zu tun?

Typischer Wissenschaftlicher ProzessI Charakterisierung: beobachten,

quantifizieren, messenI Hypothese

I TheorieI Modell

I VorhersageI logische Herleitung aus der

Hypothese?I Experiment

I Verifikation/FalsifikationI Abweichungen fuhren ggf. zu

neuem/besseren Modell

Wissenschaft

Theorie

Experiement

,,

Christian Engwer

Page 15: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 9 /17

Was hat das mit uns zu tun?

Die dritte Saule

Numerische Simulation ist die dritteSaule der Wissenschaft und Technikneben Theorie und Experiment, umErkenntnisse zu gewinnen, z.B. wenn

I Eigenschaften/Strukturen nichtexperimentell zuganglich sind

I Experimente teuer sind (unddeshalb nur wenige durchgefuhrtwerden konnen)

I Theorien durch ihre Vorhersagengetestet werden sollen

Wissenschaft

Theorie

Sim

ulation

Experiement

,,

Christian Engwer

Page 16: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 10 /17

Modellierung & Simulation

Wirklichkeit

Vorhersage

mathematischesModell

konzeptionellesModell

BeobachtungExperiment

Experiment Theorie

,,

Christian Engwer

Page 17: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 10 /17

Modellierung & Simulation

Wirklichkeit

VorhersageSimulations-ergebnis

Computer-modell

mathematischesModell

konzeptionellesModell

BeobachtungExperiment

Experiment Theorie Simulation

,,

Christian Engwer

Page 18: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 11 /17

Galaxie Simulationen

Einfachstes ModellI BeobachtungI ModellI Mathematisches,

numerisches Modell

Galaxie Kollision. Simulation ausWissenschaftliches Rechnen 2011.

(40000 Partikel)

,,

Christian Engwer

Page 19: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 11 /17

Galaxie Simulationen

Einfachstes ModellI BeobachtungI Modell

I Newtonsche MechanikI N-Korper-System

I Mathematisches,numerisches Modell

Galaxie Kollision. Simulation ausWissenschaftliches Rechnen 2011.

(40000 Partikel)

,,

Christian Engwer

Page 20: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 11 /17

Galaxie SimulationenEinfachstes Modell

I BeobachtungI Modell

I Newtonsche MechanikI N-Korper-System

I Mathematisches,numerisches Modell

I System gewohnlicherDiffGl’s

I ExplizitesZeitschrittverfahren Galaxie Kollision. Simulation aus

Wissenschaftliches Rechnen 2011.(40000 Partikel)

,,

Christian Engwer

Page 21: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 12 /17

Organisatorisches

Was? Warum?

Parallele Rechner

,,

Christian Engwer

Page 22: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 13 /17

Nicht mehr schneller, sondern mehr!

Kathy Yelick: Ten Ways to Waste a Parallel Computer

Keynote ISCA 2009. The 36th International Symposium on Computer Architecture (mit Daten von Kunle Olukotun, Lance

Hammond, Herb Sutter, Burton Smith, Chris Batten und Krste Asanovic)

,,

Christian Engwer

Page 23: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 14 /17

Zahl der Cores pro System wachst sehr schnell

,,

Christian Engwer

Page 24: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 15 /17

Es gibt sehr verschiedene Parallelrechner

I IBM BlueGene PI z.B. Jugene im FZ JulichI einige unter den TOP 500

,,

Christian Engwer

Page 25: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 15 /17

Es gibt sehr verschiedene Parallelrechner

I 4 × 12 Core AMD-OpteronI kann sich auch die Mathematik leisten ;-)

,,

Christian Engwer

Page 26: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 15 /17

Es gibt sehr verschiedene Parallelrechner

I Nvidia Geforce GTX 680I 1536 StreamprozessorenI 22. Marz 2012

,,

Christian Engwer

Page 27: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 15 /17

Es gibt sehr verschiedene Parallelrechner

I MobiltelefoneI Multi-Core ProzessorenI z.B. links: Android-Handy mit 1,5 GHz Dual-Core-CPU (∼ 300e)I rechts: Quad-Core Smartphone

,,

Christian Engwer

Page 28: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 16 /17

Galaxie Simulationen

Galaxie Kollision. Simulation ausWissenschaftliches Rechnen 2011.

(40000 Partikel)

Einfache Simulationbereits als Android App

(115 Partikel)

,,

Christian Engwer

Page 29: Numerik fur High-Performance Computing¨ · (40000 Partikel),, Christian Engwer. sen ben WWU M ¨ er WestfWilhelms-UniversitM¨unster ¨alische at¨ Praktikum HPC 11/17 Galaxie Simulationen

wis

sen

lebe

nW

WU

Mun

ster

WestfalischeWilhelms-UniversitatMunster Praktikum HPC 17 /17

Millenium Simulation

I Simulation zur GalaxieentstehungI MPI fur AstrophysikI [Nature, 2. Juni 2005]

,,

Christian Engwer