Embed Size (px)
Citation preview
การอบรมเบองตน
Supercomputing Contest 2009
1
จดทาโดย ศนยไทยกรดแหง ชาต
สานกงานสงเสรมอตสาหกรรมซอฟตแวรแหงชาต
2
• วนท 1– ลนกซเบองตน– การเขยนโปรแกรมภาษา C บนลนกซ– แนะนาเทคโนโลยระบบคลสเตอร
• วนท 2– หลกการของโปรแกรมแบบขนาน และ MPI
– ตวอยางของโปรแกรม MPI
3
ลนกสเบองตน
4
• ลนกสทางานแบบไคลเอนต/เซรฟเวอร– ผใชตองทาการลอคอนเพอเขาใชงาน
– ผใชจาเปนตองม Username และ Password
• ลนกสจาแนกผใชเปน 2 กลมหลกคอ– ผใชทวไป (User)
– ผดแลระบบ (Root)
5
• ปจจบนนยมใชงานโปรแกรมในกลม SSH Client เพอเขาใชงานระบบ Linux ผานทางไกล
• การทางานอยในรปแบบของ text‐base และใชงานคอมมานดไลนเปนหลก
• ตวอยางโปรแกรม SSH Client ทใชงานไดฟรบนวนโดวส
• โปรแกรม Putty • สาหรบการใชเชลลผาน SSL (Secure Socket Layer) หรอ
เรยกวา SSH (Secure SHell)
• โปรแกรม WinSCP
• สาหรบรบสงไฟลระหวางลนกสและวนโดวสผาน SFTP โปรโตคอล
6
• โปรแกรม PuTTy อยบนวนโดวส
7
การเรยกใชงานลนกซดวยโปรแกรม Putty
(ตอ )
• กรอกชอเครอง หรอหมายเลข IP ของเครอง
• สามารถ Save
Profile ดวยการ กาหนดชอ และ Save
8
• โปรแกรมจะ save SSH keys ใหทาการกด Yes– SSH Key เปนกระบวนการเพอยนยนตวตนของเครอง server เพอปองกนการใชงานเครองทไมถกตอง
• จะปรากฏหนาจอใหทาการ กรอก Username & Password
9
• สงผานไฟลดวยโปรแกรม WinSCP
– การสงผานไฟลในสมยกอนนยมการสงผานดวยโปรแกรม FTP แตเนองจาก โปรแกรม FTP มจดออน เรองการรกษาความปลอดภย และสามารถโดน
Hack ไดงาย (เปลยนไปใช sftp
–
secure ftp )
– โปรแกรม WinSCP เปนการสงไฟลผานมาตรฐานของระบบ Secure shell ซงมการเขารหสขอมล และมระบบปองกนการโจมตทด
– สามารถโหลดไดท http://winscp.net/eng/index.php
10
การใชโปรแกรม WinSCP
1.
กรอก Host name
2.
กรอก User name
3.
กรอก Password
11
การใชโปรแกรม WinSCP
• โปรแกรมจะทาการเชอมตอไปยง เครองเซรฟเวอร
• ในการเชอมตอครงแรก โปรแกรมจะ ถามถงการยอมรบ Keys ของ
เซรฟเวอรวาเชอถอ และจดเกบ keys หรอไม
12
13
• เทอรมนล(Terminal) ‐ คอชองทางทอนญาตใหผ ใชลอกอนเขาสเคอรเนลทงแบบโลคอลและ
แบบรโมท
• เชลล(Shell) ‐ คอสวนของลนกสจะใชสาหรบสงอนพทจากผใชไปยเคอรเนล
- ลนกสสวนใหญมกใช BASH Shell (Bourne Again Shell) เปนเชลลปรยาย (Default shell)
• เคอรเนล(Kernel) ‐ คอหวใจหลกของระบบทาหนาทตดตอไปยงฮารดแวร
• ลนกสอนญาตใหมหลายเทอรมนลได โดยแตละเทอรมนลมเชลลเปน ของตนเอง
14
• ลนกสอนญาตใหมหลายเทอรมนลได โดยแตละเทอรมนลมเชลลเปนของตนเอง
15
•
ลนกสเปนระบบปฏบตการทนยมใชการทางานแบบ text mode เปนหลก (ทางานไดเรว)
•
ในการเรยกใชคาสงจะเปนการเรยกชอคาสง (command) และ options ซงเรยกวา “flags”
•
ซง Commands จะปอนเขาสระบบผาน command prompt
•
ในระบบลนกส, จะตองคานงถงตวเลก-ตวใหญของตวอกษร
•
บนคอมมานดไลนเดยวกนสามารถเขยนคาสงไดมากกวาหนงคาสง โดยใช ; กนระหวางคาสง
16
[prompt]$ <command> <flags> <args>
user01@local$ ls –l -a unix-tutorial
Command Prompt Command (Optional) flags (Optional) arguments
17
ระบบไฟลบนลนกสและคาสงเบองตน
18
• ระบบไฟลบนวนโดวส–Windows XP, Windows VISTA
• Support FAT32, NTFS• File system of BSD Family OS
– FFS (Fast File System)
19
20
คณลกษณะ ระบบปฏบตการวนโดวส ระบบปฏบตการลนกส
ระบบไฟล NTFS, FAT ext2, ext3การอางองรทของพารทชน C:, D:, F:
แตละพารทชนเปนรท
แตละพารทชน
อยภายใตรทโหนด (“/”)
• แบงออกเปน 2 ประเภทคอ
– Linux Swap• สาหรบทาหนาทเปน Virtual Memory
– Linux File System• ทาหนาทจดเกบไฟลขอมล• ระบบไฟลทนยมใชกนมากในปจจบนคอ ระบบไฟล ext3
21
22
ไดเรกทอร คาอธบาย
/ เกบไดเรกทอรทงหมด และไมเกบไฟลอนๆ
/boot เกบเคอรเนลและไฟลทใหสาหรบบตลนกส
/home เกบขอมลของผใชทงหมด
/usr เกบคาสงระบบและยทลตตาง
/usr/local สาหรบซอฟตแวรทอาจตดตงเพมเตม
/opt สาหรบซอฟตแวรทอาจตดตงเพมเตม
/var เกบขอมลของลอกไฟลตางๆ และ Spools
/tmp เกบไฟลชวคราวทสรางขนโดยโปรแกรมตางๆ
23
เปรยบเทยบระหวางลนกสและวนโดวส
โครงสรางไดเรกทอรของลนกส
• ไดเรกทอร : ใชสาหรบการเกบ และจดระเบยบไฟลขอมลหรอไดเรกทอ รยอย และอยในรปของตนไม
• เสนทางแบบสมบรณ (Absolute pathname) : ชอของ เสนทาง(Path) จากรทไดเรกทอร(/) ไปยงไฟลหรอไดเรกทอร
ปลายทาง
• รทไดเรกทอร(Root) : ชนสงสดของไดเรกทอร– จะใชสญลกษณในการอางองเปน “/”
24
• โครงสรางของไฟลในระบบยนกส
25
/root
• โฮมไดเรกทอร(/home) : ผใชหนงคนจะมไดเรกทอรนเพยงหนงไดเรกทอร และไมซากน
• คาสงแสดงไดเรกทอรขณะใชงาน และแสดงแบบสมบรณ คอ “pwd”
(print working directory)โดยเสนทางแบบสมบรณนจะอางอง ตาแหนงตนไม
ของโครงสรางไดเรกทอร
• คาสงเปลยนไดเรกทอร “cd”
(change directory) เปลยนไดเรกทอรไป ยงไดเรกทอรทตองการ ณ ตาแหนงตนไมของโครงสรางไดเรกทอร
• ~ (metacharacter) จะอางองถงโฮมไดเรกทอร เชน “cd
~”• Relative pathname คอการอางองตาแหนงของไฟลหรอไดเรกทอร ทอย
บนไดเรกทอรขณะใชงาน ใช “./”
26
• “ TAB‐completion ” เราสามารถใชแทบ (ป ม TAB) เพอ แสดง (หรอเพมเตม) ชอคาสง หรอไฟล หรอไดเรกทอรใหสมบรณ
– แสดงคาสงของระบบทเกยวของและผใชสามารถใชงานได– สามารถแสดงชอไฟลทถกอางองในไดเรกทอรนนๆ– แสดงตวแปรสภาพแวดลอมการใชงานขณะนนได ($XXX)– เปนคณลกษณะพเศษของ Bash Shell
27
• Text File คอ ไฟลทสามารถอานได อยในรปแบบของตวอกษร• Binary Data File คอ ไฟลทอยในรปแบบทโปรแกรมสามารถ
อานไดเทานน
• Executable Program File คอ ไฟลทสามารถทางานได• Directory File คอ ไฟลทแสดงรายละเอยดของไดเรกทอร
28
• Linked File คอไฟลทเปนตวชไปยงไฟลอน• Special Device File คอไฟลทแสดงรายละเอยดของอปกรณ• Named Pipes คอไฟลทระบชองการสงขอมลระหวางโปรแกรม
(โปรเซส) ในเครองเดยวกน• Socket Files คอไฟลทอนญาตใหโปรแกรม(โปรเซส)บนเครอง
คอมพวเตอรอนสามารถเขยนไฟลลงในเครองได
29
30
• ไฟลทขนตนดวย “.”
(จด) เปนไฟลหรอไดเรกทอรทถกซอน• หากสทธของรายการใดขนตนดวย ‘d’ เชน ‘drwxrw‐r‐‐’ หมายถง
รายการดงกลาวคอไดเรกทอร
• หากสทธของรายการใดขนตนดวย ‘l’ เชน ‘lrwxrwxrwx’ หมายถง รายการดงกลาวเปน Linked File
หมายเหต :• ไฟลการปรบแตงโปรแกรม(Configuration File) มกเปนไฟลท
ซอนเอาไว
• คาสง ‘ls
‐a’ เปนคาสงทสามารถดไดทงไฟลปรกตและไฟลทถก ซอน
•
คาสง “pwd”
–
แสดงตาแหนงไดเรกทรอรปจจบน
•
คาสง “mkdir
directory”
–
คาสงสาหรบสราง ไดเรกทรอร
•
คาสง “rmdir
[-option] directory”
–
คาสงสาหรบลบไดเรกทรอร (เงอนไข ตองไมมไฟลขอมลอยในไดเรก ทรอรนน)
–
-f, ไมแสดงขอผดพลาดหรอคาเตอน
31
•
คาสง “cp [-option] source_file
destination_file”
–
คาสงสาหรบทาสาเนาไฟล โดยจะทาสาเนาจากไฟลตนทาง ไปยง ไฟลปลายทางทกาหนด
–
-f, ไมแสดงขอผดพลาดหรอคาเตอน
–
-R, ทาการสรางสาเนาทกไฟล และทกไดเรกทรอร
–
-p, ทาการคงสทธของผใชไวเหมอนเดม
–
-i, แสดงพรอมพเพอยนยนในกรณเขยนไฟลทบ
32
•
คาสง “mv
[-option] source destination”
–
เปนคาสงสาหรบยาย ไฟลหรอไดเรกทรอรจากตนทางไปยง ปลายทาง
– -i, ใหแสดงการยนยนในกรณเขยนทบไฟลเดม
•
คาสง “rm
[-option] file
–
เปนคาสงในการลบไฟล หรอไดเรกทรอรทตองการออกจากระบบ
– -R, ทาการลบทกไฟล และทกไดเรกทรอรยอย
33
•
คาสง “cd
[directory]”
–
คาสงสาหรบการเปลยนตาแหนงของไดเรกทรอร
–
ตวอยางเชน
•
cd
/usr/local
•
cd
..
•
cd
../../etc/
•
cd, กลบไปยงดฟอลไดเรกทรอร (user directory)
•
cd
~linux
34
• การใชสญลกษณ wildcard• ls• ls
*.doc
• ls
c???
• ls
file?.*
35
• คาสง “more [filename]”
– เปนการแสดงขอมลภายในไฟล แบบทละบรรทด
• คาสง “less [filename]”
– เปนคาสงแสดงขอมลภายในไฟล สามารถเลอนขน/ลงเพอแสดง ผลได
• คาสง “cat [filename]”
– เปนคาสงแสดงขอมลภายในไฟลทงหมด
36
•
คาสง “head [-n] [filename]”
–
แสดงขอมลสวนตนของไฟลทกาหนด ดวยจานวนบรรทด n
•
คาสง “tail [-n] [filename]”
–
แสดงขอมลสวนทายของไฟลทกาหนด ดวยจานวนบรรทด n
–
มกใชดลอกไฟลขณะทโปรแกรมทางาน โดยใช ‘tail –f’
37
• คาสง “ls
‐option”• ls เปนคาสงสาหรบแสดงไฟล และไดเรกทรอร
–Option• ‐a, เปนการแสดงไฟลขอมลทกไฟล รวมทงไฟลทซอน• ‐l, แสดงรายละเอยดของไฟล• ‐R, แสดงขอมลภายในของแตละไดเรกทรอร• ‐c, เรยงลาดบการปรบแกขอมล• ‐h, แสดงขนาดของไฟลในรปแบบ KB, MB หรอ GB
38
• คาสงในการ mount file–mount –t type
device
target‐dir
• type ex. ext3, …• device ex. /dev/hda1, /dev/hdb1, …• target‐dir ex. /, /var, /home,
/mnt/cdrom, …
39
/
/var /home
hda3
hda4hda1
40
• ใชคาสง “mount”
• ตวอยางแสดงดงภาพ
• ตวอยางการ mount อปกรณตอพวงตางๆ เชน
–CD‐ROM• #mount /dev/cdrom
/mnt
– Floppy Disk• #mount /dev/floppy /mnt
–USB drive, Thumb drive• #mount /dev/sdb1 /mnt• โดยปรกตลนกตจะมองเหน Thumb drive เปน
sd(a,b,c) โดยขนกบดสกทตดตงอยในระบบ41
• ใชคาสง umount
– umount
directory
– umount
device• ตวอยางเชน
–umount
/var
–umount
/hda1
42
• ระบบจดเกบไวในไฟล /etc/fstab• ตวอยางขอมลภายในไฟล fstab
43
• ระบบยนกสมการกาหนดสทธไว 3 กลมคอ– เจาของ (ผใช)
– กลมเดยวกบผใช
– บคคลทวไป
• ซงทกๆไฟล และไดเรกทรอรจาเปนตองมการบนทกการเขาถงไวตงแต
เรมสรางไฟล และมการปรบเปลยนสทธในกรณทมการแกไข และคงไว
จนกวาไฟลนนจะถกลบ
44
rwx rwx rwx
User Group Other
– r = Read Permission
–w = Write Permission
– x = Execute Permission• ในการเปลยนสทธใชคาสง “chmod
number filename”
– ตวเลขสามารถหาไดจากการคานวณคา r, w, x ซงมคาดงน
– r = 4 (22)
– w = 2 (21)
– x = 1 (20)
– ‐
= 0 45
•
ตวอยาง
–
rwx
= 7
–
rw-
= 6
–
r-x
= 5
•
rwxr-xr-x
= 755
•
rw-rw-rw-
= 666
•
rwxrwx---
= 770
46
• การเปลยน permission ทาโดย– $ mkdir public_html– $ chmod 755 publich_html– $ ls
• การเปลยน permission แบบสมพทธ ชนดกาหนด ผใช ‘u’, กลม ‘g’, หรอบคคลอน ‘o’.
–u = owner, g = group, o = other
–+ = add permission, ‐
= remove permission• คาสง chmod
–R จะเปลยนสทธทงไฟลและไดเรกทอรยอย
(Recursive)
47
Person Permission Add/remove u = owner r = read + add
g = group w = write - remove
o = other x = execute
a = u+g+o
48
•
rw-r--r--
change to rw-rw-r--– $ chmod g+w test
•
rw-r--r--
change to rwxrwxr-x– $ chmod ug+wx, o+x test
•
rwxrwxr-x
change to rwxr--r--– $ chmod go-wx test
49
• การเปลยนชอเจาของไฟลหรอไดเรกทรอร ทาโดย– $ chown [username].[groupname] [option] files
–option• ‐R, เปลยนเจาของในไดเรกทรอรยอยดวย• ‐f, ไมแสดงขอผดพลาด
– $ chown user test.txt– $ chown test.test homework.c– $ chown test:test test.txt– $ chown user1.group1 -R /home/
50
• Tar เปนคาสงในการรวมไฟล หรอไดเรกทรอร ใหรวมเปนไฟล
เพยงไฟลเดยว โดยมขนาดรวมคงเดม (ไมมการบบอด)
• คาสง
– tar [option] outputfile.tar
Directory(file1 file2…) – option
• c, สรางไฟล• v, แสดงการทางาน• x, การแยกไฟล• t, แสดงไฟลภายใน• f, ระบวาใหสรางไฟลแทนการพมพผลรวมออกทางหนาจอ
51
• ตวอยางการใชงาน– $ tar cvf test.tar /home/test
– $ tar tvf test.tar
– $ tar xvf test.tar
52
• คาสงสาหรบการบบอดไฟล Zip– zip, unzip : สาหรบไฟล MS window’s format.
–Gzip, gunzip
: สาหรบไฟล UNIX’s format
–bzip2, bunzip2 : วธการบบอดระดบสง
• ตวอยาง (การบบอดจาเปนตองทาการ tar กอน)– $ tar cvf test.tar test ; gzip test.tar– $ tar cvfz test.tar.gz test
– ผลลพธทง 2 คาสงไดผลเหมอนกน,
‘test.tar.gz’.
53
• คาสงสาหรบการสงไฟลหรอไดเรกทอร ‘ scp ’$ scp [-option] <source> <destination>
$ scp [-option] [user@host:/path/] [user@host:/path/]
54
Host AUser A
Host BUser B
Host CUser C
[userA@HostA]$ scp –r userB@hostB:/home/userB/send/ userC@hostC:/home/userC/userB@hostB’s password:userC@hostC’s password:
• การเปลยนรหสผานควรทาทกๆ 3 เดอน• รหสผานควรประกอบดวยตวเลขและตวอกษรอนๆ ผสมกน• คาสงสาหรบเปลยนรหสผาน
– ‘
passwd
’
55
• ลนกสมคาสงมากมาย• มคมอการใชงานแตละคาสง(Manual pages) มกถกตดตงมา
พรอมกบการตดตงลนกส
– จะใชคาสง “man” แลวตามดวยคาสงลนกสทตองการ– เชน “man ls”– คมอมหลายประเภท
• คาสงบนลนกสมกเตรยมการชวยเหลอเบองตน เชน “ls
‐‐help”• ลนกสยงมคมอหรอ Information Page เปนคมออยางงาย
– ใชคาสง “info” แลวตามดวยคาสงลนกสทตองการ
56
• บนลนกซม text editor เปนจานวนมาก– VI – text editor พนฐานบนระบบ UNIX มความยดหยนสงมาก แต
ใชงานคอนขางยาก
– Emacs
–
text editor ทเปนทนยมในการเขยนโปรแกรมและการเขยน เอกสาร ใชงานคอนขางยาก
– Nano
–
text editor อยางงายบนลนกซ
57
58
• เรยกใชงาน nano ไดโดยการพมพคาสง “nano”• คาสงพนฐาน
– การพมพและแกไขขอความ• สามารถพมพและแกไขขอความไดทนท
– การเซฟไฟล• กด Ctrl+O เพอเซฟไฟล และระบชอไฟลทจะเซฟ
– การออกจากโปรแกรม• กด Ctrl+X เพอออกจากโปรแกรม
59
60
การเซฟและออก
การเซฟ การออก
• สามารถกด Ctrl+X เพออกจาก NANO ไดทนท
• หากยงไมไดเซฟไฟล จะมคาเตอนเพอให
เซฟไฟลกอน
61
กด Ctrl+O และระบ
ช
อไ ฟล
เปดไฟลทเคยสรางไวแลว
62
การเขยนโปรแกรมภาษา C บนลนกซ
63
ภาษา นามสกล ตวอยาง
C++
C
C#
Perl
PHP
Java
.c
.cpp
.cs
.pl
.php
.java
hello.c
hello.cpp
hello.cs
hello.pl
hello.php
hello.java
• โปรแกรมทเขยนขนมา ไมวาจะเขยนโดยใชอดเตอรอะไรกตาม จะได
ซอรสโคด (source code) ซงจะเกบในรปแฟมขอมล ซงจะมนามสกล แตกตางกนไปดงน
64
ขอตรวจสอบดกอนขอตรวจสอบดกอน
Main(){printf(“XX”);printf(“YY”);}
ซอรสโคด
กระบวนการแปลโปรแกรม
มขอผดพลาด ไปแกไขมาใหมมขอผดพลาด ไปแกไขมาใหม
ถกตอง
ผานได
ถกตอง
ผานได
ตวแปลภาษา (Compiler)
65
สงซอรสโคดใหกบตวแปลภาษาสงซอรสโคดใหกบตวแปลภาษา
ตวแปลภาษา
Executable File
Executable File
ไฟลทสามารถรนได
ผลทไดผลทได
•
เมอเขยนโปรแกรมเสรจ ผานการแปลภาษาแลวผลทไดกจะเปนไฟล
โปรแกรมทสามารถนาไปใชไดเลย โดยอาจกอปปลงดสกไปเปดทเครอง อนๆ ได ซงจะเปนไฟลโปรแกรมแยกจากตวซอรสโคดทเราเขยน
•
ไฟลโปรแกรมทไดนนเปนไฟลแบบเลขฐานสอง หรอไบนารไฟล (.exe)
เรยกวาเอกซควเทเบลไฟล(executable file) หรอ binary file
66
• โปรแกรมภาษา C ใชคาสง gcc– gcc
mainfile.c
• โปรแกรมภาษา fortran ใชคาสง ,
gfortran หรอ ifort
– ifort
file.f90• โปรแกรมไบนารจะถกบนทกในไฟลชอ “a.out”
(By default)
หรอสามารถกาหนดชอโปรแกรมเพอใชในการรน(Executable File)
• การรนโปรแกรมใหนาหนาดวยเครองหมาย “./”• เชน
./a.out
67
•
ภาษา C เปนภาษาทไดรบความนยมมากในการพฒนาโปรแกรม
•
คาเตอน
–
ตองระมดระวงในการเขยนโคด เนองจากเขยนผดพลาดไดงาย
–
สราง bugs สาหรบโปรแกรมไดงาย
•
แตเปนภาษาททรงประสทธภาพมาก
–
ทางานไดรวดเรวมาก
–
สามารถทางานระดบลางไดด
–
มคาสงทตรงไปตรงมา ไมซบซอน
68
ตวอยางของโปรแกรมภาษาซ
69
1 #include <stdio.h>23 /* My First C program which prints "Hello world" */45 int main(int argc, char * argv[])6 {7 printf("Hello world !\n");8 return 0;9 }
1 #include <stdio.h>23 /* My First C program which prints "Hello world" */45 int main(int argc, char * argv[])6 {7 printf("Hello world !\n");8 return 0;9 }
1 ใช
ไ ลบราร
อ
นพ
ท เอ
าต
พ
ทมาตรฐาน
3 การทา คอมเมนต เพ
ออธ
บายโ
ปรแกรม
5 ฟ
งก
ช
นหล
ก main เป
นฟ
งก
ช
นแรกท
โ ปรแกรมเร
มทา งา
น
โดยส
งค
า 0 ให
ก
บระบบ
6 เป
ดบล
อกของโปรแกรม ‘{’
7 ให
คอมพ
วเตอร
เข
ยน Hello world ออกทางจอภาพ
8 ส
งค
า 0 ให
ก
บระบบ
9 ป
ดบล
อกของโปรแกรม ‘}’
1 ใช
ไ ลบราร
อ
นพ
ท เอ
าต
พ
ทมาตรฐาน
3 การทา คอมเมนต เพ
ออธ
บายโ
ปรแกรม
5 ฟ
งก
ช
นหล
ก main เป
นฟ
งก
ช
นแรกท
โ ปรแกรมเร
มทา งา
น
โดยส
งค
า 0 ให
ก
บระบบ
6 เป
ดบล
อกของโปรแกรม ‘{’
7 ให
คอมพ
วเตอร
เข
ยน Hello world ออกทางจอภาพ
8 ส
งค
า 0 ให
ก
บระบบ
9 ป
ดบล
อกของโปรแกรม ‘}’
ซอรสโคด
คาอธบาย
เปดคมอเพอเขยนโปรแกรม
70
1 #include <stdio.h>23 /* My First C program which prints "Hello world" */45 int main(int argc, char * argv[])6 {7 printf("Hello world !\n");8 return 0;9 }
1 #include <stdio.h>23 /* My First C program which prints "Hello world" */45 int main(int argc, char * argv[])6 {7 printf("Hello world !\n");8 return 0;9 }
ซอรสโคด
• ใช ‘ man stdio.h’• ใช ‘man 2 printf’• คมอทเกยวของกบการใชงานไลบรารตางๆมกอยทหมายเลข 2 และ 3
#include<stdio.h>void main(){
char name[15]; // String Arrayint age;printf(“What is your name ?\n”);scanf(“%s”, name);printf(“Enter year of your Age: ”);scanf(“%d”,&age);printf(“Hello %s, your Age is %d\n”, name ,age);
}
71
•
สรางขนเพอความสะดวกสะบายในการเขยนโปรแกรม และคอมไพลโปรแกรม
•
บรรจคาสงเชนเดยวกบเชลลสครปต
•
ตรวจสอบการแกไขซอรสไฟล (up-to-date)
•
เปนเครองมอทจาเปนในการพฒนาโปรแกรมบนลนกสและยนกส
•
ไมตองทางานแบบลาดบเชนเดยวกบเชลลสครปต
•
ใชเลเบลเพออางองการทางาน
•
ใชคาสง ‘
make ’ เพอรนเมคไฟล
72
การสรางและใชงานเมคไฟล (ตอ )
73
• COMPILER=/usr/bin/gcc เปนการประกาศตวแปร
• อางองตวแปรดวย $(<variable_name>) เชน $(COMPILER)
• คาสง ‘
make ’ จะเรมทางานทเลเบลแรก ในทนคอ ‘make’
• สามารถขามไปทางาน ณ ตาแหนงเลเบลทตองการเชน ‘
$ make clean ’
• เลเบลมกตามดวยอนพทของคาสงทใชภายใตเลเบลนน และใช ‘
$< ’ เพออางอง
• สรางโปรแกรม Hello world ดวยภาษาซ และบนทกชอเปน
test.c ดงน
74
•
เขยน Makefile โดยใชคอมไพเลอรเปน gcc
•
กาหนดออปเจกตไฟลเปน test.o และรนโปรแกรมในชอ launch
•
สรางเลเบลสาหรบลบไฟลทเคยคอมไพล ดงน
75
•
ทาการคอมไพลโปรแกรม Hello world โดยใช Makefile
•
Makefile ทสรางขนจะตองไมคอมไพล test.c ซา ดงรป
•
ทดลองใช ‘
make clean’ แลวคอมไพลใหม
76
• การจบเวลาอยางงาย สามารถทาไดโดยใชคาสง time ในการจบเวลาการ ประมวลผล
[somsak_sr@gcc
tmp]$ time ./hello_world
Hello world
real 0m0.001suser 0m0.000ssys 0m0.001s[somsak_sr@gcc
tmp]$
[somsak_sr@gcc
tmp]$ time ./hello_world
Hello world
real 0m0.001suser 0m0.000ssys 0m0.001s[somsak_sr@gcc
tmp]$
Real – เวลาโ ดยรวมท
งหมดท
ใช
ในการประมวลผลUser – เวลาท
ใช
ในการประมวลผล
System – เวลาท
ใช
ในการต
ดต
อก
บระบบ (เช
น การอ
านเข
ยนไ
ฟล
การ พ
มพ
ข
อความ)
77
แนะนาเทคโนโลยระบบคลสเตอร
78
• “การคานวณแกปญหาทมขนาดใหญและมความซบซอนมาก โดยใช
คอมพวเตอรทมความสามารถสงทสดเทาทมในเวลานน”– “ปญหาทมขนาดใหญและซบซอน”– “คอมพวเตอรทมความสามารถสงทสด”– “เทาทมในเวลานน”
79
• ขนาด (Size): ปญหาทนกวทยาศาสตร หรอวศวกรไมสามารถแกไดดวย คอมพวเตอรพซ ตวอยางเชนปญหาทตองการหนวยความจาขนาดใหญ
หรอหนวยจดเกบขอมลขนาดหลายกกะไบต
• ความเรว (Speed): ปญหาทนกวทยาศาสตร หรอวศวกร ตองใช
ระยะเวลาทนานมากๆ ในการทจะไดมาซงคาตอบ ดวยการคานวณบน เครองคอมพวเตอรสวนบคคล (PC) ในขณะทใชระยะเวลาการคานวณ ไมกชวโมงบนเครอง ซเปอรคอมพวเตอร (Supercomputer)
80
ปญหาทมขนาดใหญและซบซอน
81
• ปญหาทมความซบซอนมากขนาดทคอมพวเตอรทดทสดในเวลานนไมสามารถแกปญหาไดใน เวลาอนเหมาะสม
• กลมปญหา Grand Challenge จะเปลยนไปเรอยๆ เมอคอมพวเตอรพฒนาขน
• ตวอยางปญหาทาทายคอมพวเตอร
– Weather Forecast
– Computer Animation
– Molecular simulation
– Bioinformatics
– etc
82
• ทาไดโดยการจาลองการเปลยนแปลงของบรรยากาศ ณ เวลาหนงโดยคานวณทละ time step
• ตวอยางการคานวณ
– พนทขนาด 36 X 36 ตร.กม. แบงเปนตารางขนาด 136
x 112 จานวน 33 ชน รวม เปน 503,000 สวน พยากรณลวงหนา 24 ชม. โดยแบงเปน 1067 time step
จะตองใชการคานวณทงหมด 2,558,666 Mflop หรอ 2.56 TeraFlop– ป 2000 ใชเครอง Pentium III 500 MHz (99 Mflop/s) ใชเวลา 7.11 ชม.
• ใชคลสเตอรจานวน 64 เครอง ไดในเวลา 20 นาท– ป 2004 ใชเครอง Xeon 2.8 GHz dual processor (991
Mflop/s) ใช
เวลา 42.68 นาท
• รวมเปนคลสเตอรขนาด 120 เครอง ใชเวลา 66 วนาท เทานน !!
83
Less fish …
More fish!
• การทางานเชงขนาน (Parallelism) คอการทางานหลายๆอยางในเวลาเดยวกน ทาใหทางานไดเสรจมากกวาในเวลาทเทากน
84
• 1960‐
1980s แนวคดทางทฤษฎเกดขนมากมาย
• 1962
CDC 1604 ซเปอรคอมพวเตอรเปนเครองแรก
• 1975
Cray‐1 (80 MHz) ซเปอรคอมพวเตอรเครองแรกทผลต เพอจาหนาย
• 1975-1990 มนวตกรรมคอมพวเตอรแบบขนานจานวนมาก มงานวจย และผผลตจานวนมาก Cray X MP, Cray Y MP, Cray‐2
85
• 1990 บรษทผผลตหลายรายเลกกจการไป• 1994 เบวลฟคลสเตอร (Beowolf
cluster) เกดขน
• ปจจบน SMP (Symmetric Multiprocessor) และคลส เตอรคอสถาปตยกรรมหลก
• คอมพวเตอรในปจจบนเรมนาแนวคดแบบขนานมาใช
86
• ถอกาเนดในป 1994
• โดยนาย Donald Becker จาก NASA ทาการประกอบคอมพวเตอร คลสเตอรตวแรกของโลก ประกอบดวย 16 เครอง DX4 PCs ระบบเครอขาย
เปน 10 Mb/s Ethernet
• เรยกระบบนวา เบวลฟคลสเตอร (Beowulf cluster)
• สรางจากอปกรณทหาไดทวไป (commercial off‐the‐shelf hardware) เชน คอมพวเตอรระดบพซ (PC) หรอสถานงาน
(workstation) และอเทอรเนตสวตช (ethernet
switch)
• ตวอยางโปรแกรม เชน data mining, simulations, parallel processing, weather modeling, computer graphical
rendering, etc. 87
88
คลสเตอร แบงไดเปน• High Performance Cluster
– เนนสมรรถนะหรอความเรว– Parallel programming
• High Throughput Computing– เนนปรมาณงานโดยรวม ใชทรพยากรใหเกดประโยชนสงสด– อาจใชวธ cycle‐stealing
• High Availability Cluster– เนนความทนทานตอความผดพลาดของระบบ– มกใชอปกรณซาๆกนหลายๆตว ทาหนาทเดยวกน
89
Demise of Mainframes, Supercomputers, & MPPs
คลสเตอรคอมพวเตอร
90
Serial computing
Front‐endFront‐end
Compute 0Compute 0 Compute 1Compute 1 Compute nCompute n…RAMRAM
B CA
RAMRAM RAMRAM
D
91
Parallel computing
Front‐end
Compute 0 Compute 1 Compute n…
A
RAM RAM RAM
A AA
A AA
92
• ขนตอนใชงาน ระบบคลสเตอรมดงน
– Log‐in เขาใชงานระบบผานโปรแกรม Putty
– เขยนโปรแกรม
– คอมไพลเปนไบนารไฟล
– สงใหโปรแกรมทางาน
– ตรวจสอบผล
– ตดตามการทางานของโปรแกรม
93
• ในระบบคลสเตอร ทมผ ใชหลายคน จาเปนตองมการจดลาดบการใชงาน ทรพยากร
• โปรแกรมททาหนาทจดการเรยกวา โปรแกรมจดลาดบงาน (Job Scheduler)
– SUN Grid Engine– PBS/Torque, LSF, Condor, Moab
• ทาไมตองม?– เพอกาหนดสทธ และลาดบขนของการทางาน เพอใหเกดความเสมอภาค และสามารถใช
ทรพยากรไดคมคาสงสด
94
หลกการของโปรแกรมแบบขนาน
95
• จดประสงคคอการทาใหโปรแกรมทางานไดเรวขน• งานขนาดใหญสามารถทาใหทางานเรวขนไดโดย
– แบงงานใหญเปนงานยอยๆ หลายๆงาน– สงงานยอยไปทางานยงเครองประมวลผลหลายๆ เครองพรอมกน– รวบรวมผลทไดจากเครองประมวลผลตางๆ
96
• โดยทวไปจะใชวธการ massage passing– ลกษณะของ message passing คอ
• การใชหนวยประมวลผลพรอมๆกนกบงานชนเดยวกน• สามารถแลกเปลยนขอมลขณะประมวลผล
• มาตรฐานของการโปรแกรมแบบขนาน– MPI
• ปจจบนเปนเสมอนมาตรฐานสาหรบการเขยนโปรแกรมแบบขนาน
97
• วธการพฒนา– พฒนาโปรแกรมแบบขนานดวยไลบรารของ message passing เชน
MPI, PVM เปนตน ซงปจจบนไลบรารเหลานไดสนบสนนภาษาการเขยน โปรแกรมหลายภาษา เชน C/C++, java เปนตน
– คอมไพลโปรแกรมดวย คอมไพเลอรของโปรแกรมแบบขนาน– พฒนาโปรแกรมดวยภาษาพเศษสาหรบโปรแกรมแบบขนาน เชน
OpenMP, High performance fortan
(HPF) เปนตน
98
• อลกอรทมในการแบงโปรแกรมแบบขนาน– Functional Parallelism
• เปนอลกอรทมทใชแบงแตละสวนของฟงกชนออกจากกน โดยสวนทแบงออกมานน จะตองเปนอสระตอกนและไมเกยวของกน แลวนาแตละสวนมาประมวลผลพรอมกน
• ตวอยาง E = A*B + C*D• A*B และ C*D สามารถประมวลผลพรอมกนได เพราะทงสองสวนนนเมอแบง
ออกมาแลวจะไมมสวนทเกยวของกน
99
• อลกอรทมในการแบงโปรแกรมแบบขนาน (2)– Data Parallelism
• เปนอลกอรทมทจะกระจายฟงกชนเดยวกนแตมขอมลขาเขาแตกตางกนไป แลวประมวลผลพรอมกน• ตวอยาง
A[1] = B[1] + C[1]
A[2] = B[2] + C[2] A[N] = B[N] + C[N]
• โดยแตละโปรแกรมจะประมวลผลพรอมๆกน ทงหมดใชหนวยประมวลผล N หนวย
B C
B[1] C[1]
B[2] C[2]
B[n] C[n]
A= +
A[1]
A[2]
A[n]
= +
= +
= +…
100
• ความสมพนธของขอมล (Data Dependency)– เกดขนเมอการประมวลผลจาเปนตองใชขอมลรวมกน– ตวอยางท 1
โปรแกรมท 1 คอ A = B + C, โปรแกรมท 2 คอ D = E + F• ไมมความสมพนธขอมล
– ตวอยางท 2 โปรแกรมท 1 คอ A = B + C, โปรแกรมท 2 คอ D = E + A
• มความสมพนธขอมล โดยโปรแกรมท 1 จะตองประมวลผลเสรจกอนทจะเรม ประมวลผลโปรแกรมท 2
101
• ความสมพนธของขอมล (Data Dependency)• ตวอยางท 1
– A[i,j] = A[i‐1, j] + 1– A[0,0] A[1,0]
A[0, 3]
A[1, 3]
A[2, 3]
A[3, 3]
A[0, 2]
A[1, 2]
A[2, 2]
A[3, 2]
A[0, 1]
A[1, 1]
A[2, 1]
A[3, 1]
A[0, 0]
A[1, 0]
A[2, 0]
A[3, 0]
102
• ความสมพนธของขอมล (Data Dependency)• ตวอยางท 2
– A[i,j] = A[i, j‐1] + 2– A[0,0] A[0,1]
A[0, 3]
A[1, 3]
A[2, 3]
A[3, 3]
A[0, 2]
A[1, 2]
A[2, 2]
A[3, 2]
A[0, 1]
A[1, 1]
A[2, 1]
A[3, 1]
A[0, 0]
A[1, 0]
A[2, 0]
A[3, 0]
103
เลอกวธการแบงขอมล
• ความสมพนธของขอมล (Data Dependency)
• ตวอยางท 3– A[i,j] = A[i‐1, j] + A[i, j‐1]– A[0,1], A[1,0] A[1,1]
104
• วธการพฒนาโปรแกรมแบบขนาน– เรมตนจากออกแบบโปรแกรมแบบ sequential ซงเปนการโปรแกรมแบบ
ปกตทใชกน
– ตรวจสอบการทางานของโปรแกรมวามสวนใดบางทตองใชเวลาประมวลผล มากกวา เพอทจะพฒนาเปนการประมวลผลแบบขนาน
– เลอกวธการแบงขอมลและแบงงานออก– เพมการเขยนโปรแกรมลงไปใหเปนโปรแกรมแบบขนาน
105
• MPI คอ Message Passing Interface• เปนไลบรารสาหรบการตดตอสอสารระหวางหนวยประมวลผลและการ
แลกเปลยนขอมล
• ใชสาหรบการเขยนโปรแกรมแบบขนาน• ปจจบนไลบรารนไดถกพฒนาขนหลายแบบดงน
– MPICH• เปนไลบรารทไดรบความนยมสงสด
– OpenMPI
106
• ขนตอนการใชงาน mpi– เขยนโปรแกรมดวยไลบราร mpi
– คอมไพลโปรแกรมดวย คอมไพเลอร mpi โดยจะตองเลอกใหเหมาะกบ ภาษาทเขยนโปรแกรม
mpif77 mpi_prog.f
mpicc mpi_prog.c
mpif90 mpi_prof.f90
mpiCC mpi_prof.C
107
• ขนตอนการใชงาน mpi
(2)– ระบเครองทสามารถประมวลผลไดใน machine file
– ประมวลผลโปรแกรมดวย mpirun
compute-0-0
compute-0-1
compute-0-2
mpirun –np <number of process> [option] <program>
108
• greetings.c#include <stdio.h>#include <mpi.h>
main(int argc, char** argv) {int my_rank; /* Rank of process */int p; /* Number of processes */int source; /* Rank of sender */int dest; /* Rank of receiver */int tag = 50; /* Tag for messages */char message[100]; /* Storage for the message */char name[32]; /* Processor name */int name_len;MPI_Status status; /* Return status for receive */
printf("start\n");MPI_Init(&argc, &argv);printf("MPI_Init OK\n");
109
• greetings.c
(ตอ)MPI_Comm_rank(MPI_COMM_WORLD, &my_rank);MPI_Comm_size(MPI_COMM_WORLD, &p);MPI_Get_processor_name(name, &name_len);if (my_rank != 0) {
sprintf(message, "Greetings from process %d at %s!", my_rank, name);dest = 0;MPI_Send(message, strlen(message)+1, MPI_CHAR, dest,
tag, MPI_COMM_WORLD);} else {
printf("Process %d is waiting for greeting messages at %s\n", my_rank, name);
for (source = 1; source < p; source++) {MPI_Recv(message, 100, MPI_CHAR, source, tag,
MPI_COMM_WORLD, &status);printf("%s\n", message);
}}MPI_Finalize();
}
110
• คอมไพลโปรแกรม
• รนโปรแกรม
• ผลการรนโปรแกรมstartstartstartstartMPI_Init OKProcess 0 is waiting for greeting messages at pluto.cp.eng.chula.ac.thGreetings from process 1 at compute-0-0.local!Greetings from process 2 at compute-0-1.local!Greetings from process 3 at compute-0-2.local!MPI_Init OKMPI_Init OKMPI_Init OK
mpicc –o greetings greetings.c
mpirun –np 4 greetings
111
• เราสามารถกาหนดเครองทจะรนโปรแกรมได โดยสราง machine file ขนมา ทจะระบชอเครองตางๆ
– machines
• รนโปรแกรมโดยระบ machine file น ดวย –machinefile <machine file>
compute-0-0compute-0-1compute-0-2
mpirun –np 6 -machinefile machines greetings
112
• ผลลพธทได[user1@pluto mpi]$ mpirun -np 6 -machinefile machines greetingsstartstartstartstartstartstartMPI_Init OKProcess 0 is waiting for greeting messages at pluto.cp.eng.chula.ac.thGreetings from process 1 at compute-0-0.local!Greetings from process 2 at compute-0-1.local!Greetings from process 3 at compute-0-2.local!Greetings from process 4 at compute-0-0.local!Greetings from process 5 at compute-0-1.local!MPI_Init OKMPI_Init OKMPI_Init OKMPI_Init OKMPI_Init OK
เปนเครองทระบใน machine file
ตามลาดบ
113
การเขยนโปรแกรม MPI
114
• Rank– ทกๆโปรเซสจะไดรบหมายเลขประจาตว (Rank) หมายเลขหนง ซงจะเรมตนทหมายเลข
0 เสมอ Rank จะใชงานในการระบตนทางและปลายทาง ของการรบสง message ระหวางโปรเซส
• Group และ Communicator
– กลมของโปรเซส โดยทกลมของโปรเซสจะเชอมโยงกบ Communicator ซงเปน ตวอางองสาหรบการทางานแบบเปนกลม โดยคาเรมตนของโปรแกรม MPI นน ทกๆ โปรเซสจะอยในกลมทชอวา MPI_COMM_WORLD กอนเสมอ
115
1 2
3 4MPI_COMM_WORLD0
• โปรแกรม MPI จะมการกาหนดชนดของตวแปร (Datatypes) ชนดใหมขนมาทงหมด
– ตวแปรพนฐาน เชน MPI_INT (Integer) MPI_DOUBLE_PRECISION (double)
– ตวแปรประเภท Array– ตวแปรอนๆทสรางขนภายหลง โดยผใช
• ในการเรยกใชงานฟงกชนของ MPI จะตองมการระบประเภทของตว แปร โดยจะตองใชประเภทของตวแปรทกาหนดโดยมาตรฐาน MPI เสมอ
116
• ในการรบสง message จะสามารกาหนดสงทเรยกวา tag เพอใช
ในการแยกประเภทของ message แตละสวนได
• ฝงรบสามารถทจะระบ tag ของ message ทตองการรบได หรอจะ ระบเปน MPI_ANY_TAG เพอรบทกๆ tag กได
117
• การตดตอแบบจดตอจด (point‐to‐point)– เปนการสง message ระหวางโปรเซส 2 โปรเซส
• การตดตอแบบเปนกลม (collective)– เปนการสง message ระหวางกลมของโปรเซส เชน การสงจากจดเดยวไป
หลายจด การรบจากหลายจดมาจดเดยว การรบและกระจายขอมล เปนตน
• การตดตอแบบ asynchronous– เปนการรบสงขอมล โดยไมตองรอใหผ รบ/สง ไดรบขอความกอน– ชวยใหสามารถปรบปรงสมรรถนะของโปรแกรม ใหสามารถประมวลผลไป
พรอมๆกบการรบสงขอมลได
118
• MPI มฟงกชนใหใชงานเปนจานวนมากกวา 129 ฟงกชน แตสาหรบผ เรมตน ร
เพยง 6 ฟงกชนกสามารถเขยนโปรแกรม MPI ไดแลว
• ฟงกชนทง 6 ไดแก– MPI_INIT(int
*argc, char **argv);
• เรมการทางานของโปรแกรม MPI
– MPI_FINALIZE();• จบการทางานของโปรแกรม MPI
– MPI_COMM_SIZE(comm,size);• อานคาจานวนของโปรเซสทประมวลผลอย
– MPI_COMM_RANK(comm,pid);• อานคาของ Rank ปจจบนของโปรเซสปจจบน
– MPI_SEND(buf,count,datatype,dest,tag,comm);
– MPI_RECV(buf,count,datatype,source,tag,comm,status);119
#include "mpi.h"#include <stdio.h>
int main( int argc, char *argv[] ){
int rank, size;MPI_Init( &argc, &argv );MPI_Comm_rank( MPI_COMM_WORLD, &rank );MPI_Comm_size( MPI_COMM_WORLD, &size );printf( "I am %d of %d\n", rank, size );MPI_Finalize();return 0;
}
120
MPI_Send
(start, count, datatype, dest, tag, comm)
• ขอมลทจะสงจะระบโดยอาศย (start, count, datatype).
• ปลายทางทจะสง จะระบโดย dest
(เปน rank ของปลายทางทจะ สงไป)
• tag และ comm ใชระบ tag และกลมทจะสงขอมล
• เมอฟงกชนเสรจสนการทางานแลว ขอมลจะถกนาสงไปเพอเตรยม สงไปยงปลายทาง โดยขอมลอาจจะยงไปไมถงปลายทาง
121
MPI_Recv(start, count, datatype, source, tag, comm, status)
• Start ชไปถงจดเรมตนของ buffer ทจะรบขอมล• รอจนกวาขอมลทสงมาจาก Rank ทระบโดย Source และ Tag จะมาถง
• หากตองการไมระบทมาของขอความ สามารถระบ source เปน MPI_ANY_SOURCE
• Status จะระบสถานะของการรบขอมล• Count ใชระบขนาดสงสดของ buffer ทใชพกขอมล
122
• Status เป
นต
วแปรประเภท MPI_Status ท
ใช
อ
านข
อม
ลของผ
ส
งข
อม
ล
int recvd_tag, recvd_from, recvd_count;MPI_Status status;MPI_Recv(..., MPI_ANY_SOURCE, MPI_ANY_TAG, ..., &status )recvd_tag = status.MPI_TAG;recvd_from = status.MPI_SOURCE;MPI_Get_count( &status, datatype, &recvd_count );
123
#include <mpi.h>
#include <stdio.h>
double wtime1,wtime2;
int
buff[1024]={1,2,3,};
MPI_Status
status;
int
main(int
argc,char
**argv)
{
int
mysize,myid;
int
i;
MPI_Init(&argc,&argv);
MPI_Comm_size(MPI_COMM_WORLD,&mysize);
MPI_Comm_rank(MPI_COMM_WORLD,&myid);
124
if ( myid==0 ) {
wtime1=MPI_Wtime();
printf("I
am process #%d sending\n",myid);
MPI_Send(buff,100,MPI_INT,1,0,MPI_COMM_WORLD);
printf("I
am process #%d receiving\n",myid);
MPI_Recv(buff,1024,MPI_INT,MPI_ANY_SOURCE,0,MPI_COMM_WORLD,&status);
wtime2=MPI_Wtime();
printf("Round
Trip Time=%10.4f\n",wtime2‐wtime1);
MPI_Finalize();} else {
printf("I
am process #%d receiving\n",myid);
MPI_Recv(buff,1024,MPI_INT,MPI_ANY_SOURCE,0,MPI_COMM_WORLD,&status);
for(i=0;i<3;i++) printf("%d
",buff[i]);
printf("\n");
printf("I
am process #%d sending\n",myid);
MPI_Send(buff,100,MPI_INT,0,0,MPI_COMM_WORLD);
MPI_Finalize();
}
}
125
ตวอยางของโปรแกรม MPI
126
• การหาคาของ PI สามารถประมาณไดโดยการใชฟงกชนดงน
• โดยการอนทเกรดคาตามฟงกชนน จาก 0 ไปถง 1 และคณดวย 4
127
4111
02
π=
+∫ dxx
• แบงการอนทเกรด ใหเปนการหาพนทใตกราฟดงตวอยาง โดยแบงพนทออกเปนพนทยอยๆ หลายๆพนท
• โปรเซสแตละโปรเซสจะคานวณหาพนทในแตละสวน
• เมอคานวณหาพนทเสรจแลวจงนามารวมกนในขนตอนสดทาย
• ในกรณน จะเหนไดวายงแบงยอยพนท (เพมจานวนโปรเซส) มากขน กจะไดคา PI ทมความ ละเอยดสงขน
128
#include <stdio.h>
#include <math.h>
#include <mpi.h>
int
main(int
argc, char *argv[])
{
int
myid, numprocs, i, rc, count;
/* divide graph into 10000000 fragment */
int
n = 100000;
double PI25DT = 3.141592653589793238462643;
double mypi, pi, h, sum, x, a;
MPI_Status
status;
MPI_Init(&argc,&argv);
MPI_Comm_size(MPI_COMM_WORLD,&numprocs);
MPI_Comm_rank(MPI_COMM_WORLD,&myid);
h = 1.0 / (double) n;
sum = 0.0;
for (i = myid
+ 1; i <= n; i += numprocs) {
x = h * ((double)i
‐
0.5);
sum += 4.0 / (1.0 + x*x);
}
mypi
= h * sum;
ตวอยางโปรแกรมหาคา Pi อยางงาย
if(myid
!= 0) {
// send back data
MPI_Send(&mypi, 1, MPI_DOUBLE, 0, 0, MPI_COMM_WORLD);
} else {
// gather all data
pi = mypi;
count = 0;
while(count
< (numprocs
‐
1) ) {
MPI_Recv(&mypi, 1, MPI_DOUBLE, MPI_ANY_SOURCE,
0, MPI_COMM_WORLD, NULL);
count++;
pi += mypi;
}
}
if (myid
== 0)
printf("pi
is approximately %.16f, Error is %.16f\n",
pi, fabs(pi
‐
PI25DT));
MPI_Finalize();
return 0;
} 129
เรมการ
ทางาน
คานวณพนท
กราฟ
สวนยอย
รวมผลลพธ
การคานวณ
แสดงผลและ
จบการทางาน
#include <stdio.h>
#include <math.h>
#include <mpi.h>
int
main(int
argc, char *argv[])
{
int
myid, numprocs, i, rc, count;
/* divide graph into 10000000 fragment */
int
n = 100000;
double PI25DT = 3.141592653589793238462643;
double mypi, pi, h, sum, x, a;
MPI_Status
status;
MPI_Init(&argc,&argv);
MPI_Comm_size(MPI_COMM_WORLD,&numprocs);
MPI_Comm_rank(MPI_COMM_WORLD,&myid);
h = 1.0 / (double) n;
sum = 0.0;
for (i = myid
+ 1; i <= n; i += numprocs) {
x = h * ((double)i
‐
0.5);
sum += 4.0 / (1.0 + x*x);
}
mypi
= h * sum;
ตวอยางโปรแกรมหาคา Pi ฉบบปรบปรง
MPI_Reduce(&mypi, &pi, 1, MPI_DOUBLE, MPI_SUM, 0,
MPI_COMM_WORLD);
if (myid
== 0)
printf("pi
is approximately %.16f, Error is %.16f\n",
pi, fabs(pi
‐
PI25DT));
MPI_Finalize();
return 0;
}
130
เรมการ
ทางาน
คานวณพนท
กราฟ
สวนยอย
รวมผลลพธ
การคานวณ
แสดงผลและ
จบการทางาน
• หาคาของผลลพธในการคณเมตรกซ A และ B
A B
X
double a,b,c;
main(int argc,char *argv[])
{
integer i,j,k;
readfile(a,b);
for( i=0; i < n; i++)
for (j=0; j < n; j++) {
c[i][j]=0;
for(k=0; k < n; k++)
c[i][j] += a[i][k] * b[k][j];
}
writefile( c);
}
• สมมตเราม 4 โปรเซส:
P0- P3
– ขนท 1: กระจาย B ไปยง P0-P3
– ขนท 2: สง column ท
ถกตองไปยง P0-P3
– ขนท 3: คานวณผลลพธของ เมตรกซยอย
– ขนท 4: รวมเมตรกซยอยเขา เปนผลลพธรวม
B
P0
P1
P2P3
A
C
P0
P1
P2P3
โปรแกรมคณเมตรกซแบบขนานโดยใช MPI
/*/** mmult.c: matrix multiplication using MPI.* There are some simplifications here. The main one
is that matrices B and C
* are fully allocated everywhere, even though only a
portion of them is
* used by each processor (except for processor 0)*/
#include <mpi.h>#include <stdio.h>
#define SIZE 400
/* Size of matrices */
int
A[SIZE][SIZE], B[SIZE][SIZE], C[SIZE][SIZE];
void fill_matrix(int
m[SIZE][SIZE]){static int
n=0;int
i, j;for (i=0; i<SIZE; i++)for (j=0; j<SIZE; j++)m[i][j] = n++;
}
void print_matrix(int
m[SIZE][SIZE])
{int
i, j = 0;
for (i=0; i<SIZE; i++) {printf("\n\t| ");for (j=0; j<SIZE; j++)printf("%2d ", m[i][j]);printf("|");}}
int
main(int
argc, char *argv[]){int
myrank, P, from, to, i, j, k;int
tag = 666; /* any value will do */MPI_Status
status;
double t1,t2,t;
MPI_Init
(&argc, &argv);MPI_Comm_rank(MPI_COMM_WORLD, &myrank); /* who am i */MPI_Comm_size(MPI_COMM_WORLD, &P); /* number of processors */
if (SIZE%P!=0) {if (myrank==0) printf("Matrix size not divisible by number of
processors\n");MPI_Finalize();exit(‐1);}from = myrank
* SIZE/P;to = (myrank+1) * SIZE/P;/* Process 0 fills the input matrices and broadcasts them to the rest *//* (actually, only the relevant stripe of A is sent to each process) */if (myrank==0) {fill_matrix(A);fill_matrix(B);}t1
= MPI_Wtime(); MPI_Bcast
(B, SIZE*SIZE, MPI_INT, 0, MPI_COMM_WORLD);MPI_Scatter
(A, SIZE*SIZE/P, MPI_INT, A[from], SIZE*SIZE/P, MPI_INT, 0, MPI_COMM_WORLD);
// printf("computing slice %d (from row %d to %d)\n", myrank, from, to‐1);for (i=from; i<to; i++) for (j=0; j<SIZE; j++) {C[i][j]=0;for (k=0; k<SIZE; k++)C[i][j] += A[i][k]*B[k][j];}
MPI_Gather
(C[from], SIZE*SIZE/P, MPI_INT, C, SIZE*SIZE/P, MPI_INT, 0, MPI_COMM_WORLD);
t2
= MPI_Wtime(); if (myrank==0) printf("%d,%5.2f\n",P,t2‐t1);if (myrank==0) {printf("\n\n"); print_matrix(A); printf("\n\n\t
* \n"); print_matrix(B);printf("\n\n\t
= \n"); print_matrix(C); printf("\n\n");}MPI_Finalize();return 0;}
การสงงานประมวลผลใน ระบบคลสเตอร
137
Sun Grid Engine (SGE)
• ทาไมตองเรยก “กรด”?– รองรบการทางานบนทรพยากร
หลากหลายชนด อาท compute server, data collector,
visualization
terminal..
• SGE คอ โปรแกรมบรหารจดการ ทรพยากร
– รองรบการสงงานจากผใช
– จดลาดบการทางานตามเงอนไขทผแล กาหนด
– รองรบการทางานไดมากกวา 100 งานพรอมกน
138
• การบรหารงานใน SGE• ผใชแตละคนสามารถสงงานไปประมวลผลผานระบบจดลาดบงาน SGE แลว
สามารถออกจากระบบไดเลย โดยทไมจาเปนตองรอใหงานประมวลผลเสรจ
• ระบบจดลาดบงาน SGE จะเลอกเครองประมวลผลเองอตโนมต ตามนโยบายท
ผดแลเครองกาหนดไว
• ขอมลขาออก(output) และขอมลความผดพลาด(error) ของงานทไป ประมวลผลนน จะถกบนทกอยในไฟลขอมลขาออกและขอมลความผดพลาด
139
คาสง คาอธบาย
qsub สงงานไปประมวลผล
qstat แสดงสถานะการทางาน
qdel ยกเลกงานทประมวลผล
qhost แสดงเครองประมวลผลทสามารถตดตอไดในขณะน
qalter แกไขคาคณลกษณะของงาน
• คาสงพนฐานของระบบจดลาดบงาน SGE
140
• การเขยนสครปตงาน เปนการระบโปรแกรมทตองการประมวลผล โดยในสครปต
งานหนงอาจจะเรยกใชมากกวา 1 โปรแกรม
• ตวอยางการเขยนสครปตงานเพอทจะสงงานไประบบจดลาดบงาน SGE
#!/bin/shdateecho “Hello world”
141
• ขนตอนการเขยนสครปตงานเพอสงไปยงระบบจดลาดบงาน SGE– เปดโปรแกรมเขยนขอความ เชน vi, nano, pico เปนตน– เขยนสครปตงานตามทตองการ– บนทกขอมลใหนามสกลเปน .sh หรอ .job– สงงานไประบบจดลาดบงาน SGE ดวยคาสง qsub– ตรวจสอบสถานะการทางานดวยคาสง qstat
142
• เปดโปรแกรมเขยนขอความ
• เขยนสครปตงาน
• บนทก
#!/bin/shdateecho “Hello world”
[userl @frontend-0 ~]$ vi simplejob.sh
1. Esc
2. Shift + :wq
3. enter
143
• สงงานไปยงระบบจดลาดบงาน SGE ดวยคาสง qsub
• หลงจากสงงานไปแลวระบบจดลาดบงาน SGE จะมอบหมายเลขงาน (Job ID) ซงเอาไวอางองถงงานน เชนถาหากตองการยกเลกการประมวลผลงานนให
ใชคาสง qdel พรอม Job ID
[user1@frontend-0 ~]$ qsub simplejob.shYour job 3241 (“simplejob.sh") has been submitted[user1@frontend-0 ~]$
144
• หลงจากทงานไดถกประมวลผลเรยบรอย ขอมลขาออก (output) จะถกบนทก อยในไฟล “simplejob.o<job id>” และขอความผดพลาด (error)
จะถกบนทกในไฟล “simplejob.e<job id>”[user1@frontend-0 ~]$ ls simplejob*simplejob.sh simplejob.sh.e3249 simplejob.sh.o3249[user1@frontend-0 ~]$ cat simplejob.sh.o3249Mon Oct 22 13:18:55 ICT 2007Hello world[user1@frontend-0 ~]$ cat simplejob.sh.e3249[user1@frontend-0 ~]$
145
• เปดโปรแกรมเขยนขอความ
• เขยนสครปตงาน
• บนทก
[userl @frontend-0 ~]$ nano simplejob2.sh
#!/bin/shdateecho “sleep 10000 seconds”sleep 10000
146
• สงงานไปยงระบบจดลาดบงาน SGE ดวยคาสง qsub
• ตรวจสอบสถานะการทางานดวยคาสง qstat
• สถานะ “qw” หมายถงงานรอการประมวลผลอยทควประมวลผล ซงระบบ จดลาดบงาน SGE กาลงหาเครองประมวลผลใหกบงานอย
[userl @frontend-0 userl]$ qsub simplejob2.sh
[userl @frontend-0 ~]$ qsub simplejob2.shYour job 3250 ("simplejob2.sh") has been submitted[userl @frontend-0 ~]$ qstatjob-ID prior name user state submit/start at queue slots ja-task-ID--------------------------------------------------------------------------------
3250 0.00000 simplejob2 userl qw 10/22/2007 13:24:59 1[userl @frontend-0 ~]$
147
• ตวอยางท 2 การเขยนสครปตงานเพอสงไปยงระบบจดลาดบงาน SGE
• เมอลองตรวจสอบอกครงหนงดวย qstat พบวาสถานะเปน “t” หมายถง งานกาลงเรมประมวลผล
• เมอสถานะเปน “r” หมายถง งานกาลงประมวลผล
[userl @frontend-0 ~]$ qstatjob-ID prior name user state submit/start at queue slots ja-task-ID-------------------------------------------------------------------------------3255 0.55500 simplejob2 userl t 10/22/2007 13:34:55 [email protected] 1
[userl @frontend-0 ~]$ qstatjob-ID prior name user state submit/start at queue slots ja-task-ID-------------------------------------------------------------------------------3255 0.55500 simplejob2 userl r 10/22/2007 13:34:55 [email protected] 1
148
ขอมล คาอธบาย
job id หมายเลขประมวลผล
name ชองาน
user name ชอเจาของงาน
state สถานะการทางาน
queue ควประมวลผลงาน ใน Rocks สวนใหญจะเปนชอเครองลกขาย
• ขอมลทสาคญของการแสดงสถานะ
149
• การยกเลกการประมวลผลงาน• ตรวจสอบหมายเลขประมวลผลดวยคาสง qstat
• ยกเลกการประมวลผลงานดวยคาสง qdel
<job id>[userl @frontend-0 ~]$ qdel 3255userl has registered the job 3255 for deletion[userl @frontend-0 ~]$
[userl @frontend-0 ~]$ qstatjob-ID prior name user state submit/start at queue slots ja-task-ID-------------------------------------------------------------------------------3255 0.55500 simplejob2 userl t 10/22/2007 13:34:55 [email protected] 1
150
• ตวอยางท 3 การเขยนสครปตงานเพอสงไปยงระบบจดลาดบงาน SGE
• สรางไดเรกทอร “myproject” แลวเขาไปยงไดเรกทอรน
• สรางโปรแกรม “myprog.c” ตามตวอยางตอไปน
[userl@frontend-0 ~]$ mkdir myproject
[userl@frontend-0 ~]$ cd myproject
#include <stdio.h>
int main(int argc, char * argv[]){if(argc < 2){
return -1;}printf("arg 1 is %s\n", argv[1]);return 0;
}
151
• คอมไพลโปรแกรม “myprog”
• เขยนสครปตงานทชอ “advancejob.sh”
[userl @frontend-0 myproject]$ gcc myprog.c -o myprog
#!/bin/sh
echo "This is advance job"echo "Job argument is $*"
./myprog $*
152
• สงงานไปยงระบบจดลาดบงาน SGE ดวยคาสง qsub
• ตรวจสอบขอมลขาออก (output) และขอความผดพลาด (error)
[userl @frontend-0 myproject]$ qsub advancejob.sh
[userl @frontend-0 myproject]$ qsub advancejob.shYour job 3257 ("advancejob.sh") has been submitted[userl @frontend-0 myproject]$ lsadvancejob.sh myprog myprog.c[userl @frontend-0 myproject]$ qstat[userl @frontend-0 myproject]$ cd ..[userl @frontend-0 ~]$ ls advancejob*advancejob.sh advancejob.sh.e3257 advancejob.sh.o3257[userl @frontend-0 ~]$ cat advancejob.sh.o3257This is advance jobJob argument is[userl @frontend-0 ~]$ cat advancejob.sh.e3257/opt/gridengine/default/spool/compute-0-1/job_scripts/3257: line 6: ./myprog: No such file or directory[userl @frontend-0 ~]$ ไมเจอโปรแกรม myprog
153
• ปกตระบบจดลาดบงาน SGE จะทางานอยบนไดเรกทอร home ของแตละผใช
• ขอมลขาออก (output) และขอมลความผดพลาด (error) จะถก เกบไวทไดเรกทอร home
• เพอทจะประมวลผลงานตวอยางท 3 ได จาเปนตองกาหนดตวเลอก (option)ของระบบจดลาดบงาน SGE ดงน
– ‐cwd เปนการเปลยนไดเรกทอรททางานของระบบจดลาดบงาน SGE จาก เดมทเปนไดเรกทอร home ใหเปนไดเรกทอรปจจบนทใชคาสง qsub
– ‐o, ‐e เปนการระบชอไฟลทเปนขอมลขาออก (output) และขอมล ความผดพลาด (error) ใหม
154
• ลองสงงานไประบบจดลาดบงาน SGE ใหมอกครง พรอมกบตวเลอกทตงคาใหม
ดงน (โดยอารกวเมนต arg1 arg2 arg3 เปนการกาหนดคาตวแปรใน โปรแกรม myprog)
• ผลลพธทไดเปนดงน
[userl@frontend-0 myproject]$ qsub -cwd -o ./advancejob.out -e ./advancejob.err advancejob arg1 arg2 arg3
[userl@frontend-0 myproject]$ lsadvancejob.err advancejob.out advancejob.sh myprog myprog.c[userl@frontend-0 myproject]$ cat advancejob.outThis is advance jobJob argument is arg1 arg2 arg3arg 1 is arg1[userl@frontend-0 myproject]$ cat advancejob.err[userl@frontend-0 myproject]$
155
• ระหวางทงานรอประมวลผล ผใชสามารถทจะหยดการประมวลผล ชวคราว (suspend) เพอใหงานทสาคญกวาแตมาทหลงได
ประมวลผลกอนได
• งานทหยดการประมวลผลชวคราวไดนน ตองเปนงานทกาลงรออยใน ควประมวลผล (มสถานะเปน qw)
156
• หยดการทางานชวคราวดวยคาสง “qhold
<job id>”
• ใหงานกลบมาประมวลใหมอกครง ใชคาสง “qrls
<job id>”
[user1@frontend-0 myproject]$ qhold 3259modified hold of job 3259[user1@frontend-0 myproject]$ qstatjob-ID prior name user state submit/start at queue slots ja-task-ID-----------------------------------------------------------------------------
3259 0.00000 advancejob user1 hqw 10/22/2007 14:12:07 1[user1@frontend-0 myproject]$
[user1@frontend-0 myproject]$ qrls 3259[user1@frontend-0 myproject]$ qstatjob-ID prior name user state submit/start at queue slots ja-task-ID-----------------------------------------------------------------------------
3259 0.00000 advancejob user1 qw 10/22/2007 14:12:07 1[user1@frontend-0 myproject]$
157
• ในการเขยนสครปตงานสามารถทจะกาหนดตวเลอกของ SGE ลงไป ในสครปตได ดวยการระบ “#$”
#!/bin/sh
#$ -cwd#$ -j y#$ -N advancejob#$ -o ./myprog.out
echo "This is advance job"echo "Job argument is $*"
./myprog $*
158
• mpirun จะรนโปรแกรมบนโพรเซสเซอรเฉพาะทระบไว ซงอาจจะ เพมภาระใหโพรเซสเซอรนนมากเกนไป
• SGE สามารถจดการกบโปรแกรม MPI ซงจะชวยกระจายงานไปยง โพรเซสเซอรตางๆใหเหมาะสม
• ใชคาสง qsub
–pe
<parallel environment> <number of processor> <script>
159
• สรางสครปตงานดงน (greetings.sh)
• รนโปรแกรมผาน SGE ดวยคาสง qsub
–pe
mpich
<np> <script>– qsub
–pe
mpich
5 greetings.sh
(ใช 5
processor)
– qsub
–pe
mpich
3‐5 greetings.sh
(ใช 3 - 5 processor)– qsub
–pe
mpich
‐5 greetings.sh
(ใชไมเกน 5
processor)
– qsub
–pe
mpich
5‐
greetings.sh
(ใช 5
processor ขนไป)
#!/bin/bash#$ -cwd#$ -j y
export MPICH_HOME=/opt/mpich/gnuexport MPIAPP=greetings
$MPICH_HOME/bin/mpirun -np $NSLOTS -machinefile $TMPDIR/machines $MPIAPP
160
จบการนาเสนอ
161
