Яровий А.А. 1 , Тимченко Л.І. 2 ,

ВИСОКОПРОДУКТИВНІ ГЕТЕРОГЕННІ ОБЧИСЛЮВАЛЬНІ КОМПЛЕКСИ

ПАРАЛЕЛЬНО-ІЄРАРХІЧНОГО ОБРОБЛЕННЯ ЗОБРАЖЕНЬ ПРОФІЛЮ ЛАЗЕРНОГО ПРОМЕНЯ

ДЛЯ ОПТИЧНИХ СИСТЕМ ЗВ'ЯЗКУ

Науковий семінар з Проблеми "Образний комп’ютер", Київ, МННЦ ІТіС НАНУ та МОНУ, 14 травня 2013 р.

Яровий А.А.1 , Тимченко Л.І.2, 1 Вінницький національний технічний університет, Україна, Вінниця, Хмельницьке шосе, 95

2 Державний економіко-технологічний університет транспорту, Україна, Київ, вул. Лукашевича, 19

Доповідач – ЯРОВИЙ Андрій Анатолійович,к.т.н., доц., докторант кафедри комп’ютерних наук ВНТУ

Науковий консультант – ТИМЧЕНКО Леонід Іванович, д.т.н., проф., зав. кафедри телекомунікаційних технологій і автоматики ДЕТУТ

АКТУАЛЬНІСТЬ ДОСЛІДЖЕНЬ

Високопродуктивні гетерогенні обчислювальні комплекси ПІ оброблення зображень профілю лазерного променя для оптичних систем зв'язку

Доповідач: Яровий А.А. Науковий семінар з Проблеми "Образний комп’ютер"

Галузі застосування:

лазерна локація; оптичний зв'язок; лазерна обробка матеріалів; поліграфія; біомедицина; астрополяриметрія (розділ практичної

астрофізики, що займається застосуванням методів поляриметрії до випромінювання, що надходить від космічних об'єктів), тощо.

Сфери прикладного застосування – системи, у яких необхідно здійснювати автоматичне коректування спотворень лазерного джерела світлового випромінювання, наприклад:

−системи світлової навігації з використанням лазерів при розповсюдженні лазерного випромінювання в умовах зі зниженою видимістю в атмосфері;

−системи точного орієнтування, які дають можливість визначати просторове положення об'єкту, що рухається, у різних метеорологічних умовах;

−лазерні системи зв'язку і передачі інформації;−лазерні системи локації і далекометрії, трасування і навігації;−інші системи для яких необхідні кількісні дані про вплив середовища на параметри

лазерного променя, що несе певну корисну інформацію.




Можливі причини спотворень світлового випромінювання:− дестабілізуючий вплив механічних чи кліматичних факторів; − рефракція променів лазерного пучка; − поглинання енергії лазерного пучка атмосферними газами; − розсіювання енергії лазерного пучка частками аерозолів на флуктуаціях щільності

повітря; − флуктуації параметрів лазерних пучків, обумовлені атмосферною турбулентністю.− нестабільність характеристик джерела випромінювання;− перешкоди в оптичному тракті;− роз’юстировка оптичних елементів, тощо.

Прикладна задача:забезпечення прийнятної якості корекції, що потребує безупинного динамічного

контролю характеристик світлового випромінювання, наприклад просторового розподілу його інтенсивності, у тому числі оцінки відхилення зазначеного розподілу від вихідного чи еталонного розподілу.



Задачі профілювання лазерних променів актуальні на міжнародному рівні:− Photon Inc. (San Jose, California, USA);− Ophir-Spiricon Inc. (Logan, Utah, USA);− Coherent Auburn Group (Auburn, California, USA);− MS MacroSystems (Netherlands); − PhaseView (France);− НПО "Астрофизика" (Москва, Росія);− ЗАО "Космические информационные аналитические системы" (Москва, Росія);− ФДУП Всеросійський НДІ оптико-фізичних вимірювань (Москва, Росія);− НДІ лазерної техніки i технології НТУУ „КПІ” (Київ, Україна);− Інститут фізики напівпровідників ім. В.Є. Лашкарьова НАНУ (Київ, Україна);− Державний економіко-технологічний університет транспорту (Київ, Україна), та ін.

Приклад актуальності в галузі оптичних систем зв’язку (FSO)2005 р. – лабораторія реактивного руху NASA – спільний експеримент з Японським

агентством аерокосмічних досліджень (JPL) – встановлення двобічної оптичної лінії зв'язку між двома супутниками, при цьому точність позиціонування мала складати десяті долі градуса, також під час цього експерименту був встановлений зв'язок з наземною станцією, однак швидкості залишались невеликими 2 Мбіт/с (A bidirectional low Earth orbit-to-ground optical link experiment. Malcolm Wright, Keith Wilson, Joseph Kovalik, Abhijit Biswas, William Roberts)

Тому роботи з покращення таких систем продовжуються й далі як зарубіжними вченими (Space-time trellis coding with transmit laser selection for FSO links over strong atmospheric turbulence channels A.Garcia-Zambrana, C.Castillo-Vazquez, B. Castillo-Vazquez), так і вченими близького зарубіжжя (Determination of the position of the Center of a laser beam when the dynamic range of the matrix receiver is exceeded. D.A. Orlov and E.A. Neverova).




Публікації: David L. Shealy, John A. Hoffnagle. Laser beam shaping profiles and propagation

– Applied Optics – 2006. Valerie C. Coffey. Laser-beam profilers: How to select а beam-profile

measurement system – Laser Focus World – 2009. C.B. Roundy Current Technology of Laser Beam Profile Measurements. / C.B.

Roundy – Spiricon. Inc., 2000. – 290 p. Абдрахманов К.Ш., Быкова О.Г., Улановский М.В. Стандартизация методов

измерений ширин, углов расходимости и коэффициентов распространения пучков лазерного излучения (Измерение расходимости лазерного пучка) – «Метрология». – №2 – 2010. Быкова О.Г., Либерман А.А., Улановский М.В. Стандартизованные методики

измерений мощности, энергии и временных характеристик лазерного пучка. – «Метрология». – №12 – 2009. А.М. Шутов Методы оптической астрополяриметрии. / Шутов А.М. – М.:

КомКнига, 2006. – 232 с. Измерение пространственных характеристик лазерного пучка. /

Ф.В.Потёмкин, П.М.Михеев. : Труды конференции [«Измерения и автоматизация 2006»]. – М.: МГУ им. М.В.Ломоносова, 2006. – с. 68-73.

Оптичні системи зв’язку – FSO (Free Space Optic)



Поширення лазерного випромінювання в атмосфері супроводжується великим набором явищ лінійної і нелінійної взаємодії

– значні перешкоди прийому; – потреба коригування приймача;– лазерний пучок розширюється чи розщеплюється, тому віднайти координати його центру, а отже й точно оцінити переміщення передавача – досить складно;– неможливість визначення координати енергетичного центру в зображенні профілю лазерного променя простими геометричними методами.– необхідність застосування спеціальних методів обробки і класифікації зображень.

Спеціальні методи – зазвичай розроблені для виконання на стаціонарних комп'ютерних системах, де дослідник не обмежений часом.

Оптичні системи зв’язку потребують високопродуктивних портативних пристроїв обробки інформації в реальному часі.

Актуальною є задача розробки системи оброблення цифрових зображень великої роздільної здатності, яка також надасть змогу обчислити координати енергетичного центру нечіткого зобра-ження, здійснити їх класифікацію і відфільтрувати пошкоджені зображення у прийнятний час.

Способи вирішення задачі: – розпаралелювання процесів обробки динамічних зображень у гетерогенних обчислювальних комплексах (застосування парадигм паралельних та розподілених обчислень, застосування технологій GPGPU, Cloud Computing, тощо).– методи паралельно-ієрархічного оброблення інформації.



КЛАСИФІКАЦІЯ ПРОБЛЕМНО-ОРІЄНТОВАНИХ МЕТОДІВ ПРЕДСТАВЛЕННЯ ТА ОБРОБЛЕННЯ ІНФОРМАЦІЇ



Знання про об’єкт

1-й рівеньзнань про об’єкт



Парадигма семантичних структур з деревоподібною моделлю зв'язків

Парадигма штучних нейронних (перцептронних) структур



ДЕРЕВОПОДІБНЕ ВІДОБРАЖЕННЯ МЕРЕЖЕВОЇ СТРУКТУРИ ПАРАЛЕЛЬНО-ІЄРАРХІЧНОГО ПЕРЕТВОРЕННЯ (ПІП)

При формуванні загальної методології створення ПІП враховувалась ідея проф. З.Л. Рабиновича про ієрархічну організацію зв’язків між структурами головного мозку людини. Сутність цієї ідеї ґрунтується на тому, що “передача збудження між структурами, тобто їх активація, може відбуватись не лише за вертикальними (ієрархічним прямим та зворотним) зв’язками, але також за горизонтальними – в межах одного і того ж поля”.

Принцип побудови паралельно-ієрархічної системи (ПІС) для оброблення даних можна визначити як послідовність операцій над множинами масивів даних, що утворюють множини інформаційних полів різноманітних рівнів ієрархії, взаємодія між якими здійснюється пірамідальною ієрархічною структурою і реалізується на основі мережевої багатопроцесорної архітектури. Сутність паралельно-ієрархічного (ПІ) підходу полягає в одночасному використанні послідовності множин масивів даних, що утворюють множини інформаційних полів на різноманітних рівнях ієрархії, рекурсивному формуванні нових послідовностей інформаційних потоків на різноманітних рівнях ієрархії, що дозволяє реалізувати стратегію багаторівневої взаємодії від “загального до часткового”.



МЕТОД ПРЯМОГО ПАРАЛЕЛЬНО-ІЄРАРХІЧНОГО ПЕРЕТВОРЕННЯ

Таким чином, паралельно-ієрархічне перетворення припускає всередині і поза кожним ієрархічним рівнем той самий закон переходу від одного рівня до іншого, причому цей закон формулюється щодо групи множин елементів інформаційного поля (даних або зображення) нижнього рівня і проміжної групи множин елементів перетворених даних усіх наступних рівнів. Тобто, для побудови ПІ структури на алгоритмічному і структурному рівнях задається лише правило перетворення групи множин елементів даних, що потім поширюються по "горизонталі" – на інші елементи і по "вертикалі" – на елементи інших ієрархічних рівнів розподілу. Це правило описує і схему перетворення вихідних даних, і результуючу структуру даних, і алгоритм оброблення.

Іншими словами, для побудови структури перетворення зберігається лише деяка основна ознака, своєрідна «хеш-функція», і принцип розвитку самої структури ПІ перетворення , послідовне застосування якого дозволяє поетапно розгортати вихідний опис за ступенем деталізації



ЧИСЛОВИЙ ПРИКЛАД ПАРАЛЕЛЬНО-ІЄРАРХІЧНОГО ОБРОБЛЕННЯ ДАНИХ

20

15

3

10

9

4

1

7

5

3

2

321

5249 )(

11094 )(

2438 )(

3

2

1

G

G

G

16

42

136

223

116

12

12

5212

15129

1812

5249

11094

2438

2

113

1

112

1

a

XXX

XXX

XXX

XXX

M

a

XXX

XX

XX

XX

M

X

M

3 3

6 36

16 3

616

4 38

144

16

7

416

216

4

78

128

104

2

4

114

1612

22

9

1110

8

119

7

118

6

117

5

116

4

115

3

114

aM

aM

aX

M

aX

XM

a

XX

X

X

M

a

XX

XX

XX

M

a

XXX

XX

XX

XX

M

. 79 . 3 6, 16, 4, 16, 4, 2, 16, 12, 10

1

3

1

10

2

ii

iit

GT Ф

k

t

tS

SS

k

t

a μ G T Ф2

111

2

, 1

11

01

R

j

j-jj-

kk

n

ii - aa nn - a



МЕТОД ПРЯМОГО ПІП (продовження)Розглядаючи усі H початкових

множин першого рівня, при виборі елемента

з кожної множини, формуються нові множини, де i - порядковий номер початкової множини, tj - такт, у якому вибрано елемент. При першому виборі елементів із H вхідних множин у такті t1

формується нова множина:

На другому кроці перетворення t3 з початкових множин формується ще одна множина з Н елементів:

Таке перетворення здійснюється доти, поки усі вихідні множини не стануть нульовими.

На рисунку позначення вертикального прямокутника є початковою множиною, горизонтального прямокутника – проміжною множиною, і кружка – елементом, нульова множина – символом

,1

jjta ,5,3,1 ;,,2,1 jhi

1

1

1

1

31

1

21

1

11

2

1,, tatat,atatM

h

3

1

3

1

23

1

13

2

2, tat,atatM

h



СТРУКТУРНО-ФУНКЦІОНАЛЬНА ОРГАНІЗАЦІЯ ПІС

П E

П E

П E

П E

f( k-1 ) 1

(t0

)

fk1 (t 0 )

f1 1 (t 0 )

f2 1 (t 0 )

П E

f( k- 1 ) 2

(t2

)

fk2 (t 2 )

f1 2 (t 2 )

f2 2 (t 2 )

f1 1 (t 1 )

П E

f1 2 (t 3 )

f1 1

(t3

)

f( k- 1 ) 3

( t4

)

f k 3 (t 4 )

f 1 3 (t 4 )

f 2 3 (t 4 )

П E

П E

f1 1 ( t 4 )

f 1 1 (t 5 )

X 1

X 2

X (n-1 )

X n

1 1

1 1

1 2

1 3

2 1

Структурна схема взаємодії інформаційних

потоків у ПІС

32 32 2 23

223

13

113

2

1

2

12

1

1

1

11

n

i

n

i

n

j

jn

ij

n

j

jn

ij

itfitfijtfitf

,36232

32

lnn

niln

litf

k

jj

n

j

jn

ij

jtfitf2

1

1

1

1

11

43

де - затримка формування наступної функції стосовно попередньої, njk - кількість функцій j-го розкладання k-го функціонального рівня.Функції першого рівня можна також представити так:

1 2 32

21 2 3 1 2 3

2 1 2 31

2 2 3 1 2 32 1

2 6 2 6 3

2 6 3 2 6 3

ln l

l n l

nn

n l li n i

n n

l n li i n

f t i l f t i l

f t i l f t i l

Нехай задані n1 функцій f1(t), f2(t),…, fn1(t). Дані функції опишемо на різних рівнях ієрархії їх представлення від 1-ої до j-ої j=2l, l=1,2… та j=2l+3, l=0,1,2,…

33 3 14

1 4 424

1 212 22

33 3 143 1

24 41 42 1

12 22 1 21 2 1

2 3 2 3 2 6

2 6 2 6 2 6

2 6 2 6 2 6

n

n т

n ll l

n n n

ni i n i

n nn

nni i n i n

nn n

l l n li i i n

f t i f t i f t i

f t i f t i f t i

f t i l f t i l f t i l



МАТЕМАТИЧНИЙ ОПИС БАГАТОЕТАПНОСТІ ПІП

Ri aaaaM ,...,3,2,11

Формування усіх паралельних каналів першого рівня

xxxaaa

x

aaa

x

xxaaa

xxxaaa

M

M

M

M

A

n

i

nmnn

imii

m

m

n

i

......

.....................

...............

.....................

.........

......

...

...

112

11

112

11

12

122

121

11

112

111

1

1

12

11

1

1

1

12

11

Індекс компоненти стовпця матриці вказує етап, на якому даний компонент добувається

1. Декомпозиція у часі



МАТЕМАТИЧНИЙ ОПИС БАГАТОЕТАПНОСТІ ТА ЗСУВУ У ЧАСІ В ПІП

Декомпозиція у часі

xxxaaa

x

aaa

x

xxxaaa

xxaaa

A

R

j

RRRR

jRjj

R

R

......

.....................

...............

.....................

......

.........

222

21

222

21

22

222

221

21

212

211

2

21

111

2

22

21

2. Зсув у часі

xxaaaxxxxx

x

aaaxxx

x

xxxaaax

xxaaa

A

R

j

RRRR

jRjj

R

R

......

.................................

..................

.................................

...............

.....................

222

21

222

21

22

222

221

21

212

211

'2

21

111

2

22

21

3. Одержання «хвостового» елемента шляхом видалення першого стоппця матриці4. Повторення етапу 1: «перехід на наступний рівень».

3 6 2 2

321

1321

2

1

2

12

1

1

1

11

ln

il

n

j

jn

ij

n

j

jn

ij litfijtfitf

321

1321

3221

2322 362 362

lnn

niln

ln

il litflitf

,36232

32

lnn

niln

litf



АНАЛІЗ ПІС НА ОСНОВІ КЛАСИФІКАЦІЇ М.ФЛІННА

№ Метод перетворення і умовні позначення

Структура ПІОС Форма паралелізму

1 Паралельний метод перетворення (паралельне перетворення рівнів)

Пм.Д. - пам’ять даних; Пм. К. - пам’ять командП – процесор; БОП - блок оперативноїпам’яті на 1 пакет масивів

MIMD

2 Паралельно-послідовний метод перетворення на рівні гілок (паралельне перетворення гілок, послідовне перетворення рівнів)

ПЕ - процесорний елементБПОР - блок пам’яті для одного рівня

MISD

П П П

Пм. Д

Пм. К

БОП

Початковідані

Пм. Д

ПЕ

ПЕ

ПЕ

БПОРБОП

Пм. К




АНАЛІЗ ПІС НА ОСНОВІ КЛАСИФІКАЦІЇ М.ФЛІННА

№

Метод перетворення і умовні позначення

Структура ПІОС Форма паралелізму

3 Паралельно-послідовний метод перетворення на рівні елементів (паралельне перетворення елементів однієї гілки, послідовне перетворення гілок і рівнів)

БПОГ - блок пам’яті однієї гілки

SIMD

4 Послідовний метод перетворення (послідовне перетворення елементів однієї гілки, гілок одного рівня, рівнів)

- потік даних - потік команд

SISD

Пм. Д

ПЕ

ПЕ

ПЕ

БПОГБОП

Пм. К


БПОР

ПЕ БПОГ

Пм. Д

Пм. К

БОП


БПОР



ОБРОБКА ПЛЯМОПОДІБНИХ ЗОБРАЖЕНЬ ПРОФІЛЮ ЛАЗЕРНОГО ПРОМЕНЯ



Комп'ютерне моделювання прямого ПІП з оптимізацією формування масок

Фрагмент набору зображень профілю лазерного променя

Обране зображення для тестового прикладу

Пряме ПІП без оптимізації формування масок Пряме ПІП з оптимізацією формування масок



ЗВОРОТНЕ ПІП ІЗ ОПТИМІЗАЦІЄЮ МАСОК (продовження)

На основі проведеного порівняльного аналізу в ході досліджень здійснено розробку методу зворотного ПІП із оптимізацією масок при обробоенні зображень, в якому при кодуванні масиву кожна наступна маска має розмірність менше за попередню на кількість "одиниць" у попередній масці, що забезпечує підвищення швидкодії оброблення зображень (20,53% приросту швидкодії – для прямого ПІП, 66,24% приросту швидкодії – для зворотного ПІП), на 59,35% зменшує обсяги пам'яті для зберігання масок, а також містить властивості виявлення помилок кодування.

Зворотне ПІП без оптимізації масок Зворотне ПІП з оптимізацією масок



ЕТАПИ ВИЗНАЧЕННЯ КООРДИНАТ ЕНЕРГЕТИЧНИХ ЦЕНТРІВ1. Виділення граничних ліній. Починаючи від максимальної яскравості формуються N її значень: Tmax-w, w = 1,...,N. Крайні точки з яскравістю Tmax-w утворюють граничну лінію. Таким чином, визначено 6 граничних контурів.2. Визначення попередніх центрів.

1 1

0 0

1 N N

px y

x w f x, y xM

1 1

0 0

1 N N

px y

y w f x, y yM

1 1

0 0

N N

x y

M w f x, y

7. Етап навчання ПІ мережі. Формується еталонна ПІ мережа для тих зображень, які формують границі тунелю зліва и справа від центрального тунеля.

8. Етап обробки поточних зображень. У випадку попадання С2/С3 в один із тунелів і співпадання ПІ мереж для еталонного і поточного зображень останній вважається «з малим супенем спотворення», в протилежному випадку – «з великим супенем спотворення».9. Оптимізація ваг.

1 1

0 0

1( ( , )) ( )

N N

p xx y

x w f x y xM

1 1

0 0

1( ( , )) ( )

N N

p yx y

y w f x y yM

3. Сегментація граничних ліній. Для розбиття граничних контурів на декілька частин (сегментація) для визначення точки прив’язки використовуються координати попереднього центра.Проводиться сканування кожної ділянки граничної лінії (сегмента), в полярних координатах, через певний визначений інтервал (9°). Вибрані точки будуть використовуватись як дані для апроксимації (для визначення коефіцієнтів апроксимації c2, c3). Для кожного сегмента граничної лінії визначається зсув граничної лінії за даним напрямком ( , ). 4. Апроксимація граничних ліній. Для кожного сегмента методом найменших квадратів проводиться апроксимація і визначаються коефіцієнти c2, c3. 5. Пошук еталонного зображення. Для навчальної вибірки визначають для кожного сегмента середнє значення співвідношень коефіцієнтів апроксимації.

6. Етап тунелювання. Проводився по середнім коефіцієнтам апроксимації. Границі тунелю визначаються з тих зображень,в яких більш близько, за мінімумом середньоквадратичне відхилення, підходять поточні значення , , , до еталонних значень , , , зліва і справа від них. Потім ці близькозміщені значення усереднюются і формуються границі тунелю зліва і справа.

X Y

3

2

C

CCi

1C 2C 3C 4C 1C 2C 3C 4C

a i,j1

a i,j2

a 1,12

a 1,13 a 1,1

4

a i,j3

a i,j4

Структура ПІ мережі з усередниними параметрами




0

5

10

15

Краєві лінії еталонного зображення









ПРОГРАМНА РЕАЛІЗАЦІЯ



ПРИКЛАД РЕЗУЛЬТАТІВ ОБРОБКИ ПЛЯМОВИХ ЗОБРАЖЕНЬ ЛАЗЕРНИХ ПУЧКІВ

Знаходження енергетичних центрів лазерних зображень

58

60

62

64

66

68

70

72

74

76

1 8 15 22 29 36 43 50 57 64 71 78 85 92 99 106 113 120 127 134

Номер зображення

Зн

аче

нн

я к

оо

рд

ин

ати

по

ос

і

аб

сц

ис

X еталон X попередній центр X після навчання


48

50

52

54

56

58

60

62

64

66

68

1 8 15 22 29 36 43 50 57 64 71 78 85 92 99 106 113 120 127 134


Зн

ачен

ня

ко

ор

ди

нат

и п

о о

сі

ор

ди

нат

Y еталон Y попередній центр Y після навчання


0,00E+00

1,00E+01

2,00E+01

3,00E+01

4,00E+015,00E+01

6,00E+01

7,00E+01

8,00E+01

9,00E+01

1 10 19 28 37 46 55 64 73 82 91 100 109 118 127 136


Зн

ачен

ня

коо

рди

нат

и п

о о

сі

абсц

ис

X еталон X попередній центр X після навчання


0,00E+00

1,00E+01

2,00E+01

3,00E+01

4,00E+01

5,00E+01

6,00E+01

7,00E+01

1 10 19 28 37 46 55 64 73 82 91 100 109 118 127 136


Зн

ачен

ня

коо

рди

нат

и п

о

осі

орд

ин

ат

Y еталон Y попередній центр Y після навчання



Пряме ПІП на основі кластерної CPU-орієнтованої апаратної платформи

Розроблений пакет програм протестовано на обчислювальному кластері Microsoft IT Academy ВНТУ. В результаті порівняння отриманих результатів оброблення на 2 вузлах кластерної системи приріст швидкодії відносно обробки на одному вузлі склав 27,7%.

Розроблена методика забезпечує компактне виконання високопродуктивних ПІС з високою обчислювальною щільністю поряд з високошвидкісними каналами передачі даних, що дозволило в подальших дослідженнях використати проектні рішення на базі GPU у компактних кластерних комплексах .



ПІДТРИМКА ТЕХНОЛОГІЇ GPGPU НА СВІТОВОМУ РІВНІ

Необхідно відзначити, що наукові дослідження з розробки та реалізації обчислювальних систем (в тому числі кластерних) на основі GPU є не новинкою, а є загальновизнаними, мають свою історію та вагомі практичні результати. Про перспективність технологій GPGPU свідчить те, що станом на червень 2011 р., три із п’яти найпотужніших суперкомп’ютерів світу побудовані з використанням графічних адаптерів – NVIDIA GPU (див. http://www.top500.org). При цьому відзначені 3 супер-комп’ютера забезпечували вищу швидкодію, ніж усі інші суперкомп’ютерні системи першої десятки, разом узяті (див. http://newsdesk.pcmag.ru/node/30219)



ХАРАКТЕРИСТИКА ПРОДУКТИВНОСТІ GPU

Швидкість виконання операцій над числами з плаваючою комоюДжерело: NVIDIA CUDA C Programming Guide.



ХАРАКТЕРИСТИКА ПРОДУКТИВНОСТІ GPU

Пропускна здатність пам'ятіДжерело: NVIDIA CUDA C Programming Guide



ОСОБЛИВОСТІ СТРУКТУРНОЇ ОРГАНІЗАЦІЇ GPU-ОРІЄНТОВАНИХ СИСТЕМ

CPU – Central Processing Unit

GPU – Graphics Processing Unit

Природно, далеко не на всіх задачах вдається отримати високу продуктивність навіть на одному GPU. Тут можна виділити спільні системні вимоги для задач, що потребують реалізації обчислень загального призначення на GPU:

1.Висока обчислювальна потужність.2.Великий розмір обчислюваного масиву.3.Можливість незалежного обчислення цільових елементів на кожному з проходів. 4.Масиви даних, що використовуються при обчисленнях, повинні повністю

поміщатися у відеопам'ять. Зважаючи на наведені системні вимоги можна стверджувати, що організація

паралельного (і, зокрема, паралельно-ієрархічного) оброблення інформації є тією задачею, що входить до класу задач, які ефективно реалізовувати на GPU-платформах.



ХАРАКТЕРИСТИКА АПАРАТНОЇ ЧАСТИНИ ВИСОКОПРОДУКТИВНОГО

ОБЧИСЛЮВАЛЬНОГО КОМПЛЕКСУ ДЛЯ ПІ ОБРОБЛЕННЯ ЗОБРАЖЕНЬ

Комплектуючі Модель, характеристики Кількість

Відеоадаптер Zotac GeForce GTX590 3072 Mb 768 bit 2

Процесор Intel Xeon E5606 (BX80614E5606) s1366, 2.13GHz, 4Mb, 4 ядра, 32 nm, 80W, BOX

1

Материнська плата MSI Big Bang-XPOWER 1

Оперативна пам'ять DIMM 4096Mb DDR3 1

Блок живлення CHIEFTEC 1200W (BPS-1200C) 1

Корпус Grand Gaming W1B w/o PU 1Грант Вінницької обласної Ради та ОДА для закладів освіти в рамках реалізації

обласної Програми "Розвитку інформаційних, телекомунікаційних та інноваційних технологій в закладах освіти Вінницького регіону до 2015 року" (вересень 2011 р.).



ОСОБЛИВОСТІ АРХІТЕКТУРНОЇ ТА СТРУКТУРНО-ФУНКЦІОНАЛЬНОЇ ОРГАНІЗАЦІЇ GeForce GTX 590

Відеоадаптер від компанії "NVidia“ GeForce GTX 590 базується на двох графічних процесорах GF110. Необхідно відзначити, що графічний процесор GF110 має покращені обчислювальні характеристики і дуже добре зарекомендував себе в попередній однопроцесорній версії відеоадаптера NVidia GeForce GTX 580, який і досі є одним із найшвидших однопроцесорних рішень для високопродуктивних відеоадаптерів.

Також доцільним буде навести специфікацію відеоадаптера GeForce GTX 590: Технологія виготовлення – 40 нм. 2 чіпи GF110 по 3 млрд. транзисторів кожен. Частота ядра – 607 МГц. Частота універсальних процесорів – 1215 МГц. Кількість універсальних процесорів – 1024 (2×512). Підтримка багатопроцесорної роботи, в наявності одинарне SLI-з'єднання. Кількість текстурних блоків – 2×64, блоків блендингу – 2×48. Ефективна частота пам'яті – 3414 (854×4) МГц. Тип пам'яті GDDR5, подвійна 384-битная шина пам'яті. Обсяг пам'яті – 3072 МБ (2×1536 МБ). Пропускна здатність пам'яті – 328 (2×164) ГБ в секунду. Теоретична максимальна швидкість зафарбовування – 58 гігапікселів в секунду. Теоретична швидкість вибірки текстур – 78 гігатекселів в секунду. Шина – PCI Express 2.0. Максимальне енергоспоживання – до 365 Вт. Двухслотове виконання.



АРХІТЕКТУРА GPU СІМЕЙСТВА NVIDIA GeForce GTX 590



УЗАГАЛЬНЕНА СТРУКТУРНО-ФУНКЦІОНАЛЬНА СХЕМА GPGPU-МОДЕЛІ

Узагальнена модель програмування GPU

Узагальнена структурно-функціональна схема GPGPU-моделі



Оцінка ефективності багатопотокового ПІП масивів інформації

1. Прискорення (speedup), що отримується при використанні паралельного алгоритму для p процесорів, в порівнянні з послідовним варіантом виконання обчислень, визначається величиною:(величина n використовується для параметризації обчислювальної складності розв'язуваної задачі і може обиратися, наприклад, як кількість вхідних даних задачі).

)(/)()( 1 nTnTnS pp



Оцінка ефективності багатопотокового ПІП масивів інформації

2. Ефективність (efficiency) – використання паралельним алгоритмом процесорів при розв’язанні задачі визначається співвідношенням:

(величина ефективності визначає середню частку часу виконання паралельного алгоритму, протягом якого процесори реально використовуються для вирішення завдання).Типовою ситуацією, є випадки, коли значення Ep(n) - не більше 1. Проте можуть існувати випадки, в яикх Ep(n)>1, - це називається явище надлінійності.

pnSnpTnTnE ppp /)())(/()()( 1



Оцінка ефективності багатопотокового ПІП масивів інформації3. Вартість (cost) обчислень:

Вартісно-оптимальний (cost-optimal) паралельний алгоритм являє спосіб оброблення, вартість якого є пропорційною часу виконання найкращого послідовного алгоритму.Таким чином, покращенням даного показника вважається ситуація, коли значення Cp(n) не більше значення T1(n), тобто часу оброблення масиву даних послідовним варіантом обчислень (мс).

pp pTC



ОРГАНІЗАЦІЯ БЛОКІВ ПОТОКІВ ПРИ ОРГАНІЗАЦІЇ ОБЧИСЛЮВАЛЬНОГО GPGPU-ПРОЦЕСУ

Існуючі способи оптимізації GPU програм при організації паралельних потоків оброблення інформації:1. Оптимізація затримок при звертанні до

глобальної пам’яті.2. Оптимізація затримок при копіюванні даних

з/на GPU3. Послідовне зчитування із пам’яті4. Використання локальної пам’яті та

текстурного кешу5. Узгодженість потоків в рамках одного SIMD-

блоку



Комп’ютерна програма для визначення оптимальних параметрів груп паралельних потоків при організації обчислювального GPGPU-процесу в ПІП



СТРУКТУРНА ОРГАНІЗАЦІЯ БАГАТОРІВНЕВОЇ ПІС

Рівень ієрархії

Ієрархічна підмережа


Ієрархічна підмережа


Ієрархічна мережа 1-го ступеню


Ієрархічна мережа 2-го ступеню

...

...

...

...

...

...

Результат

Структурна схема організації потоків в обчислювальному процесі багаторівневої ПІССтруктурна організація багаторівневої ПІС



Паралельно-ієрархічне перетворення плямоподібних зображень на основі GPU-орієнтованої апаратної платформи з подальшою їх класифікацією

Метод розпізнавання в ПІC на основі формування нормуючого рівняння. Використовуючи властивість інваріантості суми початкових елементів ( ) ПІC до суми хвостових елементів ( ) складемо систему рівнянь для одержання таких коефіцієнтів налаштування у вигляді (1), щоб можна було сформувати нормуюче рівняння (2):

(2)

(1)

i³

a

112

kt

t

a 1 1kw w

112

1 2 211

2112 1 11

2 3 3 3 311 11

2 3 2112 1 11 2 11 3 11

2 1 1 1 111 11

2112 1 11 2 1

111

( )

( ) ( )

( ) ( )

( )

kt

t

ii

kt

t

i ii i

kt

kt k

k k k k ki i

i i

kt

tk k k

ii

aw

a a

a w aw

a a a a

a w a w a w aw

a a a a

a w a w aw

a a

3 11 2 11

11( )

kk

k ki

i

w a

a a

1 2 1 111 2 1 111 11 11 11

1 1 1 1 111 11 11 11 11

1 1 1 1 1

( )( ) ( ) ( ) ( )

( ) ( ) ( ) ( ) ( )

kt j

tj j k j k jk k t

k k k k kt j t j t j t j t j

t t t t t

w aw a w a w a w ad

a a a a a

де коефіцієнти налаштування отримані при попередній обробці на перших зображеннях набору; – хвостові елементи відповідно поточного і попередніх зображень.

1 kw w

111 11( ) ,( )t j t ja a



Результати класифікації плямоподібних зображень профілю лазерного променя



Результати експериментальних досліджень обробки відеотраси лазера

Розмірність плямо-

подібних зображень профілю лазерного променя, пікселів

Час обробки 25 кадрів

відеотраси лазера на

основі CPU-орієнтованої

апаратної платформи, мс


відеотраси лазера на

основі GPU-орієнтованої


128×128 1 47256×256 16 47512×512 47 621024×1024 156 942048×2048 575 2344096×4096 2418 10278192×8192 9641 347916384×16384 39228 13609



Результати експериментальних досліджень часу, що витрачається на обчислення (без врахування витрат часу на операції завантаження у

пам'ять системи) обробки відеотраси лазера

Розмірність плямо-

подібних зображень профілю лазерного променя, пікселів


відеотраси лазера на основі

CPU-орієнтованої



відеотраси лазера на основі

GPU-орієнтованої


128×128 1 37256×256 16 41512×512 47 461024×1024 156 512048×2048 575 944096×4096 2418 1848192×8192 9641 20116384×16384 39228 648



Залежність розміру файлу плямоподібного зображення профілю лазерного променя від його розмірності

Розмірність плямоподібних

зображень профілю лазерного променя,

пікселів

Розмір файлу для оброблення, Кб

128×128 17256×256 66512×512 263

1024×1024 10492048×2048 41954096×4096 167788192×8192 67256

16384×16384 268448



ЗВ’ЯЗОК РОБОТИ З НАУКОВИМИ ПРОГРАМАМИ, ПЛАНАМИ, ТЕМАМИ

Дані дослідження проводились згідно з планами науково-дослідних робіт кафедри лазерної та оптоелектронної техніки та кафедри комп'ютерних наук Вінницького національного технічного університету і кафедри телекомунікаційних технологій та автоматики Державного економіко-технологічного університету транспорту (м.Київ), в тому числі в межах:• договору GP/F44/051/4710 “Методи та засоби організації високопродуктивних паралельно-ієрархічних обчислювальних процесів в інтелектуальних системах” (грант Президента України для підтримки наукових досліджень молодих учених, № державної реєстрації: 0112U008123, 2012 р.), при виконанні якого автор брав участь як науковий керівник;• договору Ф13/49-2007 “Інтелектуальна система для ідентифікації плямових зображень лазерних пучків” (грант Президента України для підтримки наукових досліджень молодих учених, № державної реєстрації: 0107U011806, 2007 р.), при виконанні якого автор брав участь як науковий керівник;• госпдоговірної теми „Розробка алгоритмів роботи автоматизованої системи підтримки експлуатації транспортної мережі зв’язку” (№ державної реєстрації: 0113U003214, 2012-2013 р.р.), при виконанні якої автор бере участь як відповідальний виконавець;• держбюджетної теми „Високопродуктивні гетерогенні обчислювальні комплекси паралельно-ієрархічного оброблення зображень протяжних лазерних трас та прогнозування їх характеристик для оптичних систем зв'язку” (№ державної реєстрації: 0113U003214, 2013 р.); при виконанні якої автор бере участь як відповідальний виконавець; • а також 6 держбюджетних тем протягом 2002-2013 р.р.



Тематика роботи пов’язана з обласною Програмою "Розвитку інформаційних, телекомунікаційних та інноваційних технологій в закладах освіти Вінницького регіону до 2015 року" (в 2011 р. автор отримав грант Вінницької обласної Ради та обласної державної адміністрації для закладів освіти системи загальної середньої, професійно-технічної та вищої освіти, рішення 7 сесії Вінницької обласної ради 6 скликання від 28.10.2011 р. №184).

АПРОБАЦІЯ РЕЗУЛЬТАТІВ

Результати досліджень пройшли апробацію на більше ніж 50 міжнародних наукових конференціях та наукових семінарах.

Результати досліджень представлено у 127 працях, зокрема в 2 монографіях, 33 наукових статях у фахових виданнях, 10 наукових статях в наукових виданнях іноземних держав, 54 публікаціях у збірках матеріалів міжнародних конференцій, 2 патентах України на винахід, 26 свідоцтвах про реєстрацію авторського права на твір (комп'ютерну програму). Додатково наукові результати дослідження відображені у 5 навчальних посібниках (з них один – з грифом „Рекомендовано МОНМСУ як навчальний посібник для студентів вищих навчальних закладів”).



ДЯКУЮ ЗА УВАГУ !

Documents

Яровий А.А. 1 , Тимченко Л.І. 2 ,