66
Hľadanie objektov

Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

  • Upload
    others

  • View
    4

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Hľadanie objektov

Page 2: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Prikladanie šablón

M x N obraz

P x Q šablóna

O(MNPQ)

Ak nepoznáme škálu šablóny, ešte horšie

Page 3: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Nájdi v obraze

Ktorú mieru podobnosti použiť?

Korelácia

Korelácia s nulovým priemerom

Suma štvorcov vzdialeností

Normalizovaná korelácia

Page 4: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Korelácia

],[],[],[,

lnkmflkgnmhlk

Page 5: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Korelácia s nulovým priemerom

)],[()],[(],[,

lnkmfglkgnmhlk

Page 6: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Suma štvorcov vzdialeností

2

,

)],[],[(],[ lnkmflkgnmhlk

Page 7: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

2

,

)],[],[(],[ lnkmflkgnmhlk

Page 8: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Normalizovaná korelácia

5.0

,

2

,

,

2

,

,

)],[()],[(

)],[)(],[(

],[

lk

nm

lk

nm

lk

flnkmfglkg

flnkmfglkg

nmh

Page 9: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje
Page 10: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Ktorú mieru podobnosti použiť?

Korelácia – rýchla, znásobuje intenzity, nevhodná

Korelácia s nulovým priemerom – rýchla, deteguje aj falošné výskyty

Suma štvorcov vzdialeností – pomalšia, citlivá na zmenu intenzity

Normalizovaná korelácia – najpomalšia, invariantná voči zmene kontrastu a intenzity

Page 11: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Nájdi v obraze

?

Page 12: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Hľadanie objektov rôznych

veľkostí

Page 13: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Škálovanie

Zahoď každý druhý riadok a stĺpec

1/4

1/16

Page 14: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

1/4 (2x zoom) 1/8 (4x zoom) 1/2

Page 15: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Dobré a zlé vzorkovanie

Dobré vzorkovanie:

Dostatočne veľa

vzoriek, alebo

„dobré“ vzorky

Zlé vzorkovanie:

Výsledkom je

aliasing!

Page 16: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Zahoď každý druhý riadok a stĺpec

Page 17: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Škálovanie s rozostrením

Gauss a potom škálovanie

Page 18: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

G 1/4 G 1/8 Gaussian 1/2

Page 19: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

1/4 (2x zoom) 1/8 (4x zoom) 1/2

Page 20: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Gaussovská pyramída

Page 21: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Gaussovská pyramída

Page 22: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Gaussovská pyramída

Page 23: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Gaussovská pyramída

Page 24: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Priestorové prehľadávanie

Pyramídový prístup

Začneme najviac degradovanou verziou

Nájdeme kandidátne oblasti

Ďalej hľadáme len v týchto oblastiach

Page 25: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje
Page 26: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

GP – vysoko redundantné údaje

Nízkopriepustný filter – najnižšie frekvencie

sú v každom obraze

Nepotrebuje uložiť celý obraz, stačí chyba

Laplacovská pyramída

Page 27: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Laplacovská pyramída

Pri výrobe GP, strácame info

Uložíme do LP

Page 28: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

GP LP

0G

1G

2G

nG

= +

0L

= + 1L

= + 2L

nn GL

)expand( 1 iii GGL

)expand( 1 iii GLG

LP vs. GP

Page 29: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

LP vs. GP

Frekvencie obsiahnuté v jednotlivých úrovniach

Page 30: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Kombinovanie obrazov

Page 31: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Jablranč

Page 32: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Kombinovanie regiónov

Page 33: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Horor foto

© prof. dmartin

Page 34: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Multi-Sensor Fusion

Page 35: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Škvrny

Odozva Laplaciánu bude maximálna v strede

škvrny pri vhodnej škále

Page 36: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Prečo?

Normalizácia

Normalizovaná odozva

Odozva Laplaciánu pri rôznej škále signál

maximum

Page 37: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

2D LoG

2

2

2

22

y

G

x

GG

2

2

2

222

normy

G

x

GG normalizácia:

Page 38: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

charakteristická škála škvrny

maximálna odpoveď Laplaciánu v strede škvrny

Page 39: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Detekcia škŕvn v ŠP

Odozva Laplacián obrazu pri rôznych

škálach

Maximá v ŠP

Page 40: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje
Page 41: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje
Page 42: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje
Page 43: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje
Page 44: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Lokálne príznaky

Skladajú sa z dvoch častí:

– Detektor na nájdenie zaujímavých bodov

– Deskriptor na ich popísanie

Porovnavanie

- Dôležitá je metrika!

Klasifikácia

- Obvykle počet zhôd

Page 45: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Invariantnosť

Page 46: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Výber zaujímavých bodov

Naivné:

Všetky body

Náhodné body

Rovnomerne

rozmiestnené body

Detektory:

Harris corners

SUSAN

SIFT

SURF

FAST

Page 47: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

SIFT

Hľadá zaujímavé body v DoG priestore

Page 48: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Rovnica prenosu tepla

DoG priestor

GG2

k

GkGG )()(

)()()1( 22 GkGGk

GG 222

norm

),(*),,(),,( 2

norm yxIyxGyxD

Page 49: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

DoG priestor

),(*),,(),,( yxIyxGyxJ

IGIkG

IGkG

IGyxD

*)(*)(

*))()((

*),,( 22

Page 50: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

SIFT

Zaujímavé body hľadá v 26 okolí v DoG

Hľadajú sa minimá a maximá

lokálne extrémy v 26 okolí

Určili sme pozíciu a škálu

Orientácia

),1(),1(

)1,()1,(arctan),(

yxJyxJ

yxJyxJyx

Page 51: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Odstránia sa

málo kontrastné body

body pozdĺž hrán

Hesseho matica druhých derivácií

yyxy

xyxx

DD

DDH~

yyxx DDTr )(H

2)()( xyyyxx DDDDet H r

r

r

r

r

Det

Tr 2

2

222 )1()()(

)(

)(

H

H

Page 52: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

D.Lowe. “Distinctive Image Features from Scale-Invariant Keypoints”. IJCV 2004

Page 53: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

SURF

Namiesto vytvárania Gaussovej pyramídy

filtruje obrázok rôznymi veľkosťami filtrov

Filter = aproximácia druhých parciálnych

derivácií Gausiánu

SURF: Speeded Up Robust Features

Herbert Bay, Tinne Tuytelaars, and Luc Van Gool, ECCV 2006

Page 54: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

:

ˆ ˆ:

ˆ ˆ

xx xySIFT

approx

yx yy

xx xySURF

approx

yx yy

D DSIFT H

D D

L LSURF H

L L

Page 55: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Integrálne obrazy

Suma bodov vľavo hore

Suma bodov v

obdĺžnikovom okne

(ABCD) pôvodného

obrazu =

IO(A) – IO(B) – IO(C) +

IO( D)

(x,y)

D B

C A

x

i

y

j

jiIyxIO1 1

),(),(

(1,1)

Page 56: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje
Page 57: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

FAST

Porovnanie hodnoty intenzity bodu a jeho

susedov na Bresenhamovej kružnici s

polomerom r

E. Rosten and T. Drummond. "Machine learning for high-speed corner detection,".

ECCV 2006

Page 58: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Popis zaujímavých bodov

Raw data

HOG

SIFT

SURF

BRIEF

Page 59: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Raw data

Vektor intenzít okna

Page 60: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

HOG

Histogam of

Oriented

Gradients

Page 61: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

SIFT

Používa HOG

Okno okolo zaujímavého bodu otočí podľa

orientácie

Page 62: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

SIFT

128 hodnôt: 4 x 4 x 8 hodnôt HOG

Page 63: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

SURF

Haar wavelet odozvy vo vertikálnom smere

a horizontálnom smere

4 príznaky x

16 oblastí =

64 hodnôt

Page 64: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

BRIEF

jeden z prvých binárnych deskriptorov

porovnáva intenzitu dvojíc pixlov v okolí

zaujímavých bodov

=> bitový deskriptor

256 / 128 bitov

Page 65: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

Porovnanie bodov

Euklidovská vzdialenosť

Hammingova vzdialenosť

Page 66: Hľadanie objektov - SCCGhaladova/PV_6.pdfKtorú mieru podobnosti použiť? Korelácia – rýchla, znásobuje intenzity, nevhodná Korelácia s nulovým priemerom – rýchla, deteguje

50

75

200

feature distance

false match

true match