Upload
others
View
6
Download
0
Embed Size (px)
Citation preview
Introdução às
Redes Neurais Artificiais
e aplicações
Luiz P. Calôba.
[email protected], www.lps.ufrj.br/~caloba
Minicurso IC - 2011
Redes Neurais Artificiais
O que é isto ?
Para que serve ?
De onde veio ?
Neurônio biológico
... s
Neurônio
Processador
MISO
e1
e2
en-1
en
Neurônio biológico
Comunicação entre neurônios:
x 1
x j
x N
x0=1
.
.
.
.
.
.
iiii iiii iiii
iiii iiii iiii
ui
si
wi0
wi1
wij
win
)(
...2211
uvsaída
xwxwxwu nn
=
+++=
Neurônio - elemento de processamento
Arquitetura da Rede
x1
x2
x3
y2
y1
( )y xϕ=%
Rede Neural
Mapeador não linear, universal
=
=
614,0
097,0~ 7,0
1,0yx
tgh
tgh
tgh
lin
tgh
1
x 1
x 2
1
.2 - .1
- .1
.3 .1
.2 - .1
.1
.2 .3
.9
. 1
.5
- .1
- .1
.2
1.1
4
5
2
1 1 y ~
2 y ~
0,1
0,7
0,09
0,61
E a memória,
onde está ?
nas sinapses !
Memória:
E o aprendizado ? Alteração das sinapses !
Redes Neurais FeedForward, “Backpropagation”
( )y xϕ=%
RN
y ~
x
3
tgh
tgh
tg
h
lin
tgh
1
x 1
x 2
1
.2 - .1
- .1
.3 .1
.2 - .1
.1
.2 .3
.9
. 1
.5
- .1
- .1
.2
1.1
4
5
2
1 1 y ~
2 y ~
0,1
0,7
0,09
0,61
( )y xϕ=%
Para que serve ?
Aplicações:
Simuladores; Controladores;
Classificadores;
Reconhecimento de padrões;
Filtragem não linear;
etc...
RN
y ~ x
Simulação (modelagem) de Sistemas:
Mundo real Simulador
X Y
X Simulador Y
Entradas:
x1 = velocidade atual
x2 = posição do acelerador
x3 = posição do freio
x4 = inclinação
x5 = número de passageiros
x6 = etc.
Saídas:
y1 = velocidade após 3 s
y2 = distância para parar
Modelagem clássica de um problema:
Mundo Real objetos físicos
Representação Matemática
dos
objetos físicos por
objetos matemáticos x1 x2 e
fórmulas
Uma nova maneira de ver:
Mundo Real objetos físicos
Representação Neural
dos
objetos físicos por
sinais biológicos
e uma
estrutura neural
Representação Matemática dos
sinais biológicos por
objetos matemáticos x1 x2
e da
estrutura neural por
fórmulas conhecidas
P k ,..., 2 , 1 ) , ( = k k y x
ϕ ) ( k k
x y ϕ =
Simulador
w
ϕ ~ k
x k
y ~
+
_
k ε k
y
w ∆ aprendizado
ou
treinamento
k x
Simulação de Sistemas:
Planta
P k ,..., 2 , 1 ) , ( = k k y x
ϕ ) ( k k
x y ϕ =
Simulador
w
ϕ ~ k
x k
y ~
+
_
k ε k
y
w ∆ aprendizado
ou
treinamento
k x
Aprendizado, Treinamento ou Ajuste do Simulador:
Planta
( ) ( )[ ]2~,...1| yyEiwF i −==
Treinamento = Otimização = Minimização do erro na saída Função Objetivo à Minimizar = EMQ na saída
Método: Gradiente descendente
iii
i
ii wwww
Fww ∆+←
∂
∂−=∆ α
Demo: OCR
...
...
Rede Neural
Robustez Morte de neurônios
NeuralTB Sistema de Apoio ao Diagnóstico de Tuberculose Bacteriana
HU & COPPE / UFRJ
Exemplos de aplicações:
• Modelagem de um Conversor
Siderúrgico da CSN
• Modelagem de plantas de
destilarias da Petrobras
• Previsão de atrazo no pagamento
por clientes (pessoas e instituições)
• Previsão do PIB brasileiro
• Previsão de volatilidade de opções
Telebrás
• Previsão de demanda de pico de
energia
• Identificação do locutor e do
conteúdo da alocução
• Identificação da confiabilidade de
informantes
• Identificação de patologias em
eletrocardiogramas
• Identificação de malignidade em
anomalias na mama
• Classificação de defeitos em soldas
via radiografia ou ultra-som
• Detecção de defeitos em dutos e
risers para transporte de petróleo
25
Aprendizado sem professor Aprendizado supervisionado e não-supervisionado
Critério:
classificação por similaridade
RN
∆w
ε
+ -
y~[ ]yx, RN
∆w
ε
+ -
y~[ ]yx, RN
∆w
x y~RN
∆w
x y~
26
Classificação por Similaridade
Classes agrupam elementos `similares` entre si
27
Ex: OCR: Figuras com ruído
Entradas ruidosas
Rede
Counter
propagation
Padroes
28
Detecção de padrões desconhecidos Ex 1: Dolphin Ecolocation
29
Time to frequency patterns:
Pattern determination
30
Ex 2: Sonar Passivo A Caçada Ao Outubro Vermelho (The Hunt For Red October)
31
Classificador de Contatos Sonar (IPqM / UFRJ):
Classificação de alvos via análises Lowfar e Demon do ruído irradiado
utilizando-se reconhecimento de padrões através de redes neurais.
32
Compressão de informações Compressão de imagens
1y
2y
my
0u
x
w1
2w
mw
0y
1y
2y
my
0u
x
w1
2w
mw
0y
+ s
p1
p2
pm
1y
2y
my
1y
2y
my
i
33
Exemplo de Compressao
Imagens original e comprimidas (1x) (11x) (15x) (28x)
34
Problemas de otimização combinatória Redes Realimentadas - redes de Hopfield
35
Caixeiro Viajante:
Solução ótima Vizinho mais próximo
36
O problema das Quatro cores:
Demo 4 cores:
37
Time Segment Permutation
38
Resultados:
Percentual de acertos
Apresentação dos Sons
Exemplos School Vega
Tipo de processo % acertos
Som Criptografado ≈ 0 ≈ 0
Simulated Ann. e Busca exaustiva
73 91
Som Original 100 100
39
Últimos Comentários Redes Neurais Modelam sistemas e fenômenos que não somos capazes de modelar Tem capacidade de aprender sózinhas Resolvem problemas de otimização
mas não são a panacéia universal !!
40
Quando usar ?
Existe um algoritmo satisfatório ?
SIM - então use o algoritmo
NÃO - então pense em usar redes neurais
Como usar ?
Emular em PC ( 99% dos casos)
41
Para saber mais:
1 – Ivan Silva, I.; Spatti, D. e Flauzini, R. - "Redes Neurais Artificiais para engenharia e
ciências aplicadas", Artliber,2010
2 -Wasserman, P. – “Neural Computing”, Van Nostrand Reinhold, 1989, Cap 1-6.
3 - Sarle, W.S. - ftp://ftp.sas.com/pub/neural/FAQ.html - uma página com
muitas informações interessantes.
42
INNS
International Neural Networks Society
INTERNATIONAL NEURAL NETWORK SOCIETY
43
Fim.
Obrigado pelo interesse.