Upload
dongsun-moon
View
2.916
Download
2
Embed Size (px)
Citation preview
빅데이터 시대의 인공지능2015.12문동선
Agenda• A.I.• Trends• Machine learning overview• What’s deep learning?• Why deep learning?• Demo• Future
Big Data?? Machine Learning? A.I.?
나도 뭔가 해야하나 ?
big data + machine learn-ing
무인 자동차 시대 임박• 인공지능에게 내 목숨을 맡길 수 있을까 ?• 앞에 많은 사람이 나타난다면 ?• 다수를 살리기 위해 주인을 희생하는 운전을 ?• 주인을 살리기 위해 다수를 희생하는 운전을 ?
• 수많은 택시 기사 , 트럭 운전사는 백수 ?
Google Trends
Big data
Data anal-ysis
Machine learning
Deep learning
Google Trends
왜 big data 가 갑자기 이슈일까 ?
과거에는 ?
왜 big data 가 갑자기 이슈일까 ?
Data
Ma-chine
수동적 Big Data 능동적 Big Data마케팅 지원 돈버는 서비스
A.I.Machine Learn-
ingSupervised Unsupervised
Deep Learning
Expert system
Fuzzy
Bayesian
SVM
PCA
KNN
Fuzzy
PCA
PCA
Fourier Series
Eigen Face
모라벡의 역설
Geoffrey Hinton• 토론토 대학 교수• 구글 (2013~, DNNresearch 가 합병 )• Backpropagation 의 아버지• RBM 으로 pre-training 하여
local minimum 문제 해결
Andrew Ng• Stanford 교수• Baidu - Chief Scientist• Coursera 창립자• Google brain project• google• 16000 CPU cores
Yann Lecun• 뉴욕대 교수• 페이스북 AI 연구소• LeNet 의 아버지• DjVu image Compression• Lush 언어
Yoshua Bengio• 몬트리올대 교수• Pylearn2(Lisa lab)• 대학에 남아서 연구만 ..• CIFAR co-director• 각종 학회지 editor
Deep Learning 의 성공 요인• 알고리즘• Unsupervised learning
• RBM / DBN• Autoencoder (Stacked/De-
noise)• Dropout• Sparse encoding• CNN (LeNet, googLeNet)• RNN
• HW• GPGPU
• Big Data• Google, Facebook, Amazon
etc.• Smart phone
P(X)
P(Y|X)
변화의 시작…
Input
Simplest Fea-tures
Complex Fea-tures
MappingFrom Features
Output
Input
Simplest Fea-tures
MappingFrom Features
Output
Input
Hand-designedFeatures
MappingFrom Features
Output
Input
Hand-designedFeatures
Output
Rule-based sys-tem
Classic machine learn-ing
Representation learn-ing
Deep learn-ing
Deep Belief Network
Belief Network?
Representation Learning
Manifolds
ALEXNET• 구글을 멘붕에 빠트린 그것…• Alex Krizhevsky• Hinton 교수 제자• http://
papers.nips.cc/paper/4824-imagenet-classification-with-deep-
Convolutional Neural Network
Image 인식은 CNN
GoogLeNet
RNN• 음성인식• 위성이 지구 ( 궤도 / 괴도 ) 를 돌고 있다 .• ( 궤도 / 괴도 ) 루팡을 읽었다
• 기계번역• The town lies on the coat.• She lies about her age.
Transfer Learning
Image 인식
바이두 쇼핑 추천
Deep face (Facebook)
Deep face (Facebook)
Image 인식 데모• http://deeplearning.cs.toronto.edu/
MS Skeype• https://www.youtube.com/watch?v=11LgippzOvU
Game AI• DeepMind tech( 구글 2014 년 인수 )• https://www.youtube.com/watch?v=V1eYniJ0Rnk
• Mario Demo• https://www.youtube.com/watch?v=qv6UVOQ0F44
기사 쓰기• http://www.bloter.net/archives/227482
손글씨 쓰기
코딩도 ? /* * Increment the size file of the new incorrect UI_FILTER group information * of the size generatively. */static int indicate_policy(void){ int error; if (fd == MARN_EPT) { /* * The kernel blank will coeld it to userspace. */ if (ss->segment < mem_total) unblock_graph_and_set_blocked(); else ret = 1; goto bail; } segaddr = in_SB(in.addr); selector = seg / 16; setup_works = true; for (i = 0; i < blocks; i++) { seq = buf[i++]; bpf = bd->bd.next + i * search; if (fd) { current = blocked; } } rw->name = "Getjbbregs"; bprm_self_clearl(&iv->version); regs->new = blocks[(BPF_STATS << info->historidac)] | PFMR_CLOBATHINC_SECONDS << 12; return segtable;}
작곡도 ?• https://www.youtube.com/watch?v=0VTI1BBLydE
Motion generation
어디까지 왔는가 ?• 알아보지만 영혼이 없다…
필요한 준비물은 ?
Tesla K80 (NVIDIA)
• 8.74 Tflops• 3GFlops with Xeon E5-2630
• 288 GB/s• 24GB Ram• 4992 cuda cores• $4,275(Amozon)
GTX TitianX (NVIDIA)
• 7 Tflops• 336.5 GB/s• 12GB Ram• 3072 cuda cores
DIGITS DEVBOX• 4 TitanX GPU (with 12GB/gpu)• 64GB DDR4• Ubuntu 14.04• Caffe, Theano, Torch• $15,000 ( 기본사양 , usa)
Softwares• TensorFlow
• Python / C++• https://www.tensorflow.org/
• Pylearn2 / Theano• python• http://deeplearning.net/software/pylearn2/
• Caffe• C++• http://caffe.berkeleyvision.org/
• Torch7• jua• http://torch.ch/
• DL4J• java• http://deeplearning4j.org/
CUDAcuDNN+
TensorFlow 예제 코드 좀 볼까요 ?
Big Data• 보통은 이게 없어서 진입장벽• 하지만 제일 중요한게 함정• 공개된 Dataset 으로 공부 / 개발은 가능 (MNIST, CIFAR-10
etc.)• 포탈이 매우 유리• 고객 동의 없이 학습에 사용하는 것은 불법임에 주의해야함 .
우리 나라는…• 네이버
• 이미지 , 음성처리 등에 다양하게 적용중• http://deview.kr/2014/session?seq=26
• 엔씨소프트• AI 랩에서 게임에 적용중이라던데…
• 클디• 카이스트 출신 스타트업 . ILSVRC 세계 7 위 .• http://scope.cldi.io/
• 카이스트 김대식 교수• 서울대 장벽탄 교수
• https://www.youtube.com/watch?v=v3veAMEwoyU• 엑소브레인
• 2013~2013 년 1070 억원• ETRI, KAIST, Postech 등 26 개 연구기관 366 명 참여 프로젝트
우리의 미래는 ?택배는 드론이…
택시는 자동운전…콜센터는 딥러닝…
기사작성 딥러닝…부동산중개 딥러닝…
세일즈 딥러닝…헬스 PT 도 딥러닝…
동시통역도 딥러닝…회계사도 딥러닝…
언젠가 게임 개발 로봇도… .
봇 , 매크로 , 그리고 사람…봇을 막을 수 없다면게임의 미래는 ?
Game and AI뛰어난 AI 를선보였던Starcraft
The End