74
Unity でででで 9/7 でで Unity ででで

Unityで音声認識

Embed Size (px)

Citation preview

Page 1: Unityで音声認識

Unity で音声認識

9/7 金沢 Unity 勉強会

Page 2: Unityで音声認識

自己紹介

Twitterはまやん @hamayanhamayan

Page 3: Unityで音声認識

目指すのは…

Page 4: Unityで音声認識

転載元: http://www.jp.playstation.com/software/title/scps15039.html

Page 5: Unityで音声認識

リオ

音声のみで指示を出す

Page 6: Unityで音声認識

良いところ

Page 7: Unityで音声認識

< 歩け

Page 8: Unityで音声認識

< 歩け

分かったわ >

Page 9: Unityで音声認識

< 行け

Page 10: Unityで音声認識

< 行け

行けってどこに行けばいいの?

Page 11: Unityで音声認識

< 机に行け

Page 12: Unityで音声認識

< 机に行け

分かったわ >

Page 13: Unityで音声認識

< 机に行け

分かったわ >

ちょっとした文もいける

Page 14: Unityで音声認識

目標は

短い文を使った音声認識ゲーム

Page 15: Unityで音声認識

Julius-Client-For-Unityhttps://github.com/SavantCat/Julius-Client-for-Unity

Page 16: Unityで音声認識

音声認識ライブラリ(ソフトウェア)

Juliusを Unity 向けにラップしたスクリプト

Julius-Client-For-Unity

Page 17: Unityで音声認識

Julius-Client-For-Unityを使うには

Page 18: Unityで音声認識

GitHub より

https://github.com/SavantCat/Julius-Client-for-Unity

Page 19: Unityで音声認識

これを

実行する

Page 20: Unityで音声認識

Assets↓

Julius↓

Scene↓

julius.unity

サンプルは

Page 21: Unityで音声認識

「した」と発音すると

Page 22: Unityで音声認識
Page 23: Unityで音声認識

「したうえ」と発音すると

Page 24: Unityで音声認識
Page 25: Unityで音声認識

Assets → Julius →辞書は

Core↓

model↓

lang_m↓

commnd.htkdic

Page 26: Unityで音声認識

<s> [] silB</s> [ 。 ] silEコマンド + 名詞 [ コマンド ] k o m a N d oシンクロ + 名詞 [ シンクロ ] sh i N k u r oシンクロスタート [ シンクロスタート ] sh i N k u r o s u t a: t oスタート + 名詞 [ スタート ] s u t a: t oおはよう + 感動詞 [ おはよう ] o h a y o:こんにちは + 感動詞 [ こんにちは ] k o N n i ch i w aさようなら + 感動詞 [ さようなら ] s a y o: n a r a右 + 名詞 [ 右 ] m i g i左 + 名詞 [ 左 ] h i d a r i上 + 名詞 [ 上 ] u e下 + 名詞 [ 下 ] sh i t a前 + 名詞 [ 前 ] m a e後ろ + 名詞 [ 後ろ ] u sh i r o

commnd

13 単語が登録されている

Page 27: Unityで音声認識

書式

単語表記 [ 出力文字列 ] 音素列

参考 :http://shower.human.waseda.ac.jp/~m-kouki/pukiwiki_public/24.html

Page 28: Unityで音声認識

commnd ファイルと同じフォルダの

bccwj.60k.htkdic

Page 29: Unityで音声認識

bccwj.60k.htkdic

約 64,000 単語

Page 30: Unityで音声認識

「かんどう」と発音すると

Page 31: Unityで音声認識
Page 32: Unityで音声認識

「じゅうどう」と発音すると

Page 33: Unityで音声認識
Page 34: Unityで音声認識
Page 35: Unityで音声認識
Page 36: Unityで音声認識

30 回やって、すべて失敗

Page 37: Unityで音声認識

「柔道」と表示させたい

Page 38: Unityで音声認識

「授業」「重度」

「ジュドー」

よく出てきたのが…

これを commnd から消す

Page 39: Unityで音声認識

「じゅうどう」と発音すると

Page 40: Unityで音声認識
Page 41: Unityで音声認識

ヒット率を上げるためには

発音が似ているのは避けて作る

Page 42: Unityで音声認識

実際にゲームを作るとどうなるか

Page 43: Unityで音声認識

主人公はもちろん…

Page 44: Unityで音声認識
Page 45: Unityで音声認識

Unity ちゃん無料で使えるキャラクター

http://unity-chan.com/

Page 46: Unityで音声認識

ゲームジャンルは「脱出系」

Page 47: Unityで音声認識

「脱出系」とは

閉じ込められた主人公が部屋を脱出するために、

家具や装置などを調べて、脱出のカギとなるものを探したり

時には謎解きをしたりするもの

Page 48: Unityで音声認識

「脱出系」の理由

昔は FLASH今はスマホ

で流行っているゲーム体系

Page 49: Unityで音声認識

「脱出系」の理由

脱出系は謎解きがメイン

Page 50: Unityで音声認識

音声認識は

無限のコマンドを用意できる

Page 51: Unityで音声認識

例えば

Page 52: Unityで音声認識

< イスに何かできそう…

Page 53: Unityで音声認識

<「イスを押せ」

Page 54: Unityで音声認識

< 「イスの下」

Page 55: Unityで音声認識

音声認識は

無限のコマンドを用意できる

Page 56: Unityで音声認識

< 山手線ゲーム

Page 57: Unityで音声認識

< 山手線ゲーム

やりましょう >

Page 58: Unityで音声認識

< シャワーを浴びろ

Page 59: Unityで音声認識

< シャワーを浴びろ

親切で言ってるとは思えないんだけど >

Page 60: Unityで音声認識

< シャワーを浴びろ

親切で言ってるとは思えないんだけど >

こういうレスポンスにより

没入感が上がり感動を与える

Page 61: Unityで音声認識

ゲームの操作

Space :カメラ切替音声 :指示

Page 62: Unityで音声認識
Page 63: Unityで音声認識

Space キーでカメラ変更

Page 64: Unityで音声認識

「赤い椅子」と指示

Page 65: Unityで音声認識

「探せ」と指示

Page 66: Unityで音声認識

「真ん中の椅子」と指示

Page 67: Unityで音声認識

「押せ」と指示

Page 68: Unityで音声認識

本当は…

鍵を 3 つ取ってゴールする

Page 69: Unityで音声認識

本当は…

「探せ・押せ」のアニメーション

Page 70: Unityで音声認識

http://artist-3d.com/free_3d_models/dnm/model_disp.php?uid=455&count=count

使用モデル

http://www.sharecg.com/v/66203/view/5/3D-Model/Skeleton-Keys

Page 71: Unityで音声認識

使用モデル

Page 72: Unityで音声認識

まとめ

音声認識を組み込むのは簡単

Page 73: Unityで音声認識

まとめ

無理やりではなく音声認識メインのゲームもアリ

Page 74: Unityで音声認識

究極には

Unity ちゃんと会話したい!