イ

t

*京都大学大学院情報学研究科システム科学専攻京都府京都市左京区吉田本町

* Department of systems sdence. Kyoto universlty, Yoshida・Honrnachi.Sekyo・ku, Kyoto, Japan

* E・ma11: manabu@hurnan.sys.1.ky010・U,ac.jp

納

゛ず、、

1.はじめに

仮想計測技術がないと困る.少なくとも,本稿で対象と

するような製造現場では,顧客が要求する高品質製品の安

定供給が困難になる.製造に課せられた任務が造るべき製

品を造ることであるなら,製品品質の制御はきわめて重要

であるに述いない.ところが,製品品.質をオンライン測定

できる機器が利用できないために,品質を直接制御できな

いことが多いのが悲しし旺見実である.そのような機器が存

在しない場合もあれぱ,費用対効果で導入を正当化できな

い場合もある.このとき威力を発揮するのが仮想計測技術

である.石油・化学産業では,ハードゥエアとしての言十測機

器との対・比でソフトセンサーと呼ばれることが多い.半導

体産業ではバーチャルメトロロジーと呼气まれ,製薬産業で

はソフトセンサーとして PAT (process AnalyticalTech・

n010gy)の枠組みの中で語られる.本報では仮想計測と呼ぶことにするが,この技術は要するに,オンライン測定で

きない品質などの重要変数を,オンライン測定できる変数

から推定することを目的としている.仮想計測ができれば,

その推定値を制御変数とするフィードバック制御,すなわ

ち推定制御を実施できる

仮想計測技術の実体は,製品'1.質と操業条件(製造設備

の運転状態)との関係を定冕的に表現するモデルであるか

ら,モデル構築が成功の鍵を握る.仮泡晴1・測に用いられる

モデルは,物理・化学的な法則(現象i制に基づいて現象を

数式で表現する第一原理モデル吽加里モデル)と,測定デー

タを表現するのに都合がよい数式を用いる統計的モデルに

大別されるが,二者択一というわけではなく,第一雰J里モ

デルとお儲十的モデルを相補的に用いるグレイボックスモデ

ルもある.現象を理解するために,あらゆる分野で第一原

理モデルの構築に向けた取り組みが行われているが,仮想

計根吋支術の実装に耐えるモデルの構築は容易でない.この

ため,現場の勘と経験に任せて操業しているところを除け

ば,産業界での実施例が圧倒的に多いのは統計的モデルに

基づく仮想副槌珊支術である.そこで,本稿では統計的モテ

ルを取り上げる

文献を調査すると,仮想計測技術は実にさまざまな分野

で活用されており,論文の数も大変多いことがわかるり・幻

ノ'

キーワード:仮想計測技術(vi「加al senslng techn010gy),ソフトセンサー(soft sensoo, PAT (process Analytical Techn010gy), VM (vlrtualMetr010gy),局所 PLS (10ca11y weighted partla11east squeres),外れ値検出(OU"1er detection),変数選択(variable selection)JLO×0/1υヌC9一郡〒5@加USICL

仮想后十測の成否を決めるモデルについても,さまざまな様i

築方法が提案されている.しかし気になるのは,実際に産業

界で役立つプj法がどれほどあるのかということである.別

の言い方をすれば,仮想、計測技術の開発に取り組む研究者

は,鯖.くべき課題をきちんと把握しているのかということ

である.仮にも産業界に貢献しようとするわれわれにとっ

て,本当に解くべき価値のある問題は,研究室にあるわけ

でも,論文に書かれているわけでもない.問題は産業界の

現場にある.そこで本殺では,われわれが何Kべき課題を

明確にするために,本題に入る前に,現場の声を拾い集め

たアンケート調査結果の一部を紹介する

もう1つ気になるのは,仮想創倒片斯村の実用化に取り組

む技術者は,使うべき道具をきちんと把握しているのかと

いうことである.実際にプロセスデータ解析を経験したこ

とのある人であれば,モデル備築そのものよりも,むしろ,

実用に耐えるモデルを構築できるデータを準備することの

大変さを痛感していることだろう.実際にモデルを構築す

るまでに,モデルの構築と検証に用いるデータを選択し,

外れ値を検出し,欠損値に対応し,必要に応じて変数変換

を施し,入力変数を選択しなければならない.これらの作

業を疎かにして良いモデルを構築することなどできないが,

適切な前処理をヲ訓池するためには,良い道具が必要である

モデル構築方法をどれにするかよりも,むしろ,この道具

選びこそが重要である場合も少なくない.そこで本稿では,

モデル構築手法の説明に入る前に,外れ値検出と変数選択

について解説する

このように,アンケート調査結果を踏まえて産業界の抱

える課題を明確にし,仮想計測技術を実用化する際に重要

となる外れ値検出と変数選択について言及した上で,薯者

の研究グループでの研究成果を中心に,産業応用半例を交

えながら,課題解決に向けた取畷握みを紹介する.なお,本

稿は,仮想三十測技術に関する他の解説記宇御.)を下敷きに

しているため,そちらも参照していただきたい

2.仮想計測技術の現状と課題

日本学術振興会プロセスシステムエ学第 143委員会ワー

クショソプNO.27「プロセス制街牙支術」が20的年初めに実

施したアンケート調査には,石油・化学産業において稼働中

計測と制御第劇巻第9号 2劇2年9月号 "趣,.

j、f

^、^0~,^,呉^オ

一^」ゞ、髪 y 、

Y¥

,、)

4今ごt、

、、"

」,.

Lイ

ゞ,珍弓イ

.上よん>づノγ

ノノ

邑弐ゞ

'、一

叉

ヘ゛

ノノ

入、ど

ぎ'ノ《

IA亀い§、 y

、、、'マノ¥、,

、/ t

な̂ゾ,、^誕^

ぜ＼

一

4 弧、、〕,、、,

0 /ゞ,イ、、

,/4 、'゛

J)、兇、 J

44●M り气~

,W咲

一

゛

JJ

ミY勺4

0,,

J 、'J /J

ず^ノ剛 i、メ'ι

^゛ψ弓KC 、ン',

4点゛ヤ.'、,、一ゞ

*

づ',"ε

ξ奈拶野二

Ij

X/

学

Υ一

J 、J

司

弓

ノノ

ー'、゛＼＼、、七ナノノ'、

一气'タノ

ノ

プロセス

ス支容1

反応

のソフトセンサーの数をプロセスおよびモデル構築手法ご

とにまとめた表 1が示されているの、カ.この結果から,重,

河帰分キ斤や PLS (partial Least squares)などの市泉汗3モテ'ルを利用しているケースが圧倒的に多いことがわかる.こ

のアンケート調査では適用したソフトセンサーの課題に,

ついても朋査されており,その結果によると,プロセス特,

性変化による推定箱度の劣化への対応,つまりソフトセン

サーのメンテナンスが課題であるとの回答が全体の30%を

占め,最も多い.その他,データ収条,データ前処理,モ

デル構築作業の負担が大きいことも課題として指摘されて

おり,ソフトセンサーの構築を支援する仕組.みが必要とさ

れていることがわかる.

この調査結果は,石油・化学産業を主たる対象としている

が,その他のプロセス産業の課題は何であろうか.鉄銅産

業では,製品●表面癌や内部欠陥をなくし,特に高級品の

歩留りを向上させることが重要であるが,袖弦戸,転炉,

次精錬,連続鋳造,圧延など数多くの工程を経て製品.が製

造されるため,改哲・の鍵を握る操業因子を特定することが

困難であるD.また,多品種少量生産を実現するためには,

原料・性状と製品仕様に合わせて操業条件を適切に切り替え

ていかなけれぱならない.ところが,その組み合わせが膨

大になるため,対応関係を表現するモデルのメンテナンス

が闇題となっている幻,田

半導体産業では,ベーキング,露光,現像,エツチング,

レジスト除去など一迎の工程が何皮も斜U)返して実施され

るため,最終製品を製造するまでに膨大な数の1程が必要

になる.さらに,各工程は複数の装置からなるため,個々

の製品の製造履歴は千差万別である.このような状況にお

いて,工程ごとに中問製品.特性を推定するバーチャルメト

ロロジーと,推定値に基づくフィードノやソク制御が必要と

されてぃるm).ここでもモデルのメンテナンスが大きな1剖

題である.装置内部への物質の堆祐や部品の摩耗によって

装置特性は時々刻々と変化する.さらに,掃除や部品交換

を行えぱ装置特性が急器気こ変化する.このような変化に適

応できるモデル構築技術の開発が求められている.

製薬産業では,近年, Rea] Time Relcase Testing

(RTRT)や QU.1北yby D郎ign (QbD)が注目されているこれは,中冏製品および最終製品の品質検査に代えて,品

質を製造プロセスで造り込むことによって,生産性を向上

させようという考え方である.製品試験による品質保証か

'- i"゛1、!士'仁1

Phys

その他

引

表1 ソフトセンサーの応用に関するアンケート調査結果

20

入IRA

256

32

モデル准築千法

PLS O.L. ANN

25

計測と制御第劇巻第9号 2012年9月号

293

整¥立

JIT

製品試験

Gray

10

計

331

86

20

Phys:物理モデル

重回帰分析入IRA

PLS Paltia11east squaresその他の嘉訂制四局手怯0.L .:

ニューラルネットワークANN

Just-1n・Thne モデルJIT

グレイボックスモデルGlay

混合

439

打錠

コーティング

原料

ら工程内での品質保証へというパラダイムシフトが起これ

ぱ,その結果として,図1に示すような,製品試験を省略

する出荷システムが実現される.このシステムがRTRTで

あり,そのメリットとしては,婁N舗式'験の省略によるコス,

ト削減,出荷までのりードタイム短縮,製造プロセスの改

善におけるフレキシビリティーの硫保,非破壊迅速分析技

術の適用による環境負荷の低減(製品試験で使用する溶媒

の削栃幻がぢえられる.ただし, RTRT を実現するために

は,プロセスの運転状態と製品品質を関述づけなければな

らず,運転状態をりアルタイムに監視する技術としてPAT

が重要な役割を果たす川,功.ここでも新しい製造技術の核

となるソフトセンサーのメンテナンスが重大な課題として

認識されつつある.

このように,産業によって製造プロセスの外観は大きく

異なるものの,複雑な製造設備を目の前にして,いかに製

品品質を推定し改善するかが解決すべき共通の課題である

ことがわかる.この課題は,いかに操業条件■製品品質を

結びつけるかというモデルイ踏支術の課題でもあり,現在,特

に重要性を増しているのが,プロセス4予性変化への対'応で

ある.顧客からの遍.質要求がますます厳しくなり,製品ラ

イフサイクルが短くなるなかで,モデルを構築してもすぐ

に使えなくなるという問題が顕在化している.

秤量

造キ立

受入試験

乾燥

整粒

混合

工程管理試験

打錠

原料

コーティング

秤量

工程管理試験

工程管理試験

工程管理試験

包装

製口

RTRT実現後の製造システム

包装

造¥立

受入試験

製品

従来の製造システム

乾燥

Real Tirne Release 丁estin目

(製品試験を省略)

吋"、'食才,

図1 製品試験を省略する出荷システム(RTRT)助製品試験による品質保証から工程内での品質保証へというパラダイムシフト

が起こるとき, Roal Time Rele舶e TO.tin区(RTRT)と呼ばれる新たな医薬品製造システムが誕生する

リアルタイムモニタリンク

&之ント

31509

2

ール

-D 5 0 0

00303

60006

41

5 0 0

U心81船

3.モデル構築に取り掛かる前に

実際に仮想計測技術を活用するためには,出力を推定で

きるモデルを構築する必要がある.現在までに多種多様な

モデル構築手法が提案され,どの手法を利用するかで推定

粘度が変化するため,関係者の関心はモデル構築手法に向

かいがちである.しかし,実際に仮想計覗嚇支術の実装を手

掛けたことがある実務者であれば,モデル徽築手法をどれ

にするかよりも,実用に耐えるモデルを構築できるデータ

を準備することの大変さを痛感していることだろう.実際

にモデルを構築するまでに,モデルの構築と杉斎正に用いる

データを選択し,外れ値を検出し,欠損値に対応、し一必要に

応じて変数変換を施し,入力変数を選択しなけれぱならな

これらの作業を疎かにすると,良いモデルを構築し、2〕,13)

するのは難しい.紙面の都合で,古典的なデータの前処理

について詐説することはできないが,実務者のために,外

れ価検出について書いておくことにする.

3.1 外れ値検出

外れ値を検出するために,3σ法が利川されるケースは少

なくない.3σ法は紗昂、1的プロ七ス管理(statisticalprocess

Con切01;SPC)のーチ重で,広く呉常杉汁Hに用いられている.

具体的には,監祝対象変数の正常時の平均をμ,標準偏差

をσとして,管理限界をμ士3σと設定する力法である.

変数が正規分布に従うのであれば,正常時に測定値がこの

管理限界を超える確率は0.3%程度であり,正常時にはあま

り起こらない状況と言える.そこで,測定値が管江里限界を

超えれば,異常が発生したと判断する.

しかし,そもそもデータに夕村1仙が含まれていれぱ,標

本平均は正常時の平均から大きくずれてしまう恐れがある.

加えて,標準偏差も過大に見積もられてしまう.このため,

3σ法を外れ値検出に利用するのは不適切である.

では,どうすれぱ'よいのか、まず,斗吐勺の代わりに中央値

(mod稔n)を使う.中央値はデータを大きさの順に並べたとき,中央に位置する値である、ただし,データが偶数佃の場

合には,中央に近い2つの値の平均とする.さらに,楞叫E偏

差のイtわりに中央部色丸N扇差(Nlcdian Absolute Deviation;

MAD)を用いる.変数認の MAD は

( 3 )

、ぐ

,瓢蚕恕蒸イニタ写二・駐芋4二tL焦.写.翻闘念

上限(+3σ)

0

図2 30・法と Hampe11denti負er の比較外れ値検出には,管理図で馴染みの 3d 法ではなく, Hampe】1denti負e"を用いることを勧める.

2

含む 10 点のデータに対して,3σ法と Hampe11dentiael

を適用した結果を図2 に示す.その差は明白であろう

データが中央価を中心にランダムにぱらついている場合

には,データ全体に Hampe11denU負er を適用することで

外れ値を検出できる.しかしそうでない場合,変数が非定

常に変化しているような場合には,うまく外れ値を検出す

ることができない.このような場合には,平均の代わりに移

動平均を用いるのと同様に,移動窓(movingwindow)を利用して,着目しているサンプルの前後 1く点,合計 21<+1

,点のデータから中央値と MAD を求め,(2)式を管理1堤界として適用する.さらに,外れ値が検出された場介には,そ

の外れ値を中央値で置き換えることで,欠損値に対応する.

この方法は HalnpclFilter と1呼ばれ,右用性の高い方法と

して知られている、窓幅の訟N甕パラメータ k を適切に選

択する必要があるが,i制強的に 3~5 でよいとされる狐).

中央値は,大きい力と小さい方の双方から順にサンプル

を削除していったときに最後まで残るサンプルの値である.

より・・チ投的にはトリミングと1呼ばれるブ"去があり,大きい方

と小さい方の双方からある割合のサンプルを削除して,残

りのデータから平均や標準偏差を求めることもできる.も

ちろん,標準偏差のようなバラツキをトリミングで求める

場介には,なんらかの補正が必要になる,

32 多変数の外れ値検出

上述の方法で,個々の変数について外れ値を検出し,外

れ値をもっともそうな値に置き換えることができる.しか

し,多変数系の異常検出を行う場合に,旧来の一変量を対

象とした SPC が必ずしも有効ではなく変数冏の相関関,

イ系を考応:できる多変1赴示允創'的プロセス管1里(N1111tivaTiatc

SPC; MSPC)山が適用されるのと同様に,外れ値検出に

おいても,変数間の相鬨関係をぢ慮する必要がある.

MSPC では,主成分分析(PTincipalcompona北 Anal・

y瓢弐PCA)による次元圧縮を実施した上で,主成分で張られる部分空問とその直交補空問を独立に管理する.主成分

で張られる部分空問については, T2 統計量

4

上限(+3MAD)

6 8

3σ法

I Harnpel

10

NIAD

で定義される.この式では,変数工が正規分布に従う場合

に, MAD が標準偏差に一致するように,1.4826 を掛けて

いる.平均と標進偏差の代わりに中央値とMAD を用いる

と,3σ法の管理限界μ士3σは

1.4826median(ルー median(エ)1)

nwd捻n(⑲士3MAD

と置き換えられる.これを管理限界として外れ値を検出す

る力法は Hampe]1dentiaeτと呼ばれるM〕.外れ値 1点を

計測と制御第51巷第 9号 2012年9月号

( 1 )

( 2 )T2

による管理が有効である.ここで,の,は第 r 主成分得点t,の標準偏差であり, T2 統計量は主成分が張る部分空問

、、,,キ'

2 T 2 t

t σ

H =

残差

正常運転領域

Qによる検出

/

第2主成分

ノー

図3 多変量統計的プロセス管理(MSPC)多変数系の異常検出を行うには,主成分分析による次元圧縮を実施した上で、

T.統計量と Q 統計量を監視する.

での規格化された原点からの距雜の二乗,つまりマハラノ

ビス距籬の二乗である.一方,画交補i空周については,残

差から計算される q統計量

ノT2による検出

第1主成分

T2

管理図

.

...

.

Q

...

...命

を用いて管理する.ここで,えは測定値べクトルωを主成

分が張る部分空闇に正g、1影したべクトルである. q 統H卞呈

は二牙E予測i呉差(squared pNdiction En'OT; SPE)とも肝'ばれ,データのうち,主成分では表現されない部分を表わ

す. T2 統訓量と Q 統計量を同時に監視し,いずれかー'方

でも管理限界を超えた場合に異.常と判定するのが,基本的

な MSPCの考え方である.この概念図を図3 に示す.

多変数系の外れ値検出にMSPCを利用する場合,3σ法

を外れ値検出に利用する場合と同じ問題が発生する.つま

り PCAに必要な共分散行列あるいは相鬨行列の訓■1は,

タ村1位の影郷を強く受けてしまう.そこで,入力変数の平

均を0に標準偏差を1に変換する標準化を行う際に,平均

と標準偏差の代わりに中央値とMAD を利用し,その上で

PCA を実行する.

さらに,外れ値の影郷をできるだけ排除して共分散行列

や相関行列を求めるには,そのロバスト推定を行う必要が

ある.これまでに多くの方法が1是案されているが,大別す

ると,行列の要素ごとに推定値を計算する方法と行列全体

の推定値を計僻.する方法とがある.後者はさらに,変数問

の相関を考慮するためにマハラノビス肝剃tを用いて,中心

から遠いサンプルを削除(トリミング)する方法と距雛に

応じて重みを付ける方法に大別される、変数の数に対して

サンプル数が少ない場合には,サンプルを削除せずに用い

る方法が望ましいとも言えるが,極端に外れた値に推定値

が大きく景鉾斧されるという欠点がある.

PCA を用いて変数問の線形な関係を捉え,次元を圧縮

するために,高次元データを安定して処理するために,そ

して計算負荷を低くするために, MUHiV町iate Trimmin菖

(NIVT)力斗是案されている功. MVTでは,平均と共分散のロバスト推定値の創・算,マハラノビス距航の計算,距航の

大きなサンプルの除去(例えば全体の 10%)を繰り返す.

外れ値検出やロバストPCAについては,より複雑な方法

が多数提案されているが,まずはここで紹介したHampel

nlt田やMVT を実路郭こ使うことが第一歩であろう.数十

年前の古い方法ではあるが,現場のデータ解析に新規性は

必ずしも必要でない.

4.変数選択

それでは,モデル構築に用いる変数をどのようにして選

択するかという変数選択に話を移そう

4.1 従来の変数選択手法

最も一般的な変数選択手マ去は,重回帰モデル構築時に利

用されるステップワイズ法であろう.このプ"去では,回掃,

係数の真値がゼロであるかどうかを F検定しながら,最も

重要な変数の追加と最も重要でない変数の削除を糾山返す.

正則化最小二乗法に分類される LASSO (Le舗tAb脚Iuto

Shrinkage and selection operator)回究小8)では,阿1婦イ系数の絶対値の和の定数倍を目的変数に加え,あるいはその

和に上限制約を設けて,残差平方和を最小化する.この方

法を用いると,いくつかの回帰係数がゼロになりゃすいた

め,この件質を用いて変数選択ができる.

変数選択は組合せ最適化問題であるため,遺伝的アルゴ

リズム(Genetic Alg01北1〕m; GA)を用いた方Υ去19)も多委女提案されているが,入力変数の数が多い場介には計算負荷

が問題となる.

産業界での利用実績が多いPISを対象とする変数選択

手法には, PLS、Beta法, VIP (variable l]nportance f01

the projection)t去, SR (selectivity Ratio)1去などがある.PLS、BetW法では, PLSモデルを重回帰モデルに変換し,そ

の回河・係数βの大きさに基づいて入力変数を選択する刈.

VIP法では,入力変数が潜在変数および出力変数にどれだ

け寄与しているかを表わす指標VIPに基づいて入力変数を

選択する即). VIP の平均が1であるため, VIP が I D、上

の変数を選択する力法が提案されているが,経験上,高い

精度を実現するためには調節が必要である. SR法は,入

力変数が潜在変数の線形結介と誤差で表現できることに着

目した変数選択手法であり,入力変数の分散のうち潜在変

数で説明される部分と誤差で説明される部分の比に基づい

て入力変数を選択する羽.

42 NCSC・VS

上述の手法はいずれも入力変数を個別に評価する方法で

あるが,ここでは,入力変数を複数のクラスに分類し,ケ

ラス_単イ立で1父捨選才尺を1丁う NCSC 匹"変委女1巽ガt法(NCSC・

based variable selection; NCSC・VS)詑)を紹介する、入

力変数のクラス分類に相関識別スペクトラルクラスタリン

グ(NCSC)御・.町を用いるため,このように呼ぶ. NCSCは,変数問の相関関係を指標としたパターン認識手法である

相関i哉別(Nealest Cの1でlation; NCン法部)と,重みイ寸きグ

.

.

.

.

.

.

.

.

計測と制御第51巻第9号 20桧年9月号

( 4 )q= m-

.岳』1子、

2

)P

<認

P =

A

表2 推定精度に基づく変数選択手法の比較

全変数PLS

PLS、Bcta

VIP

SR

ステップワイズ

LASSO

プロセス知見

NCSC、VS

R入ISEP

ラフの分割法であるスペクトラルクラスタリング(SPCC訂'al

Clustering; SC)2田を才且み合わせた手法であり,元牙ιは,変数問の相関関係に基づいてサンプルをクラス分類するため

の力法である.

NCSC、VSでは, NCSC を変数のクラス分類に応用する.

そのために,まず, NC法を用いて,変数間の相関鬨係の

強弱を定量的に表わす類似度を算出する.つぎに, SCを用

いて,変数をノード,類似度をアークの重みとする重み付

きグラフのアークを巧妙にカットすることで,グラフをサ

ブグラフに分割する.この結果,変数をその相鬨関係に基

づいて複数のクラスに分類できる.その上で,クラスごと

に,そのクラスに属する入力変数のデータ行列からモデル

を構築し,そのモデルの出力推定への寄与率を求める.最

後に,寄り,率の降順にクラスを必要なだけ選択し,選択さ

れたクラスに属する入力変数をモデル構築に用いる入力変

数とする.以上がNCSC、VS の概要であるが,子肖羽につい

ては文献22)を参照していただきたい43 実データを用いた比較

実プロセスにおけるソフトセンサー設計を通じて, NCSC・

VSと従来法との比較を行う.対象プロセスは昭和電工株

式会社大分工場のエチレン粕留塔であり,製品エチレンに,

不純物として含まれるエタンの濃度を推定するソフトセン

サーを設副'する").測定されている 33 変数について,プ

ロセス耐川判生を老應するために現時刻の測定値に加えて 5

分問隔で妬分前までの測定値を入力変数候補とした. 、^

の結果,入力変数候補の数は 330(= 33× 1のである.NCSC、VSおよび従来法による変数選択結果に基づいて,

エタン濃度を推定するソフトセンサーを PLS によって構

築し,その推定性能を比較した結果を表2 に示す、表中,

RMSEP(Root N1田n sqU釘e ENω ofpNdktion)はM爺正

用データを用いて求めた予測誤差, Rは重相関係数,#V田

は採用した入力変数の数,#LVはクロスバリデーシヨンで

決定した潜在変数の数である.比較の基準となるのは,す

べての入力変数を用いて PLS モデルを構築した場合(全

変数PLS)である.つぎに,このPLSモデルに基づいて,

PLS、Bet且法, VIP 法, SR法によって変数選択をヲ討厄し

た.また,ステップワイズ法と LASS0 回帰による変数選

択を実施した.さらに,プロセス知見より170変数を選択

し犬t").

26,フ

24.8

36.4

34,0

26.8

26.8

23.1

17.0

R

0.88

0.88

0.83

0.74

0.88

0.89

0.88

0.93

ヲ芋＼ノ、al

330

98

29

176

172

208

170

214

#LV

43

25

114

41

43

49

40

33

プロセス知見による選択, PLS・Beta法,ステップワイズ

法, LASS0 回帰では,全変数PLS と比較して入力変数の

数を削減できたが,予測性能は大きく違わない.また, VIP

法とSR法では予柳打生能が低下している.ーブ丁, NCSC・VS

では大幅に入力変数の数を削減できていないが,最も高い

推定性能が達成され,全変数PLSと比較してRNISEPが

36%減小した,さらなる検証が必要ではあるが, NCSC、VS

は有力な変数選択乎法になると考えられる.

5.メンテナンスフリーなモデルの構築

アンケード調査結果からも明らかなように,仮想計測技

術に関する重要な課題はモデルのメンテナンスである.プ

ロセス特性変化に対応する方法としては,低頻度で得られる

分析値との誤差で予測値を補正するバイアスアップデート

の他に,逐次型アルゴリズムを用いる力法と Just、1n、Time

モデリングを用いる方法がある.逐次型アルゴリズムの課

題は,モデル更新に利用すべきデータと利用すべきでない

データの判別である.たとえば,非常に安定した運転状態

が継続している期問のデータでモデルを更新してしまうと,

わずかな変動にも対応できなくなる恐れがある.このため,

単絲屯に新しいデータに適合するようにモデルを更新すれば

よいというわけではない.妓初にモデルを描築するときと

同等の注意深さをもって,モデル更新に用いるデータを選

別しなければならないが,これを自動的に行うことは難し

い.さらに,逐次的にモデルを更新する方法では,どうし

てもプロセス特性の急激な変動に対応できない.このため

たとえぱ,半導体製造装羅のメンテナンス前後の特性変化

に逐次刑アルゴリズムで対応するのは困難である.

本章では, Just、1n-Time モテ'りング8),0) 28),2のの・・一手亟

であり複数の産業分野で応用が本格化しつつある局所,

PLS(L0鳳ⅡywoightodpLS; LW・PLS)にっいて解説する.5.1 局所PLS

Just・1n・Timeモデリングでは,あらかじめモデルを構築

しておくのではなく,入力変数の測定価(クエリ)が得ら

れ,それに対j心する出力変数の推定値が要求されるたびに,

クエリに近いサンプルをデータベースから選択し,選択し

たサンプルを用いて局所的なモデルを構築し,推定を行う、

局所的なモデルの構築に線形回帰を利用する方法を局所回

帰と呼び,特に線形回帰手法としてPLSを用いる局所回帰

が局所PLS である.

クエリに近いサンプルを重ネ見して局"袖勺なモデルを1茸築

することがJust、1n、Thne モデリングの特徴であるが,ク

エリに近いサンプルはモデル1蒋築に利用し,遠いサンプル

は利用しないという三者択一・的な方法の他に,図4 に示す

ように,クエリへの近さに応じてサンプルに重みを付ける

方法もある.局所PLSは後者であり,重みの付け方を工夫

することで推定性能を向上させることができる.

局所PLSのアルゴリズムを上1、下に示す.入力変数翻机と

計測と制御第51誉第 9号 2m2年9月号 'ぎ4玉.'色

、、'111三写'Y /"¥"

イ

气,

<,气ミξ

1.、1'1ξ

qT

y,=γ一 INW上地,・・・,hl

[エ.■.,・・・,*N}^^^

ωm 1q

NN

■,*Σ"゛,,/Σ",η"=1",=1

N N

何1 =ΣDωれVη1/Σ二ωπ (12)η一1η^

ここで,1N は 1のみを要素とするⅣ次元べクトル

である.重み付き平均による中心化に加えて,必要で

あれぱ,重み村き標準偏差による標準化も実施する.

0 ={血,加,・・・,山IT とする.入力 X の第 r 潜在変数を求める.

t,= X,U},

ーダ

(13)

(14)

X、=X-

亀

.

クエリ 入力

図4 従来型の線形回帰と局所回帰の比較

局所PIS は局所回帰の一種であり,クエリに近いサンプルを重視して局所

的な PLS モデルを構築する.

出力変数統の第πサンプルを

認,=[■ル"み辺,・" 1,U} ( 5 )

ν,= b/,小V心"',1ノ心1 ( 6 )

とする.ここで,ハ1,しは入出力変数の数,πはサンプル

数である.これらのべクトルを第",行とする入出力変数行

列を X E 況N幻V およびy E 況Ⅳ"しとする.

局所PLS では, X とγをデータベースに格納してお

き,クエリ影に対応する出力を推定するたびに,クエリ影

とサンプル影,の類イリ、度ωπを求め,その類似度でサンω

プルに重み付けをして,局所的な PLS モデルを構築する.

具体的には,出力推定価力を以下の千・順で引'算する.

1. PLS の潜在変数の数を R とし, r = 1 とする.

2.類似度行列Ωを計算する.

Ω= diag(ω1,ω2,・・・,ωN) (フ)

なお,類似度ωηの設定方法は後述する、

3.中心、化を行い, X力 y力認q1 を求める.

三力則と制御第 51巻第9号 2012年9月号

'^、』、^

'シb÷

' J、^J

,、イ」、^

、J?_/j '

,'う子ノ1

.゛..゛.

線形回帰モデル

゛、ノ

え牙、ψ会

ず、

'.島毛'1;'j

.J

=

゛....,

、§、

ノ

'、,

,ノ

人ノN'

,ノ

j祈回帰モデル1

(ω,一ω。)Te(記,- m。)

ここで, W,は XTΩy,yTΩX,,の最大固有値に対応する固有べクトルである.

入力 X トルと,ア゛夫一ぢ5r 口ーデイングベク

数から出力への回帰係数べクトルを求める.

(15)

ー・ーー)

き染,

フ.クエリ

PT

8、推定値 0 を g + tq.,q,で置き換える、9.r =究であれぱ副・算を終了する.そうでない場合には,

(1のXr+1 = X,- t,、P,、

(17)y,+1 = y,- t,q,

(18)tqlpra}q,T+ 1 ^しむq

を計11する.

101= r+ 1 として,ステップ5 に戻る.

ステップ3 では,原点をクエリの近くに置くために, X,

γ,ωT の各列からその靈み村き平均を引いている.5.2 類似度の設定

類似、度をどのように定義するかは,局所PLSの推定性能

に大きな影郷をりえる.ここでは,茗者らの研究グループ

で検討を進め,実用化もされている類似度の設定方法を述

べる.

基本的には,クエリのに近いサンプルほど芽H以度を大

きくすれぱよい.ただし入力変数の重要陛は・一様ではな,

いため,単.純なユークリッド劉"堆ではなく,重み刊きユー

クリッド距雜を用いて,類イリ、度ωπを定義する、

m の第 r 潜在変数を求める.

θ= d稔g(θ,,θ.,・・・, eu)

ここで,σ'は距雜{d0 の標進偏差,θは重み行列であり,その要素θm は第m 入力変数に対する重みである.局

所化パラメータ W を小さくすると,クエリからの距籬が

長くなるにつれて類W、度は急速に低下し,逆に大きくする

と兆及慢に低下する.なお,ψ=Ⅸ)という極端な場合には,

1となりすべてのサンプルに対する重みが1となωπ ,

る.このとき,局所PLS は通常の PLS と一致する.した

がって,局所化パラメータを適切に調整すれば,局所PLS

はPLSと同等かそれ以上の推定性能を実現できる.

53 さまざまな類似度と産業応用

類似度の最も単純な設定方法は,重みを付けない,つま

りθm = 1 とする方法である.この場合,θは単位行列

dη

Y1 、、

t r

ΩΩ

T T T T

y t,

7

t r

ΩΩ

K4

一.

一.

一.

6

rWT仏

ωTrq

t

)))

9 0 1

(((

7

ノ

45

R訊

武、L

、、」 J

/J 、

))))

8 9

((((

となり,距酢 dπとしてユークリッド距籬を用いることに

なる.また,θを共分散行列の逆行列とする力法もあり,

この場合,距航 dπはマハラノビス距離になる.あるいは,

類似、度を設定する代わりに,クエリに近いサンプルはモデ

ル構築に利用し,遠いサンプルは利用しないという二者択

一的な力法もある.これらのような単純な方法が,局所回

帰モデルを含む Just・1n・TilnC モデリングの研究において

検討されてきた'

しかし,類似度を工夫することによって,推定性能を向

上させることができる.たとえば,茂森ら勘・山は,全サン

プルを対象とした重回帰モデルの回帰係数の絶対値を重み

em として用いる方法を提案している.提案法は,品質制

御システムおよび品質設計システムに組み込まれ, JFEス

チール株式会社西日本製鉄所における鋼板の材質制御およ

び幅寸法制御への適用を通して,その有列1性が示されてい

る.開発された品質制御システムでは,構築した局所回帰

モデルに基づいて,すでに実繊値が存在する前工程の情報

から,これから操作する後工程の最適な操業条件を決定す

ることにより,品質不良の発生りスクを低減すると同時に,

これまで余分に投入していた原材¥斗・エネルギー・惜H剖を

削減することに成功している.さらに,従来はスタッフが

行う必要のあった1澎大なモデルバラメータテーブルのメン

テナンス作業の負荷を大幅に低減し,従業員満足度の向上

にも大きく貢献していると搬告されている.

類似度を1夫することで,さらに推定竹清をを向上させる

ために, Kim et al.即)は,局所PLS モデルの回帰係数の

絶対値を重みθm として用いる方法を提案している.,オ本

的には,1)θを単位行列,つまり dπをユークリツド距

航として局所PLSモデルを構築し,2)得・られた回帰係数

の絶対値を改めて重みθm として局所PLSモデルを構築

し,3)再度この手順を繰り返して,得られた回帰係数の絶対値を重みθm として局所PLSモデルを構築する力法が

提案されている.第一三共株式会社における医薬品製造工

程の 1つである混合工程を対象に,局所PLSと統制泊り波

長選択を果則筵中原薬(Active pharmaceutica11ngredient;

APD の含量推定に適用し,それらの有劾1性を検証している.そのために, AP1含有量を変更したヲ郡強を行い,計18

ロツトを酋新荷し,そのうち 16 ロツトの近赤外分光法(N田ト

In丘ared spectroscopy; NIRS)を用いてイ金量市泉をイ乍成し,残り2ロットのデータを用いてモデルの検証を実施してい

る.スペクトルの前処理には一次微分と StandardNonnal

V肌i肌eを利用し,従来法(PLS十従来波長選択)と提案法

(局所PLS十統計的波長選択)とを比較した結果を図5 に

示す.両者の RMSEP はそれぞれ 1.84 と 1.13 であり,提

案法により予測誤差が40%近くも減小したと報告されてい

る.この改善効果は顕著であり, PAT ツールとしての局所

PLSへの期待が高まっている.

この他にも,局所PLSの医薬品製造プロセスへの適用争

従来法(PLS十従来波長選択)提案法(局所PLS+統計的波長選択)105

100

95

0,60

90

0

0

90

図5 混合工程における穎粒中AP1含量推定結果刈

従来法(PLS+従来波長選択)と提案法(局所PIS十統計的波長選択)を比較した結果,提案法により予測誤差RMSEP が40%近く減小した.

RMSEP = 1,84

105

95 100

実測値[%]

95

10590

.

90

^

0

RMSEP = 1.13

95 100

実測値[%]

図6 CMP プロセスにおける研磨レート推定結果訟)

局所PLS の適用により,非常に良好な推定結果を得ることができた. PLS

に比べて局所 PLS の予測誤差RMSEP は 25%小さかった.

゛

105

[

例がi服Pテされている、 Nal[agawa et al.31)は,婁1造i艾例i洗

浄後の残留薬物量を迅速測定するために,赤外反射吸収分

光t去(1nfrared-Reacction Absm'ption spcctroscopy; 1R・

RAS)と局所PLSの有用性を検証している.その結果,重

みθ机として対象物質のスペクトルを前処理した価を用い

た場合,局所PLS の適用により, P上S と比較して残留薬

物墨の測定精度が如%近く改善したと蛾告されている.

他産業への適用斗H列として,平井ら昭)によって,半1斬本

のイヒ学機1戒イ湃磨(chemica1 入lechanical polishing; CNIP)プロセスへの適用事例力苛長告されている. CMP プロセス

は機械的消耗部品が多いため,メンテナンスへの対策を講

じる必要性が高い.ソニーセミコンダクタ株式会社のCMP

プロセスをヌ寸象として, VIP を用いて入力変数を選択した

上で,研磨レートの推定精度を杉薪正したところ,図6 に示

すように,局所PLSの適用によって非常に良好な推定結果

を得ることができた. R八帰EP を指標とすると, PLS と比

較して25%の改善,重回帰分析で局所モデルを構築する局

所回帰と比較しても 10%の改善が硫認されている.なお,

この半・例ではθを単位行列としている.

実測値

局所PLS推定値

rフェノ、^

計測と制御第 51巻第 9号 2012年9月号

6.おわりに

高品.質製品を安定生産するために,仮想計測技術は有用

である.本稿では,メンテナンスフリーを目指して開発が

進められている局所PLSを中心に,モデル構築方法と産業

応用事例を紹介した.しかし, JⅡSt・1Ⅱ・Tilneモデリングで

J二,,.

.

.

00至埋員玲

キ

至埋憂際

ι1△惚叢

§ Π 必 小 田 ! 、 え ー メ S 拙 竺 辻 禁 必 代 、 意 璽 、 蔓 警 S

鴫 陣 三 三 《 演 浩 4 入 墜 慮 弄 甑 f . 二 § 耿 ふ π N <

8 酬 塗 謡 郵 差 熱 当 π 浬 黒 融 ず ゛ 、 小 S 悪 畿 心 泌 迎 会 n 胃

一 ) 誓 鳥 熱 叶 必 小 臼 化 " 遵 尋 仁 《 ぐ ふ .

イ「

( 零 昆 令 卸 辻 器 立 際 え )

一 } ソ 一 . ズ 旦 0 旦 ル く . Z 告 冨 羽 P 乏 塑 ご = - P , W 易 ル 区 勺 Z R 誘 ミ 0 三 § ,

三 四 勺 § ● 訟 δ 0 昌 0 一 一 倉 ル C 旦 三 一 ヨ 又 0 ぐ ■ 昌 Φ 昇 工 ● § 一

辻 売 ぐ 含 0 勺 ヨ 倉 誘 言 ル ン 勺 三 § 弐 0 誘 ヨ m 一 零 二 温 易 ヰ X ら こ ミ ミ

亀 § . 、 昼 還 、 伽 N 霜 ＼ ゞ 命 8 伽 )

ゆ 〕 勺 、 ズ N ル 一 B 則 . n 曾 g - m 言 斗 m . m ヰ 曾 今 一 ご 昇 平 今 マ 含 m 0 才 m ● 〒

m 0 誘 昔 芽 ● 勺 3 容 誘 一 豆 易 = ヌ n § 選 ミ . ら ミ 君 . 、 還 = や W g

誤 ＼ 伽 = ( 巷 号 )

鯉 三 謹 一 く 二 門 Y キ f s + 籍 ・ 健 ヨ 、 毒 、 き 窒 玉 = 、

§ ＼ ゛ 零 ( N 呂 伽 )

ど 女 一 電 六 ● 1 禽 曼 」 嵯 ↓ ゞ 訂 { + π " 小 陰 . 霊 議 詩 1 C § π ゞ

戸 ぽ 三 武 塗 門 π = 艮 ニ サ § 1 ＼ 喜 ＼ 三 声 父 伽 0 ＼ 器

( 谷 S

包 芸 聖 ゞ 口 ● メ 騒 禦 § 票 陛 断 . 1 勺 登 S 共 ヲ 武 兼 '

、 郡 瀦 δ 、 晶 二 一 0 ＼ 弓 ( 谷 E

巳 妄 誰 重 、 立 咲 愈 寒 寿 漣 恥 ゞ 口 辻 X Y X { 卜 H 怯 § 余 讐

埒 逼 1 勺 や Ψ ＼ ゞ Z O . 暗 一 煮 ゞ 口 辻 X 萎 π 画 4 小 ↓ Y 守 1

一 武 誰 慈 寺 ( 谷 呂 )

S ン ニ < 言 0 曾 〕 五 三 . 0 加 壁 貫 ↓ ず ● 仇 亘 ● 0 { 牙 ● ン ニ 三 9 ● ヨ ぢ 己

勺 3 容 誘 δ 0 = = 0 一 三 」 P 勺 曾 一 n o C 五 勺 唇 凸 二 9 P 区 ρ 仁 吊 = C 言 昌 '

m 三 匡 、 . 、 § . ら 0 ミ . 、 N 9 C 亀 ＼ 拐 N ( N 昌 S

伽 ) 際 券 淫 、 急 戸 女 、 蒼 戸 二 、 茎 、 知 墜 一 一 風 昆

州 田 や 舟 ヨ C 汁 遵 § 煮 喜 、 巨 再 亘 範 玲 、 支 洪 、 忠 、

器 い ＼ 器 叩 曾 易 )

口 ) = . m 三 鴨 ヨ 0 ニ シ 一 . ズ 冒 C 言 含 m . 工 易 ● ず 宍 C 三 ヨ = a C 長 一 三

口 Φ 巴 映 = m 玉 ● ヨ 一 又 m 零 区 勺 3 ル 暑 岳 牙 3 邑 〕 一 o g = ¥ 乏 念 ⑩ 一 二 豊

§ 区 9 シ 、 - 0 旦 、 . 、 § n ミ . 、 曽 、 悼 器 ＼ § ( W 念 ご

- 9 ご ア 月 男 一 ＼ ＼ q 1 寺 怯 芋 田 ミ X π 竺 一 小 0 イ ー 才

寺 ニ ロ ロ Υ 塑 壽 注 C 汁 辻 索 斌 壁 当 S M 望 F 二 + <

い く 勺 鴬 羔 、 段 、 易 W ＼ 邑 ( 悼 暑 C )

= ) 妥 三 、 言 謹 一 愛 難 添 ゞ 口 門 X S 芋 文 化 一 淀 1 決 1 、 巡 腫 ↓

ゞ ロ ー { 才 S 湛 尋 、 Y X 一 卜 亘 邑 ＼ 、 一 釜 、 般 、 号 ＼ 三 ( 竪 S

昆 ) 曾 謬 、 ÷ 三 二 磐 郵 涯 際 ゞ 口 門 X π 辻 q 獣 墾 至 、 畔 S こ ↓

寺 込 へ ト 罫 譜 、 q ル ニ H Y 丈 い ξ こ Y ＼ 器 、 ● ＼ = ( § ご

] 巴 如 . 昼 , 則 . ア 魯 寄 L . } < . エ , 一 < 言 ル m 含 冒 ル m . 影 . 〕 0 詣 含 器 卦 ン

m て m 月 昌 牙 ン 勺 又 0 爲 ミ 又 m 0 才 仇 曾 功 又 U ● ぐ ● 一 0 で ヨ 含 二 一 ら § ,

、 ミ . ら § . 、 選 ξ 、 曾 、 心 三 ＼ 令 誤 ( N 呂 ご

一 ど 司 . 戸 = 帥 ヨ 勺 Φ 一 一 一 牙 一 = 昔 含 9 n 三 各 冒 会 一 詰 コ 0 = 三 = 0 ず 易 一

則 里 一 ヨ 昌 ヨ . 、 . 》 ミ メ ⑦ § 乳 ミ ミ 諭 § ' の , 器 W ＼ ω 論 ( 一 W ご )

一 包 = . マ 魯 岳 0 共 m n 仁 ご 口 P g 三 牙 m 9 - ? 三 岳 二 伊 具 Z C 三 三 魯 一 ' 口 一 鵬 ,

亘 暑 § 、 智 之 ゛ メ ミ 謎 命 §

邑 烹 二 一 ゞ 口 門 X 守 州 二 こ § π " 小 談 武 ゞ 口 辻 二 ゛

§ 1 ＼ 喜 ＼ 一 瓢 心 即 一 歌 ＼ 言 ( ぎ 邑

三 m 、 ロ . < = = 印 豆 戸 n = 郡 ミ 余 = 参 共 如 0 ず 易 一 局 m 二 券 登 0 = 又 立 〒

で 売 邑 0 塁 7 一 昇 昌 § 曾 区 勺 昌 X 昔 か 一 n 0 ヨ で 0 = 売 ヨ m . 、 . 》 = § . 仏 ミ ,

§ ミ 晋 § ' 器 、 誤 心 ＼ 器 W ( ] 腸 ご

易 ) 如 . ↓ 子 物 三 唇 三 一 = ● ⑩ 言 m 忠 号 m ず 二 髭 冨 鈎 ● 少 ミ m ● 一 舟 R 5 二 三 当 一 牙

廿 器 m タ 、 . え . 山 § . 山 R . 驗 § 零 吻 山 § . > 、 ミ 0 武 0 ~ : 伽 伽 、

醤 ↓ ＼ 器 伽 P 器 3

- C ) 7 一 . ン 唇 百 美 郡 . < . く 伽 ヨ 少 m 烹 一 = = ミ 一 ハ . 剛 仁 = N - m 突 n 含 ● 牙

ン 一 卯 0 ヨ ず ヨ , ケ N 仂 霊 乏 貸 色 含 ⑩ g m 巴 ● & 0 = ご n ヰ 5 ル 一 9 m 勺 曾 = 紅

9 一 子 三 § 、 、 . 9 § § § g N 卸 、 岩 ＼ 一 ゛ ( W a s

M こ ) 一 . n . n 一 〕 0 = 伽 少 塁 合 δ 、 一 一 . 」 言 一 勺 含 . { 又 ヨ 冒 R 0 { m 0 ヨ ● く 少 二 ,

昌 = m 区 含 ご 0 = ン 一 血 牙 0 身 一 て ず 曾 プ 一 仁 = 片 0 - = = g 二 選 一 m ■ 】 ' 器 具

一 で こ . 一 = 、 三 ミ ニ 三 三 三 一 二 三 三 三 三 三 毛 モ 三 三 三 竺 一 一 二 二 三 「 一 三 三 三 三 三 三 三 三 三 三 三 三 三 子 ' . 、 「 三 三 三 三 三 三 三 三 " 三 二

峠 將 軌

Q § § . § ミ . ト 魯 . 山 三 . 、 謂 § ＼ 昌 § ご

§ ↓ . = § 一 郡 亘 戸 > 三 § ] . ⑳ n 、 一 . m . 煽 魯 ぐ 含 五 . ズ ' 三 . ン 三 牙 、

抑 . 〕 . 三 三 置 冒 ル 0 . Z . ズ 邑 = 含 牙 競 製 0 三 貸 オ 舎 ご 易 8 く 企 一 三

マ = 誘 m 勺 曾 = 註 勺 3 き 吊 g Z 容 易 又 m 区 含 牙 三 = 然 5 勺 一 又 、

Q § § . ~ 蔀 ミ . ト 思 . 仏 三 ; 累 、 誤 ＼ 易 ( N 号 ゛ )

舘 ) 霜 詞 輪 戸 当 謹 一 ゞ 喜 魯 必 く 二 ● Y キ 声 晢 汁 S S ン §

禽 陛 、 邑 殴 三 害 憾 ゛ 釜 智 讐 汁 玲 、 鴛 @ 昆 )

器 ) 一 < . 司 ε 三 貰 印 、 7 一 . 一 < N 言 瞥 昌 ル m . 工 窃 ゆ げ 虫 ご 売 く ● 一 0 又 昂 含 一 0 {

n 又 容 一 昇 一 C 〒 ケ 易 0 五 △ 一 易 言 二 ご 仭 三 含 一 〕 o n 当 区 = m ン 毛 一 片 昇 § 二 0

m 0 才 乏 巽 ● m ● 昂 三 四 n ン § § . ~ 郡 区 . ト n ~ 、 . 畠 黒 . 心 一 晶 ● ＼ 晶 伽

( § 巳

ゞ ) 一 < . 司 ε 冨 貿 = 、 7 一 . ズ 言 0 号 区 m . 工 易 ● ず 売 一 δ 0 二 企 P = 0 〒 ず 器 ● ル

m 又 又 亘 9 易 零 二 晶 § 三 兵 子 一 売 勺 巻 月 訟 ン 一 0 三 § 三 四 、

、 § 9 ミ . 、 曽 工 器 ＼ 一 念 伽 ( 竪 S

誤 ) ズ . 子 〕 男 倉 . g プ 、 一 . ズ 少 = 0 冒 ル m . 工 易 Φ ず 典 ご 9 三 0 寸 ヨ 雪 一

0 { 心 0 二 巴 昌 0 = , 如 易 & ヤ 少 井 含 = 工 § 伽 ヨ 牙 = ン 一 姻 0 二 昔 ヨ P 盈

ン 五 § 一 く ● m 0 才 , m Φ 易 9 口 ● 誓 鵬 , 9 ミ ミ 画 還 . 力 a R . 、 N こ

§ ＼ W 謎 ( N 昆 )

N ユ ) n l . C . 口 三 伽 . = . X 一 ミ 含 映 、 N . 一 § 暖 = 1 n . 7 一 三 的 冒 ル

= . ご . m 一 ヨ 0 曼 ン 冨 三 シ 一 P X △ 巨 ン 一 伽 9 喜 三 一 又 9 旦 ] ガ 貸 辻 '

一 ぢ ヨ = 映 目 ル ロ 昇 郡 δ 一 一 易 一 含 ヨ 四 ~ 語 、 ~ ミ 、 ~ ら 0 ミ . 辻 § ミ 言

m ぎ 、 § ( N 8 ご

§ = . 一 < 少 ヨ 0 一 亘 P 、 ン . ↓ 島 昌 昌 三 . ↓ 暫 哥 今 7 一 . 一 < P = 0

m . 出 器 0 ず ● 貸 ズ ニ . 工 勗 三 ヨ 又 0 一 勺 一 d ル 仁 又 ρ 三 = 選 国 m 昔 昌 含 号

言 ユ C 七 含 亘 三 伽 δ 0 豆 三 倉 マ 一 0 三 8 昌 映 一 又 一 ミ 易 ヰ 亘 導 三

一 § = . § 0 旦 0 グ 、 . 亀 § . 画 選 . § . 魯 ゛ 謁 ＼ ▲ N 伽 爲 0 0 ど

N 伽 ) 畢 1 、 奨 ミ 瓢 二 禽 田 { 二 蓄 二 d 《 亘 一 二 堂 煮 州

゛ ' Y ご ミ 喜 一 霽 登 三 或 哥 X 景 , 伽 μ 鐙 d 譲 二 器 ご

§ 嚢 、 註 L 易 工 〒 ↓ 一 言 急 様 ゛ ' Y ゞ S 当 C C ゛ 染 ル 小 S 浜 灣

太 二 ↓ く ゞ 小 き Y P 急 斜 主 、 斗 差 区 響 喜 患 驗 野 X 熟 、 等 、

念 こ ＼ 仇 会 § ご

W 9 m . ス 一 , マ 一 . ズ 言 タ = . Z P 冨 姻 里 N 旦 企 m . 工 易 ● ず 旦 則 伽 ニ ヨ 昌 0 =

0 { ン δ = 各 ヤ 一 届 号 § 三 § 一 一 = 矢 お 丑 含 岳 δ 0 具 ● 三 d 曾 = 個 一 9

g = て 乏 含 巴 二 合 勺 貸 旦 一 Φ 旦 m 二 = 貸 露 倉 企 m g 牙 牙 P 一 乏 P く ?

- 3 鵬 牙 m . 一 . 会 0 ミ ミ . 、 . 逹 § . 、 ▲ N 一 零 中 ＼ § ( § ご

W ビ エ . 子 否 伽 壁 , ↓ . ↓ ご 一 言 P , マ 一 . 一 < 旦 9 m . ズ 一 ヨ , m . = § ず 血 、

↓ , m 長 三 血 言 ム エ . Z 巴 参 鯛 N 昌 一 角 ぐ 巴 昆 = 0 ご 0 { 一 昌 曾 丑 ,

え 売 ユ 魯 三 0 塁 ン ご m 9 七 牙 = m 勺 曾 § 誓 0 逗 7 一 ● 邑 濡 ヨ 心 ヨ 曾 ル 一 9

9 = て 乏 含 鵬 三 又 一 勺 翼 旦 ぜ 売 易 一 , m 二 = 登 余 す 一 = ぎ 勺 区 ン = 昌 器

0 - = 露 区 邑 ご 岩 貞 m 号 昇 言 § 三 6 § 三 】 ' 勺 § 余 器 y 山 ミ

Q § . 、 伽 ゛ 器 N O ＼ 器 讐 ( § N )

器 ) 山 ヌ 茎 謹 一 聖 旦 ホ 田 寺 打 " 小 上 金 、 § 廼 武 X 9 弓 H 謝

S 曳 或 灣 、 立 . 茎 § 女 亘 ' 喜 琴 、 ヌ 畍 、 鴛 ( W 0 昆 )

冊 ゛ シ

[ 雌 、 誤 譜 》 ]

一 . 一

三 三 三 三 三 三 三 三 三 三 三 三 三 三 三 三 三 三 三 三 三 三 三 王 三 三 三 三 三 三 三 三 三 一 二 三 三 三 三 三 三 三 三 三 三 三 一 一 一 三 三 三 一 二 三 三 三 芒 モ 王

豈 」 ル 逃 」 窟 鶚 虫 畔 鵬 Φ 卯 谷 枯 知 如 泣 卯

ど

曹 譜 怯 洲 貧 霊 )

透 器 令 剃 裏 ミ ミ 系 」 ゞ 需 ■ 武 ゛ ゞ 喜

ミ 片 器 ミ . 図 盆 § ● 、 醤 念 令 画 罫 ミ 、

ヨ 禽 藷 烹 、 霜 § 婁 注 こ 途 雲 姦 § 需

き ＼ 一 ト ミ § ミ ル 必 一 ) 、 § 打 轡 . 葡' 、 '

姑 言 一 、 ゞ 認 武 X 聾 一 喜 " 奏 言 需 需 辻

" 咲 臓 武 念 打 零 . 芸 一 ( 二 ) . 謙 議 辻 一

兇 異 、 塑 弄 喜 望 ＼ 弐 斗 い ↓ 太 ミ 、 鄭

武 一 姦 、 露 い H 無 窯 ミ 、 瓢 謡 い 謡 豊 、 、 皿

託 器 系 塑 塗 ・ 喜 ・ や X 一 ト エ 、 武 , 二 塗 , .

8 〕

畔