STAMP/STPA and UML/HAZOP on the IoT and AI/Deep Learning

IoT/深層学習利用におけるSTAMP/STPA と HAZOP

についての研究STAMP workshop@慶応大学

2017/11/29

石津和紀と愉快な仲間たち名古屋市工業研究所小川清

株式会社アイ・シー・エス石津和紀

株式会社テン゙ソークリエイト柏原一雄

株式会社エー・アンド・ディ佐藤克2017/09/24

1

IPAへのお礼と報告

2017年11月大阪

NSPICEネットワーク

演習九十分

６０名(別途関係者10人気)

最初は１人作業

3人１班（別手法）

人を入れ替えて３回

（一人は必ず３手法１度）

STAMP/STPA

HAZOP

その他の手法 2017/09/24

2

1. よくわかった2. だいたいわかった3. あまりわからなかった4. 全然わからなかった

1

2

3

4

事前準備と事後

参加者のうち約20人がHAZOP経験ありうち約１０人が１週間前に冊子の内容レビュー（事前）

出ている例はFTA/FMEA/HAZOPと状態遷移/時系列/刻時/利用事例図でやっている事

緑本P57 「HAZOPのガイドワード７つ」と書いているが１１の間違いでは？

橙本 P7, P22 NPTDに日本語がない。P8,p22の１１のヒントワード共に、表で示すと良い。

事後

HAZOPでは手順がわからなかったがSTAMP/STPAはやり方が具体的なのでイメージしやすい

コントローラ、コントロールプロセスが決まる前の分析はHAZOPが良い

HAZOPでは任意の図で分析できるので幅広い

HAZOPのガイドワードの方が網羅性が高い

STAMP/STPAの利点がわからなかった 2017/09/24

3

2017/09/24

4

事後意見詳細例

HAZOP ・ガイドワードが多すぎて、初見ギョッとする。表だけ見ても、どう

書けば良いのかがわからない。

⇒子供向けの良いサンプル（これを見れば、使い方や、このレベルでイイんだとすぐわかるようなもの）を添付または表と一体にする。

STAMP/STPA ・ガイドワードの説明がわかりにくい。特に英語だけのヤツはサッパリ。

⇒ HAZOPのような表を用意する。その表に、ガイドワードの説明（日本語：はじめてのSTMP/STPA2016年3月版の最終ページの日本語説明をさらにくだいたレベル）を追加。

2017/09/24

5

石津和紀と愉快な仲間たち

株式会社アイ・シー・エス石津和紀

株式会社デンソークリエイト柏原一雄

株式会社エー・アンド・ディ佐藤克

名古屋市工業研究所小川清

2017/09/24

6

2017/09/24

7

石津和紀

2017/09/24

8柏原一雄

2017/09/24

9

発表者小川清@kaizen_nagoya

VZエディタ N5200ポーティング

PAT TRANSOR複文処理試作参加

NPO TOPPERSプロジェクト理事

TOPPERS/SSP試験・MISRA C担当

JAXA/IPA クリティカルソフトウェアワークショッププログラム委員長

2008-

WOCS2007においてNancy Levsonとパネル

WOCS..にNancyを招待

元IPAプロセス改善WGメンバ

プロセス改善ナビゲーションガイドベストプラクティス編

JAXAの事例

ISO/IEC 15504 part2,part6, part9 co-editor等

JIS X0154, JIS Q 2000等 2017/09/24

10

発表の目標(以下の対応相談)

IoTやAI(機械学習)の展開で、安全分析、セキュリティ分析の増加

IoT/AIの道具で安全分析の自動化・機械学習できる部分を特定したい(needs)

STAMP/STPAを取り組み始めた人から二重投資（二重資料作成）したくないとの声

HAZOPで取り組んできたUML/SYSMLの図、SPIN/UPAALなどの状態遷移系の検証のSTAMP/STPAへの連携(needs)

2017/09/24

11

今回の発表で含まないもの

UMLとSYSMLの分析結果のSTAMP/STPAへの展開

日立産業制御ソリューションズ橋本岳男氏からの報告

GSN+HAZOPとSTAMP/STPAの比較

日本大学秋山泰澄氏に取り組んでもらえそう

多対多の分析結果の整理

仙台高等専門学校岡本圭史氏の発表に示唆あり

構造的用語の課題

長崎県立大学日下部茂氏の発表への質疑で明確化

連続系と離散系の相互作用

長崎県立大学日下部茂氏の発表で示唆あり（一部口頭で説明するかも）

HAZOPの標準的なやり方

毎回新しいやり方で、毎回新しい発見がある2017/09/24

12

岡本圭史さんの引用に感謝

2017/09/24

13

発表者自己紹介

VZエディタ N5200ポーティング

PAT TRANSOR複文処理試作参加

NPO TOPPERSプロジェクト理事

TOPPERS/SSP試験・MISRA C担当

JAXA/IPA クリティカルソフトウェアワークショッププログラム委員長2008-

WOCS2007においてNancy Levsonとパネル

WOCS..にNancyを招待

元IPAプロセス改善WGメンバ

プロセス改善ナビゲーションガイドベストプラクティス編

JAXAの事例

ISO/IEC 15504 part2,part6, part9 co-editor等

JIS X0154, JIS Q 2000等

2017/09/24

14

JAXA実施例（2004年）（プロセス改善ナビゲーション

ガイドbest practice編/IPA）

17/08/25

15

橙色に着目

ID Analysis Method | Processrequire

ments

basic

design

detailed

designcoding

integrat

ion test

system

test

field

test

operatio

n

1 Mode Transition Analysis ○ ○ ○ ○

2 Completeness Analysis ○ ○ ○ ○

3 nominal simulation ○ ○ ○

4 software deviation analysis ○ ○ ○ ○

5 single fault simulation ○ ○ ○ ○

6 FMEA,FTA ○ ○ ○ ○ ○ ○ ○ ○

7 double faults simulation ○ ○ ○

8 HAZOP(Hazard and Operability) ○ ○ ○

9 Code clone analysis ○ ○

10 Tracability Analysis ○ ○ ○ ○ ○

11 Reachability Analysis ○ ○ ○ ○

12 Interface Analysis ○ ○ ○ ○

13 Timing Analysis ○ ○ ○

HAZOP3.0 safety & security © @kaizen_nagoya

平成20年度経済産業省産学連携製造人材育成事業

組み込み中核人材プロジェクト

プロジェクトマネージャ名古屋市工業研究所小川清

開発委員会名古屋工業大学鵜飼裕之

評価委員会情報処理推進機構田丸喜一郎

名古屋工業大学、岐阜大学、名古屋ソフトウェアセンタ

題材：エレベータ、電源、画像処理、信号処理を題材

内容：HAZOPで新規開発の分析、C, VHDLでプログラミング実験

2017/09/24

16

今日の伝言：想定外を意識しよう

物と事を意識しよう

空間と時間を意識しよう

量と質を意識しよう

分布・確率に注目しよう

単位・測定限界・計算限界に注目しよう

上限と下限を意識しよう

複数の手法を組み合わせよう

能力を最大限拡張しよう

人と違うことを考えよう

子供でも参加できる方法を考えよう2017/09/24

17

今日の伝言想定外を意識しよう

分析は常に想定外をなくす努力だと考えよう

物と事を意識しよう

量と質を意識しよう

分布・確率に注目しよう

分布が観測できなかったり、確率が計算できないと仕組みはムダになるかもしれない

単位・測定限界・計算限界に注目しよう

測定限界は、IoTの進展で変換するかもしれない

計算限界は、最適解は計算できないが、機械学習等によってある確率で次善策を計算できるかもしれない

複数の手法を組み合わせよう

これまでFTA, FMEA, HAZOPの組み合わせ

HAZOPと他の手法の組み合わせ

今回はHAZOPとSTAMPの組み合わせた2017/09/24

18

質問１ブレインストーミングは好きですか？

「自分が師匠に言われていたことを思い出しました。

実力がない人間がやることは３つしかない。

①：実力を上げること

②：出来る仕事を全力でやること

③：結果を出すこと

③に達しないなら①と②を疑え。

自分を疑え。

他人を疑うな。

そしたら勝手に③はついてくる。」

From 週刊マガジン５２号 “ランウェイで笑って”

And 西本一平@facebook, 201711282017/09/24

19

能力を最大限拡張しよう

三人で班構成

一人作業時間を最初に

人と違うことを考えよう

子供でも参加できる方法を考えよう

子供にいきなり負の事象を分析させない（トラウマになる可能性がある。）

分析手法で、楽しいこと、嬉しいこと、良いことを分析しよう

2017/09/24

20

日本技術士会中部航空部会でのHAZOP

2016年12月＠岐阜大学

対象：電気回路とソフトのシステム

航空、機械、電気、経営、情報の技術士参加

参加者の感想

“もっと早く知っていたら俺の人生は変わっていた”

2017/09/24

21

概要

第一部背景

第二部取組み

第三部課題と解決策

第四部道具類と整備2017/09/24

22

第一部背景

IoT/AI(深層学習）による複雑化

分析の体系化

対象分野の広範囲化（未来投資戦略2017

-Society5.0の実現に向けた改革の課題）

2017年 9月 8

日

(c)@kaizen_

nagoya

安全・安心分析のHAZOPによる統合的運用

23

1.1 IoT/AI(深層学習）による複雑化

TOPPERS/SSP

Raspberry PIの演習とセキュリティ対策（別途slideshare参照）

電子国土賞

IoTの進展

IoT対応によるシステムの複雑化

AIの進展

DeepLearningによる画像処理

機械学習の並列計算による複数の手法の比較利用

2017/09/24

24

TOPPERS/SSP

エンジン・モータ制御のように主制御をタスクではなく割り込みで実施する

タスクには待ちがない

構造が単純

小さい

速い

課題

対応CPUが少ない

機械学習等で自動的に移植

試験自動生成2017/09/24

25

・WOCSの実行委員長が第三回受賞・今年のWOCSの講演者が第四回受賞・WOCSのプログラム委員長が第七回受賞

2017/09/24

26

2014年電子国土賞

Map Maker

森田伸二

http://psgsv2.gsi.go.j

p/koukyou/G-

award/results2014.ht

ml

2017/09/24

27

1.1. 1 IoTの進展

測定機器の低価格化、小規模化

空間：約200分の１、約150分の１

時間：約40倍、約200倍

2017/09/24

28

分類名称年縦横高体積 bit MHz lang OS

メインフレーム 1951 1000 500 5000 2500000000 7 0.1cobol tss

IBM-PC 1981 400 300 100 12000000 16 4.7basic dosRaspberry PI 2012 85 56 17 80920 32 700

python linux

1.1.1.1 IoT進展でシステムの複雑化

物理的な測定による物の特性に応じたシステムの最適化

航空宇宙における事故の多くが物質の特性が原因

物質の測定すべき項目がわからなければ有効な測定はできない

ひとまず画像、温度など基本項目を測定して機械学習にかける

機械学習の結果も、物質の測定項目がわからないと判断できない

2017/09/24

29

1.1.2 AIの進展

DeepLerningによる画像処理

人間の認識よりも精度が良くなる

Data Robotによる機械学習の並列比較

システムが用意していない従来設計手法のアドオン

2017/09/24

30

1.1.2.1 DeepLerningによる画像処理

第4回講演会「ニューラル･ネットワークにおける情報量の表現とFPGA実装」ニューラル･ネットワークにおける情報量の表現とFPGA実装, ルーウィヴァレニャDSPスペシャリスト

Survey of DNN Development Resources 、MICRO Tutorial (2016) , Joel Emer, Vivienne Sze, Yu-HsinChen

Website: http://eyeriss.mit.edu/tutorial.html

2017/09/24

31

1.1.2.2機械学習の並列計算による複数の手法の比較利用

機械学習の効率は飛躍的に向上

少ない情報でも効率的に計算し、計算結果を比較する方法

特定の制御方法と機械学習による制御パラメータの決定による生産性比較など

機械学習の結果も、制御対象の性格がわからないと判断できない

2017/09/24

32

新日鉄住金ソリューションズ（1）

2017/09/24

33

新日鉄住金ソリューションズ（２）

2017/09/24

34

新日鉄住金ソリューションズ（3）

2017/09/24

35

1.1.3 IoT/AI 遭遇する悪循環と好循環

悪循環

何を測定すると良いかわからない

ひとまず測定した結果を機械学習にかける

出てきたものの意味がわからない

好循環

だいたい何を測ると良いかは分かっているが、費用対効果が望めなかったので測っていない

2017/09/24

36

ここまでの知見1

単位が不明なデータの議論には気をつけよう

母集合が違うものの比較には気をつけよう

機械学習はこれらの点にも気をつけてくれるが、気をつけてない場合もある

事前に予想しておかないと出てきた結果に対応できないかも

人間の能力以上に計算してくれるとついつい信用する人がいる

HAZOPは一つの選択肢2017/09/24

37

質問２なぜなぜ分析は好きですか？

HAZOPはguided brainstorming

なぜなぜ分析も、ガイドワードがあった方がいいかも。

2017/09/24

38

1.2 分析の体系化

過去不具合(trouble)集(過去トラ）はあるがなぜなぜ分析しかしていない体系的でない

FMTA/FTAは行なっているがHAZOPは指導者がいない何をやればいいか思い当たらない

どこまでやればいいかわからない

やり始めるといつまでも続いて収束しない

上流での分析方法を説明できる指導者がいない

2017/09/24

39

JAXA実施例（2004年）（プロセス改善ナビゲーション

ガイドbest practice編/IPA）

17/08/25

40

橙色に着目

ID Analysis Method | Processrequire

ments

basic

design

detailed

designcoding

integrat

ion test

system

test

field

test

operatio

n

1 Mode Transition Analysis ○ ○ ○ ○

2 Completeness Analysis ○ ○ ○ ○

3 nominal simulation ○ ○ ○

4 software deviation analysis ○ ○ ○ ○

5 single fault simulation ○ ○ ○ ○

6 FMEA,FTA ○ ○ ○ ○ ○ ○ ○ ○

7 double faults simulation ○ ○ ○

8 HAZOP(Hazard and Operability) ○ ○ ○

9 Code clone analysis ○ ○

10 Tracability Analysis ○ ○ ○ ○ ○

11 Reachability Analysis ○ ○ ○ ○

12 Interface Analysis ○ ○ ○ ○

13 Timing Analysis ○ ○ ○


分析の詳細化

事故原因の多数は材料

材料の分析をHAZOPで

国際単位系の網羅

試験方法の網羅

2017/09/24

41

手法群

17/08/25


名称手法用語の具体性枠組み網羅性種

なぜなぜ記法/枠組抽象的論理模型記述 *他の手法と併用分

what if 枠組抽象的論理模型記述 *他手法併用分

FMEA 枠組抽象的詳細な枠組み汎用・下から上分

4M5E 誘導語体系的二次元人・物・媒体・管理分

HAZOP 誘導語抽象的他の枠組利用空間・時間* 分

TRIZ 誘導語具体的解決技枠組み多数技術・仕様対

GSN 記法抽象的論理模型記述汎用・目標対

USDM 記法やや抽象的模型記述作業・成果対

UML 記法やや抽象的模型記述時間・順番両

FTA 記法/枠組抽象的論理模型記述事故・上から下両

ETA 記法/枠組抽象的論理模型記述事故・下から上両

STAMP/STPA 記法/誘導語

具体的(制御）模型記述制御(時間・順番) 両

FRAM 記法/誘導語やや具体的模型記述前提・資源・時間・制御両

42

名称手法用語具体性枠組み網羅性種

なぜなぜ記法/枠組抽象的論理模型記述 *他手法併用分

what if 枠組抽象的論理模型記述 *他手法併用分

RCA 枠組抽象的手順 *他手法併用分

FMEA 枠組抽象的詳細な枠組み汎用・下から上分

HAZOP 誘導語抽象的他の枠組利用空間・時間* 分

TRIZ 対象具体的解決枠組み多数技術・仕様対ユニバーサルデザイン対象具体的多元的人・物・環境対

高齢・障害対象具体的多元的人対

形の設計指針対象具体的多元的物対

子供対象具体的多元的人対

国際単位系対象抽象的多元的物・環境対

GSN 記法抽象的論理模型記述汎用・目標* 対

SHELL 対象体系的多次元人・物・環境・両

4M5E 対象体系的二次元人•物•媒体•管理両

過去トラ対象具体的分類次第経験範囲のみ両

USDM 記法やや抽象的模型記述作業・成果物両

UML 記法やや抽象的模型記述時間・順番* 両

FTA 記法•枠組抽象的論理模型記述事故・上から下両

ETA 記法•枠組抽象的論理模型記述事故・下から上両

STAMP/STPA記法•誘導語具体的(制御）模型記述制御(時間・順番) 両

FRAM 記法•誘導語やや具体的模型記述前提•資源•時間•制御両

分：分析、対：対策、両：分析・対策

2017/09/24

43

FTA, FMEA, HAZOPの関係

FTA

FMEA

HAZOP

HAZOP

HAZOP

FTA：最上位事象を起こさないような論理を検討。

HAZOP：上から，下から，真ん中からのいずれでも可。

FMEA：部品（下）から故障モードを洗出

2016年 7月 8日 (c)@kaizen_nagoya

44

図2.FTA, FMEA, HAZOPの関係

安全分析におけ-TRIZ連携の試み

ソースコード・設計図

状態遷移図(state chart)

時系列図(sequence chart)

刻時図(timing chart) 利用事例図(use case chart)


45

[47]TOPPERS仕様書

[48]

対応設計指針

かたちの設計指針[59]

万能設計・共用品設計(universal design)

高齢者・障害者設計指針[61]

子供の安全

国際単位系[62]

論理回路・ソフトウェアはより詳細な指針

TRIZ[63]


46

安全分析におけるHAZOP-TRIZ連携の試み

形の設計指針47



万能設計・共用品設計(Universal design)48

万能設計の7原則 Hazopで検討する評価軸

1.どんな人でも公平に使える光，音，大きさ，力

2.使う上で自由度が高い

選択可能（時間，左右，精

度）

3.使い方が簡単で、すぐに分かる

理解性（光，音がない場合

でも）

4.必要な情報がすぐに分かる

情報提供（光，音以外の方

法も）

5.うっかりミスが危険につながらな

い

操作の外れを網羅、熱、圧

力、高電圧

6.身体への負担がかかりづらい（弱

い力でも使える）力，電磁力

7.接近や利用のための十分な大き

さと空間を確保する距離、大きさ安全分析におけるHAZOP-TRIZ連携の試み


高齢者・障害者設計指針（例）

ISO/IECガイド71 Guide for addressing accessibility in standards[64]

JISX8341-1 高齢者・障害者等配慮設計指針―情報通信における機器，ソフトウェア及びサービス―第１部：共通指針[65]

JISX8341-2 高齢者・障害者等配慮設計指針－情報通信における機器，ソフトウェア及びサービス－第２部：パーソナルコンピュータ[66]

JISX8341-3 高齢者・障害者等配慮設計指針－情報通信における機器，ソフトウェア及びサービス－第３部：ウェブコンテンツ[67]

JISX8341-4 高齢者・障害者等配慮設計指針－情報通信における機器，ソフトウェア及びサービス－第４部：電気通信機器[68]

JISX8341-5 高齢者・障害者等配慮設計指針－情報通信における機器，ソフトウェア及びサービス－第５部：事務機器[69]

JISX8341-6 高齢者・障害者等配慮設計指針－情報通信における機器，ソフトウェア及びサービス－第６部：対話ソフトウェア[70]

JISX8341-7 高齢者・障害者等配慮設計指針－情報通信における機器，ソフトウェア及びサービス－第７部：アクセシビリティ設定[71]

2016年 7月 8

日

(c)@kaizen_

nagoya

49


子供の安全

ISO/IEC Guide 50:2014 Safety aspects

Guidelines for child safety in standards and other

specifications

Child: person aged under 14 years

<- World report on child injury

prevention, UNICEF, [55]

2016年 7月 8

日

(c)@kaizen_

nagoya

50

交通事故 22.3

水死 16.8

火事 9.1

転落 4.2

毒 3.9

殺人 5.8

自殺 4.4

戦争 2.3

その他 31.1


国際単位系

51



TRIZの40の視点（発明の原理）1 分割原理

２分離原理

３局所性質原理

４非対称性原理

５組合せ原理

６汎用性定理

７入れ子原理

８つりあい原理

９先取り反作用原理

10 先取り作用定理

11 事前保護定理

12 等位性原理

12 逆発想原理2016年 7月 8

日

(c)@kaizen_

nagoya

52

14 曲面原理15 可変性原理16 アバウト原理17 多次元移行原理18 機械的振動原理19 周期的作用原理20 連続性原理21 高速実行原理22 禍転じて福となす原理23 フィードバック原理24 仲介原理25 セルフサービス原理26 代替原理27 使い捨て原理

28 メカニズムの代替原理29 流体作用原理30 薄膜利用原理31 多孔質利用原理32 変色原理33 均質性原理34 排除・再生原理35 パラメータの変更原理36 相変化原理37 熱膨張原理38 高濃度酸素原理39 不活性雰囲気原理40 複合材料原理


HAZOP TRIZ発明原理対応表（案）1/3無逆他大小類部早遅前後

分割 1 1 1 1 2 1 1 1 1分離 1 1 1 1 2 1 1 1 1局所性質 1 1 1 2 1 1 1 1非対称 1 2 1 1 1 1 1 1組み合わせ 1 1 1 2 1 1 1 1汎用性 1 1 1 2 1 1 1 1入れ子 1 1 1 2 1 1 1 1つりあい 1 1 1 2 1 1 1 1先取り反作用 1 2 1 1 1 1 2 1先取り作用 1 1 1 1 1 2 1事前保護 1 1 1 1 1 2 1等ポテンシャル 1 1 1 2 1 1 1 1逆発想 1 2 1 1 1 1 1 1曲面 1 1 1 2 1 1 1 T

2016年 7月 8

日

(c)@kaizen_

nagoya

53

１：対応項目，2：関係性の深い項目安全分析におけるHAZOP-TRIZ連携の試み

2.3.1.1 HAZOP TRIZ発明原理対応表（案）2/3

無逆他大小類部早遅前後ダイナミック性 1 1 1 2 1 1 1 1アバウト 1 1 1 2 1 1 1 1他次元移行 1 2 1 1 1 1 1 1機械的振動 1 1 1 2 1 1 1 1周期的作用 1 1 1 2 1 1 1 1連続性 1 1 1 2 1 1 1 1高速実行 1 1 1 2 1 1 1災い転じて福となす 1 2 1 1 1 1 1 1フィードバック 1 2 1 1 2 1 1 1 1仲介 1 2 1 1 1 1 1 1セルフサービス 1 1 1 2 1 1 1 1代替 1 2 1 1 1 1 1 1

2016年 7月 8

日

(c)@kaizen_

nagoya

54


2.3.1.2HAZOP TRIZ発明原理対応表（案）3/3無逆他大小類部早遅前後

機械的システム代替 1 2 1 1 1 1 1 1流体利用 1 1 1 2 1 1 1 1薄膜利用 1 1 1 2 1 1 1 1多孔質利用 1 1 1 2 1 1 1 1変色利用 1 2 1 1 1 1 1 1均質性 1 1 1 2 1 1 1 1排除／再生 1 2 1 1 1 1 1 1パラメータ 1 1 1 2 1 1 1 1相変化 1 1 1 2 1 1 1 1熱膨張 1 2 1 1 1 1 1高濃度酸素利用 1 2 1 1 1 1 1

不活性雰囲気利用 1 1 1 2 1 1 1 1複合材料 1 1 1 2 1 1 1 12016年 7月 8

日

(c)@kaizen_

nagoya

55


TRIZ-HAZOPの利点

知財部の協力が得られる

対策の発想が広がる

次の知財申請につながる

課題

多対多の関係重複が多い

必ずしも全部が必要ない。６歳、１２歳、１８歳向けの縮小版

2015年日本学術会議安全工学シンポジウムで発表

2017/09/24

56

1.3 対象分野の広範囲化

未来投資戦略2017 -Society5.0の実現に向けた改革の課題

健康寿命の延伸

移動革命の実現

サプライチェーンの次世代化

快適なインフラ・まちづくり

FinTech2017/09/24

57

第二部取り組み

UML/HAZOP v.s. STAMP/STPA

分野

2017/09/24

58

質問３ HAZOPって知っていますか？

HAZOP(Hazard And Operability Study):危険シナリオ分析手法の一つで、化学プロセスにおける複数の独立した事象が複雑に絡む故障を取り扱うために開発された手法。

重要インフラの制御システムセキュリティとITサービス継続に関する調査（付録）, 2009年3月 IPA

https://www.ipa.go.jp/files/000013983.pdf

2017/09/24

59

HAZOPの汎用性

物質の流れ

電子の流れ：電気回路・電子回路

お金の流れ（現金、電子貨幣等）

情報の流れ（電磁気・文字）

2017/09/24

60

入力状態出力

UML/HAZOP

自動車むけ機能安全プラットフォーム

組み込み開発技術者教育

原子力発電事故・津波

ネットワークセキュリティ

2017/09/24

61

HAZOP魔法の言葉(guide word)ID 魔法の言葉外れの表現分類対称

D1 無(no) 質又は量が無い存在(existence) D0

D2 逆(reverse) 質又は量が反対方向方向(direction) D0

D3 他(other than) その他の方向,物質存在・方向 -

D4 大(more) 量的な増大量 D5

D5 小(less) 量的な減少 (quantity) D4

D6 類(as well as) 質的な増大質 D7

D7 部(part of) 質的な減少 (quality) D6

D8 早(early) 時間が早い時間 D9

D9 遅(late) 時間が遅い (time) D8

DA 前(before) 順番が前（事前）順番 DB

DB 後(after) 順番が後（事後） (order) DA

表1. 意味（D0：設計意図，利用意図：外れのない状態）

17/08/25

HAZOP3.0

safety & security

© @kaizen_nagoya

6

2

無：想定するものが無い

逆：想定するものの方向が逆

他：逆以外の方向，その他

大：想定するものより大きい（すべての単位系）

小：想定するものより小さい（すべての単位系）

類：想定するものと違う分類のもの

部：想定するものの一部分

早：想定するよりも早い時刻

遅：想定するよりも遅い時刻

前：想定するよりも前になる

後：想定するよりも後になる

63

無逆他大小類部早遅前後

HAZOP3.0 safety & security © @kaizen_nagoya2017/08/25

国際単位系

64



機械設計2017年12月号特集２効率的な製品開発を支援する「機能ベース」の課題分析法p.50 空間的機能分析と時間的機能分析のイメージ

2017/09/24

65

HAZOPの利点(1)検出式（A:設計値

x:検出値）無 x==0 (or null)逆 x= - A他 X != A and x! = - A大 X > A小 X < A類 xt = At or x ⊃ A部 A ⊃ x早 xt < At遅 xt > At前 xi < Ai後 xi > Ai 2017/09/24

66

検出可能な事象を対象にしている

分析の悪い例：不適切、エラー、誤り等多数の検出式に該当する

無位から不適切か逆だから不適切か他の向きだから不適切か大きくて不適切か小さくて不適切か包含または衝突で不適切か部分しかないから不適切か早すぎて不適切か遅すぎて不適切か順番が前になって不適切か順番が後になって不適切か

分析の前提条件専門家のいない分析ではハザードは出ても

出現確率が見積もれない

対策案が提案できない

専門家だけの分析ではよくあるハザードは網羅できても

想定外の洗い出しが不十分になるかもしれない

誰でもできる分析では

競合相手に勝てる分析はできない

誰でもできる分析は機械学習可能で人がやる必要はないかもしれない 2017/09/24

67

HAZOPの利点(2)

安全、セキュリティに適用可能

それぞれの部門の設計指針を併用

サブシステム、システム全体に適用可能（誘導語が抽象的であるため、何層でも分析できる）

各抽象度に応じた理論を併用

後ろ向きにも、前向き（新製品開発）にも適用可能

2017/09/24

68

科学分類

確率・分布で科学を分類

分野を超えた関係には連動した測定が必要

母集団の異なる確率を連成しても良い結果が出ない

Data Robotで科学分類を

またいで計算

2017/09/24

69

教材

2017/09/24

70

無逆他大生類部早遅前後の１１の魔法の言葉を使った絵本

子供向けで、前向きに新しいことをするときにHAZOPを使う

HAZOP作業表(子供用)[12]

(c) ogawa.kiyoshi at nmiri.city.nagoya.jp 2011/5/25

　 HAZOP(はぞっぷ)ひょう ( )ねん( )つき( )にち

< >( なに )が　< >(いつ ) なまえ（　　　　　　　　　　　　　　　）

ことばはずれなぜどうするまとめ

1 無（ない）

2 逆（ぎゃく）

3 他（ほか）

4 大（だい）

5 小（しょう）

6 類（るい）

7 部（ぶぶん）

8 早（はやい）

9 遅（おそい）

10 前（まえ）

11 後（あと）

まとめにはすることが決（き）まったことに「○」そうでないことは「ー」を書（か）きます2016年 7月 8日 (c)@kaizen_nagoya 71安全分析におけるHAZOP-TRIZ連携の

試み

能力を最大限伸ばすやり方

ガイドワードを減らす方法は採用しない

空間・時間、質・量、上限・下限の網羅性損なう

ガイドワードを具体化する方法は概念段階では採用しない

設計指針、単位系を利用することによって網羅性を確保したい

材料の連続的変化を管理では離散系だけでも網羅性の証明をしたい

離散系だけでの状態遷移の網羅すれば、連続系の分析負担が軽くなる

2017/09/24

72

一人作業責任を持って作業利用者視点は設計能力が高くなくても担当可（設計者との差が分る）

誘導語と図（設計図・外観等）を見てありえない事を「外れ」に列記

想定外（思わぬこと）に気付く人に言うのは恥ずかしい事でも，自分で

妄想するだけならいろいろ考えられる最初に自分が考えたことが全体の表の

中で残ってたり，統合されていくことにより，分析の流れを理解

7

3

17/08/25

想定外!


作業の進め方紙に書いて欄が足りなけれ足す

ありえないことでよい

思いついたことは必ず書く

経験に基づいても,妄想に基づいてもどちらでもよい

事について記述しても，物について記述してもよい

事前，事後（初期条件，境界条件）を記述

3つ以上の設計指針を使う

共用品設計(universal design)，形の設計指針，言語規約(MISRA C, STARC RTL設計style guide）

誘導語の展開語一覧を配る17/08/25

74

間違えに気づいても消さない（間違いと追記）


報告方法

班

全体

各班から大事なこと１つを報告してもらう

3回の報告の出発位置をずらす

班の数が増えたら発表の言葉の数を減らしてもらうと班の数が多くなっても時間はそれほど増えない

17/08/25

75

前の班が報告したことは報告しない

量が少ない人から報告する


今年のSWESTでのHAZOP

1 大変良かった

２良かった

３普通

４今ひとつ

５不満足2017/09/24

76

1

2

3

4

5

視点１：BはAの部分集合，緑色はB

視点２：AはBの部分集合，緑色はA

誤解：自分は正しく相手が間違い。情報が共有できる。

共通認識：中心は緑。立場が違えば情報は共有できるとは限らない。

2017年11月29日[email protected]

77

変更権のない情報は共有とは呼ばない。

一方だけに利益がある場合は共有と言わない。

1.3.1 健康寿命の延伸

AI/深層学習を応用した遺伝子解析の展開

現状

アメリカのNCBI、ヨーロッパのEMBL-EBI、日本のDDBJが国際的な協力（International Nucleotide Sequence Database Collaboration）を結んでいる

NCBI:National Center for Biotechnology Information(米国国立生物工学情報センター）を利用

課題

遺伝子情報の本人の利用の制度化が不鮮明

悪用・誤用・解析不十分に対する対応が不鮮明2017年 9月 8

日

(c)@kaizen_

nagoya


78

医療分野におけるHAZOP

嚥下

医療機器

遺伝子操作

2017/09/24

79

1.3.2 移動革命の実現

交通死亡事故の減少

現状

平成30年を目途に交通事故死者数を2,500人以下（交通安全白書平成21年）は平成 28 年度から 32 年度までの5年間（第10次交通安全基本計画平成28年3月11日）に延伸

課題都道府県で交通死亡事故を分析できる情報を公開しているのは直近の数年

交差点の画像、ドライブレコーダ（カーナビ等）の記録、

体系的分析手法の未適用 2017年 9月 8

日

(c)@kaizen_

nagoya


80

移動分野におけるHAZOP

自動車（ブレーキ、自動運転、アイドリングストップ）

交差点の信号

踏切

エレベータのドア

2017/09/24

81

1.3.3サフラ゚イチェーンの次世代化

供給連鎖

現状

ネット販売をはじめとする購買の電子化・決済の電子化の進展

課題

主要通販の寡占化に伴い弱い鎖が切れる

架空取引・二重帳簿の可能性

表帳簿の情報だけを集めても辻褄が合わない可能性

辻褄の合う情報だけ集めても役に立た

2017年 9月 8

日

(c)@kaizen_

nagoya


82

流通分野におけるHAZOP

「従来通」という仕様での分析

従来は実装していない機能があったが利用しゃは実装して欲しいので現在未実装である資料を開示してくれない。逆、他、大、小、前、後

対象分野ごとに異なる仕様があるが、全ての仕様・設計（ソースコード）を開示してくれない。大、小、無

2017/09/24

83

1.3.4快適なインフラ・まちづくり

公共工事の３次元データのオープン化

現状

i-construction, i-shipping

課題

地下構造・埋設物情報の更新・管理費用の

災害危険箇所の精度と範囲の二律背反

2017年 9月 8

日

(c)@kaizen_

nagoya


84

国土分野におけるHAZOP

地震・津波の分析

崖崩れ、ため池溢れ、河川決壊、洪水

道路の舗装、歩道、自転車道

2017/09/24

85

1.3.５ FinTech

FinTech実証実験ハブ金融庁

現状（金融庁より） ① 実験内容と論点が明らかであること（明確性）

② サービスの実現によって我が国における利用者利便や企業の生産性の向上が見込まれること（社会的意義）

③ 実現しようとするサービスに革新性が認められること（革新性）

④ 実証実験に一般利用者が参加する場合には、利用者への説明を含め、利用者保護上の対応を適切に行うこと（利用者保護）

⑤ 実証実験を行うのに必要な資金・人員等のリソースが確保されていること（実験の遂行可能性）

課題（金融庁より）コンプライアンスや監督対応上の論点

一般利用者に向けてサービスを提供する際に生じ得る法令解釈に係る実務上の論点

2017年 9月 8

日

(c)@kaizen_

nagoya

86

1.3.5.1 金融分野におけるHAZOP

サイバセキュリティ対策の抜け穴

取引の錯誤のリスク管理

2017/09/24

87


HAZOPはどんな分野でも具体的なもの、抽象的なものでも分析できる

HAZOPで分析するためには、その分野の事故事例、設計指針などがあると良い

過去の事故報告データベースの活用は必須

用語の上下関係の逆転はいたるところに

システムのソフトウェア(全体・OSなどの部品)

ソフトウェアのシステム（システムの一部、）

ソフトウェアの中の「システム」という名前の部品

システムのアーキテクチャを知っている人がいると良い

システムのアーキテクチャを単純にできる人がいるとなお良い

2017/09/24

88

第三部分析手法の利点と課題

HAZOP

UML/HAZOP

STAMP/STPA

2017/09/24

89

HAZOP実施領域

自動車、医療、金融、国土、電力、ソフト(OS, 言語、ネットワーク（セキュリティ））

「従来通り」

経験の整理に良い

経験の伝達に良い

2017/09/24

90

HAZOP

道具の未整備

有償の道具が普及していない

過去トラ・なぜなぜ分析、用語構造との連携をしていない

FTA/FMEAと連携していない

写真・動画、図表の何を採用すると良いか示せる人がいない

どこまでやれば良いかを示せる人がいない

HAZOPだけでは分析の網羅性を担保できない

併用する指針を何を選ぶと良いか示せる人がいない

HAZOPだけでは対策が思いつかない

併用する手法、道具を選ぶところが腕の見せ所2017/09/24

91

HAZOPの利点

任意の段階で、任意の写真・動画・図表を用いて、少数で分析を開始できる（開始の制約条件はない）

設計の構想ができる前段階で開催できる

1人以上100人程度でも効率的に実施できる

物だけでなく、事にも適用できる

空間だけでなく、時間にも適用できる

量だけでなく、質にも適用できる

上限だけでなく、下限にも適用できる

論理科学、物理科学、生命科学、社会科学などの分布、確率の異なる事象に適用できる

2017/09/24

92

NML first(優先)

Non(無): No Existence of the Material,

Item ore current.

More(大): More Materials, Items or

currents.

Less(小):More Materials, Items or

currents.

NML first 60 items contain 20 rules, rule

first 60 items contain 6 rules.

Benefit: There are same result about

deviations or actions. It will be

recognized during NML first works.

93

項目(items)

NML優先(first)

規則優先(rulefirst)

10 660 780

20 720 1200

30 780 480

40 600 1080

50 540 720

60 720 600

合計(sum) 4020 4860

平均(ave) 67 81

偏差(dev) 88 278

Tble 4. Time is seconds per 10 items.

Average is seconds per items

from An application on Hazard and

operability Study for digital system,

Ogawa Kiyoshi, 5th WCSQ.

2016年 7月 8日

(c)@kaizen_nagoya


STAMP/STPAの利点

制御図を書いて分析するため議論が集中しやすい

誘導語を限定しているので作業の見積もりがつけやすい

設計に直接関係した視点であるため設計者が主導しやすい

Safety, Security, Functionの分析に対応できる

2017/09/24

94

STAMP/STPA

設計方針を決める前の企画段階では制御方式は不明なため他の手法の併用が必要

UCAの決定において、HAZOPなどの他の手法を併用するとよい

設計で用いている状態遷移図、時系列図、刻時図、利用事例図等を用いたい。設計で用いる図を利用しないのは無駄。

HAZOPと同様、どこまでやれば良いか、併用する設計指針を示せる人がいない

2017/09/24

95


最初はHAZOPを教育する

HAZOPと他の手法を組み合わせても対策が出ない場合

UCAの導出をHAZOPを使い、そのあとはSTAMP/STPAを使ってみる

物・事、空閑・時間、量・質(特異点を含む)、上限・下限

2017/09/24

96

STAMP/STPAとUML,SYSML,GSN,TRIZ/HAZOP比較(1)

STAMP/STPA HAZOP

コントロールの入力か外部入力が欠けているか間違っている入力無

大

小

部

外部情報無

大

小

部

アルゴリズム生成の欠陥、プロセス変更、不正確な修正や適応アルゴリズム無

大

小

類

部

プロセス無

逆

大

2017/09/24

97

STPAの11のヒントHAZOPでは検出可能かもしれない110項目

岡本さん指摘の多対多問題は残る


STPA HAZOP論理科学 △ ○物理科学 ○ ○生命科学 △ ○社会科学 △ ○

構想段階 △ TRIZ/GSN研究試作 ○ UML設計審査 ○ UML出荷検査 ○ UM健康寿命の延伸 △ ○移動革命の実現 ○ ○

サフ_ライチェーンの次世代化 ○ ○

快適なインフラ・まちづくり ○ ○

FinTech △ ○

物 △ ○事 ○ ○

2017/09/24

98


STAMP/STPA HCF USCA(4) UCA

Control structure 対策

材料 △ △ △ △ △

機構 △ △ △ △ △

電磁 ○ ○ ○ ○ ○

情報 ○ ○ ○ ○ ○

HAZOPWhat if/HAZOP

魔法の言葉(１１)

RCA/HAZOP

UML/HAZOP

TRIZ, 各種設計指針/HAZOP

材料 ○ ○ ○ ○ ○

機構 ○ ○ ○ ○ ○

電磁 ○ ○ ○ ○ ○

情報 ○ ○ ○ ○ ○ 2017/09/24

99


2017/09/24

10

0

UCF HCF

Deviation(HAZOP)Unsafe Object/Event(HAZOP)

新規開発は企画意図・利用意図からの逸脱から始めるのが楽

Eclipseは好きですか？

EclipseはJAVAによる道具類の基盤です。

今、複数の道具がEclipse上で動いている

ARMコンパイラ

C++ TEST

Event-B

。。。 2017/09/24

10

1

第四部道具類の整備

IPA STAMP tool

XSTAMPP

HAZOP拡張の検討

UMLツールとの連携

2017/09/24

10

2

IPA STAMP tool

清書道具にしない

安全分析は誤解、錯誤、勘違いなどの記録が重要

間違いの記録消さず、必要ないときは画面に表示のOn/OFF設定

二重帳簿の表帳簿作成の道具にしない

用語の構造的辞書、上下逆転への対応

HAZOP形式への変換、HAZOPの入力を可能にする

2017/09/24

10

3

On 18. Nov 2017, at 02:29, Kiyoshi Ogawa <[email protected]> wrote:

your_name=Dr. Kiyoshi Ogawa

[email protected]

your_message=I have 3 questions.

In the XSTAMPP Developer Guide: version2.3.0

At "Setting up your Development Environment"

1. p.5

Eclipse http://eclipse.org/downloads/packages/eclipse-rcp-and-rap-developers/lunasr/

cause

"404 - Sorry! We couldn't find it."

Which version can I use.

2. p.6

http://repo1.maven.org/maven2/.m2e/connectors/m2eclipse-tycho/0.6.0/N/0.6.0.201207302152/

Is it depending on Eclipse version?

3

Are there any wiki or forum about XSTAMPP?

I would try to create a new plugin.

contact_submitted=Send

2017/09/24

10

4

XSTAMPP(Q)

Hi Kiyoshi,

thank you for your interest in XSTAMPP.

please read the readme file of XSTAMPP 2.5.3 on how to build a new plugins in XSTAMPP

Code

https://github.com/SE-Stuttgart/XSTAMPP/releases

Readme as text

https://github.com/SE-Stuttgart/XSTAMPP

Read me as PDF

https://github.com/SE-Stuttgart/XSTAMPP/blob/master/Readme.pdf

Best Regards, Asim

Dr. ASIM ABDUL-KHALEQ

Universität Stuttgart

Institut für Softwaretechnologie

Universitätsstraße 38, Raum 1.242

D-70569 Stuttgart

Deutschland

Telefon + 49 711 685-88 458

Fax + 49 711 685-88 3802017/09/24

10

5

XSTAMPP(A)

XSTAMPP

Eclipse based

Eclipse Public License

プラグイン等の形式であれば有償販売可能

2017/09/24

10

6

挑戦：Xstamppを拡張してみよう

ソフトウェア技術者は道具を磨くのも仕事のうち

HAZOP拡張の検討

UMLツールとの連携

用語辞書との連携

2017/09/24

10

7

まとめ

HAZOPとSTAMP/STPAは焦点が異なる道具である。

HAZOPは空間と時間・質と量・上限と下限を確認する道具

STAMP/STPA/CAST(Cause Analysis using System Theory)は

STAMP/STPAの誘導語(guide word)はHAZOPで補充しないと網羅性がない

WTO/TBT協定に基づいて国際的な仕様は国際規格との対応づけが必要

2017/09/24

10

8

研究の目的（達成度）

IoTやAI(機械学習)の応用の展開において、安全分析、セキュリティ分析業務の爆発 IoT/AIの道具から安全分析も自動分析・機械学習できる部分を特定したい

Data Robotに乗るようなモデル記述の検討(STAMP/STPAが良いかGSN/HAZOPがいいか、UML/SYSML+HAZOPがいいか、SYSML+HAZOPがいいか（今後）

自動車分野でSTAMP/STPAを取り組んでいる人たちから二重投資をしたくないとの声HAZOPで取り組んできたがUML/SYSMLの図、SPIN/UPAALなどの状態遷移系の検証の道具の連携、辞書類を統合する道具が高価だったり、開発の手間を省きたい

課題の半分程度は、すでに取り組んでいる方がお見えになり、課題を抱えていた方を紹介させていただくことをお願いした。（完了）

2017/09/24

10

9

今日の伝言：想定外を意識しよう

物と事を意識しよう（HAZOP作業で許容）

空間と時間を意識しよう(HAZOP)

量と質を意識しよう(HAZOP)

分布・確率に注目しよう(神の視点にならないように)

単位・測定限界・計算限界に注目しよう(神は細部に宿る)

上限と下限を意識しよう(HAZOP)

複数の手法を組み合わせよう（腕の見せ所）

子供でも参加できる方法を考えよう(負だけでなく正の分析も) 2017/09/24

11

0

第15回クリティカルソフトウェアワークショップ（15thWOCS2）

主催国立研究開発法人宇宙航空研究開発機構（JAXA）

独立行政法人情報処理推進機構（IPA）

開催日2017年11月29日（水）13：30～17：30

［意見交換会 17：45～19：15］

2017年11月30日（木）10：00～17：00

開催場所〒108-8345 東京都港区三田2-15-45

慶應義塾大学三田キャンパス北館ホール2017/09/24

111

名古屋のIoTは名古屋のOSで

2017/12/26（火）

Raspberry PIのOS導入

Raspbian

Wireshark

画像処理

TOPPERS/SSP

TOPPERS/FMP

2017/09/24

11

2

XSTAMPP Developer meeting in Jpan

2018/01/18（木）

XSTAMPPの導入

操作

XSTAMPPの開発環境を導入

ソースコード

XSTAMPPの拡張方式の検討

最少催行人数 3(include me)

利用機器:Macintosh mini

利用OS：Windows 7, Ubuntu, Mac OS X

2017/09/24

11

3

個別企業向け安全分析は随時

費用: １日25000円（半日は半額）+ 交通費

参加者 : 9人以上100人未満（要相談）

題材の用意

2017/09/24

11

4

よくある課題

分析対象の状態遷移図が設計になってない

機密事項が多く、他の部門の人に参加してもらえない

機密契約を結んだ相手とだけでも共同で実施する

命令された仕事しかしてはいけない訓練を受けている

定義した仕事しかしない。今からの作業を定義しないと作業しない。

作業の内容を定義したら想定外は見つからない可能性が高まる

発想が貧困なので思いつかない

機密事項管理、議論の記録管理、契約、人の手配など必要な作業はたくさんある

得意な作業を分担すればよい 2017/09/24

11

5

参考文献(1) [1]岩井博樹, 標的型攻撃セキュリティガイド, SBクリエイティブ,2013

[2] Justin Seitz,サイバーセキュリティプログラミングPythonで学ぶハッカーの思考, オライリー,2015

[3]すべてわかるセキュリティ大全, 日経BP, 2018

[4]小高知宏, 基礎からわかるTCP/IP Javaネットワークプログラミング,オーム社, 2002

[5] RASPBERRY PI FOUNDATION, https://www.raspberrypi.org

[6] ISO/IEC 23360-1:2006 Linux Standard Base (LSB) core specification 3.1 -

Part 1: Generic specification, ISO,2006

[7] 手のひらLinux でハイパー電子工作, Interface 2013 年 12 月号, CQ 出版, 2013

[8] K.Ashton, That 'Internet of Things' Thing, Jun 22, 2009 http://www.rfidjournal.com/

articles/view?4986

[9]杉本明加, 斉藤直希,TOPPERS/SSP, 2017, http://www.toppers.jp/ssp-kernel.html

[10] 髙橋和浩, raspberry pi 用sspカーネルシュリンク版の紹介,名古屋市工業研究所カーネルソース勉強会,2014,https://github.com/alvstakahashi/RPI-SHRINKSSP-FULL

[11] 髙橋和浩,小川清, カーネルソースの歩き方 RaspberryPi演習,SWEST,2015,

http://swest.toppers.jp/SWEST17/program.html

[12]堀武司, 小川清,斉藤直希,渡部謹二,森川聡久,服部博行,安全分析,状態記述と形式手法に着目した安全教育とスキル,安全工学シンポジウム, 2009

2017/09/24

11

6

参考文献(2) [13] RFC 791, Internet Protocol, IETF, 1981

[14] 堀良彰, 岩波講座インターネット2 ネットワークの相互接続, 岩波書店,2001

[15] Chris Sanders,実践パケット解析第2版―Wiresharkを使ったトラブルシューティング,

オライリー, 2012

[16] RFC3530, Network File System (NFS) version 4 Protocol, 2003

[17] RFC search, RFC Editor, https://www.rfc-editor.org/search/

[18] インターネットRFC事典, マルチメディア通信研究会,アスキー,1998

[19] 情報セキュリティ10 大脅威2016,IPA, 2016

[20]小川清,端末間経路選択のための片方向遅延測定方式, 静岡大学博士論文, 2005

[21] つながる世界の開発指針, IPA, 2016, http://www.ipa.go.jp/sec/reports/

[22] 『つながる世界の開発指針』の実践に向けた手引き［IoT高信頼化機能編］, SECBOOKS, IPA, 2017

[23]長島宏明, μKadecotのWebAPI,TOPPERSカンファレンスホーム・ネットワークWG 主査,

2016

[24] 田中一成, プロセス分析はどこまで簡単にできるだろうか？, NSPICE conference, 2017

[25] 小川明秀, 安全分析における HAZOP-¬TRIZ連携の試み, 安全工学シンポジウム, 2016

2017/09/24

11

7

参考文献(3) [26] 小川清, 始める前に, 岐阜大学, 2011-

[27] 小川清, 斉藤直希, RaspberryPIの安全と安心対策, 安全工学シンポジウム2017

[28] 松浦光洋, IwIPの移植, TOPPERS開発アプリケーションコンテスト,2013

[29] Miho Nagahama, あっちむいてほい,TOPPERS on Psoc & DragonBoard,you tube,

2017

[30] 田中和明, mruby/C IDE demo, you tube,2016

[31] やまねゆりえ, mrubyでETロボコンに出よう,2015

[32] 中村晋一郎, TOPPERS realtime system sample, TOPPERS, 2013

[33] 塩出武, TOPPERS_jSPとSCIcos_labによる組込みメカトロニクス制御シミュレーション,

TOPPERS活用アイデア・アプリケーション開発コンテスト, 2013

[34] 斉藤直希, リアルタイムOSの必要性とTOPPERS/SSPの紹介, 2014

[35] ちょけむさ, ちょけねこたんじょうびのおくりもの, pritemps, 2015

[36]小寺浩司, 確率論及統計論輪講, JAXA/IPA WOCS2, 2016

[37] 邑中雅樹, オープンソースで構築するARMマイコン開発環境, 2012

[38] 坂井弘亮, 組込みOSを作ってみよう！, OSC, 2015

[39]岡田昌之, 名古屋こわい？, 関西第3回地域連携セミナー, 2013

2017/09/24

11

8

謝辞経済産業省, (研)産業総合研究所, (大)岐阜大学,

(研)宇宙航空研究開発機構(JAXA) (大)名古屋大学,

(大)名古屋工業大学, (大)静岡大学, (株）日本機能安全,

(株)ヴィッツ, 東海ソフト(株),ルネサスエレクトロニクス(株),

サニー技研(株), アイシン精機(株), トヨタ自動車(株),

(株)アドヴィックス,(株)東海理化,アイシンAW(株),

新日鉄住金ソリューションズ(株),みずほ情報総研(株), (株)NSD,

(株)デンソー, (株)デンソークリエイト, (株)豊田自動織機

(株)オプトン, (株)日本テクノセンター, (公社)日本技術士会,

(地独)道総研工業試験場, OSC事務局, 日本SPICEネットワーク

大垣mini maker fair事務局, CEST, SWEST

119

2017/09/24

17/08/25

HAZOPの資料が（を）：＜事前：発表者，参加者＞

誘guide word

外れ：逸脱(deviation) なぜ：原因(cause) どうする：対策(action)案

無 no

事前にあがっていない。予稿集を買っていない。

資料，説明が分かりにくい。興味がない。前日まで作成していてあげられず。過去の資料があることを関係者に知らせる

逆 reverse過去のものはあったが見ていない。

過去の資料を見たり，downloadしやすくする。

他other than

質がひどいので見る気がしない

過去のセミナの焼き直し。機密事項で明確に言えないことが多い。

HAZOPをしたことがない人に，毎回見てもらう。

大 more

1枚づつ印刷して大きすぎ。資料の量が多すぎる。複数の版がある。

いろいろな人を想定しすぎ。いろいろなことを入れたくなりすぎた。

誘導語，図，設計指針の3点に絞る

小 less 文字が小さい。資料の量が少なすぎる。

制御情報について分かっている人を想定して資料を作った

後日詳細資料を公開する

類as well as 資料が難し過ぎる。

専門家として仕事をしている人を前提にしている。

人，物（製品），作業について区分して伝えることにより，１つの視点だけでも分かってもらう

部 part of

資料がhazopの一部だけしか説明していない

HAZOPの応用例が増えてきた。

実際に作業してみると対象によってやることが違うことを体験してもらう

早 early話題の展開が飛び飛び

演習を想定した資料。間は作業で埋めて欲しい。

作業表を配って体験してもらう(今回未実施)

遅 late同じ事を諄く説明しすぎ

参加者が何がわかっていないかをよく理解していない習うより慣れろを標題に入れる

前 before 結論が前の方すぎる結論を早く伝えたい。

実際にやってみなると納得できることを伝える

論理展開が明確になったも


付録1

12

0

17/08/25

HAZOPの発表が：＜最中：発表者＞

誘guide word


無 no 分からない用語構造の違う分野の人が聞いている。略号の読みを知らない。

用語構造の類語辞書を作る。略号一覧に読みを入れる。

逆 reverse当たり前のことしか言っていない過去のセミナの焼き直し

今回新たに付け加えたことを色・字形(font)を変えて明確にする。

他other than

面白くない何を一番伝えたいかで悩んでいる

いいたいことを3つに絞る

大 more説明の量が多すぎる

hazopを知らないさまざまな人を想定しすぎ

設計指針を3つ以上用いないと偏る可能性があることを述べる。

小 less説明が少なすぎる

制御，情報について分かっている人を想定している

図だけでもピンと来てもらえるようなものを入れる

類 as well as説明が難し過ぎる

専門家として仕事をしている人を前提にしている

人，物（製品），作業について区分して伝えることにより，１つの視点だけでも分かってもらう

部 part of 説明が一部だけ一番詳しく説明したい部分に絞った誘導語，図，設計指針の3点は省かない

早 early 説明が速過ぎるいろいろなことを言いた過ぎる。いいたいことを3つに絞る

遅 late説明が遅過ぎる

用意した資料では分からないことに発表しながら気が付いた

作業表を配って体験してもらう

前 before定義していない用語を使った。

定義すべき用語が多過ぎるカタカナ語は漢字の言葉に直してみる。漢字の言葉は大和言葉に直してみる。

後 after用語定義が後から出てきた

用語定義が前にあるとうざい用語定義が最後にあることを最初に言う


付録1.1

12

1

17/08/25

HAZOP参加後の成果が：＜事後：参加者＞

誘guide word


無 no 何も分からなかった資料，説明が分かりにくい。興味がない。事前に参考資料（URL記載済）を読む

逆 reverseHAZOPの結果と事前に分かっていることの関係を逆に捉えられた

わかっている人がやっているから分かるだけで，手法の善し悪しではないという印象を与えた

発表者の過去の論文，発表を見てもらい変化を知らせる

他other than

説明のまずさだけが印象に残った

発表者と興味の方向が違う一人HAZOPした結果を経験者に見てもらう

大 more

たくさんのことを分かりすぎて何が要点だったか見失

う

FTA, FMEAをやっているのでHAZOPで補うところがわかった FTA, FMEA, HAZOPの比較表を作ってみる

小 less

役に立つ道具の１つであることは分かった。だからどうすればいいかが分からない

参加者の課題と手法の間のつなぎ方がピントこない

一人HAZOPした結果を経験者に見てもらう

類as well as

HAZOPでできないことまでできると誤解を与えた

利点を強調しすぎた異なる設計指針，単位に適用してみる

部 part ofHAZOPの理解が一面的になった

説明の一部だけが当てはまる 3段階の利用（初期，設計，運用）を示す。

早 early

ちょっと聞いただけで分かったので別の部屋に行った

１つのやり方だけで分かったつもりになる

資料に，失敗しないための指針を示しておく

遅 lateいつまでも分からないので怒れてきた

参加者の課題とどう噛み合うのかが明確でない

一人HAZOPした結果を見せて，どうやったらいいかわからないところを示す。

前 before作業せずにわかったつもりになった

自分でやるつもりがない一度やってみる。

後 after他のやり方でもできると感じ自分より経験が少ない人と作業してみて，


付録1.2

12

2

ご静聴ありがとうございました

2017/09/24

©ちょけむさ

12

3

不明点はご連絡を