Value-Sensitive DesignBatya Friedman

ACM Interactions, 3/6, pp17-23, 1996.

渡辺隆行

渡辺： VSD を紹介する理由• Web アクセシビリティは実装だけでは解決

しない．オーサリングツール， UA の機能などの技術面だけでは解決しない

• アクセシブルな Web を増やす動機・理由は何がある？

　→規格，法律， CSR ，ユーザビリティ？？• 価値 ( 観 ) に基づくデザインの考え方は自

然にアクセシビリティを内包する

2渡辺隆行＠ UAI 研究会， 2011/10/15

Value-Sensitive DesignBatya Friedman

ACM Interactions, 3/6, pp17-23, 1996.

• 参考： M. Flanagan, D. Howe, and H. Nissenbaum: Values at Play: Design Tradeoffs in Socially-Oriented Game Design, CHI2005, pp751-760 ， 2006. 他

• 我々が道具を使用する際，その道具に価値を見いだしている．

• デザイン段階で価値を考えることは少ない．3渡辺隆行＠ UAI 研究会， 2011/10/15

VSD

• 利用者から見た価値を考慮して，それを満たすように製品をデザインする手法．

• 利用者の生活を豊かにする製品をデザインする（利用者は何故その製品を利用するか）

• 価値：社会的価値，経済的価値，道徳的価値，制作者の価値と利用者の価値，サイトのブランド・忠誠度・シェア

4渡辺隆行＠ UAI 研究会， 2011/10/15

この論文のイントロ• User autonomy （利用者の自主性）と

freedom from bias という二つの価値を考慮したプロジェクトを紹介．

5渡辺隆行＠ UAI 研究会， 2011/10/15

User autonomy （利用者の自主性）

• 例：環境の音声をモニターして自動動作するするシステムがある．システム起動時は常に音声を収集するので，私的な電話をする際にはシステム全体を停止させなければならない．デザイン段階で，マイクの On/off を切り替えるスイッチの必要性に気づけば良かった．

• ハードウェアのデザイン次第で良くも悪くもなる．

• User autonomy ：ユーザがハードウェア（技術）を制御する重要性も示している．

• ユーザが必要なときに必要なことをできる自主性．

6渡辺隆行＠ UAI 研究会， 2011/10/15

User autonomy に必要な 4 要素• System capability:

ユーザの目的を果たす機能を備えているか• System complexity ：

例：多機能すぎて利用しにくいワープロ　ユーザの能力とシステムを使いこなすのに必要な能力

のミスマッチ• Misrepresentation of the system　概念モデルのミスマッチ，誇大広告，• System fluidity例：不要情報をフィルターしてくれるシステム．後で興

味が変って最初はフィルターしていた情報が欲しくなるかも．でも，変更方法がわからなかったり，そもそもフィルターしていることさえ覚えていない． 7渡辺隆行＠ UAI 研究会， 2011/10/15

freedom from bias

• （道徳的な） Bias ：コンピュータ技術が，総合的に＆不公平に，一部の人々を他の人々と差別（区別）している

• 我々の研究で見いだした 3 要因：– Preexisting bias– Technical bias– Emergent bias

8渡辺隆行＠ UAI 研究会， 2011/10/15

Preexisting bias

• 社会的な組織，習慣，態度に根ざしたバイアス

• コンピュータ技術の開発前からあるバイアスを取り込んでいる．

• 個人的なバイアスもある• 例：無意識のうちに男性に向いたソフト

を作っている

9渡辺隆行＠ UAI 研究会， 2011/10/15

Technical bias

• 例：技術的問題（機能不足）によるバイアス• 例：投票システムの機能を良く理解していない

利用者は，投票し間違えたり複数の候補に投票してしまったりして無効票となるかも．

• 例： CUI の時代にコンピュータを使いこなしていた視覚障害者は， GUI そのものは使えない．GUI そのものは多数のユーザの利便性を増したが，視覚障害者にはバリアを生んだ． GUI にアクセスするシステムが必要となった．

10渡辺隆行＠ UAI 研究会， 2011/10/15

Emergent bias

• ユーザが利用する状況で生まれるバイアス

• デザインが終わった後しばらく経ってから，社会的知識，利用者数，文化価値の変化で生ずることが多い．

11渡辺隆行＠ UAI 研究会， 2011/10/15

Design Methods to Minimize Bias

• システム・デザインで生じるバイアスに対する理解が深まるにつれ，バイアスを避ける技術を開発できる．

• デザインの初期段階でバイアスを見つける．• 例：利き手に関わらず利用できる入力や画面出力• 例：アルキメデス・プロジェクト＠ Stanford• 例：色覚障害に配慮した冗長な情報提示• 例： ISO9001 （品質マネジメントシステムの要求事項）でもバイアスを避けることが考慮されつつある

12渡辺隆行＠ UAI 研究会， 2011/10/15

結論• コンピュータ技術 (IT) の開発自体はお金がかか

るが，普及は容易．その技術の価値も容易にあちこちに普及する．

• いったんできあがった技術を変えるのは困難• 私の提案：コンピュータ技術のデザインに於い

て，道徳的立場から得た知見を人間の価値として評価する

• もちろん，他の要点とのバランスが大事

13渡辺隆行＠ UAI 研究会， 2011/10/15

続 結論• 道徳的価値は経済的価値にもつながる事が可能

だが，単純な費用利益分析では見過ごされている．

• 例：ユーザの自主性は，セキュリティやプライバシーの保護につながる．バイアスが少ない製品は大きな市場で売れる．

• 後から修正するのは費用がかかる，デザイン段階での修正なら容易

渡辺隆行＠ UAI 研究会， 2011/10/15 14

続 結論：「正しい」製品• 「正しい」とは？• 正しいシステムデザイン：信頼性，効率性，正確さ

• それにプラスして人間の価値を助長する要素を含むべき

渡辺隆行＠ UAI 研究会， 2011/10/15 15