View
1.377
Download
0
Category
Preview:
DESCRIPTION
Explanation, trust, transparency. These topics are tightly coupled. One trusts a software system more if it can tell what it did and if it can justify its decisions. This way the system "proofs" its trustworthiness to its user. This talk presents important concepts for analysing and developing software systems with explanation capabilities using two examples: the semantic search engine RadSem and the open-source case-based reasoning tool myCBR.
Citation preview
ErklärungsfähigeSoftwaresysteme
Dr. Thomas Roth-BerghoferUniversity of Hildesheim, Germany
Kassel, Germany, 30 June 2011
Explanation-aware Computing:A new software paradigm?
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Thomas Roth-Berghofer
2
Senior researcherGerman Research Center for Artificial Intelligence (DFKI) GmbH
industry
research
academia
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Thomas Roth-Berghofer
2
Senior researcherGerman Research Center for Artificial Intelligence (DFKI) GmbH
industry
Software engineer, Consultant, Manager Quality and Support empolis GmbH (now: Attensity Europe)
research
academia
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Thomas Roth-Berghofer
2
Senior researcherGerman Research Center for Artificial Intelligence (DFKI) GmbH
Senior researcherGerman Research Center for Artificial Intelligence (DFKI) GmbH
industry
Software engineer, Consultant, Manager Quality and Support empolis GmbH (now: Attensity Europe)
research
academia
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Thomas Roth-Berghofer
2
Senior researcherGerman Research Center for Artificial Intelligence (DFKI) GmbH
Senior researcherGerman Research Center for Artificial Intelligence (DFKI) GmbH
Visiting ProfessorUniversity of Hildesheim
Lecturer at University of Kaiserslautern
industry
Software engineer, Consultant, Manager Quality and Support empolis GmbH (now: Attensity Europe)
research
academia
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Thomas Roth-Berghofer
2
Senior researcherGerman Research Center for Artificial Intelligence (DFKI) GmbH
Senior researcherGerman Research Center for Artificial Intelligence (DFKI) GmbH
Visiting ProfessorUniversity of Hildesheim
Lecturer at University of Kaiserslautern
industry
Software engineer, Consultant, Manager Quality and Support empolis GmbH (now: Attensity Europe)
research
academiaStarting in September 2011:
Freitag, 1. Juli 2011
ErklärungsfähigeSoftwaresysteme
Dr. Thomas Roth-BerghoferUniversity of Hildesheim, Germany
Kassel, Germany, 30 June 2011
Explanation-aware Computing:A new software paradigm?
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Characteristics of ,good‘ software
4
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Characteristics of ,good‘ software
4
Self explaining Helpful
Easy to use With nice user interface
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Characteristics of ,good‘ software
4
Self explaining HelpfulUser centred
Easy to use With nice user interface
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Characteristics of ,good‘ software
4
All in all: Great user experience expected
Self explaining HelpfulUser centred
Easy to use With nice user interface
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Overview
Motivating analogy: Car wash tunnel
Explanation basics
Example 1: Semantic search engine RadSem
Example 2: Open source case-based reasoning tool myCBR
Wrap-up
5
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 6 http
://w
ww
.feue
rver
zink
en.c
om/u
plo
ads/
med
ia/B
elob
-Was
chst
rass
e_01
.jpg
Car Wash
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Car wash options
7
http
://w
ww
.feue
rver
zink
en.c
om/u
ploa
ds/m
edia
/Bel
ob-W
asch
stra
sse2
_01.
jpg
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Car wash options
7
EXTERIOR WASH
SEALER WAX
TRIPLE FOAM POLISH
WHEEL BRITE
UNDERCARRIAGE WASH
DOUBLE BOND (With Teflon)
TIRE SHINE
http
://w
ww
.feue
rver
zink
en.c
om/u
ploa
ds/m
edia
/Bel
ob-W
asch
stra
sse2
_01.
jpg
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Car wash options
7
EXTERIOR WASH
SEALER WAX
TRIPLE FOAM POLISH
WHEEL BRITE
UNDERCARRIAGE WASH
DOUBLE BOND (With Teflon)
TIRE SHINE
Our exterior wash process uses only the finest quality materials formulated especially for today's automotive finishes. Our wash water is filtered with a filtration system that assures us of the cleanest and safest water to clean automobiles. Our rinse water, is
water at its purest-fresh water filtered through a series of media tanks that
removes any remaining minerals from the water and produces a spot free rinse.
http
://w
ww
.feue
rver
zink
en.c
om/u
ploa
ds/m
edia
/Bel
ob-W
asch
stra
sse2
_01.
jpg
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Car wash options
7
EXTERIOR WASH
SEALER WAX
TRIPLE FOAM POLISH
WHEEL BRITE
UNDERCARRIAGE WASH
DOUBLE BOND (With Teflon)
TIRE SHINE
Seals in the Shine: A polymer-fortified sealer wax (liquid form) designed by
Simoniz for automatic car washes. This product is lightly scented and is applied in
the final rinse/waxing area of the wash process. It's an added protection (against; acid, rain, bird droppings, tree sap, etc.) suitable for all automobile finishes, and it will leave a high luster on your vehicle's finish and will not smear windshields.
http
://w
ww
.feue
rver
zink
en.c
om/u
ploa
ds/m
edia
/Bel
ob-W
asch
stra
sse2
_01.
jpg
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Car wash options
7
EXTERIOR WASH
SEALER WAX
TRIPLE FOAM POLISH
WHEEL BRITE
UNDERCARRIAGE WASH
DOUBLE BOND (With Teflon)
TIRE SHINE
Three foam polish (Cleaner, Sealer, and Protector) This process is actually an application of three different products
manufactured by Simoniz. This application is applied after the first wash cycle. It consists
of an application of three different colors applied in conjunction with each other, to create an exceptional Clear Coat finish rejuvenator. This cleans, polishes, and
prepares the surface. Best results will come when used in conjunction with Sealer Wax or
Teflon Double Bond.
http
://w
ww
.feue
rver
zink
en.c
om/u
ploa
ds/m
edia
/Bel
ob-W
asch
stra
sse2
_01.
jpg
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Car wash options
7
EXTERIOR WASH
SEALER WAX
TRIPLE FOAM POLISH
WHEEL BRITE
UNDERCARRIAGE WASH
DOUBLE BOND (With Teflon)
TIRE SHINE
http
://w
ww
.feue
rver
zink
en.c
om/u
ploa
ds/m
edia
/Bel
ob-W
asch
stra
sse2
_01.
jpg
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Concept explanations
The goal of concept explanations is to build links between unknown and known concepts.
Variations:Definition: “What is a bicycle?” – “A bicycle is a land vehicle with two wheels in line. Bicycles are a form of human powered vehicle.”Theoretical proposition: “What is force?” – “Force is Mass times Acceleration.”Prototypical usage of individual things or actions: “What is a bicycle?” – “The thing, that man over there just crashed with.”Functional mapping: “What is a bicycle?” – “A bicycle serves as a means of transport.”
8
Concept explanations enhance the knowledge of
communication participants.
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Process example: Car wash tunnel
9
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Process example: Car wash tunnel
9
Drying
Care
Wash
Wheel Wash
Prewash
Configure options / Pay
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Process example: Car wash tunnel
10
Wash
Wheel Wash
Drying
Prewash
Care
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Process example: Car wash tunnel
10
Wash
Wheel Wash
Drying
Prewash
Care
Paid: Basic fare1. Prewash2. Wash3. Drying
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Process example: Car wash tunnel
10
Wash
Wheel Wash
Drying
Prewash
Care
PrewashPaid: Basic fare
1. Prewash2. Wash3. Drying
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Process example: Car wash tunnel
10
Wash
Wheel Wash
Drying
Prewash
Care
Wheel Wash
PrewashPaid: Basic fare
1. Prewash2. Wash3. Drying
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Process example: Car wash tunnel
10
Wash
Wheel Wash
Drying
Prewash
Care
Wash
Wheel Wash
PrewashPaid: Basic fare
1. Prewash2. Wash3. Drying
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Process example: Car wash tunnel
10
Wash
Wheel Wash
Drying
Prewash
Care
Wash
Wheel Wash
Prewash
Care
Paid: Basic fare1. Prewash2. Wash3. Drying
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Process example: Car wash tunnel
10
Wash
Wheel Wash
Drying
Prewash
Care
Wash
Wheel Wash
Drying
Prewash
Care
Paid: Basic fare1. Prewash2. Wash3. Drying
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
• Action explanations: “Why was this seat post selected?” – “For the given price, only one other seat post was available. But this was too short.”
• Negative action explanations: “Why was no carrier chosen?” – “A carrier is only available for touring bikes. The user did not choose a touring bike.”
Action explanations
Action explanations explain the activities of the system.
11
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Communication scenario of explanation
U
I
Explainer
Originator
12
Explanationknowledge
Reasoningknowledge
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Questions: What, how and why?
For successfully using a car wash, we need to learn:
Concepts, terms, definitions - the ,what‘Processes, process steps - the ,how‘
Dependencies - the ,why‘
From:Parents, friends, car wash personnel, experience, …
13
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Some explanation basics
14
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
What are explanations?
15
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
What are explanations?
Explanations are answers to questions.
16
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
When are questions being asked?
17
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
When are questions being asked?
Whenever expectations are not met.
18
Freitag, 1. Juli 2011
MACEUniversität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Mining and Analysis Continuum of Explaining
19
Martin Atzmüller and Thomas Roth-Berghofer, Ready for the MACE? The Mining and Analysis Continuum of Explaining uncovered, Research Report RR-10-02, Deutsches Forschungszentrum für Künstliche Intelligenz DFKI GmbH, 2010, ISSN 0946-008X.
Freitag, 1. Juli 2011
MACEUniversität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Mining and Analysis Continuum of Explaining
19
Purpose explanation
How explanation
Why explanation
Concept explanation
Action explanation
Kinds of explanation
Knowledge containers
Ontological knowledge (Vocabulary) Pattern knowledgeInstance knowledge Context knowledge
Transparency
Justification
Relevance
Learning
Explanation Goals
Conceptualisation
Level of Details Presentation styles
Privacy
Martin Atzmüller and Thomas Roth-Berghofer, Ready for the MACE? The Mining and Analysis Continuum of Explaining uncovered, Research Report RR-10-02, Deutsches Forschungszentrum für Künstliche Intelligenz DFKI GmbH, 2010, ISSN 0946-008X.
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Example 1: Semantic search
Roth-Berghofer, Th. and Forcher, B. Improving the understandability of semantic search explanations. Int. J. Knowledge Engineering and Data Mining, 1(3):216–234, 2011.
20
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
21
Semantic search process
U
I
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
21
Semantic search process
U
I
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
21
Semantic search process
U
I
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Medico project: Annotate and Search with RadSem
22
Goal: Support medical doctors (esp. radiologists) in annotating and searching for medical images (and text) with controlled vocabulary.
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Medico project: Annotate and Search with RadSem
22
Goal: Support medical doctors (esp. radiologists) in annotating and searching for medical images (and text) with controlled vocabulary.
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Medico project: Annotate and Search with RadSem
22
Goal: Support medical doctors (esp. radiologists) in annotating and searching for medical images (and text) with controlled vocabulary.
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Medico project: Annotate and Search with RadSem
22
Goal: Support medical doctors (esp. radiologists) in annotating and searching for medical images (and text) with controlled vocabulary.
Acknowledgement: RadSem was part of the MEDICO project (funded by BMWi in the research programme THESEUS)
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 23
Medico ontology hierarchy
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 23
Medico ontology hierarchy
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 24
Foundational Model of Anatomy (FMA)
Developed and maintained byStructural Informatics Group at University of Washington
Contains more than 70.000 anatomical entities (classes)More than 1.5 million relations between entities
Most comprehensive human ontology
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 25
International Classification of Diseases ICD-10
Established standard of WHO, but only available in semi-structured formats
Formalisation approach: Crawler for online version of ICD-10 generates light-weight OWL ontology
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 26
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 26
„Region of Interest“
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 26
„Region of Interest“
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 26
„Region of Interest“
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 26
„Region of Interest“
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Example search
27
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Example search
27
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Example search
27
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Communication scenario for RadSem
U
I
Explainer
Originator
28
Semantic SearchQuery extended with
ontology concepts
Ranking based on path length between searched for and found concept
User model
Frequency classes
FMA
ICD-10
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Communication scenario for RadSem
U
I
Explainer
Originator
28
Semantic SearchQuery extended with
ontology concepts
Ranking based on path length between searched for and found concept
Dijkstra algorithm approximating the semantic search algorithm
User model
Frequency classes
FMA
ICD-10
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 29
Reconstructive explanation
U
I
Explainer
OriginatorSemantic Search
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 29
Reconstructive explanation
U
I
Explainer
OriginatorSemantic Search
line of reasoning
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 29
Reconstructive explanation
U
I
Explainer
OriginatorSemantic Search
line of reasoning
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 29
Reconstructive explanation
U
I
Explainer
OriginatorSemantic Search
line of reasoning
line of explanation
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 29
Reconstructive explanation
U
I
Explainer
OriginatorSemantic Search
line of reasoning
line of explanation
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 29
Reconstructive explanation
U
I
Explainer
OriginatorSemantic Search
line of reasoning
line of explanation
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
„Bridge concepts“
30
Searchconcept
Annotationconcept
Bridgeconcepts
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Predict understandability of term
Hypothesis: The degree of medical knowledge correlates with frequency classes.
Frequency class
Definition: Let C be a text corpus and let f(t) denote the frequency of a term t ∈ C. The frequency class c(t) of a term t ∈ C is defined
as , where t∗ denotes the most frequently
used term in C.
Examples: c(‘Brain‘) = c16, c(‘Encephalon‘) = c22
31
zu Eissen, S.M. and Stein, B. (2006) ‘Intrinsic plagiarism detection’, in ECIR, pp.565–569.
Relation between a word and most frequent word of a text
corpus.
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Users of RadSem
32
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Users of RadSem
32
Medical IT specialists
Medical doctors
Patients and Citizens
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
When do RadSem usersneed explanations?
33
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
When do RadSem usersneed explanations?
33
Test whether the Search Engine works correctly.
Test whether the ontologies are correctly modelled.
Medical IT specialists
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
When do RadSem usersneed explanations?
33
Test whether the Search Engine works correctly.
Test whether the ontologies are correctly modelled.
Medical IT specialists
Learn about the medical domain.
Justify results in order to increase trust.
Learn how to use the engine concerning ontologies.
Patients and Citizens
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Even doctors have the need for explanations from time to time!
34
Reassurance: Activate passive knowledge.
Medical doctors
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Example 2: myCBR
35
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Open-source case-based reasoning tool
Main features (Version 3.x):Easy import of raw data (csv-files)GUIs for modelling knowledge-intensive similarity measures
Similarity-based retrieval functionality
myCBR Software Development Kit (SDK) for easy integration with other systems
Built-in explanation capabilities
More information and download: http://mycbr-project.net
36
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Case-Based Reasoning (CBR) is a problem solving approach.
In short: New problems are solved based on the solutions of similar past problems.
Basic assumption: Similar problems have similar solutions.
Agnar Aamodt and Enric Plaza. Case-based reasoning: Foundational issues, methodological variations, and system approaches. AI Communications, 7(1):39–59, 1994.
37
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
How do you compare cars?
38
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
How do you compare cars?
Body
Model
Color
Manufacturer
Mileage
38
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 39
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 39
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 39
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Local similarity measure
40
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Global similarity measureFeature match: local similarity measures
Class similarity: aggregate local similarities
Weighted sumMaximum
MinimumEuclidian distance
41
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Global similarity measureFeature match: local similarity measures
Class similarity: aggregate local similarities
Weighted sumMaximum
MinimumEuclidian distance
41
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Important attributes
42
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Searching for a car
43
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Searching for a car
43
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Searching for a car
43
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Searching for a car
43
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Searching for a car
43
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Concept explanations
44
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 45
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie 45
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
➡Concept explanations provide links to known concepts.
45
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
➡Concept explanations provide links to known concepts.
45
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
➡Concept explanations provide links to known concepts.
45
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
➡Concept explanations provide links to known concepts.
45
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
➡Concept explanations provide links to known concepts.
➡Action explanations provide information about the similarity calculation process.
45
Freitag, 1. Juli 2011
MACEUniversität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Mining and Analysis Continuum of Explaining
46
Martin Atzmüller and Thomas Roth-Berghofer, Ready for the MACE? The Mining and Analysis Continuum of Explaining uncovered, Research Report RR-10-02, Deutsches Forschungszentrum für Künstliche Intelligenz DFKI GmbH, 2010, ISSN 0946-008X.
Freitag, 1. Juli 2011
MACEUniversität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Mining and Analysis Continuum of Explaining
46
Transparency
Justification
Relevance
Learning
Explanation Goals
Conceptualisation
Martin Atzmüller and Thomas Roth-Berghofer, Ready for the MACE? The Mining and Analysis Continuum of Explaining uncovered, Research Report RR-10-02, Deutsches Forschungszentrum für Künstliche Intelligenz DFKI GmbH, 2010, ISSN 0946-008X.
Freitag, 1. Juli 2011
MACEUniversität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Mining and Analysis Continuum of Explaining
46
Purpose explanation
How explanation
Why explanation
Concept explanation
Action explanation
Kinds of explanation
Transparency
Justification
Relevance
Learning
Explanation Goals
Conceptualisation
Martin Atzmüller and Thomas Roth-Berghofer, Ready for the MACE? The Mining and Analysis Continuum of Explaining uncovered, Research Report RR-10-02, Deutsches Forschungszentrum für Künstliche Intelligenz DFKI GmbH, 2010, ISSN 0946-008X.
Freitag, 1. Juli 2011
MACEUniversität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Mining and Analysis Continuum of Explaining
46
Purpose explanation
How explanation
Why explanation
Concept explanation
Action explanation
Kinds of explanation
Transparency
Justification
Relevance
Learning
Explanation Goals
Conceptualisation
Level of Details
Martin Atzmüller and Thomas Roth-Berghofer, Ready for the MACE? The Mining and Analysis Continuum of Explaining uncovered, Research Report RR-10-02, Deutsches Forschungszentrum für Künstliche Intelligenz DFKI GmbH, 2010, ISSN 0946-008X.
Freitag, 1. Juli 2011
MACEUniversität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Mining and Analysis Continuum of Explaining
46
Purpose explanation
How explanation
Why explanation
Concept explanation
Action explanation
Kinds of explanation
Transparency
Justification
Relevance
Learning
Explanation Goals
Conceptualisation
Level of Details Presentation styles
Martin Atzmüller and Thomas Roth-Berghofer, Ready for the MACE? The Mining and Analysis Continuum of Explaining uncovered, Research Report RR-10-02, Deutsches Forschungszentrum für Künstliche Intelligenz DFKI GmbH, 2010, ISSN 0946-008X.
Freitag, 1. Juli 2011
MACEUniversität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Mining and Analysis Continuum of Explaining
46
Purpose explanation
How explanation
Why explanation
Concept explanation
Action explanation
Kinds of explanation
Knowledge containers
Transparency
Justification
Relevance
Learning
Explanation Goals
Conceptualisation
Level of Details Presentation styles
Martin Atzmüller and Thomas Roth-Berghofer, Ready for the MACE? The Mining and Analysis Continuum of Explaining uncovered, Research Report RR-10-02, Deutsches Forschungszentrum für Künstliche Intelligenz DFKI GmbH, 2010, ISSN 0946-008X.
Freitag, 1. Juli 2011
MACEUniversität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Mining and Analysis Continuum of Explaining
46
Purpose explanation
How explanation
Why explanation
Concept explanation
Action explanation
Kinds of explanation
Knowledge containers
Ontological knowledge (Vocabulary) Pattern knowledgeInstance knowledge Context knowledge
Transparency
Justification
Relevance
Learning
Explanation Goals
Conceptualisation
Level of Details Presentation styles
Martin Atzmüller and Thomas Roth-Berghofer, Ready for the MACE? The Mining and Analysis Continuum of Explaining uncovered, Research Report RR-10-02, Deutsches Forschungszentrum für Künstliche Intelligenz DFKI GmbH, 2010, ISSN 0946-008X.
Freitag, 1. Juli 2011
MACEUniversität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Mining and Analysis Continuum of Explaining
46
Purpose explanation
How explanation
Why explanation
Concept explanation
Action explanation
Kinds of explanation
Knowledge containers
Ontological knowledge (Vocabulary) Pattern knowledgeInstance knowledge Context knowledge
Transparency
Justification
Relevance
Learning
Explanation Goals
Conceptualisation
Level of Details Presentation styles
Privacy
Martin Atzmüller and Thomas Roth-Berghofer, Ready for the MACE? The Mining and Analysis Continuum of Explaining uncovered, Research Report RR-10-02, Deutsches Forschungszentrum für Künstliche Intelligenz DFKI GmbH, 2010, ISSN 0946-008X.
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Take home message
47
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Take home message
Explanation-aware Computing is a user-centred way of looking at software design and development.
47
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Take home message
Explanation-aware Computing is a user-centred way of looking at software design and development.
An ExaCt system consists of explainer and originator with different but overlapping knowledge bases.
47
U
I
Explainer
Originator
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Take home message
Explanation-aware Computing is a user-centred way of looking at software design and development.
An ExaCt system consists of explainer and originator with different but overlapping knowledge bases.
The annotation and search tool RadSem and myCBR are examples of such ExaCt design.
47
U
I
Explainer
Originator
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Take home message
Explanation-aware Computing is a user-centred way of looking at software design and development.
An ExaCt system consists of explainer and originator with different but overlapping knowledge bases.
The annotation and search tool RadSem and myCBR are examples of such ExaCt design.
More resources and slides:http://on-explanation.net
47
U
I
Explainer
Originator
Freitag, 1. Juli 2011
ErklärungsfähigeSoftwaresysteme
Dr. Thomas Roth-BerghoferUniversity of Hildesheim, Germany
Kassel, Germany, 30 June 2011
Explanation-aware Computing: A new
software paradigm?
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
Workshop series„Explanation-aware Computing“
ICJAI-11 workshop, Barcelona, Spain, July 2011, http://exact2011.workshop.hm
ECAI-10 workshop, Lisbon, Portugal, July 2010, http://exact2010.workshop.hm
IJCAI-09 workshop, Pasadena, California, USA July 2009, http://exact2009.workshop.hm
ECAI-08 workshop, Patras, Greece, July 2008, http://exact2008.workshop.hm
AAAI-07 workshop, Vancouver, Canada, July 2007, http://exact2007.workshop.hm
AAAI Fall Symposium, Washington, DC, USA, November 2005, http://exact2005.workshop.hm
49
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
http://on-explanation.net
50
Freitag, 1. Juli 2011
Universität Kassel — 2011-06-30AG Erklärungsfähige Softwaresysteme Stiftung Universität HildesheimFolie
http://on-explanation.net
50
Freitag, 1. Juli 2011
Recommended