View
11
Download
0
Category
Preview:
Citation preview
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
Vorlesung: „Künstliche Intelligenz“
- Mustererkennung -
ESES
PP LSLS
SS STST
Miao WangKünstliche Intelligenz 1
ESES SS STST
MEME
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
Inhaltliche Planung für die Vorlesung
1) Definition und Geschichte der KI, PROLOG
2) Expertensysteme
3) Logisches Schließen, Resolution
4) Suche und Spieltheorie
5) Spieleprogrammierung
6) General Game Playing
7) Reinforcement Learning und Spieleprogrammierung
8) Mustererkennung
Künstliche Intelligenz Miao Wang 2
9) Neuronale Netze
10) Optimierungen (genetische und evolutionäre Algorithmen)
11) Bayes-Netze, Markovmodelle
12) Robotik, Pathfindingder rote Vorlesungsfaden...
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
Mustererkennung - Abgrenzung
• ComputergrafikSynthese von Bildern aus geometrischen Modellen
• Bildbearbeitung• BildbearbeitungManipulation von Bildern mit fertiger Software (Photoshop, Corel, Paint, etc. )
• Digitale BildverarbeitungErstellung von Software und Funktionen zur Bildbearbeitung
• BildanalyseExtraktion von sinnvollen Informationen aus Bildern
• MustererkennungAuffinden von „Mustern“ in Daten und Signalen
• ComputervisionMechanisieren von Sehvorgängen: räumliche Erfassung und Erkennen von
Künstliche Intelligenz Miao Wang 3
Mechanisieren von Sehvorgängen: räumliche Erfassung und Erkennen von Objekten
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
Bildverstehen
Mensch Maschine
• Kann sehr gut Muster (Text, Sprache, Musik, Bilder) erkennen, selbst in komplizierter Form
• Kann sehr gut analytische Algorithmen verarbeiten (number crunching)
Künstliche Intelligenz Miao Wang 4
erkennen, selbst in komplizierter Form• Intuitiv, angeboren• Assoziative Fähigkeiten
• Kann schlecht analytische Prozesse berechnen
(number crunching)• Entspricht der Konstruktion• Kombinatorische Fähigkeiten
• Kann schlecht Muster erkennen
Was dem Menschen einfach fällt, scheint dem Rechner schwer zu fallen.Was dem Rechner einfach fällt, scheint einem Menschen schwer zu fallen.
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
Mustererkennung
Verfahren um gemessene Objekte automatisch in Kategorien (Klassen) einzuordnen durch Erkennen von Muster.
Muster: Merkmale (Features), die alle Objekte einer Klasse gemeinsam haben und deutlich von MerkmalenMuster: Merkmale (Features), die alle Objekte einer Klasse gemeinsam haben und deutlich von Merkmalenanderer Klassen unterscheiden
Aufnahme
Vorverarbeitung
Feature-Extraktion
Künstliche Intelligenz Miao Wang 5
Feature-Reduktion
Klassifizierung Clustering
Lernen
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
Merkmalsvektor
Jedes Objekt wird durch einen n-dimensionalenJedes Objekt wird durch einen n-dimensionalen
Merkmalsvektor im n-dimensionalen Merkmalsraum
repräsentiert.
Ähnliche Objekte sollten räumlich im Merkmalsraum
beieinander liegen, sodass diese Cluster (Klassen)
bilden.
Künstliche Intelligenz Miao Wang 6
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
Features
Künstliche Intelligenz Miao Wang 7
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
Features
Künstliche Intelligenz Miao Wang 8
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
Features
Künstliche Intelligenz Miao Wang 9
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
kNN – k-nächste-Nachbarn
Der KNN-Klassifikation ist der denkbar einfachste Klassifikator:
1. Trainingsphase: Lege alle Datenpunkte in einer Datenbank ab („lazy learning“)2. Testphase: Neue Datenpunkte werden folgendermaßen klassifiziert:2. Testphase: Neue Datenpunkte werden folgendermaßen klassifiziert:
1. Berechne Abstand mit allen Trainingspunkten2. Nehme k-nächsten Nachbarn für weitere Auswahl3. Führe Mehrheitsentscheid aus über die Klassen der k Nachbarn
Vorteile:- Einfach- Sehr gute Ergebnisse
Abstandsmaß:
Euklidische Distanz
Künstliche Intelligenz Miao Wang 10
Nachteile:- Teuer- Wie geeignetes k finden?
Mahalanobis Distanz
Manhattan Distanz
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
kMeans
K-Means ist ein iteratives Clustering-Verfahren zur Klassifikation
Trainingsphase:
1. Lege alle Datenpunkte in einer Datenbank ab1. Lege alle Datenpunkte in einer Datenbank ab
2. Wähle k Prototypen und lege sie zufällig in den Merkmalsraum
3. Weise jedem Datenpunkte den nächsten Prototypen zu (Partitionierung)
Künstliche Intelligenz Miao Wang 11
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
kMeans
4. Errechne für jeden Prototypen das Clusterzentrum (Schwerpunkt) und setze den Prototypen darauf
5. Goto 3)
Künstliche Intelligenz Miao Wang 12
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
kMeans
Testphase:
1. Berechne Abstände zu Prototypen und wähle nächsten Prototyp
Vorteile:
- Einfach
- schnell
Nachteile:
Künstliche Intelligenz Miao Wang 13
- Wann mit Schleife enden?
- Konvergiert nicht immer (!)
- Wie geeignetes k finden?
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
Gauß-Klassifikator
Modelliere Cluster mit n-dimensionalen
Normalverteilungen (Gauß-Glocken)
Verteilungsfunktion der einfachen NormalverteilungVerteilungsfunktion der einfachen Normalverteilung
Mehrdimensionale Verallgemeinerung
Kovarianzmatrix des Clusters i
Künstliche Intelligenz Miao Wang 14
Kovarianzmatrix des Clusters i
Vorlesung Künstliche Intelligenz
Fachbereich Mathematik/Informatik – AG Künstliche Intelligenz
Gauß-Klassifikator
1. Trainingsphase: 1. Berechne Normalverteilung für alle Klassen1. Berechne Normalverteilung für alle Klassen
2. Testphase: Neue Datenpunkte x werden folgendermaßen klassifiziert:1. Berechne Wahrscheinlichkeit von P(x|ci) für alle Klassen ci
2. Wähle die Klasse mit der höchsten Wahrscheinlichkeit
Künstliche Intelligenz Miao Wang 15
Recommended