Click here to load reader

AGENTI ZA KOMUNICIRANJE U GOVORNOM fileSažetak U ovom diplomskom radu obradena je tema agenata koji komuniciraju govornim jezikom. Pri-¯ kazan je razvoj agenata za komuniciranje

  • View
    0

  • Download
    0

Embed Size (px)

Text of AGENTI ZA KOMUNICIRANJE U GOVORNOM fileSažetak U ovom diplomskom radu obradena je tema agenata koji...

  • SVEUCILITE U ZAGREBU

    FAKULTET ORGANIZACIJE I INFORMATIKE

    VARADIN

    Leon Palaic

    AGENTI ZA KOMUNICIRANJE UGOVORNOM JEZIKU

    DIPLOMSKI RAD

    Varadin, 2018.

  • SVEUCILITE U ZAGREBU

    FAKULTET ORGANIZACIJE I INFORMATIKE

    V A R A D I N

    Leon Palaic

    Maticni broj: 44412/15-R

    Studij: Baze podataka i baze znanja

    AGENTI ZA KOMUNICIRANJE U GOVORNOM JEZIKU

    DIPLOMSKI RAD

    Mentor :

    izv. prof. dr. sc. Markus Schatten

    Varadin, Sijecanj 2018.

  • Leon Palaic

    Izjava o izvornosti

    Izjavljujem da je moj diplomski rad izvorni rezultat mojeg rada te da se u izradi istoga nisamkoristio drugim izvorima osim onima koji su u njemu navedeni. Za izradu rada su koriteneeticki prikladne i prihvatljive metode i tehnike rada.

    Autor potvrdio prihvacanjem odredbi u sustavu FOI-radovi

    i

  • Saetak

    U ovom diplomskom radu obradena je tema agenata koji komuniciraju govornim jezikom. Pri-kazan je razvoj agenata za komuniciranje u govornom jeziku kroz povijest. Agenti su se ka-tegorizirali prema nacinu generiranja odgovora na generativne i pretraivacke te su prikazanenajkoritenije metode generativnih i pretraivackih agenata. Istaknuti su glavni nedostatci iprednosti ranije spomenutih metoda. Problem dijaloga zbog svoje kompleksnosti podijelio sena podprobleme u obliku istraivackih smijerova. Definirana je domena za implementaciju jed-nog agenta koji komunicira govornim jezikom. Zbog zatvorenosti definirane domene odabran jepristup pomocu pretraivackih metoda, konkretnije AIML jezika. Prikazan je primjer komunika-cije korisnika sa agentom. Primjer prikazuje negativne i pozitivne izmjene izmedu sugovornika.Problem dijalog se definirao kao dugorocni cilj umjetne inteligencije te prikazali nedostatci da-nanjih agenata koji komuniciraju govornim jezikom

    Kljucne rijeci: agent; agent za dijalog; chatbot; taksonomija agenata za komuniciranje ugovornom jeziku; AIML; generativni agenti; pretraivacki agenti; istraivacke grane dijaloga

    ii

  • Sadraj

    1. Uvod . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1

    2. Povijest agenata koji komuniciraju govornim jezikom . . . . . . . . . . . . . . . 2

    3. Taksonomija agenata . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

    3.1. Generativni agenti . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

    3.1.1. Povratne neuronske mree . . . . . . . . . . . . . . . . . . . . . . . . . . 33.1.1.1. GRU . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83.1.1.2. LSTM . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8

    3.1.2. Okvir iz slijeda u slijed . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

    3.2. Pretraivacki agenti . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10

    3.2.1. Agenti temeljeni na predlocima . . . . . . . . . . . . . . . . . . . . . . . 10

    3.2.1.1. AIML . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113.2.2. Agenti temeljeni na matematickim modelima . . . . . . . . . . . . . . . . 16

    4. Istraivacke grane dialoga . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

    4.1. Odgovaranje na pitanja . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

    4.1.1. Memorijske mree . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194.2. Vizualno odgovaranje na pitanja . . . . . . . . . . . . . . . . . . . . . . . . . . . 21

    4.2.1. Dinamicke memorijske mree . . . . . . . . . . . . . . . . . . . . . . . . . 224.2.1.1. Ulazni modul . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224.2.1.2. Epizodni memorijski modul . . . . . . . . . . . . . . . . . . . . . 244.2.1.3. Modul pitanja . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244.2.1.4. Modul za odgovaranje . . . . . . . . . . . . . . . . . . . . . . . . 24

    4.3. Citanje s razumijevanjem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25

    4.4. Razumijevanje i zakljucivanje nad tekstom . . . . . . . . . . . . . . . . . . . . . . 26

    4.4.1. Povratne entitetske mree . . . . . . . . . . . . . . . . . . . . . . . . . . . 284.4.1.1. Ulazni modul . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 294.4.1.2. Dinamicka memorija . . . . . . . . . . . . . . . . . . . . . . . . . 294.4.1.3. Izlazni modul . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30

    4.5. Ciljno orijentirani dijalog . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30

    4.6. Otvoreni dijalog . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34

    5. Poslovni problem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 355.1. Domena agenta . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35

    6. Implementacija agenta . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37

    iii

  • 6.1. Python AIML . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37

    6.2. Struktura agenta . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39

    6.2.1. Pozdravne kategorije . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39

    6.2.2. Kategorije selekcije poddomene . . . . . . . . . . . . . . . . . . . . . . . 42

    6.2.3. Kategorije poddomena . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45

    6.2.4. Kategorije osobnosti . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47

    6.2.5. Odlazne kategorije . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48

    6.3. Primjer dijaloga . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49

    7. Zakljucak . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54

    Popis literature . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57

    Popis slika . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58

    Popis popis tablica . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59

    iv

  • 1. Uvod

    Zadnjih godina umjetna inteligencija nie brojne uspjehe u akademskim i poslovnimpodrucjima. Mediji i drutvene mree vrve vijestima o umjetnoj inteligenciji. Razlog uspjehaumjetne inteligencije je ogromna kolicina podataka koja nam je danas dostupna te racunalnasnaga koju danas posjedujemo kako bi pokretali odredene algoritme. Poslovni svijet uvelikeje prihvatio metode umjetne inteligencije te ih integrira u gotovo svaki oblik svojeg djelovanja.Samim time, postajemo korisnici umjetne inteligencije iako nemamo direktan doticaj s njomesamom. Medutim, postoje oblici gdje direktno vrimo interakciju s umjetnom inteligencijom.Vjerovali ili ne, u mnogim slucajevima kada chatate ili pricate s online podrkom, zapravo ko-municirate s racunalnim agentom. Takve agente nazivamo agentima koji govore prirodnimjezikom ili dijalokim agentima.

    Razvoj ove grane agenata moemo pripisati Alanu Turingu i Turingovom testu. Turingovtest ispituje inteligentno ponaanje strojeva te mu je cilj utvrditi razlikuje li se strojno ponaanjeod ljudskog. Ako ne moemo razlikovati strojno ponaanje od ljudskog, stroj je proao test.Test je zamiljen kao interakcija izmedu ljudskog sudca i stroja putem prirodnog pisanog teksta.Time je Turingov test postao zacetnik grane agenata koji govore prirodnim jezikom.

    U ovom diplomskom radu dotaknut ce se tema agenata koji komuniciraju govornim jezi-kom. Prikazat ce se razvoj grane kroz povijest, objasnit istraivacki smjerovi agenata, podjelaagenata po taksonomiji. Predstavit ce se poslovni subjekt i njegova potreba za jednim dijalo-kim agentom. Naposljetku diplomskog rada implementirat ce se agent te dati kriticki osvrt natemu.

    1

  • 2. Povijest agenata koji komuniciraju govornimjezikom

    Prvi primjer komunikacijskog agenta dolazi s americkog sveucilita MIT. Laboratorijumjetne inteligencije MIT-a, voden Josephom Weizenbaumom. 1966. godine izdaju Elizu,prvog komunikacijskog agenta [1]. Elizin nacin rada temeljio se na tehnici podudaranja te-meljem predloaka. Eliza bi na temelju korisnikove ulazne recenice utvrdila kljucne rijeci teputem predefiniranih pravila mapirala kljucne rijeci s odgovarajucim odgovorom. Weizenba-umov cilj je bio prikazati kako racunala ne mogu voditi smislene razgovore s ljudima, tvrdioje da su dijalozi izmedu racunala i covjeka jako povrni. Prvi primjer Elize bio je kreiran natemelju skripte zvane DOCTOR. Skripta je sadravala pravila i odgovore kako bi se simuliralapocetna terapija izmedu pacijenta i psihijatra. Nakon prvotnih testiranja Elize, mnogi subjekti suse povezali s Elizom kao s osobnim psihijatrom. Weizenbaum nije ocekivao ovakve rezultate,uvelike su ga iznenadili jer su se prkosili s njegovim razmiljanjima. Rezultati Elize su bili jedanod motiva zato je napisao knjigu Racunalna snaga i ljudsko zakljucivanje u kojoj je iznesaosvoje stavove o umjetnoj inteligenciji i njenoj ulozi u donoenju vanih odluka. 1970. godinesa sveucilita Stanford dolazi Parry [2], komunikacijski agent koji je zamiljen da bude cistasuprotnost Elizi. Bio je imitirao paranoicno ponaanje izofrenicnih pacijenata. Parry je bionamijenjen proucavanju paranoicnog ponaanja kod pacijenata. Takoder, temeljio se na tehnicipodudaranja predlocima. Parry korisnikovo pitanje reprezentira kao seriju predloaka, koji suzatim mapirani s odgovorima na temelju semanticke slicnosti. Eliza i Parry su bili predvodnicivala komunikacijskih agenata. Popularizacijom ove grane javila se potreba evaluacije agenata.1990. godine osniva se Lobnerovo natjecanje [3], prvo natjecanje kojem je cilj evaluirati ko-munikacijske agente. Agenti se evaluiraju putem Turingovog t