DVOSJEKLI MA¤’ UMJETNE INTELIGENCIJE - fsb.unizg.hr Pavle ¥ prljan Dvosjekli ma¤† umjetne inteligencije

  • View
    1

  • Download
    0

Embed Size (px)

Text of DVOSJEKLI MA¤’ UMJETNE INTELIGENCIJE - fsb.unizg.hr Pavle ¥ prljan Dvosjekli...

  • Doktorski studij na FSB: Uvod u znanstveno istraživački rad 2017/2018

    Pavle Šprljan

    DVOSJEKLI MAČ UMJETNE INTELIGENCIJE

    UDC

    Esej

    Sažetak

    Napredak znanosti o umjetnoj inteligenciji i vrtoglavi napredak računalnih platformi za

    njezinu praktičnu implementaciju doprinijeli su pojavi komercijalnih ekspertnih sustava u

    širokom spektru primjena. Suvremeni ekspertni sustavi sposobni su zamijeniti, a ponekad čak

    i nadjačati čovjeka u poslovima dijagnostike, semantičke obrade podataka i zaključivanja. Ovaj

    se esej dotiče pitanja primjene umjetne inteligencije u svrhu kreativnosti, odnosno pomoći u

    poslovima poput znanstvenog istraživanja i inženjerstva iz psihološkog kuta, zaključujući s

    diskusijom o pogodnostima i rizicima nadmoćne kreativne umjetne inteligencije.

    Ključne riječi: umjetna inteligencija, ekspertni sustavi, kreativnost u znanosti inženjerstvu,

    psihologija kreativnosti, mentalne bolesti, opasnosti u korištenju umjetne

    inteligencije

    Summary

    Recent breaktroughs in artificial intelligence theory and their various embodiments in

    advanced computer platforms lead to the rise of commercial expert systems. Their application

    is becoming more common every day, finding use in ever-widening scope. Some commercial

    expert systems are fully capable of replacing a human worker, and sometimes they show to be

    even more reliable than any human expert. This is especially notable in professions including

    diagnostics, semantic data processing and inference. In this essay, we look into some

    consequences of applying the artificially intelligent systems as a tool in highly creative tasks

    such as science and engineering projects. We base our approach on an average psychological

    portfolio of a very creative professional, discuss its properties, whether they could be

    implemented into an artificial system, and conclude with a short discussion of implied

    consequences.

    Key words: artificial intelligence, expert systems, creativity in science and engineering,

    psychology of creativity, mental illness, dangers in using AI

    1. Uvod

    Čovjekova fascinacija umjetnim inteligentnim bićima zabilježena je još u antici mnogim

    mitovima i pričama, ispitujući prirodu ljudskog razuma, emocija i težnji. Pitanje ustrojstva

    ljudske osobnosti tisućama je godina bilo rezervirano isključivo za umjetnost, filozofiju i

    religiju; mutna zrcala kroz koje je čovjek istraživao svoj identitet.

  • Pavle Šprljan Dvosjekli mač umjetne inteligencije

    2

    Gotovo istovremeno s pojavom elektroničkog računala razvila se znanost o umjetnoj

    inteligenciji, koja se kroz posljednjih 60 godina razgranala i donijela mnogo plodova. S

    napretkom računala i tehnologije umjetne inteligencije pojavljuje se sve više programa i

    strojeva sposobnih za oponašanje mnogih aktivnosti koje su do tad bile rezervirane isključivo

    za čovjeka: od igranja šaha do poslovnog odlučivanja. Najčešće, s vremenom bi se takvi

    specijalizirani programi razvili i nadjačali ljude; kao ogledni primjer ovdje možemo spomenuti

    Garija Kasparova, posljednjeg šahovskog velemajstora kojeg računalo nije uspjelo nadjačati.

    Gari Kasparov je izgubio drugi meč protiv IBM-ovog superračunala Big Blue, te je izrazio

    sumnju u varanje podupirućeg tima [1]. Naime, računalo ga je iznenadilo potezom koji je

    Kasparov kasnije komentirao kao previše „ljudski“, što s obzirom na Kasparovljev ugled i

    iskustvo svakako treba uvažiti. No s druge strane treba uzeti u obzir i Kasparovljev

    profesionalni ponos, te uzeti njegovu primjedbu s dozom rezerve. Premda IBM-u sigurno nije

    u interesu priznati prijevaru, postoji mogućnost da je kreativnost prirodno proizašla iz

    programa. U svojoj kontroverznoj knjizi [2] Stephen Wolfram na iscrpan način istražuje

    stanične automate, gdje iz vrlo jednostavno definiranih automata izviru potpuno neočekivana i

    nevjerojatna ponašanja. Dakle već na toj razini pojavili su se neočekivani rezultati. Ne može se

    reći da je Big Blue bio oplemenjen izuzetno kreativnim osobinama, jer to nije ni bila namjera

    tijekom njegovog projektiranja i implementacije, no valja uvažiti mogućnost da je neka vrsta

    kreativnosti nastala sasvim slučajno. O mogućnosti pojave nepredviđenog ponašanja biti će više

    riječi u poglavlju o psihologiji kreativnosti. Nastave li znanost o umjetnoj inteligenciji i praksa

    njezine implementacije napredovati ovim tempom, zamislivo je da bi se u budućnosti mogla

    razviti umjetna inteligencija oplemenjena čovjekolikim kreativnim osobinama. No, što to

    zapravo znači i je li izvedivo? Kakve bi bile osobine takvog umjetnog uma? Koje su

    potencijalne posljedice na čovječanstvo? Ovaj esej pruža kratak osvrt na ta pitanja, s naglaskom

    na psihologiju kreativnosti.

    U sljedećem poglavlju obradit će se povijest i budućnost automatizacije u kontekstu

    interakcije čovjeka sa strojem. Potom, zadajemo okvir performansi umjetno inteligentnog i

    kreativnog sustava, bez izvjesnog zaključka je li takav sustav u ovom trenutku moguće

    programirati u računalo. Na kraju razrađujemo hipotetski scenarij ostvarenja umjetne

    superinteligencije te ističemo rizike po ljudsko zdravlje i život, pa i na opstanak civilizacije u

    cijelosti.

    2. Povijest i budućnost automatizacije

    Premda se početkom automatizacije može nazvati i prapovijesni izum pluga, zapažanja

    iznesena u ovom dijelu odnose se na napredak postignut tijekom 20. stoljeća, te su citirane iz

    [2]. Teze koje ćemo ovdje predstaviti mogu se barem u nekoj mjeri apstrahirati na svaki izum

    od pluga nadalje, a vrlo vjerojatno i na sve buduće. S tim na umu, može se pretpostaviti daljnje

    povećanje kompleksnosti interakcije između čovjeka i stroja kao pomagala u radu. Međutim,

    cilj ovoga dijela nije predvidjeti samo povećanje složenosti odnosa između čovjeka i stroja, već

    postaviti temelje za premisu rasta nepredvidljivosti njegovog ishoda.

    Osim olakšanja čovjekovog posla, svaki novi izum neizbježno donosi novi skup problema

    za korisnika. On mora savladati način korištenja, te biti svjestan ograničenja i tehničkih kvarova

    koji se mogu pojaviti, a pogotovo opasnosti po ljudsko zdravlje i život. Dodatno, korisnik mora

    znati i riješiti barem osnovne probleme koji se javljaju prilikom upotrebe. Povećanje

    kompleksnosti odnosa čovjek-stroj se detaljnije može izložiti kroz sljedeće stavke: 1. Da bi korisnik znao pravilno koristiti novi izum, mora savladati do tad njemu nepoznate

    izazove poput podešavanja i inicijalizacije stroja, održavanja te ispravnog načina

    korištenja.

  • Dvosjekli mač umjetne inteligencije Pavle Šprljan

    3

    2. Pojavljuju se novi kognitivni problemi vezani za korisničko sučelje, usmjeravanje pozornosti na ključne pokazatelje rada, te učenje novih komunikacijskih i

    koordinacijskih vještina, što sve zajedno pojačava potrebu za dodatnom edukacijom

    korisnika i postizanjem zadovoljavajuće razine stručnosti.

    3. Uloga korisnika se s napretkom tehnologije sve više orijentira prema nadzornim i regulacijskim funkcijama. Iz kompleksnosti novih sustava izviru novi, sve složeniji

    zahtjevi na dubinsko poznavanje koncepta primijenjene tehnologije, pogotovo ako stroj

    ima mogućnost rada neovisnog o fizičkoj prisutnosti ili pozornosti korisnika.

    Potencijalne opasnosti na kvalitetu izlaza proizvodnog procesa ali i ljudsko zdravlje su

    sve izraženije uvođenjem automatizacije procesa. Valja se prisjetiti da projektni

    inženjeri koji razvijaju novi sustav nužno moraju zanemariti jedan dio skupa mogućih

    radnih stanja odnosno vrijednosti ulaznih varijabli, kako bi unutar vremenskih i

    ekonomskih ograničenja razvili upotrebljiv proizvod.

    4. Nove tehnologije često spajaju prethodno razdvojene dijelove procesa iz čega lako proizlaze nove, do tad nepoznate vrste tehničkih kvarova. Također, ukoliko se prilikom

    projektiranja novog sustava ne posveti dovoljna količina pozornosti načinu rada

    postojećeg procesa, novi sustav može potpuno zakazati bez očitog razloga. Takvi

    problemi su nažalost vrlo česti prilikom puštanja novih sustava u rad, ali se mogu

    pojaviti i kasnije.

    5. Iz marketinških ili drugih razloga, promotori novih tehnologija često podcijene ili prešute navedene probleme što dovodi do razočaranja korisnika i otežava poslovni

    odnos između naručitelja i isporučitelja proizvoda. Takav ishod usporava prihvaćanje

    nove tehnologije smanjujući percepciju njezine uporabne vrijednosti, koja se

    naposljetku odražava i na tržišnu vrijednost smanjujući interes ulagača u daljnji razvoj.

    Sve navedene stavke se odnose i na pojavu umjetne inteligencije u kreativnim procesima

    koji su do nedavno bili rezervirani isključivo za čovjeka, a u budućnosti je moguće da će se

    pojaviti vrlo napredni sustavi za pomoć u projektiranju i znanstvenom istraživanju. Dakako,

    stupanj razvoja umjetne inteligencije je još vrlo daleko od mogućnosti potpune zamjene čovjeka

    u rješavanju složenih zadataka gdje je potrebna velika količina znan