Datalogbladet

- # -

Besøg på Ishiguros Robot Laboratorium i Osaka, JapanAf Simon Laub

Science fiction forfatteren Philip K. Dicks verdener fyldt med androider, replikanter og robotter.Mange kender bogen ”Do Androids Dream ofElectric Sheep”, filmatiseret i 1982 af RidleyScott med titlen ”Blade Runner”. En rapport fraen dystopisk fremtid, hvor mennesker ikke vedom de er robotter, og robotter tror, at de er menne-sker.

En fremtid der så i øvrigt, måske ikke er så fjernendda. Bl.a. på Ishiguros robot laboratorium iOsaka, Japan arbejder man i hvert fald hårdt medat realisere alle androide drømmene.

Nedenfor, indtryk fra besøg på robot laboratoriet,plus overvejelser efter besøget.

Hvorfor ender snak om robotter så ofte i stedet forat handle om følelser, fantasi og mennesker?

Eller, med andre ord - Hvor tæt er dagens androi-der på at blive en slags mennesker? Hvorfor bry-der mennesker sig ikke om androider, og er vi vir-kelig på vej ud i en Philip K. Dick science fictionfremtid?

Mødet med ReplieeQ2

I forbindelse med en rejse til Japan var det mit håbat se nærmere på den fagre, nye japanske robotverden. I den forbindelse havde jeg kontaktet denuhyre hjælpsomme Ayako Fukunaga, sekretær forden verdensberømte japanske robot forsker Ishi-guro.

Og det var igennem hende, at min rejsefælle ud idet japanske, Erik Futtrup, og jeg fik arrangeret enrundtur på Ishiguros robot laboratorium i Osaka.Her blev vi vist rundt af Ishiguros assistent Mi-chihiro Shimada. Ayako havde endda sørget for atbringe os i kontakt med vores landsmand StineEjsing-Duun (udsendt fra DTU). En uhyre nyttigkontakt skulle det vise sig. Da Stine igennem sit3½ måneders studieophold på laboratoriet, udoverrobot kundskaber, har lært meget om at oversættesprog og kultur mellem øst og vest. Viden derblev god brug for, når de i forvejen komplicerederobot emner blev ekstra komplicerede af japansk-engelsk-dansk sprogforbistring.

Ved alle gode kræfters hjælp endte det heldigvismed at blive en særdeles spændende dag i frem-tidsland.

Datalogbladet

- # -

Den store attraktion var naturligvis ReplieeQ2.Med fin silikone hud i stedet for hård plastik, rig-tigt mange kloge sensorer, og motorer til at drejerundt i alle retninger, som var hun et menneske –er hun en fornøjelse at være sammen med.

Hun kan blinke med øjnene og bevæge sin håndpå yndefuld vis. Når hun taler, bevæger læbernesig korrekt. Eller sådan virker det i hvert fald påmig, jeg taler ikke japansk. Indtil videre går hunikke rundt i et lokale, men er helt immobil, fast-gjort til et bord. Såmænd helt rart, så ved man dahvor man har hende.

Ok, nogle af hendes bevægelser er ret staccato,androide lignende. Men andre bevægelser er somsagt ret yndefulde. Og hendes skabere arbejdertydeligvis på fuld kraft på at gøre alle bevægelserså yndefulde som muligt.

Professor Ishiguro mener, at hun med tiden vilblive så menneskelig, at det vil tage mennesker 5– 10 sekunder, at afgøre om hun er robot ellermenneske. Og i udvalgte situationer op til 10 mi-nutter.

Foreløbig har ReplieeQ2 41 sensorer, som allekan udløse bestemte adfærdsmønstre. Hvis mantrykker hende under øret begynder hun at fnise ogser ud til at synes, at det er rigtigt sjovt. Alt efter,naturligvis, hvilket program hun er sat til at køre.Betænker man, at der kun er 4-5 mand i Ishiguroslaboratorium, der arbejder på adfærdsprogrammer(Nov. 2008), er hendes bevægelser og reaktionerganske enkelt forbløffende godt lavet.

Et af ReplieeQ2 bedre tricks er der, hvor hendeskontrol program får input fra sensorer i gulvet.Mange mennesker bliver lettere lamslåede, når delister hen imod hende, mens hun vender ryggentil, og hun alligevel vender sig om imod dem – oghilser dem velkommen på japansk.

Man står længe og tænker over, hvordan opmærk-somheds systemet mon er lavet, når det så præcistudpeger retning på ”incoming objects” i et rumfuldt af støj. Indtil man får ideen med sensore igulvet.

Man kunne kalde det snyd – men i androide ver-denen er snyd tilladt, hvis det virker. Og man stårunder alle omstændigheder med fornemmelsen af,at et rigtigt fint audio baseret opmærksomhedssystem kun er et spørgsmål om tid.

Datalogbladet

- # -

Mens Ishiguros gruppe står for styresystemer tilReplieeQ2, så er det legetøjsfabrikanten Kokoro,der har lavet selve hendes krop. Kokoros slogansynes at være: ”Bestil din androide her. Hun kanvære værtinde ved din næste reception. Og hvisdet ikke er noget, så bestil i stedet vores giganti-ske dinosaur”. Tydeligvis nyttige folk hvis manstår og mangler værtinder til bilmesser eller dino-saurer til at skræmme børn med.

Ishiguros gruppe har haft speciel megen glæde afKokoros produkter, når de har arbejdet med tele-presence. De teknologier, der kan få en person tilat føle, at man er tilstede eller/og har en effekt etandet sted end der hvor man rent faktisk er.

Et typisk telepresence projekt ville være et video-kamera fastspændt på en rullemarie lignende ro-bot. Hvor man så sidder i sikkerhed hjemme,mens den frygtløse robot sendes ud i farlige om-givelser. I Japan er det populært at fjernstyre desmå gule Wakamaru robotter rundt i butikscentreog lign.

Alt sammen uhyre underholdende, men langtfraunderholdende nok for Ishiguro. Han fik i stedetKokoro til at lave en model af sig selv. Projekteter så ikke helt færdigt endnu, men visionen erklar. Mens han ligger hjemme i sengen, så gårhans androide dobbeltgænger, Gemonoid, på ar-bejde for ham, køber ind, taler med konen osv.

Overbevist om at dette var en fantastisk ide, villeIshiguro glæde sin datter med en tilsvarende an-droid dobbeltgænger. Den 5 årige datter blev in-viteret ind på laboratoriet, og blev der præsenteretfor en perfekt klon af sig selv. Dog i første om-

gang uden strøm på, og vist ikke helt færdigmonteret..…. Efter sigende blev datteren så ræd-selsslagen, at hun siden hen har nægtet at kommemed far på arbejde. Således ikke den store succes,så nu er datter-klonen flyttet ind i et skab bagvedReplieeQ2. Det sker at skabet åbnes af nogen,som ikke er forberedt på børne-kloner. De bliverså skræmt fra vid og sans.

Børne-kloner er simpelthen ikke så søde, som Re-plieeQ2.

Datalogbladet

- # -

ReplieeQ2 er i øvrigt modelleret efter den kendtejapanske NHK TV værtinde Ayako Fujii. HvadAyako Fujii mener om sin androide dobbeltgæn-ger, melder historien så ikke noget om. Måskesynes hun, at det er dejligt at være hjemme i sen-gen, mens dobbeltgængeren maser med at læseTV nyheder op?

Er ReplieeQ2 næsten et menneske?

Er det her så begyndelse på en Philip K. Dickfremtid? En fremtid med så menneskelige robot-ter, at det tager op til 10 minutter at regne udhvem der er robot og hvem der menneske?

Indtil videre – klart nej. ReplieeQ2 laver ikke su-per kloge ting. Såsom at gribe en bold, man kastertil hende. Og kun de gule bolde, og kun hvis mansamtidig fortæller hende, at hun er dygtig, uden atbruge ordet dygtig.

Nej, endnu kan hendes sensorer kun udløse præ-programmerede ”simple” adfærdsprogrammer. Ogdet er det.

En del af den store interesse for ReplieeQ2 netopnu skyldes ganske givet bl.a. (fejl)slutningen, atnår hun har mange menneskelige adfærdspro-grammer og i øvrigt ligner et menneske, så måhun også have et rigt indre liv og kapacitet a la etmenneske. På samme måde som da man i sin tidantog, at computer-chat programmet ELIZA måttehave IQ og indre liv som en psykolog. I stedet formere nøgternt at prøve at gennemskue ELIZAssamtale regler. Reglerne viste sig at være såresimple a la: Omformuler, ganske lidt, den sætning

du får – og send den så retur uden at bekymre digfor meget om indhold i den samlede samtale.

Men hvad med senere? Vil kommende generatio-ner af ReplieeQ2 være rigtige Philip K. Dick an-droider, eller taler vi kun om smarte dukker langtud i fremtiden?

Ifølge en teknologi ”lov” har vi en tendens til atovervurdere teknologiske fremskridt i den nærefremtid og undervurdere fremskridtene i et lidtlængere tidsperspektiv. Så man kan da overvejedet?

Helt åbenbart er der lang vej endnu. Filosofi pro-fessor David Favrholdt (fra SDU) har opstillet enliste over basale menneskelige instinkter. Heraffremgår det, at menneskelig adfærd er drevet afbehov for at få a) mad og drikke b) sex c) undgåfare d) opnå position i gruppe, efterfulgt af domi-nans- eller underkastelses adfærd e) yngelpleje,være hjælpsom f) opnå tryghed, skabe samfundg) udforske omgivelserne.

ReplieeQ2 har ingen af disse instinkter. Så det eren forskel!

David Favrholdt har også beskæftiget sig med atinddele viden i forskellige kategorier:

Viden ”at” – man kan spise en bestemt frugt,ikke spise en anden osv.

Viden ”hvordan” – man kan bygge en pyramide,lave silke osv.

Viden ”hvorfor” – smelter is ved en bestemt tem-peratur? Opstille teori.

Datalogbladet

- # -

Indtil videre er det kun er mennesker, som harviden i de sidste to kategorier. Og man kunneargumentere for at det ikke engang er alle menne-sker, som har mere end viden ”at” (– og måske,viden ”hvordan”).

ReplieeQ2 er selvfølgelig ikke i nærheden af an-det end ”at” viden.

Jo mere man går i detaljer med hvad et menneskeegentlig er, jo større bliver afstanden til Replie-eQ2.

I et menneske forventer vi, at adfærd følger enbestemt indre mental tilstand. Indre mentale til-stande er så også noget man ved en del om i Ja-pan. En rig buddhistisk litteratur fortæller én alt,hvad man har lyst til at vide om emnet. F.eks. erdet sådan, at man i buddhistisk litteratur har be-skrevet ikke mindre end 84.000 negative menne-skelige følelser. Følelser som man må have underkontrol for at kunne opnå oplysning. Ok, følelser-ne falder indenfor forventelige hovedkategoriersåsom had, begær, forvirring, stolthed og jalousi –Men stadigvæk, der er mange. Positive følelser erså ikke et problem man har beskrevet lige så ind-gående, men også her er der mange. Man kan væ-re opfyldt af: Morskab, fiero (glæden ved at klareen udfordring), spænding (prøve noget nyt), ære-frygt (undren), nydelse (i alle sanser), fredfyldtrolighed osv.

Og så godt som intet af alt dette er modelleret iReplieeQ2. Hos ReplieeQ2 kræver det umådeliggod vilje at sige, at ydre adfærd følges af en indremental tilstand. Og da slet ikke komplicerede,menneskelige indre tilstande.

Der er heller ikke megen enighed om hvordan dis-se menneskelige, indre tilstande egentlig skal be-skrives. E.g. ifølge buddhismen så opstår de meresubtile niveauer af opmærksomhed ikke af aktivi-teter i hjernen. Essensen af sindet har her en ikke-fysisk natur. Hvilket så er i modstrid medmainstream vestlig neuro videnskab, hvor hjernener lig med sindet. En vestlig filosof kaldte direkteideen om noget ikke-fysisk for ”myth of the ghostin the machine” . I stedet er forståelsen her, atenhver mental tilstand, ligegyldig hvor eksotisk,har sit udspring i fysiske processer i hjernen.

Hvilket jo så lægger op til, at der er en mulighedfor, at ReplieeQ2 engang kan blive helt menne-skelig.

Nogen klarhed er der dog langtfra. Filosoffen Da-vid Chalmers har beskrevet det med sit hard pro-blem of consciousness: At forklare hvordan fysi-ske processer i hjernen giver anledning til en sub-jektiv oplevelse af være til. Det er – ifølge DavidChalmers – helt forskelligt fra easy problemer,såsom at forklare hvordan hjernen reagerer påstimuli, hvordan øjnene kan følge en ting i bevæ-gelse osv.

Easy, fordi vi kan forestille os hvordan man kun-ne beregne dem på en computer, mens oplevelsenaf at være til, er noget helt andet.

Man kan mene, at the hard problem vil være løst,når alle easy problems er løst. Eller at når man harløst alle easy problems, så har man et langt bedregrundlag for at gå i gang med the hard problem.

Datalogbladet

- # -

Men for nuværende kan man med lige så god retpåstå, at det vil kræve en fundamental ny slagsviden, før man kan gå i gang med the hard pro-blem.

Ligegyldigt hvad så står ReplieeQ2 ikke lige foranat have sin egen subjektive oplevelse af at væretil. At lave en robot, der kan binde en masse for-skelligt sensor input sammen og ud af det få ensubjektiv værensoplevelse – det er ren sciencefiction.

Når det er sagt – så er det jo langt fra sikkert, atden menneskelige oplevelse af verden er rigtigeller noget vi ønsker at tilstræbe i en robot. Neu-rologen Antonio Damasio har formuleret det såle-des: ”Hvis vore organismer var designet anderle-des ville vor opfattelse af verden omkring os ogsåvære anderledes. Vi ved ikke, og vil sikkert aldrigvide, hvad absolut virkelighed er.”

Så med denne lykkelig tanke, at vi intet ved, kanvi konkludere at vi er langt fra at vide, hvad denmenneskelige virkelighed egentlig er, og såledesogså langt fra at kunne designe en robot, der harsamme slags virkelighed.

Top 10 grunde til at mennesker

ikke bryder sig om robotterI mange lande ville det skabe debat og protester,hvis nogen pønsede på at få ReplieeQ2 robotterind på plejehjem og cafeer, men åbenbart ikke iJapan. Udenfor Ishiguros laboratorium så vi be-stemt ikke nogen ”robotter gør os arbejdsløse”demonstration. Tværtimod, Japans befolkningstalforventes at gå ned med en ¼ inden 2050, og im-migration er et ømtåleligt emne, så humanoidehjemmehjælper robotter mm. synes at være gene-relt accepteret som en god ide.

Sådan er det så ikke allevegne. På flyet hjem fraJapan viste jeg min sidemand, en tandlæge fra NyKaledonien, video af oplevelserne på robot labo-ratoriet. Han var alt andet end begejstret:

- De har set Terminator, og har stadig ikke lærtnoget?

Faktisk har jeg efter hjemkomsten fra det japanskeefterhånden indsamlet en ret stor samling af antirobot kommentarer. Top 10 listen rummer udsagnsom: Robotterne slår os ihjel, gør os til slaver,udrydder den frie vilje, gør sex gammeldags, gøros deprimerede over livets korthed, er irriterendefrygtløse, er grimme, ødelægger vores minder,

Datalogbladet

- # -

udhuler menneskerettighederne, og er i det heletaget nye og irriterende.

Måske er ReplieeQ2 bare en slags spejl der holdesop foran mennesker? Sådan at udsagnene i virke-ligheden er en rapport om menneskers indre liv?Eller er det sande udsagn? I begge tilfælde er dernok at tænke over!

1. De slår os ihjel. Den slags kommentarer har enlang og stolt tradition. Helt tilbage i 1921 fandtesder godt med skeptikere. Det var dengang dentjekkiske forfatter Karel Capek introducerede ver-den til robotter i skuespillet RUR (Rossums Uni-versal Robots). I skuespillet er robotterne slaver.Der kommer hurtigt flere robotter end der er men-nesker. Og robotterne bliver hurtigt klogere endmenneskene. En robot revolte følger, med denkedelige konsekvens at menneskeheden bliverudryddet.

Science fiction forfatteren Isaac Asimov var ikkemeget bedre. I hans 1951 novelle samling I Roboter robotter kloge, men udstyret med dræbendefejl. Og hvis robotterne ikke er fejl behæftede, såer de i gang med at planlægge menneskehedensfremtid, uden at beskæftige sig med småting, så-som hvad menneskene synes.

Science fiction forfattere har gjort meget lidt for atudbrede ideen om, at robotter bare er dummecomputere, der kan bevæge sig lidt.

2. De gør os til slaver. Selv når robotterne holdersig til servil adlyden, kan det give dårlige associa-tioner. Tænk f.eks. på sceneriet i de populære Star

Wars film, hvor the dark side har travlt med attvinge andre til at adlyde. For at de onde planerskal lykkes er der altid brug for en hær af dummeog villige robotter. Kun de ondes altid forskruedeselvforståelse og selvhøjtidelighed får det hele tilat bryde sammen til slut og ende med de godessejr og de ondes totale ruin. Gode ting som frihedog glæde behøver man ikke en droid army til at fåfolk til at synes om.

The dark side må indstille sig på, at det vil kostemange pr. konsulent timer og reklame dollars forat få dræber robotter til at glide ned i offentlighe-den, på linie med de dumme, men godsindede,støvsuger robotter.

3. De udrydder den frie vilje. Teknologi tagermagten fra mennesker. Tænk bare på Chaplin vedsamlebåndet i en F.W. Taylor rationaliseret fabrik.Men her er det endnu værre. Hvis mennesker ogrobotter bliver næsten ens, og vi ved at robotterikke har rigtig fri vilje? Kan vi så tro på at menne-sker har det? Og kan man flygte fra Chaplin ma-reridtet, hvis man ikke har en fri vilje? Udrydderrobotter ikke den frie vilje, så drager de den ihvert fald i tvivl.

Og uden fri vilje ingen attraktive drømme ellerlykke? Et ungt menneske kan drømme om at bliverockstjerne? At være uforudsigelig, spændende,skabende, farlig. Mens et ældre menneske måskehar opdaget, at succes drømmene oftere bliver tilrealiteter ved forudsigelig, pålidelig og troværdigopførsel. Men i begge tilfælde skal man have frivilje til at forfølge sine mål. Det ultimative teknomareridt endnu engang: Årtusinders menneskelige

Datalogbladet

- # -

bestræbelser endte med at teknologien slog håb ogdrøm ihjel.

4. De gør sex gammeldags. Mennesker lever i enevig formerings konkurrence. Kvinder skal væresmukke, som tegn på frugtbarhed, og mænd skalkunne arbejde hårdt, så de kan få penge og magt,og derved blive gode forsørgere. Alt for formerin-gens skyld. Men hov, robotter kan gøres lige såsmukke som man vil. Og de kan arbejde døgnetrundt, og derved udkonkurrere selv de flittigstemenneske mænd.

Men robotterne er ligeglade med gevinsten og vilhellere fremstilles på fabrik? I.e. ReplieeQ2 tæn-ker ikke på at smukkesere sig som andre kvinder.Hun er ligeglad med sin sociale position i flokken(der er jo heller ikke så mange af hendes slags…).Hun har ikke brug for at sladre med veninderne.Hun er ligeglad med at udøve sociale kompeten-cer til at skaffe sig ressourcer og partnere osv.Kort sagt, hun mangler helt det fokus på forme-ring og overlevelse som ville give den sidste men-neskeliggørelse. Men ok, måske mener robotterneikke at alt menneskeligt er værd at efterligne?

5. De gør os deprimerede over livets korthed.Mennesker lever ikke evigt. Og mennesker er ikkealtid raske. Androider derimod lever evigt og eraltid raske.

6. De er irriterende frygtløse. Mennesker er skabtfrygtsomme, så vi ikke vikler os ud i halsbræk-kende ting hele tiden. Androider kan gøres frygt-løse, og selv hvis de kommer frygteligt til skade,kan de bare repareres igen.

7. De er grimme. The uncanny valley er en over-skrift på det forhold, at mennesker ofte føler storvæmmelse ved menneskelignende robotter og oftegodt kan lide f.eks. støvsuger robotter. ReplieeQ2er uncanny, fordi hun er ”for tæt på” og drager formange ting i tvivl.

Vi synes det er bedst, hvis vi kan fortsætte somaltid, hvis der ikke for alvor er noget at bekymresig om, i hvert fald ikke nu. At opleve mening erogså godt. Alt sammen i hvert fald meget bedreend død og ulykke. Men ved synet af bare noglefå ledninger, der stikker ud fra en menneskelig-nende ReplieeQ2, er alt ikke helt så sikkert mere.

Vores indbyggede terror management system skalså finde en vej tilbage til de mere ideale tilstande.

En stenalder reaktion er fristende. Hvor stenaldermanden kigger på støvsuger robotten og tænker atden er sød og ufarlig. ReplieeQ2 ligner et menne-ske, og så alligevel ikke. Stenalder manden bliverfyldt med væmmelse, og tænker at der må væretale om et sygt menneske, som skal udstødes afflokken. Så behøver man ikke tænke på det mere.Det grimme er forsvundet. Ordnet.

Bemærk i øvrigt, at tog man silikone huden af Re-plieeQ2 og bare viste det rå metal skelet frem, såville mange sikkert være mere trygge ved det. Detville være mindre uncanny, og give færre associa-tioner?

Datalogbladet

- # -

8. De ødelægger vores minder. Hvad med voreshukommelse? Er det rigtigt, at vi får vores identi-tet igennem det der er lagret i vor hukommelse -det første kys, de lange somre som barn, den før-ste sejltur. osv. – mister vi så ikke identitet, hvisman bare kan downloade nogle erindringer i enrobot, og den er ligeså stolt af sine (falske) erin-dringer, som vi er af vore sande erindringer?

Og hvad med vores skolegang? Den bedste inve-stering man kan lave er efter sigende at tage enuddannelse. Men giver det mening at gå i skole imange år, mens robotterne bare får en ny ROMkreds?

9. De udhuler menneskerettighederne og voresmoral. Hvis man må gøre hvad der passer én medrobotter, der er næsten menneskelige, kan menne-skerettighederne så overholdes?

I 2020, om kun 11 år, mener man at 30 procent afden amerikanske hær vil være robotificeret på eneller anden måde. Med færre menneske liv i fare-zonen (i hvertfald på den ene side) er krigen såblevet mere menneskelig og derved mere mo-ralsk? Eller det omvendte?

Og er vore værdier ligeså holdbare hvis vi delerdem med robotter? Provokerende, f.eks.: DenDanske Folkekirke er rummelig. Men er der ogsåplads til en søgende robot?

10. Alt om robotter er nyt og irriterende? Hvisovenstående ikke var nok, så er der jo derudoverdem, der ganske enkelt ikke bryder sig om nyeting. Overhovedet. Og næsten alt vedr. androiderer jo nyt.

F.eks. er liv uden gener er en ny ting. En krop er,for biologiske væsner, genernes måde at få lavetflere gener på. En høne er et ægs måde at laveflere æg på. Så hvad er formålet med en androidekrop. At gøre gener i et biologisk væsen glade?Virkelig?

Liv uden gener? Det var nok en udvikling generneikke lige havde tænkt på!? Og det vil jo nok ogsåtage lidt tid for mennesker at gøre sig fri af gener-nes indflydelse. Det er jo stadig de færreste, dersom filosoffen Steven Pinker allerede nu højt ogflot ignorerer hvad generne måtte mene. Jvf. hanskommentar efter beslutningen om ikke at gøre sin”pligt” og formere sig: ”If my genes don’t like itthey can jump in the lake”.

Ja, hvad er liv egentlig? F.eks. Der bliver i dagtaget en super præcis hjerne scanning af et menne-ske. En fremtidige ingeniør bruger denne scanningtil at lave en simulation, der om 500 år sættes ind ien androide robot. Denne robot bliver så ved etuheld sprængt i luften. Var der nogen der døde?Hvis robotten omvendt lever videre i 500 år udenat ældes og uden at reproducere sig, er den så le-vende?

Bliver verden lavet om, er det naturligvis ensmertefuld proces. Følelsesladet. Bare tanken erselvfølgelig nok til at diskussionerne hurtigt kanblive lidt larmende.

Datalogbladet

- # -

Hvad mente Philip K. Dick?Philip K. Dick var ikke nogen stor berømthed dahan døde i 1982. Den helt store berømmelse komførst senere med Ridley Scotts Blade Runner film.

Det er også værd at notere sig, at fremtids profe-ten par excellance døde længe før internet tidsal-deren, aldrig så en Ipod og aldrig talte i en mo-derne mobiltelefon. Men han gjorde det SF for-fattere skal gøre, han forestillede sig fremtiden ograpporterede tilbage til os andre om hvad han så.

Fremtiden ifølge Philip K. Dick er et sted, hvorrobotter kan være uhyre menneskelige. Så menne-skelige, at man i Blade Runner bliver nød til atkigge efter en specielt refleksion i øjet, for at af-gøre hvem der er menneske og hvem der er robot.Og sommetider er det endda ikke nok. Så bliverman nød til at gå i gang med empati tests. Dicks(nu så berømte) Voight-Kampff test. Hvor manstiller følelsesladede spørgsmål, og så ser forskelpå mennesker og androider ved at se på ubevidstepupil bevægelser. Replikanter er efter sigendeikke så empatiske, så de bliver lettere forvirrede,kigger til højre og venstre, inden de kommer fremmed de gode empatiske, menneskelige svar.

Og Dicks vision bliver værre endnu. Der vilkomme androidesering – mennesker vil begyndeat opføre sig som androider. Dvs. intelligentemennesker vil leve liv helt styret og kontrolleret afandre. Intelligente mennesker vil leve tænksom-me, men lydige og forudsigelige, liv i store mani-pulerende systemer. Kort sagt de vil være robot-

ter, som ikke selv kontrollerer egne ønsker, behovog drømme….

Fremtids visionen bliver rigtigt slem, når det gårop for én, at Dick ikke kommer med nogen løs-ninger. Han er tydeligvis ikke særlig begejstretfor fremtidens samfund. Men bortset fra at vi fårat vide, at vi skal være mere empatiske og havestørre medfølelse med andre levende skabninger.Så er det ikke fra Dick at man skal høre, hvordanman skaber en bedre fremtid.

Altså. Fremtidens androider er super intelligenteslaver. Fremtidens mennesker er lydige og mani-pulerede. Det eneste man kan gøre er at vise lidtempati. Men selv det hjælper ikke meget, mest afalt fordi fremtidens mennesker ikke længere vedhvad der er virkeligt og hvad der er manipuleredefeber drømme.

Er ReplieeQ2 så bevis på at Philip K. Dick får reti al ting? Selvfølgelig ikke!

Datalogbladet

- # -

Dommedags prædikanter gør ikke meget i denslags. Men vi kunne prøve at lade de mere ratio-nelle dele af vore hjerner se på hvilken fremtid viønsker, i stedet for at lægge det hele i hændernepå hjernens amygdala frygt center. Den humorlø-se, frygtsomme, kaotiske Philip K. Dick fremtid erjo kun en mulighed.

Hvis man kan forestille sig, at mennesker kanskabe super intelligente androider, så kan man velogså forestille sig, at mennesker kan skabe enlykkelig fremtid for menneskeheden?

For optimisten er glasset halvt fuldt. For pessimi-sten halvt tomt. Og den praktiske ingeniør vilfortælle os at glasset er dobbelt så stort som detbehøver at være!

Vi andre vil kende fremtiden når vi kommer tilden. Og hvem ved, der er måske stadig længe til.Efterhånden er det jo over 50 år siden filmindu-strien viste os disse super kloge robotter, og vi kanstadig ikke købe dem nogen steder!

- - -

På vej til at ske – eller ej. I Den Elektriske Myrefra 1969 får vi Philip K. Dicks fremtids vision:

De er en succesrig mand, hr. Poole. Men hr. Poo-le, De er ikke en mand. De er en elektrisk myre.

Hvad er en elektrisk myre?, Spurgte hr. Poole.Men han var godt klar over det; Han forstod ud-mærket udtrykket. En sygeplejerske sagde: ”Enorganisk robot”.

Javel, sagde hr. Poole. Der dannedes kold sved påhans hud, over hele kroppen.

De var ikke klar over det?, sagde lægen. Nej,Poole rystede på hovedet.

Vi sender dem til serviceafdelingen, hvor man kanreparere, eller udskifte, deres hånd til en rimeligpris, enten for dem selv, hvis de er selvejende,eller for deres ejere, hvis der er nogen. Under alleomstændigheder vil De snart være tilbage ved de-res skrivebord i Tri-Plan og virke nøjagtig somfør.

Bortset fra, sagde Poole, at nu ved jeg det. Hanspekulerede på om Danceman eller Sarah ellernogen af de andre på kontoret vidste det?

…

Jeg tror jeg begår selvmord, sagde han til sig selv.Men jeg er sandsynligvis programmeret til ikke atgøre det; det vil være en ødselhed som min ejermåtte betale for. Og det vil han ikke have lyst til.

...

Hvorefter hr. Poole kalder den store datamaskine iBoise, Idaho – for at få svar. Undersøg mig visu-elt. Og fortæl mig hvor jeg kan finde den pro-grammerings mekanisme, der kontrollerer minetanker og mine handlinger.

Datamaskinen sagde: Fjern deres brystpanel. Trykmod brystbenet og skub ud.

Efter at Hr. Poole har været i gang med sig selvvågner han op ved at to mænd står bøjet over ham.Servicemænd med værktøj der har arbejdet påham.

En af de uniformerede servicemænd sagde – dehar pillet ved deres virkeligheds tape!