Symbiose robot – menneske?

Mange har spådd at roboter og “kunstig intelligens” vil skape en revolusjon uten sidestykke i menneskets historie, at mange arbeidsplasser i næringsliv og offentlig sektor vil bli overtatt av roboter. I så fall vil mange mennesker bli uten inntekt og uten meningsfylt arbeid.

Av Einar N. Strømmen & Tor G. Syvertsen, professorer emeriti, Institutt for konstruksjonsteknikk, NTNU, bildet øverst fra filmen Ex Machina,  2015

«Kan det være at streben etter “kunstig intelligens” kan være tilsvarende? I stedet for å imitere menneskets (ukjente) måte å “tenke” på, bør man kanskje først forsøker å forstå de grunnleggende prinsippene for det ukjente fenomen man kaller “intelligens”?»

«Mye tyder på at vi går inn i en tid der mennesker og roboter ikke kan leve uten hverandre. Det er ikke gitt hvem som vil få overtaket. Hvis robotene tar makten, vil vi muligens bli deres slaver, eller kjæledyr?»

 

Det britiske Future of Life Institute hevder: “I menneskets historie har noen hendelser framstått som spesielt revolusjonerende: bevisst bruk av ild, landbruk, den industrielle revolusjon, oppfinnelsen av datamaskiner og internett. Men mange venter at utvikling av avansert kunstig intelligens vil overstige disse gjennombruddene” (vår oversettelse).

Det har alltid vært både utopiske og dystopiske spådommer. Technovelgy er et nettsted med et rikholdig utvalg av kilder om “Artificial Intelligence” og “Robotics“, samt en rekke andre spekulasjoner og påstander om “framtidig utvikling”.

Ikke alle profetier slår til. Douglas Adams (1952-2001) erkjente: “Jeg forutså ikke internett. Men det gjorde heller ikke dataindustrien. Ikke at det sier så mye – dataindustrien forutså heller ikke at forrige århundre kom til å ta slutt” (vår oversettelse).

For tiden behøves ingen spådommer eller profetier siden vi befinner oss midt i den digitale revolusjon. Fidel Castro som døde ifjor påpekte:

En revolusjon er ingen dans på roser. En revolusjon er en kamp på liv og død mellom framtid og fortid” (vår oversettelse).

Noen har kjempet seg til framtiden allerede. Wikipedia, Linux og Estland er noen eksempler. Sverige lanserte nylig en nasjonal digitaliseringsstrategi .

Det er ikke uten grunn at Business Insider hevder: “Sweden is best in the world at pretty much everything“.

H.G. Wells (1866-1946) var mer forutseende enn de fleste. Han forutså et verdensomspennende informasjonsnettverk og leksikon allerede i 1936 i pamfletten ” The Idea of a World Encyclopedia“.

Arthur C. Clarke (1917-2008) har klokelig påpekt: “Politikere bør lese Science Fiction i stedet for Western og detektivhistorier” (vår oversettelse). Vi antar at de i dag helst leser kiosklitteratur og egne partipamfletter …

«Ingen vet hva “intelligens” er, men mange leter fånyttes etter “intelligent liv”, sogar i verdensrommet. Hittil har man som ventet kun fått bekreftet Fermi’s paradoks. Vi foreslår å begynne med å lete etter intelligent liv på jorden. Man kan for eksempel starte i universitetsbyråkratiet.»

Teknologideterminister som Ray Kurzweil og Hans Moravec har skapt en myte om at stadig økende teknisk kapasitet uvilkårlig vil føre til at maskiner på et tidspunkt vil bli mer intelligente enn mennesker, og at dette ufravikelig vil føre til at alle mennesker får det meget bedre! Vi hører til dem som stiller seg skeptiske til en slik utvikling. Det pågår en debatt mellom milliardærer: vil roboter med “kunstig intelligens” bli menneskedrepere? Slikt bekrefter kanskje John Kenneth Galbraiths utsagn: “Rikdom klarer selv i de minst trolige tilfeller, å gi et skinn av intelligens” (vår oversettelse).

HAL 9000, fra filmen 2001 A Space Odyssey, Stanley Kubrick

 

Ingen vet hva “intelligens” er, men mange leter fånyttes etter “intelligent liv”, sogar i verdensrommet. Hittil har man som ventet kun fått bekreftet Fermi’s paradoks. Vi foreslår å begynne med å lete etter intelligent liv på jorden, man kan for eksempel starte i universitetsbyråkratiet.

Enorm datakraft kan også gjøre umåtelig stor skade, jfr. “Med en datamaskin kan du gjøre flere feil raskere enn med noe annen oppfinnelse, muligens med unntak av håndvåpen og Tequila”  (Mitch Ratcliffe,vår oversettelse).

Begrepet robot kommer fra Karel Čapek‘s skuespill R.U.R., og hans definisjon er fremdeles holdbar. På Tsjekkisk betyr robotnik “tvangsarbeider”.

En digital robot kan omfatte alle typer selvdrevne system som består av programvare i en uorganisk innkapsling. Begrepet spenner fra tungt maskineri til en bitte liten databrikke. En bankterminal er en bankassistent i form av en robot. Et automatgir er en robot som skifter gir. En autopilot er en robot som styrer et fly eller et skip. Det finnes utallige eksempler.

Robot er forskjellig fra verktøy i den forstand at verktøy brukes aktivt av et menneske, mens roboten er autonom. Den foretar sine handlinger på egen hånd uten påvirkning av et menneske.

Vi foreslår en dikotomi for “intelligente” vesener:

  1. Menneske: Organisk, intelligent liv, på cellenivå basert på replisering av genetisk kode (DNA), som spesialiserer til forskjellige typer prosessenheter innebygget i cellen (som også kan gjøre egne analyser uten at vi kaller dem roboter). Celler kombinerer til organer som igjen settes sammen til organismer, og vi betegner noen av dem “intelligente”.
  2. Robot: Ikke-organisk “intelligent” system som består av digital kode i et livløst skall som utfører bestemte oppgaver, som for eksempel en mikroprosessor.

Vi forbeholder betegnelsen robot til klasse 2, til tross for at det finnes mengder av vesener av klasse 1 som oppfører seg som om de er i klasse 2, slik som byråkrater og andre som er regelstyrte og uten evne til å tenke selv.

«Vi slutter oss til mottoet til Technology Liberation Front: “Det virkelige problemet er ikke om maskiner tenker, men om hvorvidt menneskene gjør det“»

Overraskende nok finnes det fremdeles ingen presis definisjon av verken liv eller intelligens, kanskje bortsett fra Turingtesten; et imitasjonspill som ble foreslått for å bestemme hvorvidt en maskin kan “tenke”. Alan Turing så på sin “Turing maskin” som uintelligent, en maskin som ikke selv kunne tenke: “Hvis en maskin er ufeilbarlig, kan den ikke være intelligent”, simpelthen fordi den er programmert fra elementære logiske prinsipper. Han hevdet: “Det grunnleggende spørsmålet ‘kan en maskin tenke?’, mener jeg er altfor meningsløst til å fortjene oppmerksomhet” (vår oversettelse).

Senere falt han i tvil og innrømmet: “Det er mulig at straks maskinene har begynt å tenke, vil det ikke ta lang tid før de utkonkurrerer våre ynkelige evner … De vil komme til å kunne kommunisere med hverandre for å utvikle sine evner. På et eller annet tidspunkt kan vi derfor forvente at maskinene tar over kontrollen” (vår oversettelse).

Vi slutter oss til mottoet til Technology Liberation Front: “Det virkelige problemet er ikke om maskiner tenker, men om hvorvidt menneskene gjør det” (vår oversettelse).

Allerede nå er “Google’s New AI is Better at Creating AI Than the Company’s Engineers“, noe som sier lite om “kunstig intelligens”, men ganske mye om ingeniørene hos Google …

Forsøkene på å imitere menneskehjernen ved bruk av rå datakraft kan synes like fånyttes som de mange mislykkede forsøkene på å fly ved å imitere fuglenes flukt. Kunstig flygning kunne ikke finne sted før aerodynamikkens lover ble forstått, og da ble det litt om senn mulig å lage et fly med brede, fikserte vingeflater og tilstrekkelig framdrift fra en relativt liten og lett eksplosjonsmotor. Brødrene Orville og Wilbur Wright demonstrerte kunstig flyging første gang 17. desember 1903. Flyet lignet svært lite på en fugl; det flakset ikke med vingene, men det fløy. Kunstig flygning var demonstrert takket være forståelse av prinsippene for aerodynamisk oppdrift.

Kan det være at streben etter “kunstig intelligens” kan være tilsvarende? I stedet for å imitere menneskets (ukjente) måte å “tenke” på, bør man kanskje først forsøke å forstå de grunnleggende prinsippene for det ukjente fenomen man kaller “intelligens”?

Vår hjerne er verken regelstyrt eller basert på søk, slik tradisjonell programvare er.

Det er fåfengt å tro at tenkning og bevissthet kan skapes mekanisk ved å sette sammen deler, slik mange dataloger ser ut til å tro.

Fra AI – Artificial Intelligence av Steven Spielberg, 2001

 

Fernando Flores og Terry Winograd foreslo en radikalt annerledes tankegang i boka Understanding Computers and Cognition: A New Foundation for Design.

Intelligent organisering og atferd kan betraktes som en slags autopoiesis (selvorganisering), først foreslått av Humberto Maturana og Francisco Varela i 1972: Autopoiesis and Cognition – The Realization of the Living; “Levende systemer er kognitive systemer, og liv er en kognitiv prosess. Dette utsagn er gyldig for alle organismer, både med og uten nervesystem” (vår oversettelse). En utvidelse av selvorganisering kan illustreres med sandhaug-modellen, som foreslått av den danske fysikeren Per Bak.

Spontan negasjon er en snodig egenskap ved menneskehjernen, dvs. man vet øyeblikkelig hva man ikke vet. Selv om det går kvikt, må roboten gjennomsøke hele minnet før den ender opp med: “fant ikke noe svar” eller “avgrens søket”…

Mer enn 2000 år før “kunstig intelligens” ble påtenkt, erkjente Sokrates: “Jeg vet at jeg er intelligent, for jeg vet at jeg ingenting vet” (vår oversettelse).

Sokrates’ student Platon observerte at: “Menneskelig adferd strømmer fra tre kilder: begjær, emosjon og fornuft” (vår oversettelse). Den minst viktige kilden ser ut til å være fornuften, siden mennesket ofte ikke er i stand til å omsette rasjonell kunnskap i “intelligent” adferd.

Platon’s syn stemmer overens med Paul MacLean’s evolusjonære ide om “triune brain” (treenig hjerne), bestående av reptilhjernen, pattedyrhjernen og primathjernen.

Slik sett er ambisjonene for “kunstig intelligens” satt altfor lavt. Imitasjoner av primater vil neppe frambringe annet enn mer og raskere dumskap.

Et mer ambisiøst mål vil være å skape et fjerde nivå av hjerner, utover neocortex… Et slikt nivå vil fordre omfattende oppmerksomhet og tenkning, som begge er blant de knappeste ressurser i dagens verden. Uheldigvis står pengebingene vidåpne for enhver som roper “kunstig intelligens”.

Det ventes av roboter at de ter seg fullstendig rasjonelt i motsetning til mennesker hvis atferd dreier seg om begjær og emosjoner, og som besitter selvbevissthet og samvittighet.

Noen roboter ser ut til å ha visse menneskelige trekk, slik som sikkerhetsvaktroboten som begikk selvmord … endelig en robot med menneskelige trekk!

Kjernefysikeren Erwin Schrödinger så det slik: ” Bevissthet kan ikke redegjøres for i fysisk forstand. Bevisstheten er helt grunnleggende. Den kan ikke redegjøres for i kraft av noe annet” (vår oversettelse).

Kan man da forestille seg en kunstig kopi av en kvalitet hvis reelle motpart er fullstendig ukjent?

Tor Nørretranders forklarer bevissthet i form av eksformasjon, dvs. ubrukelig informasjon som forkastes: “Millioner av bit kondenseres til en bevisst opplevelse som praktisk talt er uten informasjon. Hvert sekund forkaster vi millioner bit med henblikk på å oppnå en særegen tilstand som vi kaller bevissthet. Bevissthet handler ikke om informasjon, men om det motsatte: orden. Bevisstheten er genial fordi den vet hva som er viktig. Sortering og tolkning av data foregår likevel ubevisst. Ubevisst tolkning og sortering er hemmeligheten ved bevisstheten” (vår oversettelse).

Nørretranders velger å skille mellom Meg og Jeg: Meg er hele vår kropp og nervesystem, mens Jeg er kun den bevisste delen av oss. Følgelig er det meste av vår “intelligens” henlagt til Meg som arbeider kontinuerlig for å bli kvitt så mye unyttig informasjon som mulig slik at Jeg kan finne bevisst mening i tilværelsen.

«Vi tør foreslå at man heller legger innsats i å bli kvitt naturlig dumskap framfor å sløse bort enda flere trilliarder på å fremskaffe “kunstig intelligens”. Slik programkode vil være enda mer motstandsdyktig mot forandring enn selv den mest tykkhudete byråkrat.»

Vårt nervesystem mottar omlag 11 millioner bit per sekund, fra øyne, hud, ører, nese og munn. Vår bevissthet er ikke i stand til å behandle særlig mye; kanskje 1-16 bit per sekund, muligens opptil 40. Internett-forbindelse med hastighet på mange Mbit/sek. betyr bare at man går glipp av 99.9999%. Det er kanskje like greit, siden det meste bare er dritt?

IBM supercomputer

 

Metabolisme er et fenomen som er grunnleggende for alt liv. Celler tar inn energi og informasjon. Det foregår en behandling der de nyttige delene absorberes, mens resten blir avfall som forkastes.

Prosessen som trekker ut noen få meningsfulle bit fra Exabytes med meningsløse data kaller Tom Stonier for “semantisk metabolisme“.

“Kunstig intelligens” ser derimot ut til å samle og lagre så mye søppelinformasjon som mulig, uten tanke på om dritten kan gi noen mening.

Vi tør foreslå at man heller legger innsats i å bli kvitt naturlig dumskap framfor å sløse bort enda flere trilliarder på å fremskaffe “kunstig intelligens”. Slik programkode vil være enda mer motstandsdyktig mot forandring enn selv den mest tykkhudete byråkrat.

En overhengende fare er at forstenede arbeidsformer blir innbakt i programvare tiljublet som “kunstig intelligens”.

I tråd med den tekniske utvikling kan slik naturlig dumskap ventes å fordobles omtrent hver uke!

Vår kunnskap og forståelse av våre omgivelser er begrenset av vår selvforståelse, slik at leting etter intelligent liv på denne planeten eller annet sted vil være fånyttes.

Vi befinner oss i en boble som vi ikke kan unnslippe, en global membran , eller slik Marshall McLuhan påpekte: “Vann er en ting fiskene ikke vet noe om siden de ikke har noen anti-omgivelse som gir dem mulighet til å fornemme det element de lever i”(vår oversettelse).

Menneskelig “intelligens” framstår som en tveenighet: hjerne og forstand. Selv om noen klarer å lage en kunstig hjerne, er det fortsatt en lang og gåtefull vei til forstand og sinn…

Marcelo Gleiser heller kaldt vann i blodet til de mest brennende ildsjelene: “Med mindre man er intellektuelt forfrossen, kan man ikke unngå kvantets sjarm; den plager oss med at vi er fordypet i et mysterium, for alltid hensatt til kunnskapens øy. Man kan ikke unnslippe den skremmende kjensle av at kjernen av virkeligheten ikke kan forstås” (vår oversettelse).

Det finnes flere måter å forestille seg en erkjennelse som trer fram ( “emergent cognition” ). I henhold til Buddha i Avatamsaka Sutra:

“In the mind is no painting,

In painting there is no mind;

Yet not apart from mind

Is any painting to be found.”

Vincent van Gogh (1853-1890) erkjente det slik: “Jeg drømmer mitt maleri og jeg maler min drøm” (vår oversettelse).

Stjernenatt, Van Gogh.

 

En sammenligning av egenskaper hos mennesker og roboter er satt opp i tabellen:

Sammenligning av egenskaper
Menneske Robot
Analog Digital
Kvantebasert Molekylær
Uvitende Idiot
Flerkanals, bredbånd I/O Smal, bit-basert I/O
Lærer av refleksjon over erfaringer Lærer ved å bli omprogrammert
Assosiativt minne Lineært minne
Forkaster ubrukelig informasjon Hamstrer alle data
Skamfull Ubevisst
Løgnaktig Faktabasert stabeis
Tvilende Skråsikker
Spør Gir svar på kjente spørsmål
Målrettet Regelstyrt
Selvbevisst Bevisstløs
Treenig, selv-organiserende hjerne Programmert prosessor
Emergent sinn Intet sinn
Begjær og emosjoner overstyrer rasjonalitet Usvikelig rasjonalitet
Levende Død

 

Det kan være et spørsmål om tid før menneskets beste mulighet er å tjene som en utvidelse av en robot, slik at vi nærmer oss en epoke der menneskene lever i symbiose med roboter med henblikk på å oppnå en overlegen prestasjonsevne.

Denne synsmåten er i samsvar med Douglas C. Engelbart’s visjon for 55 år siden om å bruke roboter i form av datamaskiner med henblikk på “Augmenting the Human Intellect” eller “Boosting our Collective IQ“. Han konstruerte og demonstrerte verktøy og teknikker som i dag synes dagligdags i litt forbedrede utgaver…

Allerede i 1960 skrev J.C.R. Licklider en visjon om Man-Computer Symbiosis hvor han brukte en analogi for å forklare en gjensidig fordelaktig symbiose: “Fikentreet pollineres av insektet Blastophaga grossorun. Insektlarven lever i fikentreets ovarium hvor den får sin næring. Fikentreet og insektet er gjensidig avhengige av hverandre: treet kan ikke reprodusere uten insektet og insektet kan ikke ernære seg uten treet; til sammen utgjør de et levedyktig og fruktbart parforhold. Denne formen for intimt samliv mellom to ulike organismer kalles symbiose” (vår oversettelse).

«Hvis den rådende tendens med rask teknisk utvikling og økende mangel på menneskelig klokskap fortsetter, kan det knapt finnes annet alternativ enn at robotene vinner. Kanskje kommer de på tanken om å inngå en symbiose med de smarteste menneskene for å skaffe seg et bedre grensesnitt mot verden?»

Lickliders visjon har i noen grad blitt til virkelighet. Facebook og tilsvarende fjaserier er eksempler på symbiotiske robot-menneske relasjoner. Symbiosen er ikke smartere enn noen av partene alene, og det kan neppe klandres roboten. Det er likevel en grunnleggende forskjell fra Licklider’s symbiose mellom fikentreet og larven: den produserer noe som er nyttig for omverden (fiken), mens Fjasbok-symbiosen er fullstendig introvert, og neppe produserer annet enn flere og større idioter?

Sex robot, Abyss Creations

 

Hvis den rådende tendens med rask teknisk utvikling og økende mangel på menneskelig klokskap fortsetter, kan det knapt finnes annet alternativ enn at robotene vinner. Kanskje kommer de på tanken om å inngå en symbiose med de smarteste menneskene for å skaffe seg et bedre grensesnitt mot verden?

Mye tyder på at vi går inn i en tid der mennesker og roboter ikke kan leve uten hverandre. Det er ikke gitt hvem som vil få overtaket. Hvis robotene tar makten, vil vi muligens bli deres slaver eller kjæledyr?

Eller, kanskje de kommer på tanken om å opprette utdanningsinstitusjoner slik at vi kan trenes til å bli bedre som grensesnitt mellom robotene og verden?

I den episke filmen The Matrix ble hovedpersonen Neo fôret med mentale og fysiske ferdigheter gjennom en kranieplugg av Tank, som avgjør hvilken programvare som skal kjøres med henblikk på å forøke Neos ferdigheter. Filmen var basert på William Gibson’s roman Neuromancer hvor begrepet”cyberspace” først ble brukt. Romanen nevner: “The Matrix hadde sitt utspring fra tidlige videospill … tidlige grafikkprogrammer og militære eksperimenter med kranieplugger” (vår oversettelse).

Nå om dagen driver det amerikanske forsvaret eksperimenter med å laste opp tenkning til hjernen din. Velkommen til Cyberspace! Vi trenger ikke kunstig intelligens. USAs militære roboter vil bestemme hva du tenker. Du kan ikke unnslippe, for du overvåkes overalt.

Ifølge Marvin Minsky, grunnlegger av MIT AI-Lab: “Artificial Intelligence” er ikke noe annet enn en gren av datateknikken: “Artificial Intelligence is the science of making machines do things that would require intelligence if done by men“.

Som de fleste grener innen vitenskapen, er dette en gren som aldri tar slutt. Den skyter bare nye skudd og krever stadig flere penger for oppblåste løfter om ingenting …

E.M. Forsters novelle THE MACHINE STOPS (eller et sammendrag i Wired: Nov. 1, 1909: ‘ The Machine Stops) anbefales på det varmeste for alle teknologifrelste!

Evolusjonen av symbiosen robot-menneske vil uvilkårlig skape frykt og mismot hos mange. For dem som aksepterer utviklingen som en naturlig evolusjon vil det finnes utallige muligheter.

Inntil videre tyder statistikk på at roboter fjerner adskillig færre jobber enn noengang.

Alle drømmer om Utopia har hittil endt i elendighet.

 

The Machine Stops, E.M. Forster

 

 

Anbefalt

How do you define “real”? – De filosofiska inspirationerna till The Matrix