Om utviklingen av “smart robots” og “cyber warfare”

Jeg skrev for en tid tilbake om hva som skjer i militær anvendelse av roboter, på engelsk (ref blogginnlegg). Jeg bygger videre på det her i et innlegg på norsk. Mine synspunkter tok utgangspunkt i bl.a. den amerikanske forfatter P. W. Singers siste bok; ”Cyber Security and Cyber War; What Everyone Needs to Know”. Boken kom ut ved juletider i fjor og har toppet de skumle fremtidsscenarioer som Singer har skrevet om i flere tidligere bøker. Alle bøkene har et anstrøk av ”science fiction”, men ikke derved sagt at ikke hans fremskrivninger kan bli realiteter. Flere av dem han har skrevet om tidligere har allerede blitt det.

Tror man for eksempel på ”Moores lov” vedr takten i teknologiske nyvinninger og innovasjoner, vil ”singularity” - dvs. at maskiner kan gis kunstig intelligens på linje med og langt ut over menneskers - kunne bli nådd en eller annen gang i de nærmeste par tiår. Flere eksperter på feltet bestrider imidlertid at det vil være mulig. Den menneskelige hjernes evne til parallellitet i sin funksjon blir av hjerneeksperter ansett for å være umulig å kopiere (les: programmere) i maskiner med kunstig intelligens (AI - Artificial Intelligence).

Singer har gitt et intervju på TED Blog (http://blog.ted.com/ ) som ble lagt ut omtrent samtidig med at boken utkom. Det gir et greit konsentrat av innholdet og Singers tilnærming til materien. Jeg synes personlig at Singers bok som utkom rundt årsskiftet 2009/10: ”Wired for War - The Robotics Revolution and Conflict in the 21st Century” er den beste han har skrevet. Den ble da også en bestselger og skapte omfattende debatt i USA, og litt her hjemme.

Denne utviklingen av droner og bruk av ”cyber space” er basert på samme teknologi som ligger til grunn for den omfattende avlytting som NSA bedriver, og er igjen avhengig av internetteknologien, både den generelle og varianter som er laget for spesielle brukere. 

Aftenpostens journalist Kristian Rønneberg hadde for en tid tilbake et intervju med Richard Clarke, en av president Obamas tidligere sikkerhetsrådgivere. Han er fortsatt en viktig aktør i denne sammenheng, og han gir president Obama råd om å sette på bremsene før det er for sent. Underforstått: teknologien raser frem og der hvor etikk og/eller kunnskap om konsekvenser mangler, vil vi se at det blir gjort det som teknologien tillater til enhver tid. Slik er menneskets skrøpelige natur….

I sin siste bok sier Singer bl.a.:

“Software algorithms now handle our stock market trading, logistics, electrical power grid management, banking, communications, medical diagnosis, mapping analytics and much more. The human logic behind such decision-making has been codified into algorithms that greatly increase speed and efficiency. (Singer kaller dette for sub-Singularity AI)

That’s why there’s no turning back.

What will be the outcome for human society as it competes with sub-Singularity AI? That’s what the philosophers, technologists, sociologists, engineers, artists, politicians, activists, economists and many more must ponder and debate in coming years.

Automation - both in its cyber and robotics incarnations - is not going away. It is now a permanent fixture of our civilization. Our narrow AI friends are here to stay.”

Så langt Singer. Jeg håper, og tror vel egentlig også, at det ikke er mulig å kopiere den menneskelige hjerne, slik at en eller annen form for militær “maskin” eller ”system” kan sendes av gårde og tenke selv frem til den løser det oppdrag som er gitt, slik en veltrenet soldat ville ha gjort. Men selv slike maskiner eller systemer som ligger i det såkalte ”Sub-AI skiktet” er selvsagt skumle nok, og kanskje enda skumlere, fordi de blir tilbøyelige til å gjøre grove feil; og da kan det bli stor skade på uskyldige, eller det som kalles ”collateral damage” i militær terminologi.

Vi har sett mye av dette de siste par årene i amerikanernes bruk av droner i Afghanistan og i grenseområdene mellom Afghanistan og Pakistan.

Knut Harald Nylænde skriver blogginnlegg om forsvarsspørsmål og tilknyttede emner. Andre emner han omtaler er ledelse og investeringer. Han arbeider med slike spørsmål til daglig som leder og eier av investerings- og rådgivingsselskapet Moxie AS.