Artikel top billede

(Foto: Computerworld)

Rigtige, kloge mænd VS. rigtigt kloge computere

Alle taler om kunstig intelligens og bevidste maskiner. Det gør Elon Musk også, og han sammenligner A-intelligens med A-bomber. Også Stephen Hawking debatterede AI-truslen kort før sin død. Danske eksperter ser dog ikke meget intelligens i denne debat.

Af Palle Vibe, Alt om Data

Denne artikel er oprindeligt bragt på Alt om Data. Computerworld overtog i november 2022 Alt om Data. Du kan læse mere om overtagelsen her.

Tesla-stifteren Elon Musk blev født i Pretoria i Sydafrika. Han var som dreng ihærdig læser og lærte sig selv computerprogrammering som 10-årig, men han blev mobbet en del og på et tidspunkt smidt ned ad en trappe og gennembanket, til han besvimede. Så blev han så sur, at han emigrerede til Canada. Men hurtigt fik han øje på USA, som han mener, er det ”største land, der nogensinde har eksisteret på Jorden”, mens han tilføjer, at der ikke ville være noget demokrati i verden, hvis ikke det var for De Forenede Stater.

Så her bor og virker den nu 48-årige allround iværksætter, og ikke mindst kunstig intelligens ligger den driftige storentreprenør meget på sinde. Måske som mulig rival til hans egen. Det tilkendegav han eksempelvis i en tale ved en mediekonference i Texas for nylig, hvor han kaldte AI for en større fare for menneskeheden end atomvåben.

”Jeg er tæt på kunstig intelligens i mine firmaer,” slog han fast, ”og de potentielle muligheder skræmmer mig fra vid og sans.” I samme åndedrag henviste Musk til den computer, der i 2016 vandt over verdensmesteren i det superstrategiske brætspil GO. Det står for den visionære Tesla-milliardær som et klart eksempel på, at AI er ved at passere menneskets niveau.

Strawberry fields forever

Derfor havde Musk, også allerede før firmaet DeepMind blev opkøbt af Google i 2014, investeret heftigt i dette foretagende for efter eget udsagn at kunne holde øje med udviklingen af AI fra nærmeste sidelinje. Og denne proces går efter hans mening hurtigere, end de fleste nok ville bryde sig om (hvis de vidste det).

AI var også emnet for en samtale, som Elon Musk forinden havde ført med Demis Hassabis, der er en af de førende eksperter i USA på området. Musk pointerede, at det ultimitive mål for hans SpaceX virksomhed var at kolonisere andre planeter og i første omgang Mars, for så ville menneskeheden have en flugtvej, hvis AI skulle gå grassat og vende sig mod menneskeheden. Det gjorde nu ikke synderligt indtryk på Hassabis, der blot indvendte, at mon ikke den maskinelle intelligens så bare ville følge med ud i rummet?

Musk antager dog ikke, at en mulig kunstig superintelligens vil opstå i form af autonome robotter. ”Det vil der næppe være nogen fare for, for folk ser jo ikke, at der går robotter rundt over alt,” observerer han. ”Joh, vi har robotstøvsugere, men de tager vel næppe magten over verden.”

I stedet er Musk af den overbevisning, at AI vil opstå i skyen, og at robotter kun vil være et muligt fysisk redskab for en kunstig superintelligens. ”AI behøver ikke engang at ville skade os af ond vilje,” uddyber han, og som eksempel tænker han sig, at en jordbæravler udvikler en intelligent jordbærplukkerrobot, der bliver styret af selvlærende algoritmer, så den hele tiden bare bliver bedre og bedre til at plukke jordbær. Den vil derfor ikke ønske andet end at gøre hele verden til ét stort jordbærbed. Strawberry fields forever. Og der vil ikke være plads til mennesker i den plantage.

Filosofiprofessor Nick Bostrom advarede allerede i sin bog ”Superintelligence” fra 2014 mod en fjendtlig kunstig superintelligens, der ville hindre ethvert forsøg på kontrol.

Musk sætter trumf på ved at tilføje, at mennesket bare ikke vil sit eget bedste, og det har det aldrig villet. Og det er så meget mere uheldigt, da mennesket samtidig er den første og eneste biologiske art på Jorden, der er i stand til at udslette ikke bare alle andre, men også sig selv.

Elon Musks nyligt fraskilte kone skuespillerinden Talulah Riley har fortalt, at hun har haft adskillige natlige samtaler med Elon om AI. Han er logisk til det brutale og håndterer alting, som var det skakbrikker, har hun berettet. Og når han spiller skak om menneskets fremtid i en verden med AI, bliver mennesket hver gang sat mat.

Storskræmmende scenarie

Måske derfor søger Elon Musk til stadighed at være et skridt foran. Han er udadvendt i helt ekstrem grad og sanseligt dybt interesseret i mange ting. Bl.a. nu også i den lidt aparte canadiske og umådeligt indadvendte tidligere psykologistuderende og for tiden electronica-musiker Grimes med det borgerlige navn Claire Boucher.

Denne romance blev en realitet, da Musk tweetede en flad ordspilsjoke om et AI-tankeeksperiment kendt som ”Rokos Basilisk” (et virkeligt skræmmende scenarie). Musk troede, at han var ene om den rimeligt indforståede vits, men en anden havde hele tre år tidligere tweetet samme indskydelse. Denne anden var Grimes, og der blev skabt nærkontakt af alle grader. Indtil videre holder alliancen tilsyneladende.

Vi er alle cyborger

Det allerbedste modtræk mod en gal AI er efter Elon Musks mening at fraternisere med ”fjenden”, og derfor har han også udtænkt en metode, der gør det muligt for mennesker at kommunikere direkte med computere. Tanken er at sprøjte millioner af bittesmå interfacemolekyler ind mellem kraniekassen og hjernen, hvilket er en teknologi, han kalder ”neural lace” (se også AOD nr. 13/2017). På den måde mener Musk at kunne sammenbringe menneskelig intelligens og digital intelligens, hvilket han ikke betragter som så grænseoverskridende endda.

”Vi er allerede cyborger” (blanding af biologisk væsen og maskine). Vores mobiler og computere er jo blot forlængelser af vores kroppe,” konstaterer han. Problemet er kun, at et traditionelt computer-interface er baseret på tastatur eller tale, og det er langsomt og usikkert. Med neural lace vil et menneske efter Tesla-milliardærens overbevisning kunne ”samtale” direkte og trådløst med enhver tænkelig dataenhed med lynets fart.

Den lamme fysiker Stepen Hawkings begyndte at interessere sig for AI, da han kunne konstatere, at hans talemaskine efterhånden havde lært sig både hans tænkemåde og talemåde.

Dette perspektiv er måske blot 4-5 år væk, men Musk mener også, at det ikke nødvendigvis bliver med os ved roret. Ved Recode’s årlige Code Conference i Rancho Palos Verdes i Californien sidste år, slog Musk nemlig atter til lyd for den i øvrigt velkendte og udbredte teori om, at vi mennesker kun er avatarer i et mægtigt simulationsspil, der er skabt af overlegne intelligenser, de være sig ekstraterrestrisk eller af jordisk maskinel herkomst (se AOD marts 2018). Og Musk hilser betrygget, at to Silicon Valley milliardærer angiveligt er i gang med at udvikle en algoritme, der kan skaffe os ud af denne Matrix-lignende situation.

Den røde panikknap

Elon Musk står langt fra alene med sin frygt. Bill Gates er også ude med alarmen og sammenligner i fuld samklang med Musk løbsk AI med en atomkatastrofe. Lidt samme sang nynner Nick Bostrom, der er professor i filosofi i Oxford, i sin bog ”Superintelligence” fra 2014, og i koret blander sig også Silicon Valley-koryfæet Sam Altman, der dog modererer temaet en anelse ved at tilkendegive, at skal det endelig være, vil verden være bedre tjent med, at AI vil blive udviklet af privatpersoner, der er parat til at overdrage maskinintelligensen til hele menneskeheden og dermed til gavn for alle, frem for vilkårlige organisationer og magthavere, der formentlig helst vil udnytte AI til gavn for sig selv.

Som eksempel på sådan en organisator, der under ingen omstændigheder bør få nogen chance for at udvikle AI, er den tidligere specialist i selvkørende biler (og projektansatte hos Uber og Waymo) Anthony Levandowski, der for nylig blev fyret i unåde og nu er beskæftiget med at grundlægge en religiøs non-profit bevægelse centreret omkring en kunstig intelligens - “The Way of the Future” - som vi mennesker kan tilbede som et teknokratisk alternativ til kirken.

I mellemtiden har Musk og Altman fundet sammen om at stifte OpenAI, der også er et nonprofit foretagende blot med det formål at arbejde for sikker (dvs. ufarlig) kunstig intelligens.

”Men måske hører maskinintelligens til universets orden,” funderer Musk. “Stof kan ikke organisere sig til chips, men det kan samle sig til intelligente væsner, der med tiden vil kunne fremstille chips. Går det galt, kan vi måske designe en stor rød nødknap. Men jeg er ikke sikker på, at jeg selv ville bryde mig om at nærme mig knappen, for er der tale om en magtfuld superintelligens, vil den uden tvivl stritte imod og uddele gedigne lussinger til de tættest stående.”

Hvis bare vi opfører os ordentligt

Herhjemme erkender danske eksperter i AI, at smarte dræberrobotter naturligvis ikke vil være smart. Professor Anders Kofoed-Petersen fra Dansk Center for Anvendt Kunstig Intelligens (DCAKI) udtrykker det på denne måde: ”Hvis vi gerne vil udslette vores egen race, så virker dræberrobotter som en effektiv måde at gøre det på. Det fjerner jo incitamentet til at stoppe en krig, hvis parterne ikke selv har menneskeliv på spil, og det er selvsagt uhyggeligt. Men det er ikke det samme, som at jeg tror, at selve udviklingen af kunstig intelligens er farlig”, understreger han og tilføjer, at han nok betragter sig selv som mere teknologi-positiv end de tre berømte AI-modstandere.

Henrik Schärfe, der leder Center for Computermedieret Erkendelse på Aalborg Universitet er verdenskendt for en nøjagtig robotkopi af sig selv. Han mener, at AI kun vil udgøre en trussel, hvis vi ødelægger den Jord, som også intelligensen bor på.

Anders Kofoed-Petersen er overbevist om, at de tre herrer alene går så bastant ud for at tvinge os andre til at tage stilling, mens der endnu er tid. ”Det er vigtigt, at vi taler om, hvad vi vil med AI-teknologien i det store perspektiv, og vi ved jo alle, at der skal farverige erklæringer til for at vinde pressens opmærksomhed,” forklarer han. ”Men jeg kan ikke rigtigt relatere til en frygt i det format, som d’herrer synes at nære, for det virker noget overdrevet i forhold til, hvor vi er i udviklingen,” understreger den danske professor i AI, der også mener, at vi burde døbe teknologien noget andet end ”kunstig intelligens, der næsten af sig selv fremkalder forkerte associationer.

”Det får det til at lyde, som om det drejer sig om en kunstig udgave af dig eller mig, og der er vi slet ikke endnu. Eksisterende AI-algoritmer kan løse meget specifikt formulerede problemer. Det gør de så også bedre end mennesker, men til gengæld kan de intet andet end det, så vi skal passe på ikke at lade os rive med af påstande om all-round intelligente robotters magtovertagelse. Dog er der den sandhed i det, at selv om vi lige nu tilpassede vores undervisningssystem til fremtidens behov, så vil der stadig være 25 års leveringstid på kandidater, der kan det, vi måske får brug for om 25 år. På det punkt er vi ikke i stand til at omstille os hurtigt nok,” afgør professor Anders Kofoed-Petersen fra Dansk Center for Anvendt Kunstig Intelligens. Henrik Schärfe, der leder Center for Computermedieret Erkendelse på Aalborg Universitet og blev verdenskendt for en nøjagtig robotkopi af sig selv, mener, at vi kun vil opfatte AI som en trussel så længe, vi står i begreb med at ødelægge kloden.

”Det er det bedste argument, en kunstig intelligens vil have, for at udrydde os, og derfor er det nok ikke så meget AI i sig selv, vi frygter, som konsekvenserne af vores egen opførsel,” pointerer han. Så i stedet for at grue for, at kunstig intelligens måske vil nå frem til, at kloden er bedst tjent uden os, bør vi måske opføre os på en måde, så kloden slet ikke vil kunne undvære os.

Professor Anders Kofoed-Petersen fra Dansk Center for Anvendt Kunstig Intelligens (DCAKI) mener, at vi burde døbe teknologien noget andet end ”kunstig intelligens”, der næsten uvilkårligt fremmaner uheldige associationer.

Stephen med på Elons raket

Mest notorisk af alle delte den nu afdøde verdensberømte britiske fysikprofessor Stephen Hawking sine amerikanske meddebattørers bekymringer: “Succesfuld udvikling af kunstig intelligens vil være det største fremskridt i menneskehedens udvikling, men det kan også meget vel blive det sidste”, profeterer han.

Den direkte årsag til, at den geniale engelske fysiker, der led af en uhelbredelig og stærkt invaliderende nervesygdom, begyndte at gøre sig disse tanker, var i øvrigt udviklingen af det AI-program, der styrede hans talemaskine og efterhånden havde lært sig Hawkings tænkemåde og kunne forudse, hvilke ord og udtryk han ville benytte. Det fandt Hawking næsten for smart.

”Med mindre vi står forberedt, kan vi risikere, at AI i stedet for at løse problemer vil give os problemer. AI kan styre dræbervåben, ødelægge hele vor økonomi og tjene som et middel for de få til at undertrykke de mange,” advarede Hawking kort før sin død. ”AI vil kunne udvikle selvstændighed og vil kunne forbedre sig selv i et stadigt hastigere tempo. Vi mennesker er begrænset af langsom biologisk udvikling og vil ikke kunne følge med.”

Hawking er derfor enig med Elon Musk så langt, at vi må emigrere til andre planeter for at overleve. Men ikke nødvendigvis på flugt fra en fjendtlig AI, men snarere fordi, vi har drænet Jorden for råstoffer og forgiftet vores egen planet til ukendelighed. ”Det bør være menneskehedens topprioritet at kolonisere nye verdener for at overleve som race,” drønede Stephen Hawking i nogle af sine sidste skrifter.

Bevidst ond og ubevidst god - eller omvendt

I debatten hører vi dog også tit det argument, at en intelligent og bevidst maskine ikke nødvendigvis vil have samme behov for magt, mangfoldiggørelse og selvopretholdelse som mennesker.
”Det er simpelt hen noget ulogisk sludder,” protesterer bl.a. Stuart Russell, der er professor i computervidenskab ved University of California. ”Selvfølgelig vil en intelligent robot have selvopholdelsesdrift, uden at du nødvendigvis specifikt programmerer den til at have det. Alene det, at du giver den en opgave, indebærer jo, at robotten må holde sig funktionsdygtig for at løse denne opgave. Og hvis nogen forsøger at hindre den, vil den selvsagt opponere.”

Musk, Hawking og Gates er da også enige om, at selv om en maskinel superintelligens måske ikke vil være ond, vil den alene med sin ud over alle grænser resultatorienterede arbejdsindstilling sandsynligvis nå sine mål med en effektivitet, hvis lige vi aldrig har set. Indbefatter disse mål magt, vil sådan en kapacitet derfor let kunne udløse tredje verdenskrig.

For at forhindre at nogen anvender kunstig intelligens og dræberrobotter inden for militær krigsførelse, har både Musk, Hawking og Bill Gates i formfuldendt treenighed skrevet under på et åbent brev til FN med bøn (krav) om at forbyde AI-kontrollerede våben i enhver farve og form.