Superintelligence

Jeg læste Nick Bostroms Superintelligence for cirka tre år siden. Det er en ambitiøs og imponerende bog, som enhver der interesserer sig for AI-revolutionen bør læse. Det er store, eksistentielle perspektiver vi taler om her. Fra forordet:

If some day we build machine brains that surpass human brains in general intelligence, then this new superintelligence could become very powerful. And, as the fate of the gorillas now depends more on us humans than on the gorillas themselves, so the fate of our species would depend on the actions of the machine superintelligence. […] In this book, I try to understand the challenge presented by the prospect of superintelligence, and how we might best respond. This is quite possibly the most important and most daunting challenge humanity has ever faced. And – whether we succeed or fail – it is probably the last challenge we will ever face.

Bostrom sætter modeller og tankeeksperimenter op og tænker dem virkelig stringent igennem. Der gås i detaljer med antagelserne. I kapitel 4, “The kinetics of an intelligence explosion”, spørger han indledningsvist: “Once machines attain some form of human-equivalence in general reasoning ability, how long will it then be before they attain radical superintelligence? Will this be a slow, gradual, protacted transition? Or will it be sudden, explosive?” I lyset af den eksplosive udvikling i AI-modellers evner de seneste måneder (i går så jeg en artikel om at ChatGPT kan bestå en skriftlig jura-universitetseksamen bedre end 90% af menneskelige studerende), er følgende observation særdeles tankevækkende:

It is also possible that our natural tendency to view intelligence from an anthropocentric perspective will lead us to underestimate improvements in sub-human systems, and thus to overestimate recalcitrance. Eliezer Yudkowsky, an AI theorist who has written extensively on the future of machine intelligence, puts the point as follows […]:

AI might make an apparently sharp jump in intelligence purely as the result of anthropomorphism, the human tendency to think of “village idiot” and “Einstein” as the extreme ends of the intelligence scale, instead of nearly indistinguishable points on the scale of minds-in-general. Everything dumber than a dumb human may appear to us as simply “dumb”. One imagines the “AI arrow” creeping steadily up the scale of intelligence, moving past mice and chimpanzees, witih AIs still remaining “dumb” because AIs can not speak fluent language or write science papers, and then the AI arrow crosses the tiny gap from infra-idiot to ultra-Einstein in the course of one month or some similarly short period.

Jeg har længe ment at AI-modeller burde behandles med ekstrem forsigtighed, på samme vis som livsfarlige vira i biolaboratorier bliver det. Men det er det stik modsatte der sker: kunstig intelligens skal bygges ind i hvad som helst, og det kan tilsyneladende ikke gå hurtigt nok.

Uanset hvad man tror om fremtidsperspektiverne: I betragtning af hvad ChatGPT og andre AI-modeller er i stand til allerede nu, er en ting sikker: verden bliver aldrig den samme igen. Det er ukendt land herfra, helt og aldeles.

Satiriske parodi-bogtitler

I forlængelse af dette blogindlæg om prins Harrys bog Spare (som jeg ikke har læst og heller ikke kunne drømme om at læse), noterer jeg mig til min morskab, at South Park i en nylig episode har gjort grin med prinsen og Meghan Markle: i afsnittet er de på “The Worldwide Privacy Tour” for at promovere prinsens nye bog betitlet WAAAGH.

Det fik mig til at ransage min hukommelse efter andre parodi-bogtitler af samme skuffe. Jeg kunne umiddelbart komme i tanker om to eksempler. Det ene så jeg i Blæksprutten, eller muligvis Svikmøllen, for år tilbage, da Maria Hirse udgav en bog som satireårsskriftet tilsyneladende ikke mente bragte så meget nyt til bordet i forhold til hendes foregående: de kaldte den så vidt jeg husker Mere om min anoreksi – og forresten brækkede jeg også en tå engang.

Eksempel to er fra 2015, kort tid efter at Harper Lee overraskende udsendte Go Set a Watchmen, en form for opfølger til den årtier gamle klassiker To Kill a MockingBird. Onde tunger mere end antød at det ikke udelukkende var hendes egen beslutning, og The Onion kvitterede med en historie om at en tredje bog var på trapperne, med titlen My Excellent Caretaker Deserves my Entire Fortune. Jeg ser nu, at denne historie i skrivende stund stadig kan søges frem her:

https://www.theonion.com/harper-lee-announces-third-novel-my-excellent-caretak-1819577999

Skulle nogen kende andre eksempler på satiriske parodier på bogtitler, hører jeg gerne om det. Jeg er sikker på der er mange flere, men jeg kan ikke komme i tanker om nogen, og jeg ved heller ikke hvilke søgeord jeg skulle benytte for at finde flere på nettet.

Astounding Days

Har lige læst Arthur C. Clarkes Astounding Days fra 1989. Undertitlen “A Science Fictional Autobiography” dækker over, at Clarke tager afsæt i sin ungdoms læsning af SF-magasiner såsom Astounding: Han er simpelthen dykket ned i de gamle blade igen og bruger historierne som udgangspunkt for anekdoter om sit liv, bekendtskaber, andre forfattere – eller hvad den enkelte historie nu lige giver anledning til at mindes. Det er en sjov model for en selvbiografi, velegnet hvis man ikke orker den store forkromede kronologiske gennemgang.

I kapitel 29 forener Clarke adskillige personer fra min interessesfære i et kapitel om Wernher von Braun:

Those who knew him only from TV appearances, or identified him with Dr Strangelove,* may be surprised to know that he was full of fun and had a great sense of humour – though it was once tested to the breaking point at a party where some tactless person played Tom Lehrer’s brilliant song, with its satirical refrain

    If the rocket goes up, who cares vhere it comes down?
    That’s not my department, says Wernher von Braun

Clarke citerer vist linjerne en anelse forkert, men ikke på meningsforstyrrende måde. Stjernen efter “Strangelove” henviser til denne fodnote:

Stanley Kubrick once said to me, “Tell Wernher I wasn’t getting at him.” I never did, because (a) I didn’t believe it (b) even if Stanley wasn’t, Peter Sellers certainly was.

Og til slut:

Finally, although it is a painful subject (recently reopened by the declassification of the “Paperclip” files) I do not believe I am doing a disservice to the memory of a good friend, if I close this chapter with words which, for the sake of Truth and History, I believe he would have wished to have on record:
    “No – I never knew what was happening in the concentraion camps. But I suspected it, and in my position I could have found out. I didn’t, and I despise myself for it.”

Tankevækkende, på flere måder.

En anden fodnote i bogen fortæller os at “cybersquatting”-fænomenet havde en forløber hundrede år før internettet:

There was once a popular English literary journal called The Nineteenth Century. As the crucial year 1901 approached, the editor was annoyed to find that some cultured kidnapper had registered the title The Twentieth Century and was holding it to ransom.
    He was out of luck. The magazine became The Nineteenth Century – and After.

I det højst usandsynlige tilfælde at jeg selv nogensinde skulle skrive en selvbiografi, tror jeg jeg ville vælge et lignende uforpligtende format, som det Clarke benytter her. Jeg kan godt lide den flyvske hoppen omkring, med de uventede associationer og småopdagelser der følger med. Som Clarke også skriver:

The chief pleasure of browsing lies in the unexpected discoveries one makes – I would use the word “serendipitous”, if ti wasn’t so badly overworked, and my Wordstar Dictionary knew how to spell it.

Jeg havde ikke hørt om bogen, før jeg fandt den i et antikvariat for nylig. Jeg nævnte for antikvarboghandleren, at jeg som teenager skrev et fanbrev til Clarke og fik et svar. Da jeg forlod butikken en halv times tid senere, sagde han at han var glad for, at det var mig der købte bogen, for “en del af det at drive et antikvariat er at sørge for at bøgerne får et godt hjem”. Det er en boghandler efter mit hoved!

Sensitivity Readers

Jeg har ikke ord for at udtrykke hvor meget jeg hader woke-bevægelsen i alle dens afskygninger.

Seneste offer for idiotien er Roald Dahl, hvis børnebøger nu i forbindelse med nyudgivelser er blevet gennemgået af “sensitivity readers”, som har omskrevet og fjernet adskillige passager. De seneste dage er nettet flydt over med eksempler, mange af dem så groteske at man tænker “Det her MÅ være satire!”. Men nej.

Her er nogle eksempler. De to første er fra The Witches, det tredje fra Matilda:

Før:
“Don’t be foolish,” my grandmother said. “You can’t go round pulling the hair of every lady you meet, even if she is wearing gloves. Just you try it and see what happens.”

Efter:
“Don’t be foolish,” my grandmother said. “Besides, there are plenty of other reasons why women might wear wigs and there is certainly nothing wrong with that.”

Før:
Even if she is working as a cashier in a supermarket or typing letters for a businessman.

Efter:
Even if she is working as a top scientist or running a business.

Før:
She went on olden-day sailing ships with Joseph Conrad. She went to Africa with Ernest Hemingway and to India with Rudyard Kipling.

Efter:
She went to nineteenth century estates with Jane Austen. She went to Africa with Ernest Hemingway and California with John Steinbeck.

Ubegribeligt! Andre ændringer består i at fjerne ord som “crazy” og mad”, “white” og “black”, og selvfølgelig “fat”, for guderne forbyde at det skulle traumatisere nogen at støde på disse adjektiver. Denne ændring er fra Charlie and the Chocolate Factory:

Før:
A nine-year-old boy who was so enormously fat he looked as though he had been blown up with a powerful pump […] Great flabby folds of fat bulged out from every part of his body, and his face was like a monstrous ball of dough.

Efter:
A nine-year-old boy who was so enormous he looked as though he had been blown up with a powerful pump […] Great folds bulged out from every part of his body, and his face was like a monstrous ball of dough.

Beskrivelser af personers køn bliver systematisk ændret i ligestillingens navn: “Okay, girls” bliver til “Okay, folks”. “Fully grown women” bliver til “Fully grown people”. “mothers and fathers” bliver til “parents”. Og Mr. Fox fra Fantastic Mr Fox har nu tre døtre istedet for tre sønner.

Jeg ville ønske, jeg kunne nøjes med at betragte de ansvarlige mennesker som spild af kulstof, men det kan jeg ikke. Revisionisme af denne type besidder en destruktiv kraft, der er svær at overvurdere. Disse anonyme idioter er et symptom – et blandt mange – på den vestlige civilisations dødsdans. Deres historieomskrivning svarer til Talebans statue-destruktioner. De har min dybeste foragt.

For nylig fremførte en vis Rhiannon Lucy Cosslet i The Guardian (hvor ellers?) det synspunkt, at det at eje en stor bogsamling er et tegn på at man er “smug and middle class”. Nuvel, Dahl-revisionisterne her har lige leveret det bedste argument for at holde sig fra eBogs-læsere og holde sig til bøger af papir – i de oprindelige udgaver. Jeg vil læse det mine yndlingsforfattere faktisk skrev, så jeg beholder min store bogsamling. Tilsvarende er jeg glad for min store DVD-samling – jeg vil for fremtiden aldrig have tillid til at en gammel film vist på en streamingtjeneste vil være ucensureret.

Titeltrend II

Sidst jeg var i Københavns lufthavn så jeg en hel del bøger med lidet varierede titler. Først disse:

How edgy, how in-four-face! Men så alligevel ikke mere edgy, end at det centrale ord er tonet ned med en asterisk. Så helt f*cking, eller fucking, ligeglad er Mark Manson alligevel ikke. Det finder jeg ironisk og egentlig også en smule ynkeligt.

Manson har tydeligvis fundet en formel, der virker for ham. Går man videre til den engelske afdeling finder man ham selvfølgelig også repræsenteret her, men ikke nok med det – adskillige andre forfattere er hoppet med på samme vogn:

For mere end fyrre år siden kunne Shubidua, i blødeste og mest ufarlige inkarnation, kalde en sang Fuck you uden nogen løftede et øjenbryn, men tiderne har åbenbart ændret sig.

Der er flere eksempler. I Used to be a Miserable F*ck af John Kim. Unf*ck Your Brain af Faith G. Harper. F*ck Feelings af Michael I. Bennett og Sarah Bennett. Og så er der enkelte forfattere, der en anelse mere kreative i deres variationer. Sofie Linde brugte titlen Fårking gravid.

Hermed en opfordring til forfattere af selvhjælpsbøger til at udvise lidt mere kreativitet fremover. Skulle det virke helt uoverkommeligt, viser Vishen Lakhiani her en mulig vej. Det er da en begyndelse…

Udstillingsvindue

Selv på LinkedIn kan man finde sjove småtterier om bøger:

Det minder mig om, at jeg engang så en boghandel der i et vindue havde udstillet bøger som 1984, Fagre nye verden, Fahrenheit 451, Kallocain, og så lige Anders Fogh Rasmussens Fra socialstat til minimalstat. Jeg tog et foto, men kan lige nu desværre hverken finde det eller huske boghandelens navn.

De 10 mest bemærkelsesværdige bogværker i Anders Ands hjem

Lister er fornøjelig letvægtslæsning. Det samme er indsigt i kendissers læsevaner. Så som juleafslapning er her en liste over de efter min mening mest bemærkelsesværdige bogværker spottet i husstanden tilhørende en af de største kendisser af dem alle: Anders And. Eller Donald Duck, om man vil, for jeg vil holde mig til eksempler fra originaltekster af hans fremmeste kronikør, Carl Barks.

Som nummer 10 på listen vil jeg placere…

How to be a Sleuth, ukendt forfatter. Vi ser ofte Anders læse for at dygtiggøre sig i et eller andet. Her, i slutningen af en historie hvor han er kommet til kort over for ungerne, kaster han sig over vejledning i detektiv-gerning. Og noget kunne tyde på, at det bærer frugt, når vi ser på…

… nummer 9 på listen, som er en krimi med af ukendt forfatter, og med ukendt titel. Dens plot lader til at være ret unikt. Jeg ved ikke om Hercule Poirot ville nedlade sig til at beskæftige sig med en sag om vindheks-ildpåsættelse. Men Ratmore-Slinki lyder indiskutabelt som en skidt knægt og en dårlig kammerat.

Nummer 8: Senator Soapbox’s taler, udgivet i ti bind. Formentlig ikke et værk Anders sætter specielt højt, eftersom han kun køber det for at slippe af med en irriterende sælger, men det ser givetvis flot ud i reolen.

Nummer 7: Windy Words. ukendt forfatter, formentlig en antologi. En anden kategori af bøger, Anders synes at sætte højt, er samlinger af bevingede ord eller trivia af generel art. Mærkeligt nok er der en tendens til, at han bliver afbrudt af tre løbende nevøer, når han sidder mageligt med sådanne bøger. Således har vi fx Words of Wise Men, Dis and Dat og Windy Words, som alle kunne kvalificere sig til syvendepladsen på denne liste – men jeg vælger Windy Words, da den ydermere gør sig bemærket ved tilsyneladende at have titlen på bagsiden.

Nummer 6, Value of Being Honest, ukendt forfatter. Strengt taget lidt af en tilsnigelse at inkludere den på denne liste, da den muligvis aldrig har befundet sig i Anders Ands hjem – han har nemlig givet den til en fætter med det vidunderlige navn Mehitabel Mudhen, som vi desværre aldrig før eller siden hører noget til. Muligvis refererer Barks med dette navn til Archy and Mehitabel, figurer (kakerlak og kat henholdsvis), skabt af Don Marquis i 1916, og senere illustreret af Barks’ kollega George Herriman.

Nummer 5: 20,000 Leagues Under a Flatcar! af H. O. Bo. Tegneserien der nævner denne bog udkom i 1956, og Barks har dermed utvivlsomt tegnet den mens Disneys Jules Verne-filmatisering 20,000 Leagues Under the Sea fra 1954 stadig var i frisk erindring. Jeg ville have stor lyst til at læse hr Bos sikkert meget farverige beretning.

Nummer 4: Oh, So? af ukendt forfatter. En stor procentdel af de titler vi ved Anders er i besiddelse af, synes at være blevet erhvervet i ét hug, som led i forberedelser til et stort TV-quizshow. Her er blandt andet tale om titler som Speeches, Lectures, Talks, History of Wind, Trees, Fleas, Bees, Glues, Flues, Hues, Stews, Why, Causes, Reasons og så altså bogen med den noget uudgrundelige titel Oh, So? Vi må formode der er tale om et opslagsværk, men hvad værket dækker er svært at regne ud. Måske er det en bog om slangudtryk og idiomer – i hvert fald er “Oh, So?” en replik ænderne ofte leverer til hinanden i Barks’ historier.

Nummer 3: Child Raising, af Hoocan Doit. Titel og forfatter taler for sig selv.

Nummer 2: Ten Seconds to Mars af Spicer Willits. I en dansk oversættelse af denne tegneserie hedder bogen Hokus Pokus, men den har næppe noget med Kurt Vonneguts roman af samme titel at gøre. Her er tale om en science fiction-bog om teleportering, som ungerne har bragt til huse til Anders’ store fortrydelse – indtil det går op for ham, at principperne beskrevet i den faktisk virker. Forfatternavnet Spicer Willits er sammensat af John Spicer og Malcolm Willits, de to første fans der fik etableret kontakt med Carl Barks.

Og nummer 1 på denne liste over bemærkelsesværdige bogværker i Anders Ands hjem, kan i mine øjne kun være…

Removing Musty Smells from Dried Dodo Feathers

Ukendt forfatter. Så bliver det ikke mere nicheudgivelsesagtigt. Jeg ville ELSKE at eje denne bog alene på grund af titlen.

Cinema Speculation

Jeg var meget imponeret over Quentin Tarantinos debutfilm Reservoir Dogs, da den kom ud i 1993, og året efter var jeg endnu mere oppe at køre over giganthittet Pulp Fiction. Derefter kølnedes min begejstring. Hans tredje film, Jackie Brown, fandt jeg monumentalt kedelig, og jeg var helt på bølgelængde med en anmelder der skrev om den, at det var “three hours of Tarantino wishing he was black”. Siden da har jeg af og til prøvet at give hans nyere film en chance – fx Inglorious Basterds, Django Unchained og Once Upon a Time in Hollywood, men ingen af dem holdt min interesse fanget længe nok til at jeg gad at se dem færdig.

Heller ikke Pulp Fiction siger mig noget længere. Jeg har prøvet at gense den i “nyere tid” og er nærmest lidt flov over, at jeg syntes den var så fantastisk dengang. Nu synes jeg bare den fremstår komplet overlæsset. Alt skal være bare supercool, hele tiden, og det forekommer mig infantilt.

Siden jeg nu har det sådan med Tarantino, hvorfor stak jeg så hans nye bog Cinema Speculation til mig, da jeg så den i en boghandel for nylig? Fordi jeg faktisk enormt godt kan lide at høre Tarantino snakke om andre menneskers film! Han er en utroligt vidende og entusiastisk formidler, og i denne bog øser han af sin viden. Især om film fra 1970’erne, som er det bedste årti i filmhistorien efter min mening.

Der er nedslag på klassikere som Bullitt, Dirty Harry, Deliverance og Taxi Driver. Der er afsnit om movie brats-generationen, og der er mange underholdende selvbiografiske sidebemærkninger. Særligt interessant fandt jeg Tarantinos skriverier om Brian De Palma – hvordan denne har ladet sig inspirere at Hitchcock (og hvordan han IKKE har). Det er også et kapitel om De Palma, der har givet bogen dens titel – Tarantino leger med tanken om hvordan Taxi Driver mon var faldet ud hvis De Palma (som læste Paul Schraders manuskript før Martin Scorsese gjorde) var blevet instruktøren.

Mange steder føler jeg, at Tarantino bruger meget energi på meget obskure B-film, der virkelig ikke fortjener så meget opmærksomhed, men entusiasme er på den anden side altid fascinerende, og den kvalitet bidrager stærkt til at bogen her er værd at bruge et par timer på.

Boghandler i Lissabon

Var for nylig i Lissabon og måtte selvfølgelig checke diverse boghandler. Byen kan blandt andet byde på Bertrand, som skulle være verdens ældste stadig eksisterende boghandel. Den har i hvert fald Guinness’ stempel for det:

Mere interessant fandt jeg dog det nærliggende antikvariat Livraria Sa da Costa, en gedigen rodebutik man kunne tilbringe timer i, og som også havde et fint udvalg af engelske og franske titler.

Flottest af alle var Ler Devargar i det hippe område af byen kaldet “LX Factory”. (Dette område, proppet med kunstneratelier og spistesteder giver mindelser om både Christiania og Kødbyen og var besynderligt nok slet ikke omtalt i den årlige Time Out-guide til Lissabon, selvom jeg dårligt kan forestille mig et mere “Time Out-agtigt” sted). Boghandelen er imponerende flot, men hvis man ikke kan portugisisk er det begrænset hvad der er at komme efter ud over udsigten.

Selv spisekortene i byen gav mig bog-associationer! “Buttery sheep” læste jeg i første omgang som “Battery sheep”, hvilket selvfølgelig fik mig til at tænke på Drømmer androider om elektriske får?

Den den fyr, der var på en ø i ret lang tid

Endnu et køb i kategorien “for spøjs til at lade ligge”: en udgave af Robinson Crusoe skrevet med lutter enstavelsesord. Udgivet 1. januar 1900 af en Mary Godolphin (skønt navn), der også har udsat et par andre bøger for samme behandling. Hun skriver i forordet:

The production of a book which is adapted to the use of the youngest readers needs but few words of excuse or apology. The nature of the work seems to be sufficiently explained by the title itself, and the author’s task has been chiefly to reduce the ordinary language into words of one syllable. But although, as far as the subject matter is concerned, the book can lay no claims to originality, it is believed that the idea and scope of its construction are entirely novel, for the One Syllable literature of the present day furnishes little more than a few short, unconnected sentences, and those chiefly in spelling books.
        The deep interest which De Foe’s story has never failed to arouse in the minds of the young, induces the author to hope that it may be acceptable in its present form.
        It should be stated that the exceptions to the rule of using words of one syllable exclusively have been made in the case of the proper names of the boy Xury and of the man Friday.

Det sidste skuffer mig lidt. Det ville da have været oplagt at kalde omdøbe Robinsons følgesvend til “Fifth Day of the Week” (eller faktisk “Sixth Day of the Week”; Robinson hører til dem der tæller søndag som første dag). Og bogen kunne så passende have været betitlet The Man Who Was Stuck on an Isle for Quite a Long Time.

Det er i øvrigt ikke første gang jeg er stødt på enstavelsesords-disciplinen. Douglas Hofstadters sprudlende murstensværk Le Ton Beau de Marot (som jeg må skrive om på et tidspunkt) omhandler skriveri under alle tænkelige restriktioner, og således også denne. Hofstadter påtager sig endda den temmelig ærefrygtindgydende opgave at redegøre for Einsteins relativitetsteori på den måde – jeg husker noget i retning af “… and four score or so years on from that time all had been found to be true by folks whose job it is to stare at the night sky’s lights”. Godolphin benytter sig af samme trick mht tidsangivelse; hendes bog slutter således:

And now I must bring this tale of my life to a close; while at the age of three score years and twelve, I feel that the day is at hand when I must pray to go forth on that sea of peace and love, which has no waves or shores but those of bliss which knows no end.