Kollegial omsorg

Sjov anekdote fra Jens Kruuses erindringsbog De uforberedte. Kruuse er til digteraften i Studentersamfundet omkring 1926. Her tager han telefonen, da den ringer. “Samtale fra Klampenborg” meldes der, hvorefter en “forfrossen og syg stemme” spørger om digteren Jens August Schade er til stede.

  – Ja, han er, svarede jeg. Skal jeg hente ham?
  – Nej tak, lød den høfligt døende røst. Nej, tak. Vil De sige en besked til ham?
  Han ventede på mit svar. Det ville jeg.
  – Sig til ham, at det er digteren NN. Fortæl ham, at jeg ringer fra Dyrehaven. Sig ham, at
det planlagte er opgivet.
  – Javel, sagde jeg, og der blev ringet af.
  Jeg fandt Schade og fortalte ham, hvad jeg skulle sige til ham.
  Han blev vred.
  Ikke sådan skrigende vred, men tydeligt ærgerlig.
  – Det er for dårligt, sagde han.
  Han fortalte, at NN havde meddelt, at han ikke ville komme til digteraften i Samfundet, men begive sig ud i Dyrehaven for at begå selvmord. Kan jeg stole på det? havde Jens August Schade spurgt. (Vi levede i sådan en mærkeligt smukt alvorlig verden, og vi sagde De til hinanden) Ja, aldeles bestemt, lød svaret.
  Og nu klagede Schade sig, vi syntes med rette. For han havde skrevet en lille artikel til Politiken, hvori han havde talt om poesiens sørgelige kår – i anledning af den unge NNs tragiske død. Og han havde fået penge for artiklen.
  Han bestemte sig til at ringe til redaktionssekretariatet.
  – Det er så svært at stole på nogen, sagde han.
  Han ringede, det lykkedes at få standset artiklen, og vi satte os skuffede hen, nogle stykker, mens de støjede uden om os.
  Vi havde oplevet døden, der svigtede.
  Vi glemte de dårlige poeter, men vi var sårede i et eller andet af den mand, som ikke derude havde kunnet fuldføre sit forsæt. Vi plejede ikke meget selv at tænke på døden. Vi ville slet ikke være onde.
  Vi stod ganske på Jens August Schades side, da den milde kosmiske kærligheds store digter lagde sit vældige hoved på skrå og sagde:
  – Det var nu ikke pænt af ham.

Superintelligence

Jeg læste Nick Bostroms Superintelligence for cirka tre år siden. Det er en ambitiøs og imponerende bog, som enhver der interesserer sig for AI-revolutionen bør læse. Det er store, eksistentielle perspektiver vi taler om her. Fra forordet:

If some day we build machine brains that surpass human brains in general intelligence, then this new superintelligence could become very powerful. And, as the fate of the gorillas now depends more on us humans than on the gorillas themselves, so the fate of our species would depend on the actions of the machine superintelligence. […] In this book, I try to understand the challenge presented by the prospect of superintelligence, and how we might best respond. This is quite possibly the most important and most daunting challenge humanity has ever faced. And – whether we succeed or fail – it is probably the last challenge we will ever face.

Bostrom sætter modeller og tankeeksperimenter op og tænker dem virkelig stringent igennem. Der gås i detaljer med antagelserne. I kapitel 4, “The kinetics of an intelligence explosion”, spørger han indledningsvist: “Once machines attain some form of human-equivalence in general reasoning ability, how long will it then be before they attain radical superintelligence? Will this be a slow, gradual, protacted transition? Or will it be sudden, explosive?” I lyset af den eksplosive udvikling i AI-modellers evner de seneste måneder (i går så jeg en artikel om at ChatGPT kan bestå en skriftlig jura-universitetseksamen bedre end 90% af menneskelige studerende), er følgende observation særdeles tankevækkende:

It is also possible that our natural tendency to view intelligence from an anthropocentric perspective will lead us to underestimate improvements in sub-human systems, and thus to overestimate recalcitrance. Eliezer Yudkowsky, an AI theorist who has written extensively on the future of machine intelligence, puts the point as follows […]:

AI might make an apparently sharp jump in intelligence purely as the result of anthropomorphism, the human tendency to think of “village idiot” and “Einstein” as the extreme ends of the intelligence scale, instead of nearly indistinguishable points on the scale of minds-in-general. Everything dumber than a dumb human may appear to us as simply “dumb”. One imagines the “AI arrow” creeping steadily up the scale of intelligence, moving past mice and chimpanzees, witih AIs still remaining “dumb” because AIs can not speak fluent language or write science papers, and then the AI arrow crosses the tiny gap from infra-idiot to ultra-Einstein in the course of one month or some similarly short period.

Jeg har længe ment at AI-modeller burde behandles med ekstrem forsigtighed, på samme vis som livsfarlige vira i biolaboratorier bliver det. Men det er det stik modsatte der sker: kunstig intelligens skal bygges ind i hvad som helst, og det kan tilsyneladende ikke gå hurtigt nok.

Uanset hvad man tror om fremtidsperspektiverne: I betragtning af hvad ChatGPT og andre AI-modeller er i stand til allerede nu, er en ting sikker: verden bliver aldrig den samme igen. Det er ukendt land herfra, helt og aldeles.