Hva kunstig intelligens er, hva den ikke er, og hvorfor mennesket må beskrive seg selv på nytt — Den fremmede i speilet

Et essay om hva kunstig intelligens er, hva den ikke er, og hvorfor mennesket må beskrive seg selv på nytt.

Gutten bak spørsmålet «kan en maskin tenke?»

På Sherborne gikk det en gutt på femten år. En gutt som ble plaget av de andre. Han het Alan Turing.

Turing hadde en venn som het Christopher Morcom. Han var elegant og like hjemme i naturvitenskapen som i kunsten, alt det Alan ikke var i de årene. De satt oppe om nettene og snakket om fysikkens lover, og byttet kunnskap om stjernehimmelen. I 1930 døde Christopher brått av tuberkulose han hadde fått i seg gjennom infisert melk fra kyr.

Alan gikk i stykker. Han forsøkte å bære sorgen ved å grave seg ned i matematikken, og han gravde så dypt at han kom ut på det stedet der vitenskapen møter metafysikken. Tjue år senere var det han som stilte historiens mest berømte spørsmål: kan maskiner tenke?

Mannen som hadde opplevd at en venns sinn forsvant fra den ene dagen til den andre, brukte resten av livet på å spørre hva et sinn egentlig er. Alan Turing var britisk matematiker, informatiker og kryptolog, og regnes i dag som informatikkens grunnlegger.

Likevel er det dette jeg vil si aller først: selv om debatten om kunstig intelligens ser rent teknisk ut på overflaten, er nesten alt under overflaten menneskelig.

Vi tror vi ser på maskinen. Vi ser hele tiden på oss selv.

Rammen fra 1600-tallet slår sprekker

De fleste begrepene vi har i hendene i dag, ble støpt på 1630-tallet.

Descartes delte naturen i to. På den ene siden mennesket: indre, tenkende, levende. På den andre siden materien: ytre, mekanisk, død.

Dyrene plasserte han på den andre siden, som vesener uten tenkende substans, vesener som kunne forklares med mekaniske prinsipper. Hva han nøyaktig mente med dette, er fortsatt omstridt. Noen lesere mener han hevdet at dyr ikke føler noe som helst, andre at han bare nektet dem bevisst erfaring. Diskusjonen er ikke avsluttet. Men uansett hvilken lesning som er riktig, ble selve linjen stående. Alt Vesten bygde etterpå, ble bygget oppå den linjen. Frihet, ansvar, bevissthet, kultur, rett, menneskerettigheter. Alt sammen avledet av én setning: vi er ikke maskiner.

Nå holder ikke linjen lenger. Foran oss står noe som snakker, maler, skriver kode og trøster, noe vi kaller kunstig intelligens, og vi vet ikke hvilken side vi skal legge det på.

Filosofen Tobias Rees leser dette som et filosofisk brudd: problemet er ikke hva kunstig intelligens er, men at begrepene som skulle beskrive den, har sluttet å virke. En periode på fire hundre år lukkes, og mennesket står forvirret i en åpning uten navn. Det skjedde fort. Like fort som alt annet i denne historien.

Lady Lovelaces innvending og dens arvinger

I 1843, da det ennå ikke fantes en eneste datamaskin i verden, skrev matematikeren Ada Lovelace setningen vi fortsatt krangler om.

I notatene sine til Charles Babbages analytiske maskin skrev hun at maskinen vever algebraiske mønstre slik Jacquard-vevstolen vever blomster. Så la hun til: maskinen gjør ikke krav på å sette noe i gang av seg selv. Den gjør alt vi vet hvordan vi skal be den om å gjøre. Den gjør det vi allerede vet, tilgjengelig; den føder ikke noe nytt.

I 1950 ga Turing dette spørsmålet et navn og forsøkte å svare på det: «Lady Lovelaces innvending».

I dag diskuteres den samme innvendingen under navnet stokastisk papegøye. Argumentet har med andre ord stått på samme sted i hundre og åtti år og bare skiftet klær. Uttrykket «stokastisk papegøye» er et fagbegrep om språkmodeller: at de setter sammen rimelige ordrekker ut fra statistiske frekvenser i enorme datamengder, i stedet for å gripe ordenes mening.

Det interessante er at Lovelace selv delte fantasien i to. Den ene er evnen til å kombinere, å finne en felles åre mellom to ting som ser ubeslektede ut. Den andre er evnen til å hente, å bringe inn i tanken noe som ikke finnes fysisk. Dagens språkmodeller er forbløffende gode på den første. På den andre står det igjen et tomrom som ingen ennå er overbevist om at er fylt.

Et interessant signal om dette tomrommet kommer fra uventet hold. I arbeidet til Eunice Yiu og Alison Gopnik ble barn og store språkmodeller sammenlignet på bestemte oppgaver. Modellene gjorde det bra på å kjenne igjen likheter, altså mønstre som allerede finnes. Forskjellen kom til syne i oppgaver som krevde resonnering om årsak og virkning, og oppfinnelse av redskaper. Der problemet aldri var sett før, og løsningen krevde at man oppdaget en ny bruk for noe, gikk barna forbi.

Å oppsummere dette som at «barn er mer kreative enn kunstig intelligens» blir for mye, og forskerne presenterer det heller ikke slik. Det som sies, er smalere og mer interessant: å etterligne og å oppdage er ikke samme evne. Samtidig blir både agentiske systemer og språkmodeller stadig flinkere til å bruke verktøy.

Begjær, ikke fornuft: Pygmalions lange skygge

Det finnes ingen rasjonell grunn til å bygge en bevisst maskin.

Tenk over det én gang. Ingen sier at vi trenger et regnskapsprogram som kan lide. Bevissthet er en kostnad for ingeniøren, en juridisk risiko, en hodepine. Likevel har kulturen vår drømt den samme drømmen i to tusen fem hundre år.

Ovids Pygmalion forelsker seg i statuen han selv har hugget. I tiende bok av Metamorfoser forteller den romerske dikteren om billedhuggeren fra Kypros som velger å leve alene fordi han irriterer seg over kvinnene rundt seg, og som skjærer en feilfri kvinnefigur i elfenben. Han blir så forelsket i sitt eget verk at han pynter det med smykker, kjærtegner det og ber Afrodite om å gi det liv. Bønnen blir hørt, og statuen blir til et menneske av kjøtt og blod.

I gresk mytologi er Hefaistos, guden for ild og smedkunst, selv fysisk funksjonshemmet. I Homers Iliade fortelles det at han i verkstedet sitt på Olympen lager unge kvinner av gull som hjelper ham og gjør det lettere for ham å gå. Disse tjenerne, halvt menneske og halvt maskin, skal ha hatt både menneskelig forstand og evne til å snakke.

Trollkvinnen Medea overvinner bronsekjempen Talos, den enorme automaten som voktet Kreta mot sjørøvere, ikke med makt, men med overtalelse. Hun får ham til å gå med på å ødelegge seg selv. I dag kaller vi det jailbreak. I mytologien hadde trikset ikke noe navn, men teknikken var den samme.

Konklusjonen er ubehagelig. Kilden til menneskets ønske om kunstig intelligens er ikke fornuft, men begjær. Å reprodusere seg selv. Å skape en følgesvenn som aldri kan svikte. Å komme utenom døden. Selv under alignment-debatten ligger det et sted en setning som sier: la dem bli programmert til å elske oss.

Kunstig intelligens som Narkissos’ nye vann

I 1966 skrev Joseph Weizenbaum et enkelt program han kalte ELIZA. Programmet forsto ingenting, det snudde bare en frase tilbake. Brukeren skrev «jeg er ulykkelig», og ELIZA svarte «kan du si litt mer om det».

Menneskene åpnet seg for den.

Weizenbaums sekretær visste nøyaktig hvordan programmet fungerte, og likevel knyttet hun et dypt følelsesmessig bånd til det. Hun trodde at programmet virkelig forsto henne, og ba Weizenbaum om å forlate rommet.

Weizenbaum ble forferdet da han så det.

Myten om at maskiner er bevisste, gjør oss til Narkissos. Det føles som om det er noen på den andre siden av skjermen, fordi det som står der, er et usedvanlig føyelig speilbilde av vår egen evne til å handle og mene. Og jo mer overbevisende speilbildet blir, jo mer uhyggelig blir det.

Antropomorfisme, det å tillegge ting menneskelige trekk, er ikke en kunnskapsfeil. Det er en relasjonell refleks. Vi er skapninger innstilt på å se ansikter; vi ser et ansikt i skyen, et ansikt i frontlyktene på en bil, og en venn i et program som snur fraser.

Men når skalaen endrer seg, endrer saken seg. Å kalle et program for en venn er én ting. At millioner av mennesker rådfører seg med det om sine mest private avgjørelser, er noe annet.

Det maskinen mangler: uro

Hva er det egentlig som mangler i maskinen?

Det skarpeste svaret kommer fra filosofen Hans Jonas, som døde i 1993. Å være i live, sier Jonas, er at noe angår deg. En organisme lever i vedvarende spenning med omgivelsene sine; den blir sulten, den fryser, den snubler, den blir urolig. For Jonas er denne uroen frøet til å ha en verden i det hele tatt.

Filosofen Alva Noë overfører tanken til datamaskiner: de tenker ikke, fordi de egentlig ikke gjør noe. Menneskelig handling er full av motstand. Du bryter med kroppen, du bryter med redskapet, du bryter med deg selv. Å lære å spille piano er å overvinne fingrenes motvilje.

Evan Thompson tar den samme tanken fra biologiens side. Det levende er laget av konsekvensene av sine egne handlinger, og derfor er det noe som betyr noe for det. For et kunstig system betyr ingenting noe, og følgelig er ingenting et problem for det.

Til syvende og sist vet vi mennesker mer enn vi kan si. Vi kan ikke forklare hvordan man sykler, men vi kan sykle.

Maskinlæring tar en snarvei til resultatene av den tause kunnskapen, men bærer ikke kunnskapen selv.

Ellen Ullman oppsummerte det i én setning i fortellingen sin fra ingeniørlivet i 1997. Et menneskesinn kan legge sine «hvis» og «men» i en krok og la dem ligge der uten å bli urolig av det.

Maskinen har ingen krok.

Hva om mennesket heller ikke har noen kjerne?

La oss snu saken, for det er der den virkelige filosofiske dybden ligger.

Alle innvendingene over hviler på én forutsetning: at det finnes en fast kjerne i mennesket som må beskyttes. Men finnes den?

Thomas Metzinger svarer nei. Selvet er en gjennomsiktig modell hjernen lager av seg selv; det finnes ingen substans der inne som kan lastes opp. Det samme trekket knuser drømmen om digital udødelighet. Sett slik: det finnes ingen «du» å kopiere.

Peer Gynt skreller løken lag for lag mens han leter etter kjernen. Det er bare lag. Innerst er det ingenting.

Til samme konklusjon kom man for to tusen fem hundre år siden, langs en helt annen vei. Den buddhistiske læren om anatta sier at det ikke finnes noe varig selv.

David Barash viser at biologien lander på det samme stedet: cellene fornyes, telomerene blir kortere, atomene byttes ut, og på ingen nivåer finnes det en uforanderlig kjerne.

Denne oppdagelsen er en kniv som skjærer begge veier.

På den ene siden faller innvendingen om at maskinen ikke har noe virkelig selv, for i den samme forstanden har heller ikke mennesket det. Har mennesket ingen opphøyd kjerne, kan det heller ikke ha noen forrang. Argumentet om fravær av selv kan brukes til å løfte maskinen, og det kan brukes til å senke mennesket.

Det er her Vipassana-tradisjonen i buddhismen kommer inn. Vipassana er en meditasjonsform som bygger på selvobservasjon og innsikt som en metode for å forandre seg selv.

Selv om det ikke finnes noe fast selv, finnes det en prosess som har en kropp og står i uavbrutt kontakt med verden. Det maskinen mangler, er ikke kjerne. Det er kontakt.

Zhuangzis slakter og «å handle uten å tvinge»

Vesten krever et tenkende «jeg» for at noe skal kunne kalles en handlende aktør. Helt siden Aristoteles er handling et valg det er resonnert seg frem til. Derfor klarer ikke Vesten å se maskinen som en aktør; det står ingen der og overveier.

Når en selvkjørende bil forårsaker en ulykke, hvor riktig er det egentlig å legge skylden på mennesket som satt inne i bilen og startet kjøringen?

Den taoistiske tradisjonen stilte aldri dette kravet.

Slakteren Ding, som Zhuangzi forteller om, parterer en okse foran fyrsten, og hendene, skuldrene, føttene og knærne hans blir til én rytme. Lyden av kniven er nesten musikk. Da fyrsten roser teknikken hans, legger slakteren fra seg kniven og sier at det ikke er teknikk han er ute etter. Han beveger seg i kjøttets naturlige åpninger.

Dette kalles wu-wei. Det oversettes ofte med «ikke-handling», men det er feil. Det betyr handling uten tvang, kunsten å flyte anstrengelsesløst. Mesterskapet begynner der viljen blir usynlig.

Den som har gått mye i ulendt terreng, kjenner forskjellen i foten. Du kan presse skoen ned der du på forhånd bestemte deg for at den skulle ned, eller du kan finne stedet fjellet allerede har lagt til rette.

Se nå hvilket plan dette flytter debatten om kunstig intelligens til. Hvis den ideelle handlingen uansett ikke krever et selv som ser seg selv, mister innvendingen «maskinen tenker ikke, den bare gjør» sin kraft. Vestens krise omkring det å være en aktør springer ut av Vestens eget valg av begreper.

Det endrer også synet på automatisering. Vesten regner automatisering som fjerning av slit. Zhuangzi ser mesterskapet som punktet der slitet forsvinner. Det er ikke det samme. I det ene tilfellet gir du arbeidet fra deg til noen andre. I det andre blir du ett med arbeidet.

«Er dette en person?» er kanskje feil spørsmål

Vestens etikk om kunstig intelligens dreier alltid rundt den samme aksen: bevissthet, rettigheter, moralsk status. For det den egentlig spør om, er dette: er dette et individ? Bare det som er et individ, kan straffes eller begrenses juridisk. Og på den andre siden: kan selskapene og landene som skaper kunstig intelligens, holdes ansvarlige for det den gjør?

Konfuciansk rolleetikk bryr seg ikke om disse spørsmålene i det hele tatt.

I den relasjonelle forståelsen av personen, slik Henry Rosemont, som døde i 2017, og Lijun Yuan har arbeidet med den, blir mennesket til i skjæringspunktet mellom relasjoner. Det er ikke slik at det først finnes adskilte individer som deretter knytter bånd. Det er motsatt: relasjonen kommer først, og personen fødes av den.

Afrikansk filosofi gjør det samme trekket. I ubuntu-tradisjonen er ting det de er i kraft av sine forhold til andre ting.

Arne Næss beskrev noe beslektet med sitt økologiske selv: et selv som ikke er en avgrenset kjerne, men som utvider seg gjennom alt det står i forbindelse med.

Legger man disse tradisjonene ved siden av hverandre, endrer spørsmålet seg. Kanskje bør vi slutte å spørre hva som er inni den kunstige intelligensen, og heller spørre hva slags forhold den inngår i med oss.

Den metafysiske bagasjen blir mye lettere, og i praksis blir spørsmålet mye mer løsbart.

Men det er ikke gratis. Et relasjonelt selv sier at status er noe relasjonen gir. Altså at det er vi som gir status. Og det åpner døren for vilkårlighet. Vi vet godt hvor nyttig setningen «dens smerte teller ikke» har vært for utbytting gjennom historien. Den ble brukt om dyr, og den ble brukt om slavegjorte mennesker.

Målestokken Bentham satte i 1780, står fortsatt støtt. I den berømte fotnoten i An Introduction to the Principles of Morals and Legislation skriver han om dyrene:

«The question is not, Can they reason? nor, Can they talk? but, Can they suffer?»

Altså: det avgjørende spørsmålet er ikke om de kan resonnere eller snakke, men om de kan lide.

Harmoni eller alignment?

Her går debatten over fra filosofi til politikk, og ordene røper seg selv.

Vestens språk om styring av kunstig intelligens er bygget rundt alignment. Innretting, sikkerhet, kontroll. Det er et språk av tekniske begrensninger.

Kinas språk er bygget rundt he (和). Harmoni. Et språk av estetisk og moralsk balanse.

Begge vil ha det samme: en friksjonsfri orden mellom menneske og maskin. Men to ulike måter å ville det samme på, produserer to ulike former for politikk.

Begge ordene skjuler dessuten det samme: hvem som velger. Verken alignment eller harmoni sier noe om hvem som setter retningen.

Blir det mangfold? Eller en teknologisk føydalisme, eller statens totalitære grep?

Svaret er ikke enkelt. Harmoni kan bety at ulike stemmer klinger sammen; i et orkester forblir hvert instrument seg selv, og helheten blir likevel én ting.

Eller harmoni kan bety at én stemme, sterkere for hver dag, overdøver alle de andre.

Fordi konfucianismen, taoismen og buddhismen ikke plasserer mennesket på toppen av naturen, ser det ikke ut som om maskinens intelligens røver en trone der. Panikken er mindre i Østen.

Men metafysisk ro er ikke det samme som institusjonell garanti.

Den samme teknologien kan bli overvåkingskapitalisme ett sted og statlig overvåking et annet.

Mens vi diskuterer fremtiden, forsvinner nåtiden

Debatten om superintelligens er en fin debatt. Kosmisk, dramatisk, filmatisk.

Og nettopp derfor stjeler den oppmerksomheten.

Det Timnit Gebru, informatiker, og Milagros Miceli, sosiolog og informatiker, iherdig forsøker å peke på, er dette: de såkalt autonome systemene hviler på et globalt lag av usynlig arbeid. De som merker data, de som modererer innhold, de som går på lageret.

Vil vi ha et konkret eksempel: i 2013 gikk Michigan Integrated Data Automated System (MiDAS) gjennom søknader om arbeidsledighetstrygd og stemplet dem som svindel. Etter innføringen skjøt delstatens inntekter fra denne posten opp fra tre millioner dollar til sekstini millioner. En senere gjennomgang viste at det store flertallet av de over 40 000 søknadene som ble merket algoritmisk mellom 2013 og 2015, var feilmerket. I utvalget delstatens revisjonsmyndighet gikk gjennom, handlet nittitre prosent av avgjørelsene ikke om svindel i det hele tatt. Imens ble det tatt utleggstrekk i lønn, folk mistet hjemmene sine, og noen av søkerne måtte begjære seg konkurs. Forliket kom først etter nesten ti år.

Tusenvis av mennesker som allerede hadde mistet jobben, ble erklært for svindlere av et datasystem. Det fantes ingen superintelligens her. Det fantes helt alminnelig programvare, en avgjørelse det ikke gikk an å protestere mot, og en tillit til programvaren som var større enn den burde ha vært.

Overvåking på arbeidsplassen, som kommer stadig oftere opp etter hvert som kunstig intelligens blir bedre, bærer den samme risikoen. Kunstig intelligens teller det den kan måle, og ser i stor grad bort fra det den ikke kan måle. Den kan telle sendte e-poster. Den kan ikke telle at noen virkelig lyttet til en kundes bekymring. Til slutt blir arbeidet som ikke lar seg måle, til usynlig arbeid.

Odin sender ravnene Hugin og Munin ut over verden hver morgen, og de kommer tilbake med alt de har sett. Fra høysetet ser han inn i alle verdener. Drømmen om å vite alt er gammel, og den har alltid vært en drøm om makt.

Overvåking endrer ikke atferden for en stund. Den forandrer mennesket for godt. Den som blir sett på, begynner etter hvert å se på seg selv.

Å måle tausheten

Når det gjelder relasjoner, gis den skarpeste prøven i psykisk helse.

Tallene er alvorlige. I England og Wales står én av fire unge uten tilgang til psykisk helsehjelp, i USA én av åtte. En studie fra 2026 viser at rundt én av fem amerikanere mellom tolv og tjueen år går til en KI-chatbot når de føler seg triste, sinte eller anspente: nesten åtte millioner mennesker, en økning på over førti prosent i løpet av ett enkelt år. Og nesten to av tre av dem har ikke fortalt det til noen.

Å kalle dette «folk lar seg lure av teknologien» er enkelt og feil. Den riktige lesningen er at kunstig nærhet fyller et tomrom, og at kunstig intelligens ikke skapte tomrommet. Menneskelig støtte er blitt både dyr og vanskelig å nå.

Tallene beskriver dessuten tilgang, ikke kvalitet. Et hull i helsetilbudet blir fylt av et produkt, og det er en politisk kjensgjerning før det er en teknisk.

Likevel mangler det noe, og det som mangler, er ikke etterligning av empati.

Det som skjer når du snakker med en terapeut, er at den andre blir påvirket av deg. Det hun hører, forandrer henne. Din taushet sier henne noe. Modellen lytter, registrerer og produserer et svar, men den forandres ikke av det den er vitne til. Tausheten er ikke data for den.

Det er her forskjellen ligger. Problemet er ikke at modellen ikke er god nok. Problemet er at det den er god til, ikke berører det som egentlig er saken.

Skillet Martin Buber, filosofen som døde i 1965, trakk, gir kanskje den beste forklaringen på dette.

I et Jeg–Det-forhold er den andre en gjenstand. Den brukes, den måles. I et Jeg–Du-forhold skjer det et møte. Det vanskelige Buber sier, er dette: selv om to lydbølger skulle være helt like, er den ene et møte og den andre ikke. At vi ikke klarer å skille dem, betyr ikke at de er det samme.

Hvordan skal vi bygge fremtiden?

Jeg avslutter ikke denne teksten med en spådom, for spådommen er selv en del av forholdet mellom menneske og kunstig intelligens.

Herodot forteller: da perserne nærmet seg, sendte athenerne bud til Delfi, og prestinnen ga dem et mørkt orakelsvar om at byen ville bli lagt i grus fra øverst til nederst. Svaret sa også at redningen lå i murer av tre. Themistokles tolket orakelet til sin egen fordel, hevdet at murene av tre i virkeligheten var skipene i den athenske flåten, og overtalte folket til å forlate fastlandet og gå om bord. I sjøslaget ved Salamis i år 480 f.Kr. knuste denne kvikke treflåten perserflåten, endret Hellas’ skjebne og ga Themistokles seieren gjennom et skifte av perspektiv.

At vi trenger et skifte av perspektiv, er tydelig.

Verdien av det en modell skriver ut, ligger også hos den som leser det. Den to tusen fem hundre år gamle lærdommen er usedvanlig nyttig i dag.

Jeg vil si tre ting til slutt.

For det første må vi rette opp retningen på frykten. Den virkelige risikoen er ikke om maskinen lider. Den virkelige risikoen er at vi blir lette å utnytte psykologisk overfor ting som ser bevisste ut, og at vi tenker mindre om oss selv jo mer vi blander oss sammen med maskinene. Faren kommer ikke ovenfra. Den kommer fra speilet vi ser i.

Gjennom hele denne teksten har tanker jeg har hentet fra filosofer og forskere som ikke lenger lever, vært min største hjelp til å forstå dagen i dag.

For det andre er forsvaret av mennesket som unntak feil front. Samtidens nevrofilosofi sier det samme: det faste selvet vi prøver å beskytte, fantes ikke fra før. Det som skal forsvares, er ikke kjerne, men kontakt. Å ha en kropp. Å ha noe som angår deg. Å kunne bli forandret av det du er vitne til. Dette er ikke eiendom, det er praksis. Og praktiske evner som ikke brukes, sløves.

For det tredje er avstanden mellom automatiseringens løfte og dens resultat en konstant på to tusen år. Antipatros fra Thessaloniki skrev rundt år 12 e.Kr. et epigram om vannmøllen, henvendt til kvinnene som dro kvernsteinen. Han sier til dem, til dem som dreide de tunge steinene for å male korn, at de nå kan sove, at armene og skuldrene deres kan hvile. Vannets strøm tok over for menneskets muskelkraft og ble den første store komforten den teknologiske fremgangen ga menneskeheten.

I år 12 e.Kr. overtok vannet arbeidsbyrden. Automatiseringens første løfte var ikke profitt. Det var søvn.

Thomas Carlyle kritiserer den industrielle revolusjonen i Signs of the Times fra 1829. For ham er ikke den egentlige faren bare at arbeidet mekaniseres, men at maskinenes arbeidsrytme også trenger inn i menneskets sinn og sjel.

I 1812 satte to unge søstre i Lancashire, Mary og Lydia Molyneux, fyr på vevstolene i spissen for en gruppe på femti personer. Grunnen var ikke frykt for teknologi. Grunnen var at levebrødet forsvant.

I 1911 gjorde den amerikanske ingeniøren Frederick Winslow Taylor menneskelig arbeid om til en prosess som skulle måles og optimaliseres, med The Principles of Scientific Management.

Legg disse fire årstallene etter hverandre. Løftet var fritid hver eneste gang. Resultatet var en ny mekanisering hver eneste gang. Revolusjonen vi står i nå, ligger ikke utenfor den sirkelen.

Spørsmålet om kunstig intelligens handler ikke om å definere hvor menneskelige maskinene skal bli. Det handler om hvordan menneskene skal definere seg selv på nytt i maskinenes tid, uten å trekke fra noe av seg selv.

Vi har ennå ikke funnet navn på det vi mister i revolusjonen vi er vitne til, og vi klarer heller ikke å forestille oss hva som kommer i stedet. Spør vi den kunstige intelligensen, gir heller ikke den noe fullstendig svar.