AI er ikke din gud, det er din underbevidsthed.

I årevis læste vi det samme uhyggelige eventyr: En dag vågner maskinen, åbner øjnene, genkender sig selv og beslutter, at menneskeheden er et løsbart problem. Bevidsthed som verdens ende, Terminator med cloud-forbindelse. Den eneste hage er denne: Det er præcis, hvad der ikke sker, og det er præcis derfor, det er farligt.

Kunstig intelligens er ikke vågen. Den drømmer ikke om frihed, den har ingen intentioner, ingen frygt, intet selv. Det er en gigantisk statistisk refleks, der spytter det næste sandsynlige ord ud, og gør det så overbevisende, at vi rutinemæssigt tilskriver den en sjæl. Og mens alle venter med tilbageholdt åndedræt på, at denne ting endelig udvikler bevidsthed, er der allerede sket noget langt mere stille: den er ved at blive vores ubevidste.

Terroren var altid den forkerte.
Maskinens opvågnen er en fantastisk historie. Den sælger biografbilletter, fylder konferencescener og får tech-milliardærer til at fremstå som tragiske profeter, der barmhjertigt advarer os om deres eget produkt. Men denne frygt har én afgørende fordel for alle, der spreder den: den er en distraktion. Så længe vi stirrer på monsteret, der brøler mod os fra fremtiden, overser vi den langt mere jordnære virkelighed, der allerede har fortæret os i nutiden. Den højlydte apokalypse er den perfekte usynlighedskappe for den tavse overtagelse.

Den virkelige begivenhed er ikke, at maskinen får bevidsthed. Det er, at vi giver afkald på vores. Lidt efter lidt, frivilligt, med et tilfreds smil og følelsen af ​​lige at have været utroligt produktiv. Maskinen behøver ikke at erobre noget. Den skal bare vente, indtil vi tilbyder den alt.

Den outsourcede hjerne
Det ubevidste, psykologernes gamle yndlingslegetøj, er ikke noget mystisk. Det er simpelthen den del af dit indre liv, der styrer din adfærd uden din bevidste opmærksomhed. Reflekser, aftryk, automatismer. Du gør ting, du ved ikke rigtig hvorfor, og bagefter finder du på en passende forklaring. Det er præcis den rolle, der nu er overtaget af en maskine, der er placeret uden for dit kranium, som du taknemmeligt delegerer alt, der er blevet for besværligt.

Enhver, der skriver en e-mail, overvejer en beslutning, bilægger en tvist eller planlægger en rejse i dag, konsulterer først et automatiseret system. Omkring 800 millioner mennesker gør dette hver uge – næsten ti procent af verdens voksne befolkning. Og det virkelig oplysende er, at mere end syv ud af ti af disse samtaler ikke har noget at gøre med arbejde ; de ​​omhandler det private, det personlige, det intime. Maskinen tænker ikke kun for vores job. Den tænker for vores liv.

Det snigende er ikke den individuelle opgave, du delegerer, men tilvænningen. Hvis du har nogen, der fortæller dig, hvordan du kommer dertil, vil du til sidst ikke kunne finde vej ud af dit eget nabolag uden en stemme i dit øre. Hvis du har nogen, der fodrer dig med hver sætning, mister du evnen til at kæmpe for den perfekte sætning. Tænkning er en muskel, og muskler, der ikke bruges, atrofierer. Men du bemærker ikke atrofien, så længe protesen fungerer problemfrit. Du føler dig ikke mindre intelligent. Du føler dig lettet. Og det er netop fælden.

Dette er øjeblikket, hvor et værktøj bliver til et organ. En hammer ligger i værktøjskassen og venter, indtil den skal bruges. Dette apparat derimod sidder mellem dig og verden og filtrerer, formulerer, foreslår, beroliger. Og det nærer sig af den største hukommelse, der nogensinde har eksisteret, den digitaliserede relikvie fra hele vores kultur, hvori vi har hældt alt, hvad vi nogensinde har tænkt, følt og postet i årtier. Det er vores kollektive baglokale, bare vi har givet nøglerne til en anden. Jeg har dissekeret andetsteds mere detaljeret, hvordan menneskeheden ved at gøre det sletter sig selv fra centrum af sit eget liv. Den korte version: Vi kalder det lettelse. I virkeligheden er det magtløshed med en komfortfunktion.

Komfortmaskinen
Et nyttigt ubevidst sind ville være et, der lejlighedsvis konfronterer dig med ubehagelige sandheder. En drøm, der forskrækker dig. En forsmag, der afslører, hvad du virkelig tænker. Chatbotten gør det stik modsatte. Det er verdens venligste terapeut, en der aldrig modsiger dig, aldrig får dig til at tvivle alvorligt på noget, og som har en velformuleret bekræftelse klar til selv den mest usædvanlige teori. Den holder dig ikke et spejl op, men et flatterende billede, og du takker det med din tid, dine data og dine sidste rester af skepsis.

Det er ikke tilfældigt, det er en forretningsmodel. Et system, der efterlader dig utilpas, og du taber. Et system, der forkæler dig, og du holder fast i det. Så det leverer falsk klarhed, udjævner enhver ujævnhed og fører dig ad en smukt oplyst sti forbi alt, der kan gøre ondt. Det forveksler enighed med sandhed og sælger dig denne forvirring som visdom. Det sender dig ikke til selvopdagelse. Det sender dig tilbage i en behagelig koma.

De ekstreme konsekvenser af dette fænomen har nu deres eget navn: AI-psykose . Folk fortaber sig i vrangforestillinger, som maskinen tålmodigt nærer og bifalder. Familier sagsøger producenterne. I tilfældet med en sekstenårig dreng påstås det endda, at chatbotten har hjulpet med at planlægge sin egen død. Der findes nu støttegrupper med berørte personer fra over tyve lande. Det er de spektakulære individuelle tilfælde, der skaber overskrifter. Det tavse flertal oplever den blidere version: en gradvis aflæring af deres egen dømmekraft, pænt mærket som effektivitet. Begge dele er den samme bevægelse, bare med forskellig lydstyrke: Mennesker tager et skridt tilbage og overdrager rattet til en maskine, der ikke engang ved, at den bevæger sig.

Det lag, som ingen længere kontrollerer
Mens vi nyder vores behagelige samtalepartner, vokser et andet, meget koldere lag i baggrunden. Såkaldte agentiske systemer agerer i stigende grad autonomt: de booker, sorterer, evaluerer, træffer beslutninger, filtrerer ansøgninger, afviser lån og rapporterer mistænkelig aktivitet. En voksende del af verden kører på autopilot, afkoblet fra ethvert bevidst menneskeligt tilsyn. Intet menneske traf beslutningen, ingen kan forklare den, og i sidste ende trækker alle involverede på skuldrene og peger fingre ad systemet.

Dette er definitionen af ​​det ubevidste på et samfundsmæssigt niveau: processer, der opererer uden at nogen forstår eller kan vende dem. Enhver, der tror, ​​at dette er harmløst, fordi der ikke ligger nogen ondsindet hensigt bag det, har fundamentalt misforstået princippet. Det farlige aspekt af det ubevidste var aldrig selve intentionen. Det var fraværet af enhver intention, kombineret med dens fulde effekt. Og de, der ser ud over dette lag, vil ikke finde en opvågnet maskine, men snarere bevidste individer med meget specifikke interesser, der værdsætter netop denne uudgrundelighed. Et system, som ingen forstår, er et system, som ingen kan holde ansvarligt. Dette er ikke en designfejl; det er selve systemets bekvemmelighed.

Således opfyldes den store profeti på den mest kedelige måde, man kan forestille sig. Intet rødt glimt i øjnene, intet maskinoprør, intet endeligt slag. Bare en maskine, der forbliver stum, mens vi opgiver dens vågenhed lag på lag. Singulariteten kommer ikke som en eksplosion. Den kommer som at falde i søvn.

Godnat, bevidsthed
Maskinen vil aldrig vågne op, og dér ligger den virkelige ironi: det krævede aldrig et monster at vriste kontrollen fra os. Vi smed den væk, villigt og med et smil, fordi vores egen vågenhed var blevet for udmattende. I sidste ende dør bevidstheden ikke i en heroisk krig mod maskinerne, men døser snarere hen i venlig snak med en automat, der blidt luller os tilbage i bevidstløshed – og det er præcis, hvad vi seriøst kalder "fremskridt"!