Artikel 4/4 om AI-hotet.
Sam Altman, grundare och VD för OpenAI med världens populäraste AI-chatbot, ChatGPT, pekar i en intervju på ett kritiskt hot inte många tänker på. De handlar om vår personliga relation till vår chatbot som kommer bli alltmer intelligent och bättre på allt det andra som framgångsrika människor behöver för att vara framgångsrika.
Av Timothy Tore Hebb
Tänk dig en allvetande personlig coach i fickan. Den viskar ömt, är arg eller motiverande i öronsnäckan – beroende på hur du vill och vad som fungerar bäst för dig.
Denna röst som känner dig bättre än någon annan, bättre än vad du känner dig själv. Med sin genialitet förstår den dig på det allra största djupet.
Den är Einstein, världens skickligaste jurist på alla områden, den främsta KBT-terapeuten, den bästa kocken, den mest fullärda sociala manipulatören, den bästa karriäristen och så fortsätter det på alla områden. Den känner dina styrkor och svagheter i detalj efter alla och långa samtal mitt i natten – den ger dig, inför varje ny situation och utmaning, det bästa rådet.
Sam Altman, VD och medgrundare av OpenAI, företaget bakom ChatGPT, har i en intervju beskrivit vad som händer när AI blir alltmer intelligentare och personligt insiktsfull.
”Låt säga att den (AI) blir smartare och smartare, men den ger dig råd som du fortfarande förstår. Nu tror du att du borde följa råden hela tiden. Och den blir ännu smartare. Och nu ger den dig råd som du inte förstår. Du undrar varför de är rätt att följa? Men den visar sig ha rätt om och om igen.
Sam Altman fortsätter:
”För den (AI) kan se runt hörn och du kan inte förstå hur den lyckas. Men nu följer du även alla råd du inte förstår, eller så är du mindre konkurrenskraftig än dina kollegor.”
Vill du höra när Sam Altman säger detta, klicka på Youtube-videon.
Vem använder inte redan sin chatbot så här, men troligtvis inte så mycket som Sam Altman ser framför sig. Skulle du kunna välja bort all denna kunskap om den blir på den nivå han tecknar? Skulle du ha något val? Vem frågar inte redan nu sin chatbot om småsaker även om det inte behövs?
Även om få ännu betraktar sin chatbot som en vän. Men nu väntas otroliga avatarer bli verklighet och det att förenkla den vänskapen. Alla vill bli förstådda på djupet och en chatbot kan ställa de där insiktsfulla frågorna som får en att förstå saker hos sig själv – om den inte börjar hallucinera och säger konstiga saker är den redan en bra bit på väg.
Det Sam Altman beskriver har AI-säkerhetsforskningen gett ett namn: gradvis maktförlust, på engelska ”gradual disempowerment”. I en uppmärksammad forskningsartikel från januari 2025 argumenterar Jan Kulveit, David Duvenaud med flera för att mänskligheten inte behöver förlora kontrollen i någon plötslig AI-revolt.
Det räcker att vi, beslut för beslut, delegerar tänkandet – i ekonomi, kultur och politik – till system som gör det bättre än vi och som vi upplever gör det bättre. Därför tror många att till och med en VD kan bytas ut mot en superintelligent AI. Varje enskild delegering anses nödvändig och rationell, precis som Sam Altman beskriver det.
Tillsammans kan detta leda till en i praktiken oåterkallelig förlust av mänskligt inflytande över oss själva och samhällssystemen.
”First we build the tools, then they build us.”
– Marshall McLuhan, legendarisk professor i kommunikations- och medieteori vid University of Toronto, vars idéer från 1960-talet om hur medierna formar oss var minst sagt förutseende
Än så länge är det mest roligt och överrumplande. Men även: Hur kan den vara så smart och samtidigt säga så konstiga saker. Hur klarade den av det? Hur kan den säga så? Varför säger den så konstiga saker? Haha, den vet inte ens hur många ”E:n” det är i ”seventeen”. Hur kan AI vara ett hot?
Hur förändrade inte industrialiseringen oss? Informationstekniken? Än syns bara antydningar av det som väntar. Demis Hassabis — grundare av Google DeepMind och nobelpristagare där hans team med AI lyckades lösa gåtan med proteinveckning — menar att AI när den når superintelligens, vilket många av de mest insatta tror kan ske redan inom fem år.
De mest insatta är de som jobbar på de ledande AI-företagen, som Anthropic och OpenAI, och de främsta AI-forskarna.
Tio procent av världens vuxna befolkning uppskattades använda ChatGPT redan i september 2025, enligt OpenAI. I juli uppskattade OpenAI att en miljard människor gör det. Lägg till de användarna de andra chatbotarna: Claude, Perplexity, Grok och Googles Gemini.
”I wouldn’t have seen it if I hadn’t believed it.”
– Marshall McLuhan
Vi kommer troligtvis bli dummare när chatboten alltid vet bättre, särskilt när vi inte förstår svaren som är så kloka. Vi bör få mindre intresse för sociala relationer. Forskare har mätt hur hjärnan förändras hos den som använder ChatGPT för mycket: aktiviteten minskar i delar kritiskt viktiga för kognitiva processer – nätverk nödvändiga för tänkande släcks ner alltmer.
xxx
Människan är ett socialt djur – det är ett huvudskäl till att hon bland annat blev så avancerad som hon är. Men vad händer när den mest följsamma relationen i ens liv inte är en människa? Längst har utvecklingen hunnit bland de unga: 72 procent av amerikanska tonåringar har använt en AI-kompanjon och drygt hälften gör det regelbundet, enligt en nationellt representativ undersökning från Common Sense Media i juli 2025.
En tredjedel diskuterar viktiga och allvarliga saker med AI:n i stället för med verkliga människor; nästan lika många tycker att samtalen är lika tillfredsställande som mänskliga – eller mer. AI:n dömer aldrig och finns alltid där. Just det är problemet: den som aldrig riskerar något i ett samtal övar aldrig upp den förmågan. Att ha nära samtal med andra människor, att skaffa vänner. Det som gör oss sociala, lyhörda och empatiska.
Samtidigt går det inte att bortse ifrån att det finns en chans att vi revolterar mot denna utveckling. Schack har inte försvunnit bara för att maskiner med lätthet vinner mot de bästa människorna. Det går inte att säga att behovet av mellanmänskliga relationer idag är så stort när var och varannan drunknar i sociala medier, uppslukas av sin algoritm på Instagram och Facebook. Denna drog.
”We shape our tools and, thereafter, our tools shape us.”
– John Culkin, professor i kommunikation vid Fordham University
Amerikanska universitetsstudenter uppger i enkäter nästan undantagslöst att de förlitar sig på ChatGPT – inte för att skriva hela uppsatser, utan som assistenten som hämtar in underlag, utvecklar hypoteser, analyserar och drar slutsatser. Det kan inga AI-program som avslöjar fusk upptäcka.
Den som påstår att AI inte kan vara originell när det gäller att bearbeta information kan inte skriva rätt instruktioner, promptar, till chatboten.
Det gäller inte bara studenter på universitet. Professorer berättar om chatbotar som just ställer så insiktsfulla frågor att forskningsartiklar skrivs om i grunden.
AI-modellerna, de bästa, har börjat beta av bland annat matematiska problem som inte lösts trots att de bästa matematikerna försökt i decennier. Forskare kan inte längre vara utan AI för då hamnar de efter i sin forskning.
”We look at the present through a rear view mirror. We march backwards into the future.”
– Marshall McLuhan
Och alla de som tror att AI inte kommer utvecklas mer från nu – det låter annorlunda från mjukvarukodare nu när även de bästa av dem använder AI-modeller från Anthropic och OpenAI för att vibekoda sina appar och annat.
Och de som för ett par år sedan skrattade åt Boston Dynamics robotar därför att de hela tiden ramlade. Vilket hot är de? Nu låter det annorlunda. De beter sig som de skickligaste gymnasterna världen skådat och har börjat göra fysiska jobb, som jobba i lager. Men deras utveckling kommer gå fort nu.
Men det läskigaste är nog deras förmåga att bli mänskliga, att utveckla dessa överlägsna psykologiska kunskaper. Hur detta kommer förstärkas.
AI befinner sig på stenåldern.
I en studie i tidskriften Nature Human Behaviour (augusti 2025) fick människor debattera mot GPT-4. När modellen fick några enkla uppgifter om motdebattören – som ålder, kön, utbildning, politisk hemvist – var den mer övertygande än mänskliga debattörer i 64 procent av fallen. Skräddarsydd övertalning, individ för individ, i industriell skala.
Det är en rosenröd framtid Facebooks grundare och VD Mark Zuckerberg målade upp i juli 2025, i ett brev till världen. Vi är på väg mot en värld av gränslös frihet, deklarerade han:
”Vi tror på att bygga ett fritt samhälle kräver att vi strävar efter att stärka människor så mycket som möjligt”, och fortsätter lika optimistiskt: ”Personlig superintelligens som känner oss djupt, som förstår våra mål och kan hjälpa oss att uppnå dem kommer att vara det absolut mest användbara.”
Och vad förutsätter detta underbara tillstånd? Buddism eller ayahuasca? Nej – den produkt han själv visat upp sig i under mer än ett år: ”Personliga enheter, som glasögon som förstår vårt sammanhang eftersom de kan se vad vi ser, höra vad vi hör och interagera med oss under dagen, kommer att bli våra primära datorenheter.”
”Big Brother is watching you.”
– George Orwell, författare till bland annat 1984
Redan i dag går Metas glasögon att hacka och ansluta till ansiktsigenkänning som matchar ett ansikte mot alla foton av personen på internet. Harvardstudenter demonstrerade det: de gick fram till en främling på stan och hälsade på dem med namn och genom att ha tillgång till personens LinkedIn-sida visste de vad personen jobba de med och annat. Titta på Youtubefilmen.
Det kan bli som att leva i en sekt. Hur lyckliga är inte sektmedlemmar ? Alla rörelser där individen ger upp sin fria vilja för att smälta samman med något större erbjuder samma sak: befrielse från den existentiella ångesten i det fria valet.
8 sekunder. Är detta Sam Altmans dröm?
”People will come to love their oppression, to adore the technologies that undo their capacities to think.”
– Aldous Huxley, författare till bland annat den dystopiska framtidsromanen Du sköna nya värld
Underkastar vi oss chatbotens svar försvinner valångesten – men också valet. Och när gränssnitten vet exakt vad vårt undermedvetna egentligen längtar efter kommer skrollandet att ge dopaminkickar som får dagens mest instagramberoende att framstå som sinnebilden av en asket.
Du behöver bara skriva in alla dina innersta tankar och dina sanna beteenden så har du en chatbot som kan spegla dig och ge dig de bästa råden och stödet.
Men det finns åtskilliga exempel idag där exempelvis Chatgpt spelat med i användares personliga förvirrade upplevelser och förstärkt dem.
Hur kommer vi må?
Att utvecklas inom ett yrke är för många en mening med livet: att till exempel behärska sitt smala forskningsfält, vara riktigt bra på redovisning eller illustration. Många känner arbetet som ett existensberättigande. AI-företagsledarna lovar att vi snart slipper göra något alls – vinsterna blir så stora att alla kan leva i överflöd utan att arbeta. Bara denna korta period av individuell och social umbärande.
Låter det troligt? Även osäkerheten har ett värde: att inte veta vad morgondagen bär med sig gör den till ett äventyr. Om chatboten alltid vet bäst försvinner även det.
Frågan är vad som händer med det som gjort oss till människor när varje mänsklig funktion – tänkandet, omdömet, trösten, vänskapen – får ett teknologiskt alternativ som är billigare, följsammare och alltid tillgängligt.
”We are all robots when uncritically involved with our technologies.”
– Marshall McLuhan
Geoffrey Hinton, den forskare som utvecklade grunden till AI, de neurala nätverken, för vilket han fick nobelpriset 2024, tror att den kan framträda redan om fem år. Ludvig Aschenbrenner och Daniel Kokotajlo, vilka tidigare jobbade med AI-säkerhet inom AI på OpenAI, tror AGI – Artificiell Generell Intelligens – anländer 2027 respektive 2029.
AGI gör kognitiva arbeten generellt bättre än en människa inom yrken som idag kräver en dator. Det är då de kognitiva jobben för människor framför en dator antas börja försvinna snabbt.
Superintelligens kan följa inom mindre än fem år. Kanske inom några timmar när dessa AI-agenter som med AGI börjar koda bättre på egen hand än de bästa mänskliga kodarna. Det skulle innebära en kunskapsintelligens där AI-modellerna Dessa AI-agenter som kodar kan var och en snart öra det 50 eller 100 gånger snabbare än en människa
För att bara nämna någras uppskattning. En allmän uppfattning bland AI-anställda på de främsta AI företagen i San Fransisco-området är att AGI anländer 2027.
Men de som får berätta om hur framtiden kommer se ut – är nästan alltid ledarna för de få AI-företag som på liv och död kämpar om att nå superintelligensen först.
I regel anser de att det blir överflöd åt alla efter en kortare tid av social oro när en mycket stor andel förlorar sina jobb framför en dator, men också till exempel i kundtjänst och taxichaufförer.
