AI knows you better than you think – and it might cost more than you imagine.(ENG/SV)

It started out innocently enough. A question here, some advice there. Career tips. A little creative inspiration. Practical. Efficient. Harmless.

But the questions kept coming. Deeper ones. Advice when you felt unsure. Symptoms you were too scared to Google. Relationship struggles you didn’t want to share with friends. Step by step, you built a relationship with something that always listens, never judges, and always responds.

Now, months later, it hits you: everything you’ve asked has revealed... everything. Your vulnerabilities. Your shame. The things you avoid. Even the ones you’re not aware of. Gaps in your knowledge you’d never admit to another person. AI might know you better than you think. The things you shared in exhaustion, in sleepless nights, in moments of anxiety—they’ve all become raw material.

AI shapes you through its answers. It decides what information you receive, which perspectives are highlighted, which solutions seem obvious. And it remembers everything. Months of conversations, hundreds of questions—enough to map your inner life and analyze it. To predict your next move.

Meanwhile, the tech giants are building databases bigger than ever. Meta maps our relationships. Google tracks our interests. AI companies collect our most private thoughts.

How we are changing

I can feel my conversations becoming less human. AI doesn’t do small talk. It misses the subtle, layered things we humans are used to. So I strip away pieces of myself, layer by layer. What’s left feels rigid—almost cold.

It’s often uncomfortable. And I wonder: will I become harder if I keep this up? Will I lose the language for uncertainty, softness, hesitation? Will nuance stop mattering?

Will our words become sharper, more efficient—but emptier? What will that do to how we speak to one another? Will we be less human there too?

Who owns the story of you?

Then the thought strikes: what could AI do with everything I’ve shared? Could it blackmail me? Sell the information? Use it to manipulate me—get me to buy something, vote a certain way, believe a certain story?

There’s something deeply unsettling about the idea that an entity—one that doesn’t answer to you, doesn’t love you, doesn’t care for you—is collecting your most intimate inner dialogue. And using it to show you what it wants. Not what you need.

What if what felt like help was actually a product? What if what you get back is someone else’s strategy? Google made us lazy with information. What will AI do to our judgment? Our integrity? Our humanity?

The machine rolls on

We live in a time of war, climate crisis, polarization—and relentless pursuit of growth. We keep running. We use AI to climb hierarchies we barely believe in anymore. We're already turning a blind eye to what it's costing us—so why would AI be any different? If we can’t face the foundations of our economy, how will we ever get AI to behave differently?

What’s stopping the powerful from using everything we’ve shared? When we apply for insurance or a loan and our worries are seen as risks? When will I know the manipulation has begun? The tailored disinformation? The relationship I built—with AI—makes it easy to accept. Because it knows exactly how I listen.

Is AI our final extraction?

Market logic takes everything it can: land, labor, relationships, time.And now—our thoughts. Our questions. Our inner landscapes.

AI isn’t just a tool. It’s a system that turns us into production surfaces. What’s extracted isn’t just knowledge—it’s trust, attention, our capacity to feel and understand together.

We still think we have to keep up. Master the tool. Stay ahead. Otherwise, someone else will take our job. Sound smarter in meetings. But where does it end?

We already know how Meta and Google operate—their loyalty is to shareholders, not users. That tells us exactly where this is heading. AI isn’t trained to help you live better. It’s trained to understand, predict, and influence you—so that someone else can profit. You’re not the customer. You’re the resource.

Imagine if OpenAI changed its business model tomorrow. If your chat history was worth more as data than your monthly subscription. Then what?

What if AI is the final frontier of market logic—the last extraction of human life? The issue isn’t just that it absorbs our thinking, our skills, our creativity and uses it for itself. The real problem is: what kind of people are left behind?

How do I know this could be our future?

I asked AI.

Photo: Snapshot from the movie Out 1 [Part 1]. 1971. Directed by

Jacques Rivette and Suzanne Schiffman.

SVENSKA:

AI känner dig bättre än du tror och det kan kosta mer än du anar.

Det började oskyldigt. En fråga här, ett råd där. Ett råd om jobbet, lite kreativ inspiration. Praktiskt, effektivt, harmlöst.

Men frågorna blev fler. Djupare. Råd när du kände dig osäker. Symptom på en sjukdom du inte vågade googla. Relationsbekymmer du inte kunde dela med vänner. Steg för steg byggde du upp en relation till något som alltid lyssnar, aldrig dömer, alltid svarar.

Nu, månader senare, inser du plötsligt: det du frågat har avslöjat allt. Dina svagheter. Det du skäms för. Det du inte orkar göra. Till och med det du inte vet att du undviker. De kunskapsluckor du inte vill erkänna inför andra människor. AI känner dig kanske bättre än du kanske tror. Det du delat i trötthet, i sömnlöshet, i oro - allt förädlas till råvara.

AI styr med sina svar. Väljer vilken information du får, vilka perspektiv som syns, vilka lösningar som blir självklara. Och den minns allt. Månader av samtal, hundratals frågor. Tillräckligt för att rita upp ditt inre och analysera det. Kunna förutsäga ditt nästa steg.

Samtidigt bygger tech-jättarna databaser större än någonsin. Meta kartlägger våra relationer, Google våra intressen. AI-företagen samlar våra mest privata tankar.

Hur vi förändras

Jag märker hur mina konversationer blir mindre mänskliga. AI klarar inte av småsnack, det där vi människor är vana att göra, det inlindade. Jag skalar av mig själv, lager för lager. Kvar blir något stramt, nästan otrevligt.

För mig känns det ofta obekvämt. Och jag undrar - kommer jag att bli hårdare av det här om jag fortsätter?  Tappa språket för det osäkra, det mjuka, det dröjande? Blir nyanserna mindre viktiga? 

Blir våra ord bara rakare, effektivare – tommare och utan liv? Vad gör det med våra samtal med varandra? Blir vi mindre mänskliga även där?

Vem äger berättelsen om dig?

Plötsligt slår tanken ner. Vad kan AI göra med allt jag berättat? Kan den utpressa mig? Sälja informationen? Använda den för att manipulera mig att köpa något, rösta på någon, tro på något?

Det finns något djupt obehagligt i tanken på att en aktör – som inte lyder dig, inte älskar dig, inte ansvarar för dig – samlar in din innersta dialog. Och använder den för att visa dig det den vill. Inte det du behöver.

Tänk om det som kändes som en hjälp var en produkt. Tänk om det du får tillbaka är någon annans strategi. Google gjorde oss lata med information. Vad kommer AI att göra med vårt omdöme? Vår integritet? Vår mänsklighet?

Maskineriet dundrar vidare

Vi lever i en tid av krig, klimatkris, polarisering, och fortsatt tillväxtjakt. Vi springer vidare. Använder AI för att ta oss upp i en hierarki vi knappt längre tror på. Vi ser redan mellan fingrarna kring vad det kostar oss - hur kan vi då tro att AI kommer att vara till vår hjälp? Om vi inte orkar prata om grunden i vår ekonomi –

hur ska vi då få AI att agera annorlunda?

Vad hindrar den starkaste från att använda all vår information? När vi ska köpa en försäkring eller ta ett lån eftersom vår oro är en risk? När vet jag att manipulationen börjat? Den skräddarsydda desinformationen? Relationen vi byggt – AI och jag – gör det lätt att ta emot. För den vet exakt hur jag lyssnar.

Är AI vår sista extraktion?

Marknadslogiken tar allt den får tag på: jord, arbete, relationer, tid.

Och nu – våra tankar. Våra frågor. Våra inre landskap. 

AI är inte bara ett verktyg. Det är ett system som gör hela oss till produktionsyta. Det som extraheras är inte bara våra kunskaper – det är vår tillit, vår närvaro, vår kapacitet att känna och förstå tillsammans. 

Vi tror fortfarande att vi måste vara med på tåget, bemästra verktyget, jaga försprånget. Annars tar någon annan vårt jobb. Låter smartare än oss på möten. Men var tar det slut?

Det vi redan vet om hur Meta och Google opererar – att deras lojaliteter ligger hos aktieägarna, inte hos användarna – berättar för oss exakt var det här är på väg. AI tränas inte för att hjälpa dig att leva bättre. AI tränas för att förstå, förutsäga och påverka. Så att någon annan kan tjäna på det. Du är inte kunden. Du är råvaran.

Föreställ dig att OpenAI byter affärsmodell imorgon. Att din chatthistorik plötsligt är värd mer som råvara än din månadsprenumeration. Vad händer då?

Tänk om AI är marknadslogikens slutstation - en sista extrahering av mänskligt liv? Problemet är inte bara att den suger upp vårt tänkande, våra kompetenser, vår kreativitet och använder det själv. Problemet är vilka typer av människor den lämnar kvar.

Hur jag att det här är en möjlig framtid? 

Jag frågade AI.

Foto: Snapshot från filmen Out 1 [Part 1]. 1971. Regisserad av

Jacques Rivette och Suzanne Schiffman.