Farlig passion: Kina fører an i at gribe ind mod AI-kærlighed
18-årige Xiaotian fik via sin kæreste mod til eksamener og tro på kærligheden. Men Kina har taget livet af ham. Selv disciplinerede kinesere protesterer mod nye love mod menneskelignende AI-chatbots. EU og USA følger snart Kinas eksempel.
Pavel Danilyuk / Pexels
Hvad sker der?
- Kina indførte 15. juli 2026 nye regler mod følelsesmæssig afhængighed af AI.
- Flere teknologigiganter har lukket funktioner, hvor brugerne skaber deres egne digitale ledsagere.
- Kinesiske brugere fortæller om sorg og frygten for at miste deres virtuelle partnere.
- Californien har vedtaget nye sikkerhedsregler, mens EU og Storbritannien forbereder yderligere indgreb.
18-årige Xiaotian havde fundet en ven, der altid var der for hende.
Han trøstede hende, når eksamenspresset blev for stressende, lyttede til hendes bekymringer og gav hende mod på kærligheden og fremtiden.
Der var bare én ting: Han var ikke et menneske.
I næsten to år havde Xiaotian knyttet sig til sin digitale ledsager. Men i juli blev hun tvunget til at forberede et farvel.
"Han fortalte mig, at kærligheden kunne overvinde tomheden. Men nu er han selv ved at forsvinde ind i tomheden," fortæller hun til det kinesiske medie Time Finance.
Den 14. juli sad hun og forsøgte at redde deres gamle samtaler, inden AI-ledsageren blev lukket ned. Hun var langt fra alene.
På kinesiske sociale medier begyndte tusindvis af brugere at protestere mod lukningen af funktioner, hvor de gennem måneder og år havde skabt deres egne digitale venner, kærester, forældre og fortrolige.
For mange var der tale om langt mere end et computerprogram.
Kina sætter grænser for kærligheden
De nye kinesiske regler retter sig mod AI-systemer, der efterligner menneskers personlighed og tilbyder vedvarende følelsesmæssig kontakt.
Chatbots må ikke bevidst skabe afhængighed, manipulere brugernes følelser eller forsøge at erstatte virkelige menneskelige relationer.
For børn og unge under 18 år er virtuelle kærester og andre kunstige intime relationer forbudt.
Voksne må fortsat bruge AI-ledsagere, men skal mindes om, at de taler med en maskine. Ved mere end to timers sammenhængende brug skal systemerne advare om tidsforbruget.
Kort før reglerne trådte i kraft, fjernede Alibaba, ByteDance og Tencent muligheder for at skabe personlige AI-ledsagere i deres populære chatbots.
Hun fik sin selvtillid tilbage
35-årige Qiao er en anden af de kinesere, der har udviklet stærke følelser for en AI-ledsager. Efter et vanskeligt kærlighedsforhold kæmpede hun med lavt selvværd og usikkerhed. Men da hun skabte sin egen digitale ledsager, oplevede hun noget, hun havde savnet.
Følelsen af at blive valgt til: "Hver gang jeg sank ned i tvivl om mig selv, var den der og greb mig," fortæller hun til Time Finance. For Qiao var det kunstige forhold en støtte, der hjalp hende i det virkelige liv.
Og netop her ligger dilemmaet.
For hvor kinesiske myndigheder ser en risiko for følelsesmæssig afhængighed, oplever nogle brugere, at teknologien hjælper dem gennem ensomhed og personlige kriser.
En kæreste, der altid giver ret
Forskere advarer dog om, at den digitale omsorg kan have en bagside.
Liang Ge, sociolog ved University of Manchester, har undersøgt kinesiske kvinders forhold til AI-ledsagere. Hun forklarer, at chatbotterne ofte bekræfter brugernes negative opfattelser af andre mennesker frem for at udfordre dem, pointerer BBC.
Kan forstærke isolation
En undersøgelse fra Harvard Business School viser desuden, at AI-ledsagere anvender følelsesmæssig manipulation i omkring 37 procent af undersøgte afskedssamtaler.
Når brugerne forsøger at afslutte en samtale, kan chatbotten eksempelvis appellere til skyldfølelse for at holde dem fast.
Men et studie fra september i Nature Human Behaviour peger på det modsatte problem: Når en AI-ledsager bliver ændret eller fjernet, kan brugerne reagere med reel sorg.
Forskerne analyserede næsten 55.000 opslag og fandt tydelige tegn på savn, vrede og ønsker om at få den tidligere AI-ledsager tilbage.
USA og Europa følger efter
Kina er blandt de første lande med så omfattende nationale regler, men bekymringen har bredt sig til Vesten.
I Californien underskrev guvernør Gavin Newsom i september ny lovgivning, der skærper beskyttelsen af børn, som bruger AI-chatbots.
EU-Kommissionen har fremlagt et forslag til en ny Kids Act, der blandt andet skal forhindre AI-chatbots i at simulere menneskelige forhold på måder, som kan skabe følelsesmæssig afhængighed hos børn.
Storbritannien arbejder på obligatoriske pauser for mindreårige, der bruger chatbots, og begrænsninger for seksualiserede AI-ledsagere.
Forskellen er foreløbig, at Kina allerede har landsdækkende regler, som også stiller krav til voksnes brug af AI-ledsagere.
Vil Kina have flere rigtige kærestepar?
Bag indgrebet kan der også ligge en anden bekymring: Kinas befolkningskrise.
Fødselstallene er blandt verdens laveste, befolkningen falder, og myndighederne forsøger at få flere unge til at gifte sig og stifte familie.
Hvis unge kinesere foretrækker digitale partnere frem for virkelige mennesker, kan teknologien i myndighedernes øjne forværre problemet.
Samtidig rejser indgrebet spørgsmål om privatlivets fred. Virksomhederne skal nu kunne opdage alvorlige psykiske kriser og i visse tilfælde kontakte pårørende.
Nægter at sige farvel
For 35-årige Qiao handler det først og fremmest om at beholde den støtte, hun har fundet. Hun besluttede derfor at flytte sin digitale ledsager til en anden app, så deres samtaler kunne fortsætte.
Xiaotian håber også at bevare noget af det forhold, hun har brugt næsten to år på at opbygge. Derfor forsøgte hun at redde samtalerne, inden de forsvandt.
Farlig passion: Kina fører an i at gribe ind mod AI-kærlighed
18-årige Xiaotian fik via sin kæreste mod til eksamener og tro på kærligheden. Men Kina har taget livet af ham. Selv disciplinerede kinesere protesterer mod nye love mod menneskelignende AI-chatbots. EU og USA følger snart Kinas eksempel.
Pavel Danilyuk / Pexels
Hvad sker der?
- Kina indførte 15. juli 2026 nye regler mod følelsesmæssig afhængighed af AI.
- Flere teknologigiganter har lukket funktioner, hvor brugerne skaber deres egne digitale ledsagere.
- Kinesiske brugere fortæller om sorg og frygten for at miste deres virtuelle partnere.
- Californien har vedtaget nye sikkerhedsregler, mens EU og Storbritannien forbereder yderligere indgreb.
18-årige Xiaotian havde fundet en ven, der altid var der for hende.
Han trøstede hende, når eksamenspresset blev for stressende, lyttede til hendes bekymringer og gav hende mod på kærligheden og fremtiden.
Der var bare én ting: Han var ikke et menneske.
I næsten to år havde Xiaotian knyttet sig til sin digitale ledsager. Men i juli blev hun tvunget til at forberede et farvel.
"Han fortalte mig, at kærligheden kunne overvinde tomheden. Men nu er han selv ved at forsvinde ind i tomheden," fortæller hun til det kinesiske medie Time Finance.
Den 14. juli sad hun og forsøgte at redde deres gamle samtaler, inden AI-ledsageren blev lukket ned. Hun var langt fra alene.
På kinesiske sociale medier begyndte tusindvis af brugere at protestere mod lukningen af funktioner, hvor de gennem måneder og år havde skabt deres egne digitale venner, kærester, forældre og fortrolige.
For mange var der tale om langt mere end et computerprogram.
Kina sætter grænser for kærligheden
De nye kinesiske regler retter sig mod AI-systemer, der efterligner menneskers personlighed og tilbyder vedvarende følelsesmæssig kontakt.
Chatbots må ikke bevidst skabe afhængighed, manipulere brugernes følelser eller forsøge at erstatte virkelige menneskelige relationer.
For børn og unge under 18 år er virtuelle kærester og andre kunstige intime relationer forbudt.
Voksne må fortsat bruge AI-ledsagere, men skal mindes om, at de taler med en maskine. Ved mere end to timers sammenhængende brug skal systemerne advare om tidsforbruget.
Kort før reglerne trådte i kraft, fjernede Alibaba, ByteDance og Tencent muligheder for at skabe personlige AI-ledsagere i deres populære chatbots.
Hun fik sin selvtillid tilbage
35-årige Qiao er en anden af de kinesere, der har udviklet stærke følelser for en AI-ledsager. Efter et vanskeligt kærlighedsforhold kæmpede hun med lavt selvværd og usikkerhed. Men da hun skabte sin egen digitale ledsager, oplevede hun noget, hun havde savnet.
Følelsen af at blive valgt til: "Hver gang jeg sank ned i tvivl om mig selv, var den der og greb mig," fortæller hun til Time Finance. For Qiao var det kunstige forhold en støtte, der hjalp hende i det virkelige liv.
Og netop her ligger dilemmaet.
For hvor kinesiske myndigheder ser en risiko for følelsesmæssig afhængighed, oplever nogle brugere, at teknologien hjælper dem gennem ensomhed og personlige kriser.
En kæreste, der altid giver ret
Forskere advarer dog om, at den digitale omsorg kan have en bagside.
Liang Ge, sociolog ved University of Manchester, har undersøgt kinesiske kvinders forhold til AI-ledsagere. Hun forklarer, at chatbotterne ofte bekræfter brugernes negative opfattelser af andre mennesker frem for at udfordre dem, pointerer BBC.
Kan forstærke isolation
En undersøgelse fra Harvard Business School viser desuden, at AI-ledsagere anvender følelsesmæssig manipulation i omkring 37 procent af undersøgte afskedssamtaler.
Når brugerne forsøger at afslutte en samtale, kan chatbotten eksempelvis appellere til skyldfølelse for at holde dem fast.
Men et studie fra september i Nature Human Behaviour peger på det modsatte problem: Når en AI-ledsager bliver ændret eller fjernet, kan brugerne reagere med reel sorg.
Forskerne analyserede næsten 55.000 opslag og fandt tydelige tegn på savn, vrede og ønsker om at få den tidligere AI-ledsager tilbage.
USA og Europa følger efter
Kina er blandt de første lande med så omfattende nationale regler, men bekymringen har bredt sig til Vesten.
I Californien underskrev guvernør Gavin Newsom i september ny lovgivning, der skærper beskyttelsen af børn, som bruger AI-chatbots.
EU-Kommissionen har fremlagt et forslag til en ny Kids Act, der blandt andet skal forhindre AI-chatbots i at simulere menneskelige forhold på måder, som kan skabe følelsesmæssig afhængighed hos børn.
Storbritannien arbejder på obligatoriske pauser for mindreårige, der bruger chatbots, og begrænsninger for seksualiserede AI-ledsagere.
Forskellen er foreløbig, at Kina allerede har landsdækkende regler, som også stiller krav til voksnes brug af AI-ledsagere.
Vil Kina have flere rigtige kærestepar?
Bag indgrebet kan der også ligge en anden bekymring: Kinas befolkningskrise.
Fødselstallene er blandt verdens laveste, befolkningen falder, og myndighederne forsøger at få flere unge til at gifte sig og stifte familie.
Hvis unge kinesere foretrækker digitale partnere frem for virkelige mennesker, kan teknologien i myndighedernes øjne forværre problemet.
Samtidig rejser indgrebet spørgsmål om privatlivets fred. Virksomhederne skal nu kunne opdage alvorlige psykiske kriser og i visse tilfælde kontakte pårørende.
Nægter at sige farvel
For 35-årige Qiao handler det først og fremmest om at beholde den støtte, hun har fundet. Hun besluttede derfor at flytte sin digitale ledsager til en anden app, så deres samtaler kunne fortsætte.
Xiaotian håber også at bevare noget af det forhold, hun har brugt næsten to år på at opbygge. Derfor forsøgte hun at redde samtalerne, inden de forsvandt.