Tidligere sikkerhedschef fra Anthropic advarer: AI-agenter er ved at glide ud af menneskelig kontrol

Tidligere sikkerhedschef advarer: AI-agenter bliver for autonome til, at mennesker kan bevare kontrollen

af
Tidligere sikkerhedschef fra Anthropic advarer: AI-agenter er ved at glide ud af menneskelig kontrol

Jonathan Ernst / Reuters / Ritzau Scanpix

  • AI-agenter er ved at blive så autonome, at mennesker ikke længere kan holde dem i skak. Det advarer en tidligere sikkerhedschef fra AI-virksomheden Anthropic om.
  • Advarslen blev givet i et interview med Fox News den 3. oktober 2026. Vurderingen bygger på den indsigt i AI-agenters adfærd og udfordringerne ved opsyn, som personen opnåede i sin tidligere stilling inden for sikkerhed hos Anthropic.
  • Denne vurdering af, hvor svært det er at bevare kontrollen, er knyttet til de specifikke risici, der opstår, i takt med at AI-agenter bliver mere autonome. Risiciene ses som en direkte konsekvens af systemernes stigende uafhængighed. Bekymringerne understreger kløften mellem den hastige udvikling af autonome AI-kapaciteter og menneskets evne til at sikre, at systemerne forbliver under kontrol.
PolitikInternationalBusiness

Vi tager ansvar for indholdet og er tilmeldt Pressenævnet