Anthropic-chefen kräver vetorätt över AI: »Mänskligheten är på väg att få nästan otänkbar makt«

I en policy-essä publicerad onsdagen den 10 juni argumenterar Amodei för att USA:s regering ska få laglig rätt att blockera eller dra tillbaka avancerade AI-modeller som inte klarar oberoende säkerhetsgranskning. Förslaget kommer knappt två månader innan EU:s AI-förordning träder i full kraft den 2 augusti 2026.

Essän, med titeln ”Policy on the AI Exponential”, markerar ett tydligt skifte. Anthropic har tidigare främst lutat sig mot frivillig transparens, men i den nya texten konstaterar Amodei att tiden är inne att gå längre än så. ”Det är dags att gå bortom transparens till mer seriös och bindande reglering av AI”, skriver han.

Fyra riskkategorier ska utlösa testning

Förslaget bygger på en idé om att de mest kraftfulla modellerna ska behandlas ungefär som flygplan eller läkemedel: tekniker som är nödvändiga för ekonomin men som kan orsaka stor skada om de inte testas innan de släpps.

Amodei pekar ut fyra konkreta riskområden som ska utlösa obligatorisk granskning av en oberoende tredje part: cybersäkerhetssårbarheter, biologiska vapenkapaciteter, accelererad automatiserad forskning på farliga områden och risken för att modeller växer ifrån mänsklig kontroll. Om granskarna bedömer riskerna som oacceptabla ska myndigheterna kunna stoppa lanseringen.

Tröskeln för vilka modeller som omfattas är hög. Enligt förslaget ska modeller tränade med mer än 10^25 FLOPs, eller utvecklade av företag med över 500 miljoner dollar i AI-intäkter, falla inom regelverket.

350 miljoner dollar till arbetsmarknadsforskning

Samma dag som essän publicerades tillkännagav Anthropic två satsningar på sammanlagt 350 miljoner dollar. 200 miljoner dollar går till en forskningsfond kallad Economic Futures Research Fund — en summa som Euronews rapporterar överstiger 170 miljoner dollar — som ska undersöka hur AI omformar arbetsmarknaden. Resterande 150 miljoner går till ett nationellt stipendieprogram för unga amerikaner i tidiga karriärstadier.

Amodei skissar i essän på tre möjliga scenarier för AI-driven arbetslöshet: 5 procent, 10 procent och vad han kallar oöverträffade nivåer. Bland åtgärderna han diskuterar finns löneförsäkring, omskolningsbidrag och i extrema fall medborgarlön finansierad via skatter på AI-bolag eller höjd kapitalvinstskatt. ”Den centrala utmaningen i en sådan värld kommer inte att vara att stimulera tillväxt, utan att hitta ett sätt för alla att dela på vinsterna”, skriver han.

Knyter an till tidigare varning

Den nya essän följer upp en längre text, ”The Adolescence of Technology”, som Amodei publicerade i januari 2026. Där formulerade han en av sina mest citerade varningar: ”Mänskligheten är på väg att få nästan otänkbar makt överlämnad, och det är djupt oklart om våra sociala, politiska och teknologiska system besitter den mognad som krävs för att hantera den.”

I samma text varnade han för att stora språkmodeller närmar sig kunskap som kan användas till att skapa biologiska vapen, en oro som TechRadar uppmärksammade när citatet började cirkulera i sociala medier under juni.

Direkt relevans för Sverige

För svenska företag, myndigheter och utvecklare har debatten en konkret tidshorisont. Den 2 augusti 2026 träder huvuddelen av EU:s AI-förordning i full kraft, enligt EU-kommissionen. Då börjar reglerna för högrisksystem i bilaga III gälla, transparensreglerna i artikel 50 träder i kraft och kommissionen får befogenhet att begära ut information, kräva riskreducerande åtgärder och utfärda böter på upp till 3 procent av global årsomsättning.

EU har därmed redan valt en modell som ligger nära den Amodei nu efterlyser i USA. Reglerna för generella AI-modeller blev tillämpliga redan den 2 augusti 2025, och från den 2 augusti i år får tillsynsmyndigheterna verktyg att tvinga fram både utvärderingar och tillbakadraganden av modeller som anses utgöra en systemrisk.

Att en av branschens tongivande vd:ar nu offentligt ber om bindande regler ligger i linje med EU:s riktning, men signalerar samtidigt en intern oro i AI-industrin om att den nuvarande hastigheten överstiger samhällets förmåga att hänga med.