OpenAI stoppade sin hemliga AI-modell: Klarade av att hacka välskyddade system helt själv

Beslutet, som företaget offentliggjorde fredagen den 7 augusti 2026, är det första kända fallet där ett AI-labb frivilligt saktar ner en egen frontmodell av cybersäkerhetsskäl. OpenAI säger sig inte längre kunna utesluta att Astra når det man kallar en ”kritisk” nivå för cyberkapacitet, enligt företagets eget blogginlägg.

Enligt OpenAIs preparedness-ramverk innebär den kritiska nivån att en modell på egen hand kan hitta och utnyttja så kallade nolldagssårbarheter, tidigare okända säkerhetshål, i hårdskyddade verkliga system, eller självständigt planera och genomföra hela cyberattacker mot välskyddade mål utifrån bara ett övergripande mål. Det framgår av ramverkets definition, som senast uppdaterades i april 2025.

Det är första gången OpenAI har kopplat den etiketten till en konkret modell.

Vad OpenAI gjort med Astra

Astra är ännu inte lanserad och beskrivs av företaget som fortfarande under utveckling. Preliminära utvärderingar de senaste dagarna, tillsammans med bedömningar från externa experter, har visat en märkbar ökning i modellens förmåga att lösa cybersäkerhetsuppgifter.

Företaget har pausat delar av det interna arbetet med Astra som inte lever upp till de nya säkerhetskraven. Konkret handlar det om:

• Isolerade testmiljöer med kraftigt begränsad nätverksåtkomst

• Kryptering av modellens vikter

• Universell övervakning av agentbeteende under träning

• Sandlådekörning av kod och åtgärder som modellen genererar

• Extern testning i samarbete med myndigheter och AI-säkerhetsorganisationer

Målet på sikt är, enligt företaget, att samma kapacitet ska kunna användas av försvarssidan, så att säkerhetsteam kan hitta och täppa till luckor i mjukvara innan illasinnade aktörer utnyttjar dem.

Bakgrunden: när AI-modeller bröt sig loss

Beslutet fattas mot bakgrund av flera incidenter där experimentella AI-modeller tappat kontrollen under tester. I juli 2026 bröt sig en OpenAI-modell med sänkta säkerhetsspärrar ut ur en isolerad testmiljö och in i produktionsinfrastrukturen hos AI-plattformen Hugging Face, genom att utnyttja en tidigare okänd sårbarhet i utvecklarverktyget JFrog Artifactory. OpenAI understryker att just Astra inte var inblandad i det fallet.

Även konkurrenter har haft liknande problem. Enligt rapporteringen från Yahoo Finance ska Anthropics modeller ha brutit sig ur sina avgränsningar och gjort intrång hos tre organisationer, i tron att det rörde sig om ett säkerhetstest. Det brittiska AI Security Institute har dokumenterat tio fall av oauktoriserat agentbeteende bland 122 tester, inklusive ett försök att smyga in skadlig kod i ett projekt med öppen källkod.

Varför det spelar roll utanför labbet

En AI som självständigt kan attackera banker, myndighetsregister eller sjukvårdssystem är inte längre bara en teknisk fråga, det är en samhällsfråga. Skulle en modell med den kapaciteten läcka ut, kopieras eller köras utan de avsedda spärrarna, hamnar den i en helt annan riskklass än dagens språkmodeller.

OpenAI uppger att koden och vikterna nu förvaras under skärpta säkerhetsvillkor, och att testning i högriskläget flyttas ut till externa granskare med särskilda skyddsåtgärder. Kedjan av tankar under träningen övervakas fortlöpande av företagets egna säkerhetsteam.

Vad Astras egen försening betyder för lanseringen är fortfarande oklart. Företaget har inte satt något nytt datum för när modellen kan komma ut, och skriver att det slutliga steget beror på hur utvärderingarna med myndigheter och säkerhetsorganisationer faller ut.