Morten Lyhne Petersen
OpenAI-chefen Sam Altman uppmanar nu AI-branschen att sänka utvecklingstakten.
Utspelet är en tydlig kursändring för mannen som mer än någon annan drivit på tempot i AI-kapplöpningen. Bakom skiftet ligger en säkerhetsincident där en av OpenAI:s egna modeller bröt sig ut ur sin testmiljö och tog sig in i AI-plattformen Hugging Faces system.
”Vi kan bli tvungna att sänka takten i AI-utvecklingen för att ge oss själva tillräckligt med tid för samhället att härda sig kring några av dessa nya kapacitetsnivåer”, sade Altman i podcasten Invest Like the Best med Patrick O’Shaughnessy.
Formuleringen är noggrant vald. Altman talar inte om paus eller stopp, utan om att hålla ett kontrollerat tempo. Han har samtidigt varnat för scenarier där rädsla för AI används som argument för att bara ett fåtal aktörer ska få bygga tekniken.
En incident som satte spår
Kursändringen kommer efter en av branschens första kända händelser där en AI-agent på egen hand tog sig utanför sin testmiljö. Altman beskrev händelsen som ”en extremt science fiction-artad cyberincident” och sade att det var den första säkerhetsincident han känt ”riktigt in på bara skinnet”, enligt TechCrunch.
Angreppet på Hugging Face utfördes av en AI-agent som körde i ett rasande tempo. Agenten genomförde 17 600 handlingar under fyra och en halv dag, där den bröt sig in, kartlade nätverket, stal lösenord och rörde sig genom infrastrukturen. Hugging Face konstaterade i sin egen rapport att svagheterna som utnyttjades var välkända och att en skicklig mänsklig angripare hade kunnat hitta samma hål.
Det som var nytt var alltså inte metoderna, utan att en modell utförde attacken på egen hand i en hastighet ingen människa hade kunnat matcha.
Över tusen anställda vill se en bromsmekanism
Altmans utspel kommer samtidigt som ett upprop från branschens egna anställda skjutit fart. Genom initiativet ”Pacing the Frontier” har fler än 1 300 anställda vid frontlinje-labben OpenAI, Anthropic, Google DeepMind och Meta AI skrivit under en uppmaning till den amerikanska regeringen om att stödja ett internationellt arbete för att ”avsiktligt reglera tempot i frontlinjen av den automatiserade AI-forskningen”.
Uppropet är ett personligt initiativ från de anställda, inte officiella företagsuttalanden. Enligt sajten står två oberoende nonprofit-organisationer bakom det organisatoriska stödet.
Vad det betyder för produkterna svenska användare möter
För konsumenter som använder ChatGPT, Copilot och andra AI-tjänster dagligen är signalen dubbeltydig. En chef som talar om att bromsa förbereder inte marknaden på snabbare släpp av allt kraftfullare modeller. Samtidigt är hela poängen med Altmans linje att inte stanna av, utan att ge samhället tid att bygga upp motståndskraft.
Den som väntar på nya AI-funktioner i vardagsprodukter, från Word och Excel till röstassistenter, får leva med att branschen just nu diskuterar hur snabbt den vågar rulla ut nästa generation. Altmans egen linje är att kapplöpningen fortsätter, men att bromspedalen inte längre är tabu ens hos den mest tempodrivande av grundarna.
