ChatGPT Atlas kan manipuleras med ett klick: “Allvarligt hot”

Forskare har avslöjat en allvarlig säkerhetslucka i OpenAI:s nya webbläsare ChatGPT Atlas. Sårbarheten gör det möjligt för hackare att lura AI:n genom manipulerade webbadresser – och i värsta fall kapa hela systemet.

AI-läsaren som inte kan skilja på vän och fiende

ChatGPT Atlas, som nyligen lanserats för macOS, kombinerar webbsök och AI-kommandon i samma fält – den så kallade omniboxen. Men det är just här problemet ligger: webbläsaren saknar tydliga gränser mellan vad som är en webbadress och vad som är ett AI-kommando.

Dold attack i en vanlig URL

En ny rapport från forskningsbolaget NeuralTrust visar hur en skadlig länk kan lura Atlas att köra farliga instruktioner. Genom att gömma AI-kommandon i en URL som börjar med “https:” kan angripare få webbläsaren att tolka texten som en legitim order från användaren, skriver TechSpot.

Läs också: Nvidia passerade 4 000 miljarder dollar

När webbläsaren blir ett verktyg för attack

Om användaren klistrar in en sådan länk i omniboxen kan Atlas öppna falska sidor som ser ut som Google – eller till och med få AI:n att radera filer i Google Drive. Eftersom omniboxen behandlar allt som “förtroendeingivna kommandon” kan angriparen kringgå flera säkerhetsspärrar.

En växande risk i AI-browsers

NeuralTrust varnar för att problemet inte är unikt för Atlas. Många nya “agentiska” webbläsare byggda på Chromium lider av samma brist: de litar för mycket på användarinmatning. Det gör dem till lätta mål för så kallade prompt injection-attacker – där AI:n manipuleras till att utföra handlingar den inte borde.

Forskarnas råd: Skärp reglerna

Enligt rapporten måste utvecklarna införa striktare regler för hur webbläsaren tolkar URL:er och kommandon. Framför allt bör användaren tydligt få välja om omniboxen ska användas för att surfa – eller för att prata med AI-assistenten.

Nästa steg: Stresstesta fler AI-läsare

NeuralTrust testar nu fler AI-browsers för att se om samma svaghet finns där. Om resultaten pekar åt samma håll kan det innebära att hela den nya generationen av AI-drivna webbläsare står inför ett rejält säkerhetsbakslag.

Läs också: Apple vill köpa F1-rättigheterna

Läs också: Samsung fortsätter med galna priser