Mimmo Wiestål Fischetti
Att använda AI behöver inte alltid betyda att dina frågor skickas till stora serverhallar långt bort.
Med rätt app kan en modern iPhone köra en AI-chatt lokalt, direkt i mobilen.
Det gör tekniken både mer privat och billigare för den som vill slippa dyra abonnemang hos tjänster som ChatGPT, Gemini och Claude.
Kan spara pengar
Den stora fördelen är kostnaden.
En lokal AI-modell på iPhone kräver i många fall bara en gratisapp eller ett engångsköp på omkring fem dollar.
Det kan jämföras med flera stora AI-tjänster där premiumabonnemang ofta kostar varje månad.
För den som använder AI ofta kan gränserna i gratisversionerna snabbt bli märkbara.
Med en lokal chatbot finns inga dagliga användningstak på samma sätt. När modellen väl finns i telefonen kan den användas om och om igen.
En annan viktig skillnad är integriteten.
Eftersom svaren skapas lokalt behöver frågorna inte skickas till externa servrar på samma sätt som hos molnbaserade tjänster.
Passar inte allt
Men lokal AI har också tydliga begränsningar.
Modellerna är ofta mindre kraftfulla än de som körs i molnet och de saknar normalt färsk information från webben.
Alla språkmodeller har dessutom ett kunskapsstopp.
Det betyder att de inte känner till händelser efter den tidpunkt då de tränades.
Molnbaserade tjänster kan ofta komplettera sina svar med webbsökningar. En lokal modell behöver däremot extra lösningar för att göra samma sak.
För iPhone-användare som vill testa lokal AI nämner Engadget två appar: Locally AI och Private LLM.
Den första är gratis att ladda ner, medan den andra kostar en mindre engångssumma.
För vardagliga frågor, enklare skrivhjälp och privat experimenterande kan lokal AI därför vara ett lockande alternativ.
Den ersätter inte alltid ChatGPT eller Gemini, men den visar att framtidens AI inte bara behöver bo i molnet. Den kan också ligga direkt i fickan.
