Följ oss här

Google

Googles nya AI-funktion kan kapa kostnaderna rejält – utan att du behöver lyfta ett finger

Automatisk ”implicit caching” ska göra Gemini-modellerna billigare att använda för utvecklare.

Publicerad

d.

Google
Tada Images / Shutterstock

Google har introducerat en ny funktion i sitt Gemini API som kan bli ett lyft för utvecklare världen över. Den kallas implicit caching och ska enligt Google minska kostnaderna med upp till 75 procent – helt automatiskt – för de som använder företagets senaste AI-modeller.

LÄS OCKSÅ: Världens största biltillverkare: Det här blir slutet för elbilar

Så fungerar det nya cache-systemet

AI-caching är inget nytt. Tekniken används för att återanvända ofta förekommande eller förberäknad data, så att modellerna slipper upprepa samma tunga beräkningar. Det gör allt både snabbare och billigare. Det nya med Googles lösning är att cache-hanteringen sker i bakgrunden – utan att utvecklarna behöver definiera något manuellt.

Det innebär att när du skickar en förfrågan till Gemini 2.5 Pro eller Gemini 2.5 Flash, och den inleds på samma sätt som tidigare förfrågningar, då kan systemet automatiskt känna igen det och spara både tid och pengar.

LÄS OCKSÅ: Ny AI-teknik låter människor prata med döda – Joshuas berättelse väcker starka känslor

Automatisk och påslagen från start

Till skillnad från tidigare versioner av cachning – som krävde manuell konfiguration – är implicit caching aktiverad som standard för Gemini 2.5-modellerna. Det är alltså bara att köra på, och om din förfrågan matchar ett tidigare mönster så får du rabatten direkt.

Google förklarar att det handlar om så kallade cache hits, där det inledande sammanhanget (minst 1 024 tokens för Flash och 2 048 tokens för Pro) återanvänds. Enligt Google motsvarar 1 000 tokens ungefär 750 ord, så det krävs inte särskilt mycket text för att trigga funktionen.

Reaktioner och kritik från utvecklare

Tidigare versioner av Googles cache-lösning har fått kritik, inte minst på grund av att vissa utvecklare upplevde oväntat höga API-kostnader. Det ledde nyligen till så mycket klagomål att Googles Gemini-team bad om ursäkt offentligt och lovade förbättringar, det skriver TechCrunch

Toyota, världens största biltillverkare, har tagit ett stort kliv framåt – en ny typ av motor som kan förändra framtidens transporter i grunden. Tekniken kombinerar förbränningsmotor med eldrift och kan bli så effektiv att elbilens framtid nu ifrågasätts.

LÄS OCKSÅ: Ny AI-teknik låter människor prata med döda – Joshuas berättelse väcker starka känslor

En motor som hotar elbilens dominans

Elbilar har länge hyllats för sina låga utsläpp och billigare drift, men nu kommer en ny spelare in på arenan. Toyotas nya motorteknologi uppges kunna bli både mer hållbar och mer energieffektiv än dagens elbilar. Den stora frågan är: är detta början på slutet för elbilar?

Tekniken bakom den nya motorn

Det handlar om en revolutionerande förbränningsteknik där motorn utnyttjar bränslet upp till 50 % bättre än dagens bensin- och dieselmotorer.
Samtidigt kombineras tekniken med inslag från eldrift – en slags hybridmotor med förmågan att leverera hög prestanda och samtidigt kraftigt minska koldioxidutsläppen.

LÄS OCKSÅ: iOS 19 är på väg: Tre banbrytande nyheter Apple snart avslöjar

Den nya lösningen ska nu automatisera det hela – men det finns fortfarande frågetecken. Google uppmanar till exempel utvecklare att lägga repetitivt sammanhang i början av varje förfrågan för att öka chansen till cache-träffar. Samtidigt har företaget ännu inte visat några oberoende bevis på att kostnadsbesparingarna verkligen infrias i praktiken.

Slutsats: Smidigare – men vänta inte dig mirakel direkt

Implicit caching är ett välkommet steg mot att göra kraftfulla AI-modeller mer tillgängliga. Men som med allt nytt: det är klokt att hålla ögonen öppna och följa hur tekniken tas emot av de första användarna. Tills vidare ser det dock lovande ut – särskilt för utvecklare som ofta arbetar med återkommande uppgifter.

"Håller koll på tekniken, innovationerna och nyheterna som förändrar världen – och delar det viktigaste med dig. Kort, koncist och alltid aktuellt."

Annons