Emil Martesen
Från söndagen den 2 augusti måste alla AI-tjänster i EU tala om när du pratar med en maskin.
Reglerna följer av artikel 50 i EU:s AI-förordning och trädde i kraft dagen före denna artikel publicerades. Kravet gäller allt från bankers kundtjänst-bottar och kommunernas digitala assistenter till chattfunktioner på svenska e-handelsplatser. Företag som struntar i den nya skyldigheten riskerar böter på upp till 15 miljoner euro (cirka 165 miljoner kronor) eller tre procent av den globala årsomsättningen.
Enligt Europeiska kommissionen ska användare ”tydligt informeras när de inte interagerar med en verklig person, utan med ett AI-system, till exempel en chatbot, AI-agent eller avatar”. Upplysningen får inte gömmas i användarvillkoren, utan ska ges senast vid själva den första interaktionen och på ett sätt som är möjligt att uppfatta i samtalet.
Deepfakes och AI-bilder ska bära ett osynligt märke
Vid sidan av chatbot-kravet innebär den nya artikeln att bilder, ljud och videor som ser äkta ut men är AI-genererade måste märkas. Enligt artikel 50-guiden från AI Act-portalen ska leverantörer av generativa AI-modeller se till att utdata märks i ett ”maskinläsbart format” och är ”möjliga att upptäcka som artificiellt genererade”. Kravet gäller text, ljud, stillbild och rörlig bild.
En så kallad deepfake, alltså syntetiskt innehåll som liknar verkliga personer eller händelser och som skulle framstå som ”falskeligen autentiskt”, måste dessutom öppet redovisas av den som sprider materialet. AI-genererad text som publiceras för att informera allmänheten om samhällsfrågor omfattas av samma upplysningskrav, om det inte finns en identifierbar redaktion som har granskat innehållet.
Bakom det tekniska kravet ligger ett arbete med att ta fram en frivillig praxiskod för märkning och vattenstämpling, som Europeiska AI-byrån driver. En första praktisk tillämpning av det arbetet slöt Google under den senaste veckan, då bolaget skrev under EU-koden om automatisk märkning av AI-bilder och deepfakes.
Undantag, sanktioner och vad du kan göra som konsument
Reglerna har inbyggda undantag. Är det uppenbart för en rimligt informerad användare att motparten är en maskin behövs ingen extra upplysning. Assisterande funktioner som stavnings- och grammatikkontroll faller också utanför märkningskravet. Rättsvårdande myndigheter som använder AI för att förebygga eller utreda brott har vissa lättnader, dock inte när det handlar om publika verktyg för brottsanmälan.
Övervakningen sköts av nationella tillsynsmyndigheter, den nyinrättade Europeiska AI-byrån och EU:s datatillsynsman. Utöver taket på 15 miljoner euro eller tre procent av omsättningen kan EU:s egna institutioner bötfällas med upp till 750 000 euro (cirka 8,2 miljoner kronor), medan små och medelstora företag får proportionellt sänkta belopp.
För AI-system som redan fanns på EU-marknaden före den 2 augusti finns en övergångsperiod till den 2 december 2026 innan märkningskravet i artikel 50.2 slår igenom fullt ut. Nya tjänster som lanseras efter den 2 augusti måste däremot följa reglerna direkt, utan övergång.
Konkret innebär det att du från och med nu har laglig rätt att få veta när en text-chatt, en telefonröst eller en avatar drivs av AI. Misstänker du att en tjänst inte lever upp till kravet kan du anmäla det till den nationella tillsynsmyndighet som utses för AI-förordningen. Nästa milstolpe i EU:s regelverk är sanktionsreglerna för de mest högrisk-klassade AI-systemen, som väntar med full ikraftträdande senare under lagens infasning.
