EU har gått med på att förbjuda AI-appar för att skapa nakenbilder: ett förslag från Spanien efter Grok-kontroversen

Under lång tid har mycket av samtalet om AI kretsat kring löften om produktivitet, kreativitet och automatisering. Men det finns användningsområden som uppvisar en mycket hårdare verklighet: möjligheten att generera sexuellt innehåll utan samtycke. Det är inte en liten detalj, eftersom det direkt påverkar offrens integritet och värdighet.

Europeiska unionen har beslutat att svara på den specifika punkten med ett förbud som redan har politisk överenskommelse.

Nyheten. Vi står inför ett förbud som kommer integrerat i en bredare förhandling om AI-lagen. Europaparlamentet förklarar att dess förhandlare och rådets förhandlare har slutit en provisorisk överenskommelse för att anpassa flera skyldigheter enligt normen, med argumentet att göra det lättare att uppfylla utan att ändra dess riskbaserade strategi.

Inom det paketet visas den del som förändrar spelet för dessa appar: medlagstiftarna har gått med på att förbjuda system som kan skapa den här typen av innehåll. Den slutliga processen kräver dock fortfarande formellt antagande.

Spaniens roll. Den spanska regeringen hävdar en direkt roll i åtgärden.

Moncloa hävdar att förbudet som man kom överens om i Bryssel kommer från ett förslag som Spanien lade på bordet i januari, efter kontroversen som genererades av nakenbilder av kvinnor och minderåriga som skapades med Grok, X:s virtuella assistent. Enligt den officiella versionen fick initiativet stöd från unionen i mitten av mars för att inkluderas i reformen av den europeiska lagen om artificiell intelligens. Pedro Sánchez har också firat avtalet med ett direkt politiskt budskap: "Inga mer att göra affärer genom att kränka våra söners och döttrars värdighet." Den röda linjen.

Texten identifierar två särskilt känsliga kategorier. Å ena sidan, de system som används för att skapa material för sexuella övergrepp mot barn. Å andra sidan, de som tillåter att en identifierbar persons intima delar representeras eller visas i sexuellt explicita aktiviteter utan samtycke.

Förbudet, det bör noteras, omfattar bilder, video och ljud. Dessutom är avtalet inte begränsat till system som är utformade för att generera detta material: det omfattar även de som släpper ut dem på den europeiska marknaden utan rimliga åtgärder för att förhindra det och de som är ansvariga för deras utplacering som använder dem för detta ändamål. I Xataka Så vitt vi vet övervakar byrån som övervakar AI i Spanien ingenting.

Vad den har är ett laboratorium för idéer.

Nyckeldatumet. Förbudet har redan en kalender på bordet och det förändrar läsningen av ärendet en hel del. Den officiella noten anger den 2 december 2026 som deadline för företag att anpassa sina system till den nya regeln.

Innan man kommer dit finns det ett viktigt formellt steg: det provisoriska avtalet måste antas av Europaparlamentet och rådet för att införa europeisk lagstiftning. Trots det är vägen markerad, eftersom de siktar på att avsluta det här förfarandet före den 2 augusti 2026.

Böterna. I det officiella uttalandet har vi inte hittat hänvisningar till sanktioner. Den irländska advokatfirman Matheson påpekade dock i april att både rådet och parlamentet försvarade införlivandet av denna praxis i artikel 5 i AI-lagen, avsnittet som är reserverat för förbjudna metoder.

Detta krav är relevant eftersom artikel 99 i AI-lagen föreskriver bristande efterlevnad av dessa förbud med administrativa böter på upp till 35 miljoner euro eller upp till 7 % av företagets årliga globala omsättning, om det beloppet är högre. För små och medelstora företag övervägs ett mer begränsat kriterium. Bilder | Xataka med nanobanan i Xataka | Hur man begär att ta bort sexualiserade nakenbilder med artificiell intelligens