AI gör det allt svårare att veta vad som är verkligt och vad som inte är det. Och sexuella rovdjur för barn noterar

Eran av artificiell intelligens får allt att hända väldigt snabbt, väldigt snabbt. Företag som Mercadona, Google eller Anthropic påpekar redan att den stora majoriteten av deras kod är skriven av en AI, Mozilla ger blommor till Mythos och Jensen Huang är entusiastisk över fördelarna med AI och allt det tillåter oss att skapa. Bland dessa skapelser finns allt, till exempel en enorm mängd material för sexuella övergrepp mot barn.

Forskare ber om hjälp och jag kan berätta att det finns saker som inte är lätta att tillgodogöra sig.

Kort sagt. I onsdags publicerade Bloomberg en rapport som sammanfattar sex månaders utredning där de har fokuserat på den snabba spridningen av material för sexuella övergrepp mot barn som genererats av artificiell intelligens. Det är inget som är förvånande om vi tar hänsyn till den enorma mängd falsk information som vi redan har att hantera varje dag, både i form av text och i allt mer realistiska bilder och även i video, men det finns en viktig nyans.

Även om det i fallet med falska nyheter är pressen och människorna som måste hantera det med sunt förnuft för att inte svälja bluffen, slösa tid i processen, när det gäller detta innehåll som genereras av AI är det polisen och utredarna som måste slösa bort sin tid för att utesluta att det är sann information. Och medan de gör det slutar de att utreda fall av sexuella övergrepp mot barn, andra typer av övergrepp eller försvinnanden som är verkliga. I Xataka spelar Ray-Ban Meta in när du tar av dem.

Och entreprenörer i Kenya ser sina användare nakna utan att de känner till siffrorna.

De är läskiga såklart. Rapporten påpekar att National Center for Missing and Exploited Children fick mer än 1,5 miljoner anmälningar under 2025 som hade en generell generativ intelligenskomponent. Bland dem, mer än 7 000 rapporter om användare som genererar eller innehar material för sexuella övergrepp mot barn som genererats med AI och mer än 30 000 fall av personer som genererar denna typ av innehåll.

Det är dumt. Å andra sidan utvärderade IWF (Internet Watch Foundation) mer än 8 000 AI-genererade bilder och videor som mycket realistiskt representerade sexuella övergrepp mot barn. Det fanns 3 443 videor jämfört med de 13 registrerade 2024.

Totalt en ökning med 26 385 %. Tillväxten är viktig och IWF själv påpekade i rapporten att 65 % av detta videoinnehåll som genereras av AI visar händelser som klassificeras som 'Kategori A', de allvarligaste inom denna typ av material.

Fall. Tro inte att det här är fall av den mörka webben, eftersom AI-chatbotar har upptäckts på den öppna webben som är värd för dessa bilder och uppmuntrar dem att skapas.

Vilken typ av innehåll pratar vi om? Här kommer den känsliga delen. Bloomberg pekar ut några exempel som är en del av de tusentals mer komplexa ärenden som just nu behandlas av myndigheterna och där det finns... allt.

En man som använde ansikten på barn i sitt grannskap för att skapa innehåll med att de hade sexuella relationer med sina mödrar eller mormödrar, en annan som producerade sadistiska bilder av små barn och bebisar, en annan man som anklagades för att ha ändrat bilden av en prepubertär flicka för att förstora hennes bröst och publicerat bilderna på Onlyfans, en präst som tillbringade åratal med att samla in material för att sedan skapa ännu mer sexuella bilder av barn och sedan skapade ännu mer sexuella bilder av sina barn.

AI. I Xataka Användningen av artificiell intelligens för att skapa porr växer. Och det finns de som ser en (kontroversiell) verksamhet där bilder på barn kommer ifrån.

Facebook och Instagram.

Det är det enkla svaret. Enligt Joe O'Barr, en av forskarna som lånat en röst till Bloomberg-utredningen, "stjäl människor bilder från Facebook och Instagram, saker som föräldrar fritt lägger upp, och lägger upp dem på plattformar för artificiell intelligens." Ett mönster som har upptäckts är att många skapar bilder som involverar barn som de känner i den verkliga världen och på så sätt förverkligar sina fantasier. Till exempel ett fall av en man som tog foton av sin partners sexåriga dotter, manipulerade dem med AI och sedan lade upp dem bredvid sina egna nakenbilder på Onlyfans. – Det faktum att gärningsmannen kände offret fick mitt hår att resa sig.

Det betydde att flickan kunde vara i verklig och överhängande fara." Joe O'Barr Vad plattformarna gör. Samma plattformar som bilderna är värda på sitter inte i aktion. Forskare litar på att samma företag kommer att slå larm när de hittar något, men det finns ett problem: Google, xAI, Meta eller OnlyFans delegerar uppgiften med övervakningsuppdrag till AI som inte kan ha rapporterat övervakningsfall som inte har rapporterat AI. och det är därför de antingen anställer länder som Kenya, eller delegerar direkt till AI:n.

Problemet är antalet falska positiva resultat som AI:n hittar och som slutar överbelasta utredarnas 'brevlåda'. En forskare från North Carolina påpekar att han har sett en 11-faldig ökning av de "ledtrådar" som hans kontor får, och förra året skulle han säga att det var 0,00 poäng nöjer sig inte med att undersöka", men eftersom AI:n inte vet detta, skickar den allt: från saker. allvarligt att undersöka även enkla förolämpningar.

, "7bearduration"} och "add. buller" till nätverket av utredare. Som vi sagt tidigare är det en enorm mängd material som hindrar utredarna från att göra sitt arbete i verkliga fall av barn som utsätts för övergrepp eller som saknas. "Vi gör det här massiva arbetet med samma mängd resurser som vi hade för tio år sedan.

Vi orkar inte längre och vi vill inte missa ett riktigt barn som utsätts för sexuella övergrepp", kommenterar en agent till Bloomberg. På Engadget har Alibaba ny Open Source AI för att generera videor. Problemet är att den används för att generera pornografiska djupförfalskningar.

Lagstiftare, ta dig i kragen. Arbetet från dessa forskare beror på att staten arbetar med cirka 10 miljoner dollar och finansierar cirka 10 miljoner dollar. grupper. De påpekar att det är ett mycket litet antal och, för kontextualisera, är vad FBI spenderar på en dag.

De rapporterar att, trots lavinen av rapporter om sexuellt övergrepp mot barn, har finansieringen förblivit oförändrad, som att lagstiftningstakten släpar efter teknologin eller att brottslingar håller på att bli den falska informationen. För om ett barn rovdjur kunde nå två eller tre barn, kunde det med AI nå 40 eller 50 barn "Det är i princip som att fiska med dynamit", säger en pensionerad forskare som tillbringade 30 år i en brigad som kämpar för barns säkerhet, men i slutändan representerar det den andra sidan av en demokrat som vi inte har tagit. för det värre klassificerat som "en förlorad sak". ('script');