Fejkade nakenbilder Mer porr på svenska på skolelever sprids i chattgrupper med hundratusentals medlemmar. Fenomenet tillsammans “deepfakes” äger lett till långtgående protester i Sydkorea. I Sverige rapporteras hittills enbart enstaka vurpa – än så länge.
En serie digitala sexualbrott skakar Sydkorea. Med hjälp av AI har tusentals kvinns fått bilder från tryta sociala medier manipulerade och förvandlade mot porr. Bilderna inneha efteråt spridits på chattplattformar som Telegram.
Materialet inneha delats i stängda grupper, vissa med över hundratusen medlemmar. En kraftig bit av de falska porrbilderna föreställer minderåriga flickor. Några av chattgrupperna har riktat in sig på tjejer från specifika högstadie- samt gymnasieskolor. I många fall inneha det visat sig att förövarna själva är minderåriga – då och då klasskamrater mot offren.
Vågen av så kallade deepfakes har lett mot protester omkring om i landsbygd tillsammans villkor på kraftfullare insatser för att spärra spridningen och försvara offren, samt saken där sydkoreanska regeringen inneha lovat strängare straff för de som ligger bortom.
ENSTAKA Nedgång I SVERIGE
I Sverige tycks problemen tillsammans olovligt AI-genererat övergreppsmaterial på avkomma icke finnas till oförändrad utbrett. Det säger Louise Thudén, undersökare på barnrättsorganisationen Ecpat, såsom arbetar för att avsluta och förebygga sexuella övergrepp till kidsen. Hon har emellertid stött på enskilda stänk i sitt arbetsplats.
– Några telning äger kontaktat oss för att få hjälp att noppa ned förfalskade bilder såsom spridits från nätet, och vi känner till att det påverkar barnen jättemycket. Unge som utsätts för fördelning av sexuellt exploaterande stoff mår kopiöst dåligt, oavsett om det är verkliga bilder alternativt icke.
Louise Thudén påpekar också att det kan finnas ett mörkertal.
– Vi vet att människobarn inte vill polisanmäla för att ingen ska få vara medveten om att bilderna finns.
Ännu äger ingen försökt kartlägga förekomsten av AI-genererad porr i Sverige. Skada undersökningar i USA indikerar att fenomenet blir allting vanligare bland unga. I enlighet med saken där ideella organisationen Thorn känner 11 andel barn i åldern 9-17 år mot rättssak där en vän eller känd använt AI för att bilda nakenbilder . En motsvarighet rapport från Center for Democracy & Technology kom fram till att 15 andel av gymnasieelever hört talas om en “deepfake” som föreställt någon kopplad till deras skola i en .
I Spanien dömdes nyss 15 minderåriga skolungdomar för att ha skapat samt spridit AI-manipulerade bilder av avta klasskamrater.
Med fundering på saken där internationella utvecklingen antaga Louise Thudén att problemet kan bli större även i Sverige i framtiden.
– Det är ett fenomen såsom vi tittar internationellt, så det är säkert en tidsfråga innan det sker mer utbrett i Sverige. Det AI-genererade materialet såsom vi får in kan bestå väldigt verklighetstroget, samt det blir alltmer realistiskt.
SVÅRT ATT återfinna FÖRÖVARNA
Samtidigt kan det finnas svårt att finna förövarna, ity materialet symtomatiskt sett sprids på chattplattformar där meddelanden är skyddade med kryptering.
För att adressera problemet lade EU-kommissionen 2022 fram ett lagförslag som Sverige i förra veckan ställde sig bakanför. Förslaget innebär att leverantörer av nättjänster blir skyldiga att kartlägga risken för att deras tjänster används i förbindelse tillsammans sexuella övergrepp mot människobarn också utföra åtgärder för att minimera riskerna. Tanken är att barnpornografiskt innehåll på chattjänster automatiskt ämna identifieras samt skickas mot polisen. Förslaget, som blivit känt under namnet “chat control”, är dock omstritt. I enlighet med kritiker inskränker det rätten mot enskilt kommunikation samt främjar massövervakning av medborgare.
Ängla Pändel är jurist och ordförande för Institutet för juridik och nätet. Hon antagande att balansgången emellan individuell integritet samt förebyggande av sexualbrott kan utgöra en futuristisk juridisk sporre när det kommer till att knega med den här typen av bryderi.
– Det sker en snabbgående rättslig utveckling, ändock området är komplext. Samtidigt såsom det är svårt att sköta spridningen av brottsligt innehåll i exempelvis krypterade chattar så måste införandet av nya regleringar balanseras kontra vikten av att värna yttrandefriheten samt rätten till privatliv, säger hon.