De finns överallt. I mobilerna och datorerna, i korridoren eller under mötet. De ersätter professorer och skriver manus. Bollar idér och programmerar hemsidor. De ger recept och skriver gymnasiala- och universitets arbeten. Men är även stora producenter av barnpornografi som pedofiler dagligen kan grooma Sveriges barn på. Men är svaret på problemet verkligen att begränsa friheten för oss alla i att chatta fritt med AI?
Vad innebär Chat Control?
Chat Control lanserades första gången i folkmun av Ylva Johansson, aktiv EU-kommissionär, maj 2022. Det sågs som en nödvändig åtgärd inom chatt baserade AI-tjänster. ChatControl är en digital vaktmästare som noggrant övervakar dina konversationer. En av dess mest alarmerande uppgift är att förebygga och bekämpa den dataanimerade barnpornografin som börjat renderas strax innan kontrollen infördes. Chat Control har blivit både hyllad och sågad som idé. EU har idag skjutit på införandet efter synpunkter på att Chat Control ska bryta mot de mänskliga rättigheterna.
För en AI som genererar bilder räcker det med en bild på en person som går i skolkorridoren för att skapa den bilden som efterfrågas av personen bakom skärmen. AI:n har tränat på hur olika saker ser ut genom att ha tittat på miljarder bild på olika saker, bland annat barn. Under AI-verktygens och forumens policy framgår det att man inte får publicera, sprida eller skapa pornografiskt eller våldsamt material innehållande barn. Trots detta har vi sett den negativa trenden av barnpornografi drastiskt öka inom EU, något även Europol kan bekräfta till SVT. I Sverige är barnpornografi lagarna rigida och att inneha pornografiskt material innehållande barn räknas som en olaglig handling. Under 2023 har redan flera i Sverige gripits just på grund av lättsamheten att skapa material och ännu flera forum upptäckts där användare delar sig av bilder och koder. En större andel av bilderna har ansiktet av ett riktigt barn. Antingen som förövaren ofta smygfotat, för att senare rendera i sexuella akter eller våldsamma positioner. Eller bilder det fått tag i via en selfie. Vi vet, tack vare en studie Ecpat genomförde maj 2020, att var femte elev i årskurs nio har skickat en nakenbild till en annan person. Tänk då hur lätt det är att komma över en selfie. Barnet i fråga kan kontaktas av förövaren och därefter groomas på den fiktiva bilden som med dagens teknologi ser otroligt verklighetstrogen ut. Något som blir en ytterligare belastning i polisens arbete. I jakten på utredandet av nu allt fler barnpornografiska bilder kan verkliga utsatta barn sållas bort eller inte prioriteras i tid. Barn som bytts ut mot datoranimerade barn. Men Anna Karin Hildingson Boqvist, generalsekreterare på Ecpat menar att verklighetstrogna bilder kommer leda till ökade sexualbrott mot barnen. Att AI:n används som en idéspruta åt gärningsmännen. Men hur ska vi då bemöta detta fenomen?
Jo, enligt många behövs begränsningar från statens håll. En Chat Control skulle se över konversationer och leta efter pornografiskt material och på så sätt förebygga eventuella brott. Skaparna kan även se potential i att övervaka konversationer och samtal mellan tidigare gripna pedofiler. Problemet blir när även vanliga människors samtal, konversationer och chattmeddelanden ständigt övervakas, i jakt på sexbrott. Du kommer aldrig kunna garantera att informationen du konverserar inte läcker ut. Sekretessbelagda samtal riskerar att bli hörda av fel öron. Ett företag eller en uppfinning som ska patentera kan läckas ut i media. Problemen detta för med sig skulle inte bara innebära en rättsstat i fritt fall och inskränkande utan även ett brott mot de mänskliga rättigheterna. Man anser att det är människorätts förankrande och bryter mot individens rätt till att privat kunna kommunicera. Kritiker jämför kontrollen som ett första steg mot en totalitär diktatur och många menar även att det inte hjälper de utsatta barnen, utan att brottslingar istället börjar kryptera chattar mellan varandra. Vilket då inte alls skulle hjälpa barn i utsatta positioner, tvärtom drivs denna häxjakt endast på ytterligare och barn i verkligt utsatta positioner riskeras att prioriteras bort .
Chat Control har varit uppe på tapeten ett tag nu, frågan är om den är här för att stanna. I nuläget har EU beslutat om att vänta med införandet, mestadels på grund av det upphov förslaget skapat. Frågan kvarstår – kan vi säkra barnens säkerhet på internet och AI forum, utan att tumma på vår egen? Hur många ska behöva utsättas innan vi viker oss för medias kontrollerande makter? Behöver vi stoppa AI? Men framförallt: kan vi en dag hitta svar på våra många frågor? Den som lever får se. Tills dess, se upp för att skicka selfies, du kan bli nästa Puma Swede.
Av Vera Vitek
Spännande!