För ett halvår sedan såg piloten Hana Khan en bild på sig själv i en app där hon tillsammans med andra muslimska kvinnor exponerades i en virtuell auktion. Appen Sulli deals, som var namngiven efter en nedvärderande term för muslimska kvinnor, togs snabbt ner, ingen åtalades och saken glömdes bort.

Detta tills en ny app, Bulli bai, även den uppkallad efter en kränkande term för muslimska kvinnor, dök på på nyårsdagen, rapporterar Al Jazeera. I den återfanns kända kvinnor som är aktivister, journalister, en skådespelerska, politiker och nobelprisvinnaren Malala Yousafzai föreställande hembiträden.

Appen fick stor uppmärksamhet, orsakade ilska och stängdes ner. Tre personer har gripits misstänkta för att ligga bakom appen.

Misstänkt konspiration

Innan de två apparna stängdes ner hann de spridas snabbt på sociala medier. Händelserna är bra exempel på hur teknik kan användas för att enkelt, snabbt och utan stora kostnader utsätta kvinnor för risker och övergrepp på nätet genom stöld av personuppgifter, integritetsbrott eller sexuellt utnyttjande.

I Indien är muslimska kvinnor särskilt utsatta.

– När jag såg en bild av mig i appen skakade världen omkring mig. Jag var upprörd och arg över att någon kunde göra så mot mig och jag blev argare när jag insåg att den namnlösa person som låg bakom det kom undan, sade Khan till Thomson Reuters foundation.

Hon själv gjorde en polisanmälan angående den första appen Sulli deals.

Efter att polisen i Mumbai gripit en misstänkt 20-årig man för att ligga bakom appen Bulli bai sade de att de undersöker om det handlar om en ”större konspiration”. De utsatta kvinnorna tillhör den hårt utsatta muslimska minoriteten i landet.

Github, plattformen där de båda apparna låg, har meddelat att de stängde av kontot i samband med en utredning som gjordes efter att ett antal anmälningar kommit in om kränkande och diskriminerande innehåll på appen.

Svårt att få upprättelse

I takt med att teknologin går framåt ökar också kvinnors risk för att utsättas för troll, förföljelse, avslöjanden och mixtranden med deras personuppgifter på nätet. Det handlar om övervakningskameror, platsspårning eller ”deep fake” pornografiska videor med manipulerade bilder.

– Den känslomässiga och psykologiska effekten av den här typen av övergrepp är ”lika olidliga” som fysiska övergrepp, men effekterna förvärras av att det är ”viralt”, helt offentligt och av innehållets varaktighet på nätet, säger Noelle Martin, en australisk aktivist till Al Jazeera.

Hon upptäckte själv när hon var 17 år att en bild av henne hade manipulerats om till en pornografisk bild och spridits på sociala medier. Hennes kamp för upprättelse och mot den här typen av övergrepp ledde till en lagändring i Australien.

Enligt Martin finns det en bild av att övergrepp på nätet inte är lika allvarliga som övergrepp och brott en utsätts för i verkliga livet, vilket hon menar försvårar för de utsatta att bli tagna på allvar och utkräva rättvisa.

FAKTA/Deep fake

Deep fake handlar om att framställa falska videofilmer med hjälp av AI. Ofta behövs inte mer än ett fåtal fotografier för att dataprogram ska kunna skapa falska filmer med en kändis eller annan person. Ett något bredare begrepp är syntetisk media, eller synthetic media på engelska. Det står för media (ljud, bild, video) som framställts med hjälp av AI. 



Läs även:

2021-12-25 | Artificiell intelligens kan inte lösa jämställdheten