Elon Musks AI är en hämndporrmaskin på öppet torg

På Elon Musks plattform X löper AI-verktyget Grok amok. Enligt Rolling Stone Magazine genererar tjänsten, eller ja, de som promptar tjänsten, en icke-godkänd sexualiserad bild en gång i minuten.

Det har visat sig att Grok är mer än villig att klä av kvinnor. Något som visserligen i sig inte är unikt för Grok, men som under Musks uppmuntrande ledning snarast tagit groteskt omfång och kvantitet.

Ofta börjar det med att en användare ber chatboten att ändra en bild av en kändis med att exempelvis ”ta bort hennes byxor och tröja och ersätt med underkläder och höga klackar”.

En annan användare kan svara på den nya AI-genererade bilden med ”sätt henne i bikini och gör så att hon särar på benen”. En tredje ber Grok om att göra bikinin mindre.

En fjärde att hon ska vända sig med bakdelen mot kameran. Och så vidare.

Tar sig allt grövre uttryck

Enkelheten i processen tanke till realitet och potentiella virala ögonblick har piskat upp en tävlingsinstinkt bland X-användare, där något som startar relativt godartat snabbt tar sig mörkare och våldsammare uttryck.

Och som Isobel Hadley-Kamptz och andra nyligen påpekat, så det är inte bara riktiga kvinnor som blir föremål för åtlöje och förnedring, utan också barn.

Tidens anda av incel-kultur, accelererande kvinnohat och fascism skulle på många sätt kunna svara för den här utvecklingen, men är det är att göra det lite historielöst.

Groks bärsärkagång är också en spegling av Internets progression, en av många.

Om det existerar – görs det porr av det

I början av 00-talet lanserades det anonyma bildforumet 4Chan, en plats där man likt Reddit kunde diskutera olika ämnen och subkulturer, och som snabbt blev känt som Internets meme-central men också ökänt också för sina mer subversiva och kontroversiella aspekter.

Inte långt efter lansering skapade användarna också ett antal regler för hur 4Chan i synnerhet och internet i allmänhet skulle användas, varav den mest kända regeln också är den som troligen speglar internet allra sannast, regel 34: ”Om det existerar, finns det porr av det”.

För att riktigt trycka på betydelsen av regel 34, efterträddes denna också av regel 35: ”Om det inte finns porr av det, så kommer det att göra”.

4Chan färgades på många sätt av satir, absurditet och undersökandet av människans mörkaste hörn. Kanske likt en tonårings korkade tolkning av Marquis de Sade. Här fanns trots mörkare undertoner en vilja att få folk att skratta och våndas på samma gång, i någon märklig mening mer likt ett konstnärligt performance än faktiskt våld.

Internets gigantiska isberg

Men 4Chan var också en plats för hackers, exempelvis föddes nätverket Anonymous här, som visserligen mer än gärna mobbade privatpersoner ”for the lulz”, men likväl kunde gå samman och hjälpa till att fängsla pedofiler, hacka Scientologikyrkan, stötta den Arabiska våren och Occupy Wall Street eller läcka information från Bank of America och Justitiedepartementet.

4Chan lyfte att pornografi alltid har varit internets gigantiska isberg under ytan. Många hävdar fortfarande att skulle man skrapa all pornografi från internet skulle inte mycket finnas kvar.

Skillnaden i depravering och uttryck när det kommer till Grok syns kanske allra tydligast i en annan 4Chan-regel från samma era, regel 30: ”Pics or it didn’t happen” (bilder eller så har det inte hänt).

För 20 år sedan var det AI vi använder idag ett embryo (även om mekanisk intelligens kan spåras tillbaka till antiken). Ville användare på 4Chan att det skulle finnas pornografi av din barndoms favoritkaraktär fick man oftast rita det själv.

Ett av de allra dummaste exemplen av regel 34 från 2010-talet kanske är Microsofts lilla hjälpreda Clippy som någon gjorde höggravid, en anspelning på att även Clippy, ett animerat gem, har sex.

Handlar om sexuellt våld

Vad vi ser nu är att Musk har förvandlat detta förhandlande till en pornografimaskin på öppet torg där tanken om faktiskt pornografisk produktion – där etik och samtycke länge varit en del av branschen – helt försvunnit till vad som kanske inte ens ska kallas pornografi.

I stället handlar det om sexuellt våld.

Och som så ofta när dessa gränser passeras, så handlar det inte längre om sexualitet, utan om makt.

För det är ju just det: Clippy var ett litet animerat gem. Pornografin blev måhända grov och absurd, men också barnslig och lite korkad. Kanske till och med, i en ytterst välvillig läsning av en del av dessa bilder, ett uttryck för hälsosam tonårssexualitet.

Som Instagramanvändaren Tnkvrt skriver i en post så är Grok-bilderna förvridna bilder av riktiga personer, och våldför man sig på dem på X, så reproducerar man också riktiga, fysiska, taktila maktstrukturer.

Och här finns något centralt att lyfta, förutom fortsatt debatt kring vad AI är och varför vi ska begränsa det, så är det vad denna våldsvåg gör med vår medvetenhet.

Vi vet att kvinnor och barn far illa i hem, på skolor, i nära relationer. Detta är inget nytt, och det är ytterst aktuellt i hemliga filer som släpps och kvinnor som dött nyligen.

Vad som nu händer är att vi inte längre kan titta bort, inte längre väja oss för det omfång av patriarkalt våld som hela tiden funnits där.

Grok blev den spegel vi inte längre kunde tränga bort, en kulminering av sekel av tystade röster.

Det är vidrigt. Det är perverst. Och det är på riktigt.