Een vrouwelijke onderzoeker is virtueel aangerand in de metaverse. Het is niet het eerste geval van grensoverschrijdend of schadelijk gedrag in de virtuele wereld. Hoe kunnen we omgaan met zulke misdaden?
Een vrouw wordt uitgenodigd op een privéfeest. Nog geen uur later wordt ze aangerand door een man, terwijl een andere staat toe te kijken. Er wordt een fles alcohol doorgegeven en er worden seksistische opmerkingen gemaakt.
Het bovenstaande speelde zich niet in de fysieke wereld af, maar in de metaverse. Dat is een virtuele, driedimensionale ruimte waarin mensen van om het even waar in realtime met elkaar in contact kunnen komen. Zo kan je er onder andere samenwerken en vergaderen met mensen uit de VS, op café gaan met mensen uit Canada, spelletjes spelen met vrienden uit Japan en overal ter wereld winkelen. Wereldsterren als Travis Scott en Ariana Grande gaven er al live concerten die gebruikers vanuit hun woonkamer konden beleven. Om de metaverse te betreden heb je een smartphone, laptop of spelconsole nodig, soms ook een controller of een virtualrealitybril die ervoor zorgt dat je volledig ondergedompeld wordt in een andere wereld. Eenmaal ingelogd, ligt de virtuele wereld aan de voeten van de gebruiker.
Het slachtoffer van de aanranding was een onderzoekster van de actiegroep SumOfUs die, ironisch genoeg, het gedrag van mensen in de virtuele wereld bestudeert. Ze filmde het incident vanuit haar standpunt en SumOfUs zette er een fragment van online. De aanranding vond vorige maand plaats in Horizon Worlds – een metaverse van Meta die in december gelanceerd werd. Gebruikers kunnen er zelf virtuele werelden creëren.
Virtuele ervaring met een fysieke component
De onderzoekster gaf te kennen dat ze behoorlijk van slag was. ‘Een deel van mijn brein vroeg zich af wat er in godsnaam gebeurde, een ander deel besefte dat het geen fysieke lichamen waren en nog een ander deel besefte dat het belangrijk kon zijn voor mijn onderzoek’, zegt ze in het rapport dat SumOfUs publiceerde. Omdat haar controller trilde toen de mannelijke avatar haar aanraakte, kreeg de virtuele ervaring een fysieke component.
‘De mentale impact van zo’n gedrag kan voor het slachtoffer wel degelijk groot zijn, dat zien we ook bij cyberpesten’
Katleen Gabriels, moraalfilosofe
In het rapport wordt het incident omschreven als een verkrachting, maar dat gaat voor moraalfilosofe Katleen Gabriels een stap te ver. In haar onderzoek bestudeert ze de ethische gevolgen van computertechnologie. ‘Toch mogen we het niet minimaliseren, de mentale impact van zo’n gedrag kan voor het slachtoffer wel degelijk groot zijn. Dat zien we ook bij cyberpesten.’
Volgens Gabriels speelt de immersie van de gebruiker een grote rol: het gevoel fysiek aanwezig te zijn in een virtuele wereld. ‘Mensen steken heel wat tijd, emotie en energie in die virtuele ruimte. Als iemand daar iets met je doet waarover je geen controle hebt, heeft dat wel degelijk een psychische impact. Het is belangrijk om dat te erkennen.’
Net omdat virtual reality zo echt voelt, leren piloten er vliegtuigen besturen en oefenen chirurgen er op complexe operaties.
De toekomst van Meta
Voor velen was de metaverse lang een futuristisch idee, maar tijdens de coronapandemie groeide de interesse ervoor bij een breder publiek. Die interesse nam een hoge vlucht toen Mark Zuckerberg eind oktober Facebook omdoopte tot Meta – een naamsverandering die benadrukt dat het bedrijf zijn toekomst ziet in de metaverse.
Zuckerberg kondigde die beslissing aan tijdens een turbulente periode voor zijn bedrijf. Facebook-klokkenluidster Frances Haugen bracht eerder die maand duizenden interne documenten naar buiten die aantonen dat het bedrijf winst boven het welzijn van de gebruikers plaatst. De documenten bewezen onder andere dat socialemediaplatformen beseffen dat ze hun gebruikers manipuleren, mee verantwoordelijk zijn voor psychologische aandoeningen bij tieners en zelfs een rol spelen in de genocide in Myanmar.
Met de nieuwe naam verlegde Meta niet alleen zijn focus, het bedrijf leek ook een nieuwe start te willen markeren. ‘Privacy en veiligheid moeten vanaf dag één ingebouwd worden in de metaverse’, zei Zuckerberg in zijn online presentatie. ‘Het gaat over ontwerpen met het oog op veiligheid, privacy en inclusie, nog voor het product zelfs bestaat.’
Qniverse: een wereld vol mis- en desinformatie
Omdat de manier waarop Meta de veiligheid van haar gebruikers garandeert niet duidelijk is, nam de Amerikaanse nieuwswebsite Buzzfeed zelf de proef op de som. In februari publiceerde ze een stuk waarin beschreven staat hoe ze in Horizon Worlds een wereld creëerden vol mis- en desinformatie die Meta op zijn andere platformen (Facebook en Instagram) standaard verwijdert.
In die virtuele wereld, die de naam Qniverse kreeg, werden slogans getoond als ‘vaccins veroorzaken autisme’, ‘covid is een hoax’ en ‘Trump won de verkiezingen van 2020’. Een audiofragment waarin complotdenker Alex Jones beweert dat Joe Biden een pedofiel is en dat de Amerikaanse verkiezingen gemanipuleerd werden door buitenaardse reptielen, werd op de achtergrond in een eindeloze loop afgespeeld.
Nadat er 36 uur waren verstreken en Meta geen actie had ondernomen om Qniverse offline te halen, besloot een medewerker van Buzzfeed om die virtuele wereld te rapporteren. Pas twee dagen en evenveel extra rapporteringen later kreeg de medewerker een reactie van Meta. ‘Onze getrainde veiligheidsspecialist heeft uw melding bekeken en vastgesteld dat de inhoud van Qniverse niet in strijd is met ons beleid voor inhoud in VR.’ Toen Buzzfeed zijn vragen over die beslissing aan de communicatiepersdienst van Meta bezorgde, haalde het bedrijf Qniverse offline.
Lessen uit videogames
‘De problemen die SumOfUs in het rapport aanhaalt, zijn helaas niet nieuw’, zegt Katleen Gabriels. ‘De eerste virtuele “verkrachting” werd in 1993 al in een artikel beschreven en vond plaats in een online spel waarin gebruikers met elkaar konden chatten.’
Ook Vincent Buyssens, creatief digitaal strateeg bij Voidwalker, ziet de door SumOfUs aangestipte problemen – seksueel geweld en intimidatie, racisme, discriminatie, haatspraak en de verspreiding van des- en misinformatie – al langer opduiken in virtuele werelden. ‘De metaverse en avatars worden nu voorgesteld als een revolutionair nieuw hoofdstuk van het internet, maar in videogames bestaat dat soort problemen al meer dan twintig jaar.’ Buyssens ziet de metaverse als een verlengde van videogames. In games vinden geregeld schendingen tegen de mensenrechten en racistische uitspattingen plaats. ‘Dat betekent niet dat gaming per definitie racistisch is, maar de subcultuur waartoe gaming behoort, trekt wel een specifiek publiek aan.’
In het populaire spel Minecraft staat een glas melk symbool voor witte superioriteit.
Zij ontwikkelen ook een symbolisch ‘taalgebruik’. In het populaire spel Minecraft, waar de gebruiker als avatar vrij kan rondlopen en zijn omgeving kan aanpassen, staat een glas melk bijvoorbeeld symbool voor witte superioriteit. Maar het gebeurt ook minder subtiel. ‘Neonazi’s bouwden er onder de naam “Mein Kraft” nazi-Duitsland na’, vertelt Buyssens. ‘Dichter bij huis bouwden jongeren van het Vlaams Belang een Vlaanderen zoals zij dat graag zouden zien.’ Wat in zulke videogames gebeurt, kan zich makkelijk uitbreiden naar andere virtuele werelden.
Volgens Gabriels misdragen mensen zich vooral wanneer ze nieuw zijn in de virtuele wereld. ‘Dat is de periode waarin gebruikers grenzen aftasten. Van zodra ze geïnvesteerd hebben in de ruimte en er andere mensen kennen, gedragen de meesten zich volgens gepaste regels en normen.’
Metaverse als app store
In principe is het de bedoeling dat die nieuwe versie van het internet (het zogenaamde web3) gedecentraliseerd wordt. Met andere woorden: dat de macht om bij te dragen aan het web niet langer bij techreuzen ligt, maar teruggegeven wordt aan de gebruikers. ‘Als bedrijf kun je dan niet controleren wat mensen op je platform zeggen of doen’, verduidelijkt Buyssens.
Dat Meta prominent aanwezig wil zijn in de metaverse en tegelijk een punt maakt van die veiligheid, lijkt in dat opzicht moeilijk te verzoenen. Volgens klokkenluidster Haugen is het probleem in de metaverse dan ook structureel van aard. ‘Omdat Meta de platformen Facebook en Instagram volledig beheert, dragen ze er ook de complete verantwoordelijkheid over’, vertelt ze in de Start To Metaverse-podcast van De Tijd. ‘Met de metaverse willen ze dat model verschuiven naar iets dat vergelijkbaar is met een app store. Als je in een spel in de metaverse wordt lastiggevallen, iemand haatspraak tegen je gebruikt tot je vertrekt of er kinderporno in een spel zit, kunnen ze zeggen: “Dat spijt ons heel erg, maar wij hebben enkel de hardware gemaakt.” Meta maakt die shift naar de metaverse omdat het bedrijf de verantwoordelijkheid niet meer wil dragen.’
Volgens Haugen is Meta nochtans perfect in staat om in die metaverse software te schrijven die over de grenzen van die verschillende games werkt. ‘Als iemand uit een spel gegooid wordt omdat die daar mensen betast heeft zonder hun toestemming, zouden andere games daarvan op de hoogte moeten zijn. Dan maak je het die games makkelijker om iedereen veilig te houden.’
Grenzeloos naïef
Een wereld waarin iedereen gelijk is en de gebruikers zelf de spelregels bepalen. Het klinkt haast te mooi om waar te zijn, en dat is het wellicht ook. In 1996 publiceerde John Perry Barlow A Declaration of the Independence of Cyberspace, een manifest dat pleitte voor een internet waar openheid en vrijheid heersen, waar conflicten opgelost worden door zelfregulering. ‘Wij creëren een wereld waarin iedereen, waar dan ook, zijn of haar overtuigingen kan uiten, hoe uniek ook, zonder bang te hoeven zijn om tot zwijgen of conformiteit te worden gedwongen’, schrijft hij. En ook dat iedereen is welkom in die ruimte die kan worden betreden ‘zonder privileges of vooroordelen op grond van ras, economische macht, militaire kracht of stand.’ Vandaag is vrijwel iedereen het erover eens dat die visie bijzonder naïef is, het gevolg van een grenzeloos optimisme over wat het internet zou brengen.
Filosoof en onderzoeker Anthony Longo (Universiteit Antwerpen) denkt ook dat de naïviteit van Barlow erin ligt dat hij veronderstelt dat de echte en de virtuele wereld compleet los van elkaar staan. De recente gebeurtenissen, zoals de virtuele aanranding, maar ook de manipulatie door de socialemediaplatformen, bewijzen dat dat niet zo is.
De metaverse mengt net verschillende realiteiten. Men spreekt dan van gamification: het toepassen van gamedenken en -technieken buiten de game-omgeving, zoals het geval is bij navigatie-apps. ‘Zodra we menselijke interactie gaan bekijken als een videogame, is het onduidelijk waar het spel eindigt en waar de realiteit begint’, zegt Longo. ‘In het geval van die virtuele aanranding zullen sommigen erop wijzen dat het “toch maar een spel” is, maar voor die vrouw voelde het heel echt. We moeten daarom beseffen dat die werelden, ondanks hun virtuele karakter, ook reëel kunnen zijn.’
‘Zodra we menselijke interactie gaan bekijken als een videogame, is het onduidelijk waar het spel eindigt en waar de realiteit begint’
Anthony Longo, filosoof en onderzoeker
Longo denkt daarom dat het kan helpen om de metaverse te beschouwen als publieke ruimte. ‘Pas dan zullen we er als individu zorg voor dragen. Als iemand zich in de fysieke wereld misdraagt in de publieke ruimte, spreken we die er ook op aan. Op dezelfde manier moeten we zorg dragen voor de metaverse.’ Toch vreest Longo dat bedrijven als Meta niet snel het morele licht zullen zien, eenvoudigweg omdat er te grote financiële belangen spelen.
Veiligheidsmaatregelen
Als Meta gevraagd wordt naar een reactie op de virtuele aanranding, antwoordt een medewerker met een citaat van een anonieme woordvoerder. ‘Dat gedrag is volstrekt onaanvaardbaar, maar in Horizon Worlds is de Personal Boundary standaard ingesteld op anderhalve meter voor niet-vrienden zodat het makkelijker is om ongewenste interacties te vermijden. We raden af om veiligheidsfuncties uit te schakelen voor mensen die je niet kent.’ De SumOfUs-onderzoekster die virtueel aangerand werd op het privéfeest in de metaverse, werd effectief gevraagd om die instelling uit te schakelen.
Verder deelt de medewerker van Meta een waslijst aan blogberichten over veiligheid in VR, gedragscodes en informatie over het rapporteren van gebruikers. Aan goede bedoelingen geen gebrek, alleen blijkt uit het bovenstaande dat Meta niet snel gevolg geeft aan wat ze verkondigen in hun beleid. In feite leggen ze de verantwoordelijkheid bij de gebruiker en heeft het statement van de woordvoerder heel wat weg van victim blaming: niet de dader maar het slachtoffer krijgt de schuld.
In mei werd tijdens een aandeelhoudersvergadering van Meta een voorstel ingediend om een onafhankelijk onderzoek in te stellen naar potentiële psychologische schade en schendingen van de mensenrechten op het platform. Dat onderzoek had moeten uitwijzen of die bedreigingen beperkt kunnen worden. Het voorstel werd weggestemd.
Eind april werd in het Europees Parlement een akkoord bereikt over de zogenaamde Digital Services Act (DSA). Als de voorliggende tekst wet wordt, zal haatspraak, desinformatie of propaganda sneller van het internet verwijderd worden. Wat offline illegaal is, moet ook online illegaal zijn, zo luidt het principe. Volgens Haugen biedt de DSA een enorme kans om de metaverse sneller juist te krijgen.
Menselijkheid
Lossen strikte regels het probleem van grensoverschrijdend gedrag in de metaverse op? Meta-directeur Nick Clegg schrijft in een blogpost dat formele regels en ingebouwde functies ons maar tot op een bepaald punt zullen brengen. ‘Zowel in de fysieke wereld als op het internet schreeuwen en schelden mensen en doen ze onaangename dingen. In de metaverse zal het niet anders zijn. Mensen die misbruik willen maken van technologie zullen altijd manieren vinden om dat te doen.’
Gabriels is het daarmee eens, al heeft ze ook een bedenking. ‘Het is goed om de donkere kant van de metaverse te belichten. En we moeten beseffen dat overal waar mensen komen, menselijke eigenschappen meegaan, en dus ook wangedrag. Maar dat betekent niet dat we ons daarbij moeten neerleggen.’
Fout opgemerkt of meer nieuws? Meld het hier
