De video-inhoud met als thema ‘dieet’ en ‘gewichtsverlies’, beschikbaar op het sociale netwerk TikTok, zou eetstoornissen onder jonge gebruikers aanwakkeren. Dat blijkt uit een verontrustend onderzoek van Wall Street Journal over de extreme uitdagingen die veel jonge meisjes ondergaan om af te vallen totdat ze een skelet worden, wat bijdraagt aan de verspreiding van de sociale plaag van eetstoornissen. Journalisten creëerden ongeveer honderd nepaccounts die de Chinese applicatie willekeurig gebruikten, met weinig menselijke tussenkomst, en het gedrag van kinderen simuleerden.
Nadat we tijd hadden besteed aan het bekijken van inhoud met betrekking tot alcohol, gokken en gewichtsverlies (niet verborgen door het sociale netwerk), werd het TikTok-algoritme dienovereenkomstig aangepast, waardoor het aantal en de frequentie van video’s over diëten en gewichtsverlies in de sectie toenam. Voor jou.
De resultaten van het onderzoek
Aan het einde van het experiment bevatten 32.700 van de ongeveer 255.000 video’s die de AI in totaal bekeek, een beschrijving of metadata die overeenkwamen met een lijst van honderden trefwoorden gerelateerd aan gewichtsverlies: 11.615 video’s hadden tekstbeschrijvingen met trefwoorden die relevant zijn voor eetstoornissen, terwijl 4.402 video’s een combinatie van trefwoorden hadden die de normalisering van eetstoornissen bepleitten.
Maar dat niet alleen: om te voorkomen dat het sociale netwerk zou rapporteren, werd in de beschrijvingen van sommige video’s gebruik gemaakt van “vervalste” spellingen voor trefwoorden die verband hielden met eetstoornissen, waarbij bijvoorbeeld sommige letters werden vervangen door een cijfer of een asterisk.
In reactie op het rapport van de krant kondigde TikTok aan dat het werkt aan nieuwe manieren om gebruikers in staat te stellen veilig gebruik te maken van het sociale netwerk en de inhoud die daarin aanwezig is: het idee is om een strategie te ontwikkelen voor het herkennen van video-inhoud die mogelijk niet in strijd is met het TikTok-beleid, maar wel schadelijk kan zijn als er overmatig naar wordt gekeken; verder denken we aan een tool waarmee gebruikers (of hun ouders, in het geval van social media-gebruik door kinderen) kunnen voorkomen dat video’s met bepaalde woorden of hashtags op de pagina worden weergegeven Voor jou.
Hoewel het WSJ-experiment niet de ervaring weergeeft die de meeste mensen op TikTok hebben, is zelfs één persoon die die ervaring heeft er één te veel, aldus de TikTok-woordvoerder. – We staan educatieve of op herstel gerichte inhoud toe omdat we begrijpen dat deze mensen kan helpen inzien dat er hoop is, maar inhoud die ongeordend eten promoot, normaliseert of verheerlijkt, is verboden.
TikTok is niet het eerste sociale netwerk dat in de storm belandt vanwege de negatieve invloed die het heeft op zijn gebruikers – vooral op jongere gebruikers: een ander onderzoek, opnieuw uitgevoerd door de WSJ, toonde aan hoe Instagram de geestelijke gezondheid van adolescenten ernstig zou schaden en zou bijdragen aan het ondermijnen van het zelfrespect van meisjes en het beeld dat zij van zichzelf hebben.
Na dit onderzoek kondigde het sociale netwerk de introductie aan van een functie die tieners ervan weerhoudt potentieel schadelijke inhoud te bekijken, evenals de toevoeging van de “Neem een pauze” om gebruikers uit te nodigen de app te sluiten als ze een bepaalde tijd op het platform hebben doorgebracht (tussen 10, 20 of 30 minuten).
Bronnen: TikTok/Wall Street Journal
Wij raden ook aan:
