L’indagine, a cui ha fatto seguito anche un sopralluogo della Guardia di Finanza presso la sede italiana della società, è scattata in seguito alla presenza sulla piattaforma di numerosi video in cui giovani ragazzi si sfidavano nel cd. sfida della “cicatrice francese”, ultimo episodio di un trend che ha visto questi comportamenti autolesionistici diventare sempre più frequenti sul social network cinese.
TikTok è diventata una delle piattaforme social più apprezzate dai giovani, e lo dicono i numeri:
Il social network cinese, lanciato nel 2016, ha registrato il 120% in più di “average engagement” (ovvero l’indice che registra le interazioni totali per numero di post generati mediamente dagli influencer) rispetto al suo principale concorrente, Instagram; questo è quanto emerge dal rapporto “Influencer Performance Benchmarks 2022” realizzato dalla società di marketing Buzzoole, specializzata nella fornitura di tecnologie e servizi nel campo delle cosiddette. “marketing dell’influencer”.
Questo nonostante negli ultimi mesi la piattaforma sia stata oggetto di un “ban” da parte di diversi governi (tra cui quello di Inghilterra, Stati Uniti, Belgio e Nuova Zelanda) e della Commissione Europea, che ha vietato ai suoi dipendenti di utilizzarla in alla luce dei possibili rischi per la cybersicurezza.
La particolarità di questa piattaforma sta nell’estrema facilità con cui è possibile interagire: è infatti possibile creare e condividere brevi video musicali offrendo agli utenti diversi strumenti di editing, con contenuti che spaziano dalla comicità alla danza, passando per karaoke, tutorial, sfide virali. e così via. Il social network mette a disposizione anche nella sezione “Per te” una selezione di video consigliati in base agli interessi dell’utente, grazie all’utilizzo di un algoritmo che raccoglie e profila i dati.
Questa rapida crescita ha portato diversi Autorità a seguire con maggiore attenzione il “fenomeno TikTok”, al fine di verificare la compatibilità tra la normativa vigente ed i contenuti ivi presenti e diffusi.
Ed è proprio con questo obiettivo che il Garante della Concorrenza e del Mercato ha deciso di avviare, lo scorso marzo, un’indagine nei confronti della società irlandese TikTok Technology Limited (filiale europea dell’azienda cinese, responsabile dei rapporti con i consumatori del Vecchio Continente): secondo l’Autorità la ricostruzione mancherebbero infatti nella piattaforma sistemi di monitoraggio dei contenuti pericolosi pubblicati da soggetti terzi e non si applicherebbero le stesse Linee guida del social network volte a rimuovere contenuti che istigano al suicidio, all’autolesionismo e all’alimentazione poco sana.
Privacy e Protezione dei dati 2022A cura di: Coraggio Giulio, Ed. IPSOA, 2022. Trattamento dei dati personali, Data Protection Officer, cybersecurity e relative sanzioni.
Scarica gratuitamente l’estratto
Tutto è iniziato quando sulla piattaforma hanno cominciato a comparire numerosi video in cui ragazzi (molto probabilmente minorenni) si sfidavano a darsi reciprocamente delle guance il più a lungo possibile resistendo al dolore così provocato e mostrando poi ai propri follower i segni lasciati sulla loro pelle: questa sfida, conosciuta come la “cicatrice francese”, è solo l’ultimo episodio di una tendenza molto diffusa sui social network, che vede i più giovani cimentarsi in sfide sempre più pericolose, spesso incapaci di comprenderne gli effetti e le ricadute (la cronaca è purtroppo piena di esempi che spesso sono diventati addirittura letali, basti pensare alla “Blue Whale challenge” o a caso a “Jonathan Galindo”).
In primo luogo, le critiche del Garante si sono quindi concentrate sull’assenza di sistemi in grado di monitorare e quindi intervenire nella rimozione di contenuti di questo tipo.
Ciò appare ancora più grave quando sono le stesse linee guida di TikTok a prevedere la rimozione di contenuti che mettono in pericolo la salute mentale e l’integrità fisica, favoriscono lo sviluppo di disturbi alimentari e che incoraggiano la creazione di “challenge” e attività pericolose.
Nel caso in questione è emerso che l’azienda non è intervenuta tempestivamente nella rimozione di questa tipologia di contenuti, disapplicando quindi le proprie Linee Guida.
Sul suo sito web, TikTok indica come questi vengono definiti “sulla base di quadri giuridici internazionali, migliori pratiche del settore, suggerimenti della nostra comunità, esperti di salute pubblica e sicurezza”, basando la moderazione dei propri contenuti su quattro principi:
“Rimozione dalla piattaforma di contenuti inappropriati che violano le nostre regole”;
“Fornire contenuti per un pubblico adulto soggetti a limiti di età in modo che vengano visualizzati solo da adulti (di età pari o superiore a 18 anni)”;
“Verificare gli standard di idoneità della pagina “Per te” per garantire che qualsiasi contenuto promosso nell’ambito del nostro sistema di consigli sia adatto a un pubblico più ampio”;
“Fornire alla comunità informazioni, strumenti e risorse”.
Aspettandosi anche una sezione speciale dedicata al “benessere dei giovani”, TikTok si dimostra particolarmente attento al tema, non riuscendo però a rendere concrete queste prescrizioni; tra questi figurano l’età minima di 13 anni per aprire un conto, la possibilità di utilizzare i messaggi solo dopo i 16 anni e il requisito di 18 anni per partecipare alle dirette streaming, inviare regali economici agli utenti e utilizzare la funzionalità di monetizzazione.
Ciò è legato anche alla difficoltà, diffusa tra diversi servizi online, di riuscire a verificare in modo attendibile l’effettiva età degli utenti: tale verifica spesso consiste infatti in un semplice banner in cui viene chiesto all’utente di confermare il raggiungimento dell’età minima. oppure inserire la data di nascita, senza però verificare che tale dato corrisponda al vero.
Diverse critiche sono state poi sollevate sull’algoritmo con cui TikTok suggerisce contenuti personalizzati agli utenti.
In questo caso il Garante ha focalizzato l’attenzione sul rischio di un indebito condizionamento degli utenti che, sulla base dei loro interessi e delle interazioni con la piattaforma (es. i “mi piace” lasciati ad altri contenuti), unito all’assenza di un meccanismo di controllo, video possono essere raccomandati che abbiano da un lato contenuti pubblicitari invasivi ma soprattutto, cosa ancora più grave, dei contenuti in cui vengono denunciate le stesse pratiche autolesionistiche già esaminate, con il rischio per l’utente (soprattutto minorenne) di visionare quelle pericolose contenuti più frequentemente.
Tra gli elementi che vengono valutati dall’algoritmo TikTok troviamo il cd. “authority score”, ovvero un punteggio invisibile che viene attribuito al profilo dell’utente in base al suo comportamento (frequenza di utilizzo, diffusione di spam, violazione di copyright e linee guida), al livello di visibilità dei contenuti, al valore delle interazioni (in particolare i likecommenti , visualizzazioni) e il punteggio assegnato a tale interazione.
Semplificando, la combinazione di questi elementi determina il posizionamento e la diffusione dei contenuti dei vari utenti all’interno della piattaforma, con il risultato pratico di vedere il singolo contenuto prima e più spesso degli altri.
In attesa degli sviluppi dell’indagine, la società, attraverso un portavoce, si è detta pienamente disponibile a collaborare con le autorità per far luce sulla vicenda.
