“Synthetic media that shows realistic scenes must be clearly disclosed”, cioè “I supporti sintetici o manipolati che mostrano scene realistiche devono essere chiaramente segnalati”: si legge così, al punto 3 della sezione Integrità e autenticità delle Linee Guida della Community di TikTok, che sono il lungo insieme di norme che regolano l’uso del popolare social network e che sono state appena aggiornate.

E uno dei punti fondamentali dell’aggiornamento è appunto il rafforzamento delle regole per la gestione dei cosiddetti synthetic media, che per TikTok sono “i contenuti creati o modificati con tecnologie di intelligenza artificiale”. Quelli che sino all’altro giorno chiamavamo deepfake, insomma.

Intelligenza artificiale

Cos'è la Uncanny Valley delle IA e che succederà quando la attraverseremo

di Emanuele Capone 20 Febbraio 2023

Le regole del deepfake perfetto

Che questi falsi incredibili, realizzati grazie all’uso delle IA, sarebbero stati un problema, soprattutto per i politici, i personaggi famosi e pure per i giornalisti, non è una novità: su Italian Tech lo abbiamo ricordato spesso, sin da quando il finto Tom Cruise è arrivato proprio su TikTok, nel marzo del 2021.

Adesso l’app di ByteDance è forse la prima fra le grandi piattaforme social a prendere così concretamente posizione nei confronti di questa tecnologia: “Accogliamo con favore la creatività che la nuova intelligenza artificiale e le altre tecnologie digitali possono sbloccare”, e però “l’IA può rendere più difficile distinguere tra realtà e finzione, comportando rischi sia sociali sia individuali”. Per questo, chi la usa deve dichiararlo, appunto attraverso “uno sticker o una didascalia come sintetico, falso, non reale o alterato”.

In ogni caso, “non permettiamo l’uso di media sintetici di personaggi pubblici, se il contenuto viene usato per sponsorizzazioni o se vìola qualsiasi altra politica”, si legge ancora nelle linee guida, e anche non sono consentiti synthetic media che “mostrano scene realistiche non chiaramente segnalate o etichettate”, che “contengano le sembianze (visive o audio) di una persona reale, se viene usata per appoggi politici o commerciali o se vìola qualsiasi altra policy” e nemmeno “materiale che è stato montato, unito o abbinato in modo tale da fuorviare le persone su eventi reali”.

Anche le clip fatte così seguiranno l’iter di moderazione di tutti gli altri contenuti pubblicati su TikTok: “I video vengono inizialmente esaminati dalla nostra tecnologia di moderazione automatica (che si basa sull’intelligenza artificiale, ndr), che mira a identificare i contenuti che violano le nostre Linee Guida” e “se viene rilevata una potenziale violazione, il sistema di moderazione automatizzato la rimuove automaticamente”. Perché serve un’IA per beccare un’altra IA, ovviamente.

Cybercrimine

La nuova frontiera delle truffe telefoniche: le voci dei parenti replicate con l'IA

di Francesco Marino 08 Marzo 2023

TikTok e i “4 pilastri della moderazione”

Non è tutto, perché nell’aggiornamento delle regole, che sarebbe “il più ampio apportato finora” ed è in vigore a partire dal 21 aprile, ci sono anche più attenzione sull’integrità delle consultazioni elettorali (spiegate qui nel dettaglio) e un nuovo approccio agli account di governi ed esponenti politici, l’aggiunta della parola “tribù” fra quelle non consentite quando si parla di razzismo e incitamento all’odio e anche una riorganizzazione per aree tematiche, con l’inizio di ognuna che riassume in modo più chiaro che cosa è consentito e che cosa non lo è.

TikTok ha inoltre sottolineato quali sono quelli che l’azienda definisce “i 4 pilastri del nostro approccio alla moderazione”: rimuovere i contenuti che violano le norme, limitare solo agli over 18 l’accesso ai contenuti che richiedono maggiore maturità di giudizio; escludere dalle pagine Per Te i contenuti non adatti a tutto il pubblico; dare alla community maggiore capacità di controllo sull’esperienza d’uso, con strumenti e risorse informative.

@capoema