TikTok : quand l'IA remplace les modérateurs humains

Judaica S06E02 - Chronique Tech - Radio Judaïca

Bonjour à toutes et à tous,

TikTok est devenu bien plus qu’une simple application de vidéos et de divertissement. Avec plus d’un milliard d’utilisateurs, c’est désormais une plateforme qui structure l’information, les débats publics et parfois même la politique. Mais sa popularité est aussi son talon d’Achille avec énormément de désinformation, de propos haineux et des contenus violents… et un antisémitisme persistant qui inquiète de plus en plus.

C’est dans ce contexte que TikTok a décidé de transformer en profondeur sa modération. Au Royaume-Uni, des centaines de postes de modérateurs humains vont être supprimés, au profit de l’intelligence artificielle. Désormais, une IA analysera les vidéos avant leur mise en ligne, pour bloquer automatiquement les contenus jugés problématiques.

En 2024, TikTok affirme déjà que 85 % des suppressions étaient le fait d’algorithmes, et que 99 % des contenus dangereux avaient été détectés avant même tout signalement.

Mais cette automatisation pose des questions : une machine saura-t-elle distinguer un témoignage légitime d’une incitation à la haine ? Une blague maladroite d’un vrai message antisémite ? Les syndicats et associations alertent : l’IA reste faillible, et des vidéos qui devraient disparaître continuent d’échapper aux radars.

C’est là qu’intervient une autre décision symbolique : TikTok a nommé à la tête de son service de "confiance et sécurité", en charge de la lutte contre les discours de haine : Erica Mindel, une ancienne militaire israélienne. Une manière de répondre aux critiques croissantes sur l’ampleur de l’antisémitisme en ligne sur TikTok.

Car il faut le rappeler : sur TikTok, les hashtags liés aux stéréotypes antijuifs ou aux théories complotistes cumulent des millions de vues. Et après le 7 octobre, de nombreux contenus négationnistes ou pro-terroristes ont circulé sans être immédiatement supprimés.

La nomination d’Erica Mindel peut être vue comme un signal positif : reconnaître la gravité du problème et envoyer un message fort aux communautés concernées. Mais elle pose aussi une question plus large : est-ce à une personne seule — fut-elle directement concernée — d’incarner la lutte contre la haine ? Ou bien faut-il une stratégie beaucoup plus globale, transparente, et contrôlée par les États comme par la société civile ?

C’est précisément l’ambition de l’Union Européenne avec ses nouvelles régulations, le DSA (Digital Services Act) et le DMA (Digital Markets Act). Ces textes imposent aux géants du numérique, comme TikTok, des obligations de transparence et de modération beaucoup plus strictes. Bruxelles a d’ailleurs ouvert plusieurs enquêtes contre la plateforme, notamment sur la protection des mineurs et la transparence de la publicité. Le message est clair : l’autorégulation ne suffit plus.

TikTok illustre en tout cas le dilemme de notre époque numérique : face au flot de contenus, l’IA apparaît comme la seule solution technique. Mais face à la haine, et notamment à l’antisémitisme, rien ne remplacera jamais une vigilance humaine, une responsabilité assumée et une vraie volonté politique, désormais encadrée par la loi.

A la semaine prochaine !