Nos avocats prennent la parole

L'affaire de l'agresseur de la gare de Lyon soulève plusieurs questions, dont celle de la responsabilité des réseaux sociaux et de leurs systèmes de modération.

L’agresseur présumé, originaire du Mali, aurait diffusé plusieurs vidéos sur TikTok en français et dans sa langue natale. Dans ces vidéos, il exprimait des propos haineux, dont sa détestation de la France et des Français. J’ai eu l’occasion de m’exprimer sur CNEWS dans cette affaire.

Avec plus de 45 millions d’utilisateurs mensuels dans l’Union européenne, TikTok est considérée comme une très grande plateforme au sens du Règlement sur les Services Numériques (ou Digital Services Act).
A ce titre, le réseau social doit identifier les risques systémiques, comme la diffusion de contenus illicites au travers de son service, et mettre en œuvre des mesures raisonnables, proportionnées et efficaces pour atténuer ces risques. Dans le DSA, l’accent est mis sur les ressources dédiées à la modération des contenus, le retrait rapide ou le blocage de l’accès aux contenus illicites, en particulier en ce qui concerne les discours haineux illégaux.

Les systèmes de modération de Facebook et de TikTok où les premières vidéos ont été diffusées fin 2022 ont-ils détecté ces vidéos ? Ont-ils reçu des notifications pour leur signaler leur caractère illicite et ont-ils réagi rapidement ? Avaient-ils des ressources suffisantes, tant humaines qu’algorithmiques, pour modérer ces propos haineux ?

TikTok avait-elle les moyens de modérer les propos tenus dans une des langues maliennes par l’agresseur présumé ? Il est malheureusement fort improbable que les plateformes, même les très grandes, aient des modérateurs dans toutes les langues. Il en va de même pour les moyens techniques employés, les algorithmes étant entraînés par les langues les plus usitées.

L’agression de la gare de Lyon est l’occasion pour ouvrir un débat sur l’amélioration des systèmes de modération des plateformes, tant en termes humains qu’algorithmiques, dans un contexte où les propos haineux, et autres contenus illicites, peuvent être exprimés dans des langues peu usitées.

https://www.cnews.fr/emission/2024-02-05/180-minutes-info-emission-du-05022024-1449711