Hatebase – Bâtir un réseau mondial et une intelligence artificielle pour la surveillance multilingue des discours haineux

Le discours haineux est largement reconnu comme un déclencheur de violence, en particulier contre les minorités vulnérables. Elle contribue à la polarisation sociale qui peut entraîner l’instabilité et les conflits. Les répercussions du discours haineux sur les États fragiles se sont accrues ces dernières années en raison de l’augmentation de la connectivité Internet. Cela permet de diffuser des propos haineux au moyen des médias sociaux, ce qui contribue à la persécution, aux conflits armés et au génocide dans divers pays. Le volume de discours haineux circulant en ligne dépasse les capacités des modérateurs humains, d’où la nécessité d’une automatisation toujours plus efficace. L’omniprésence des discours haineux en ligne est également une occasion à saisir, car ces grandes quantités de données sont potentiellement utiles comme indicateurs de l’instabilité croissante et elles peuvent offrir la possibilité d’une intervention précoce.

Le projet Sentinel, une ONG canadienne qui travaille à prévenir le génocide au moyen d’un système d’alerte rapide, met en œuvre ce projet. L’objectif est de lutter contre le discours haineux en ligne en mettant l’accent sur la technologie, les partenariats et la recherche. Sur le plan technologique, le projet améliorera la base de données et la plateforme de surveillance Hatebase, qui intègrent des éléments d’intelligence artificielle et de traitement du langage naturel pour élargir la portée et les capacités de l’algorithme qui l’alimente. Développée par le projet Sentinel, l’application primée est actuellement le plus grand répertoire structuré du monde de discours haineux régionaux et multilingues.

Les démarches de partenariat seront axées sur la mise en place d’un réseau mondial de nœuds de recherche afin de contribuer à la formation multilingue et contextuelle continue sur la plateforme. Les efforts de recherche porteront sur les corrélations entre le discours haineux en ligne et les incidents hors ligne, en particulier dans les contextes fragiles, et sur la façon dont ces corrélations peuvent être utilisées pour éclairer les mesures d’atténuation du discours haineux.

Projet nᵒ

109128

État du projet

Actif

Durée

24 mois

Agent(e) responsable du CRDI

Phet Sayo

Financement total

CAD$ 350,000

Programme

Économies en réseaux

Chargé(e) de projet

Christopher Tuckwood

Institution

Sentinel Project for Genocide Prevention

Institution Country

Canada

Institution Website

http://www.thesentinelproject.org