Sur Tinder, l’intelligence artificielle et le Deep Learning au service de la lutte contre le harcèlement

tinder harcèlement

Créée en 2012 sur un campus universitaire, la plateforme de rencontres est devenue, dans son domaine, l’application la plus utilisée dans le monde. Elle est aujourd’hui disponible dans 190 pays et dans plusieurs langues et a été téléchargée plus de 430 millions de fois. Pour protéger davantage ses utilisateurs, la plateforme Tinder a mis en place de nouvelles fonctionnalités pouvant être très utiles pour lutter contre les comportements inappropriés.

De nouvelles fonctionnalités pour prévenir et alerter

Depuis son lancement sur le marché, les équipes de Tinder installent régulièrement de nouvelles fonctionnalités afin d’améliorer l’utilisation de la plateforme et mettent en place des moyens efficaces pour éviter que ses utilisateurs, et surtout ses utilisatrices, soient victimes de cyber-harcèlement. De nouveaux outils viennent de s’ajouter à une longue liste d’outils de sécurité et de protection des membres.

La première fonctionnalité ajoutée à l’application est l’outil DTBY (Does This Bother You ? Est-ce que cela vous dérange ?) qui permet d’apporter un soutien concret aux membres de l’application. Lorsqu’une injure ou un propos déplacé est détecté automatiquement au cours d’une conversation entre deux membres, Tinder va proposer aux utilisateurs de les signaler. L’utilisation de cette fonctionnalité est donc possible grâce au machine learning et à la contribution directe des membres de Tinder, permettant ainsi à la communauté d’avoir plus de contrôle. Depuis la mise en place de cet outil qui permet d’alerter, 46 % de signalement supplémentaires ont été enregistrés.

La deuxième fonctionnalité, qui permet cette fois de prévenir, est AYS (Are You sure ? Êtes-vous sûr ?). Cette fonctionnalité prévient l’expéditeur lors de l’écriture de son message : elle lui demande de réfléchir à son propos avant d’envoyer son message, car celui-ci pourrait être offensant pour le destinataire. Celle fonctionnalité utilise l’intelligence artificielle afin de détecter les propos injurieux et malveillants. L’outil s’est développé grâce à plusieurs messages signalés comme inappropriés par la communauté de Tinder. Depuis son développement, AYS a déjà réduit de plus de 10 % les propos inappropriés contenus dans les messages envoyés.

Cependant, les utilisateurs peuvent toujours faire abstraction de ces messages de prévention et envoyer leurs insultes qui ne seront pas bloqués. Le destinataire est en revanche invité à cliquer sur « DTBY ? » s’il se sent attaqué.

Comment activer ces fonctionnalités ?

Pour activer DTBY et AYS, il suffit que les membres donnent leur consentement. Cela permet aux deux fonctionnalités d’accéder au contenu et de détecter les messages malveillants et injurieux. Ces nouveaux outils lancés par Tinder protègent mieux les utilisateurs et les invite à se sentir davantage en confiance.

Dans le cas où un membre ne souhaite pas donner son consentement, celui-ci pourra toujours utiliser la fonction Swipe (l’utilisateur fait glisser son doigt vers la droite de l’écran si l’un des profils lui plaît, ou vers la gauche s’il veut l’ignorer) mais ne pourra plus envoyer de message. À noter que ces fonctionnalités permettent également à l’application de pouvoir prendre les mesures nécessaires contre les membres ne respectant pas les règles de la communauté.

Le soutien de l’association RAINN

L’association RAINN – Rape, Abuse & Incest National Network – a apporté son soutien pour développer ces nouvelles fonctionnalités sur la plateforme. Il s’agit d’une organisation américaine de lutte contre les violences sexuelles qui œuvre pour que les auteurs d’agressions sexuelles soit punis par la justice. Les encouragements apportés par cette association à Tinder sont donc bienvenus et renforcent la nécessité de lutter contre le harcèlement sur la plateforme.

Cette implication de Tinder dans la lutte contre le harcèlement s’inscrit dans le cadre du programme Trust & Safety de Match Group. Ce programme représente 100 millions de dollars d’investissement en 2021 pour la lutte contre les comportements inappropriés. De plus, la plateforme s’engage à collaborer avec des experts afin de s’assurer de la sûreté et de l’inclusivité de l’application.

Recevez gratuitement l'actualité de l'intelligence artificielle

Suivez la Newsletter de référence sur l'intelligence artificielle (+ de 18 000 membres), quotidienne et 100% gratuite.


Tout comme vous, nous n'apprécions pas le spam. Vos coordonnées ne seront transmises à aucun tiers.
Partager l'article
1 an d'abonnement au magazine de référence sur l'IA pour 27,60€ Boutique ActuIA Recherche, Business, Impact : Restez à la page en matière d'intelligence artificielle.
intelligence artificielle
À PROPOS DE NOUS
Le portail francophone consacré à l'intelligence artificielle et à la datascience, à destination des chercheurs, étudiants, professionnels et passionnés.