Twitter teste la détection des messages privés offensants pour les masquer - Arobasenet.com



Twitter teste la détection des messages privés offensants pour les masquer

Twitter a annoncé qu'il testait une fonctionnalité pour filtrer les messages privés (DM pour Direct Messages) potentiellement offensants ou abusifs ou spammy.

Twitter teste la détection des messages privés offensants pour les masquer





Tous les messages privés s'insinuant dans le dossier « Demandes de messages » contenant du contenu abusif ou inapproprié seront automatiquement transférés vers une section marquée « Messages supplémentaires », donnant aux gens la possibilité de voir le message ou de le supprimer définitivement.

La fonctionnalité de sécurité masquera le contenu du message et le remplacera par :

Ce message est caché parce qu'il peut contenir du contenu offensant.



Les messages indésirables ne sont pas amusants. Donc, nous testons un filtre dans vos “Demandes de message” pour les garder hors de vue, hors de l'esprit.

Parallèlement à cela, le site de micro-blogging a exploité la technologie IA (intelligence artificielle) en Avril dernier pour signaler automatiquement les Tweets abusifs sans compter sur l'intervention humaine.

En raison de ces fonctionnalités, les Tweets offensants sont maintenant plus faciles à signaler et à supprimer. Mais ces mesures de sécurité n'ont pas encore apporté de changements à long terme.

L'année dernière, une étude d'Amnesty International a révélé l'ampleur des menaces proférées contre les femmes sur Twitter. Elle a qualifié la plate-forme sociale de « lieu toxique » et de « plus grand ensemble de données mondiales sur les abus en ligne ciblant les femmes ».

Pour les femmes, et d'autres groupes qui sont soumis au harcèlement en ligne, beaucoup d'abus se présentent sous la forme de messages privés, alors que la fonctionnalité exige que les 2 parties se suivent, ou permet au destinataire de garder sa boîte de réception ouverte aux messages privés de n'importe qui.

L'étape récente de Twitter pour freiner les abus constatés sur sa plate-forme est similaire à la fonction de sécurité récente de Bumble qui utilise l'IA pour détecter et brouiller automatiquement les « images obscènes » offensantes, donnant aux utilisateurs le choix de voir, de bloquer ou de signaler l'image aux modérateurs de l'application.

Bien qu'il est prometteur de voir Twitter prendre des mesures pour protéger les femmes, et d'autres sujets de harcèlement, sur la plate-forme, plus doit être fait pour pénaliser ceux qui utilisent la plate-forme pour abuser et harceler les autres.

Source

Aucun commentaire