Réduire la toxicité en ligne à l'aide du machine learning

L'API Perspective permet d'atténuer la toxicité et de garantir des échanges sains en ligne.

Fonctionnement

La toxicité en ligne représente un défi majeur pour les plates-formes et les éditeurs. Les injures et le harcèlement en ligne réduisent au silence des voix importantes dans la discussion, et éloignent d'Internet des personnes déjà marginalisées.

Qu'est-ce que Perspective ?

Perspective est une API proposée sans frais qui identifie les "commentaires toxiquesNous définissons un propos toxique comme un commentaire grossier, irrespectueux ou déraisonnable risquant d'inciter une personne à abandonner une discussion." à l'aide du machine learning, et facilite l'hébergement de conversations de qualité en ligne.

Découvrez son fonctionnement par vous-même :

Saisissez une phrase dans la zone pour voir son score de toxicité. Perspective affiche un pourcentage correspondant à la probabilité qu'une personne trouve le texte toxique.

Essayer
Options avancées
Envoyer un message aux utilisateurs en cas de commentaire
  • toxique
  • obscène
  • injurieux
  • menaçant
.
Afficher un commentaire négatif lorsqu'un commentaire présente 70%

Niveau de confiance

0% 50% 100%
Peu probable Incertain Très probable
Recommandé
Doit être ≥ %
de chances d'être perçu comme toxique avec un message indiquant,
  • a x % de chances d'être toxique.
  • N'oubliez pas de suivre le règlement de la communauté.
  • Ajouter un message personnalisé
Afficher un commentaire positif lorsqu'un commentaire présente 30%

Niveau de confiance

0% 50% 100%
Peu probable Incertain Très probable
Recommandé
Doit être < %
de chances d'être perçu comme toxique avec un message indiquant
  • a x % de chances d'être toxique. Bon travail !
  • Merci pour votre contribution positive à notre communauté !
  • Ajouter un message personnalisé

* Veuillez ne pas utiliser cette version de démonstration si vous êtes âgé de moins de 13 ans. Merci de ne pas saisir d'informations permettant de vous identifier personnellement ou d'identifier une autre personne.

Que peut-on créer avec Perspective ?

Les éditeurs, les plates-formes et les internautes peuvent utiliser Perspective dans différents cas d'utilisation, tels que les sections de commentaires, les forums ou toute autre conversation textuelle. Les développeurs intègrent et personnalisent Perspective pour de nombreuses audiences différentes.

Pour les modérateurs

Perspective permet aux modérateurs de hiérarchiser et d'examiner rapidement les commentaires qui ont été signalés.

Pour les auteurs de commentaires

Perspective peut faire des remarques aux auteurs de commentaires toxiques.

Pour les lecteurs

Les développeurs créent des outils permettant aux lecteurs de définir les commentaires qu'ils souhaitent voir, par exemple en masquant certains commentaires.

Pourquoi utiliser Perspective ?

Il a été prouvé que Perspective augmentait l'engagement en aidant les plates-formes et les éditeurs à créer des environnements de discussion sécurisés, et en aidant les internautes à apporter des contributions plus saines en ligne.

Icône de coche

Favoriser des conversations plus saines

Icône de coche

Réduire la toxicité et les comportements abusifs

Icône de coche

Proposée sans frais, en libre-service et personnalisable

Nos partenaires font confiance à Perspective

Logo de Reddit
Logo de Disqus
Logo du Financial Times
Logo de Taringa
Logo du journal Le Monde
Logo d'El País
Logo de Coral

Commencez dès maintenant

Développeurs

Apprenez à intégrer l'API et commencez à créer dès aujourd'hui.

Premiers pas

Partenaires

Consultez notre guide de démarrage consacré à Perspective.

Premiers pas

Chercheurs

Consultez nos recherches universitaires, ensembles de données et code Open Source.

Premiers pas