Réduire la toxicité en ligne à l'aide du machine learning

L'API Perspective par Jigsaw peut aider à atténuer la toxicité et à favoriser des échanges sains en ligne.

La toxicité en ligne représente un défi majeur pour les plates-formes et les éditeurs. Les injures et le harcèlement en ligne réduisent au silence des voix importantes dans la discussion, et éloignent d'Internet des personnes déjà marginalisées.

Qu'est-ce que Perspective ?

Perspective est une API proposée gratuitement qui identifie les commentaires "toxiquesNous définissons comme toxique un commentaire grossier, irrespectueux ou déraisonnable risquant d'inciter une personne à abandonner une discussion." à l'aide du machine learning et vous aide à améliorer la qualité des conversations en ligne que vous hébergez.

Découvrez son fonctionnement par vous-même :

Saisissez une phrase dans la zone pour voir son score de toxicité. Perspective affiche un pourcentage correspondant à la probabilité qu'une personne trouve le texte toxique.

Essayer Créer une démonstration personnalisée

Ce commentaire est-il toxique ?

Oui Non

Merci pour vos commentaires !

pas d'accord ?

Options avancées

Envoyer un message aux utilisateurs en cas de commentaire

toxique
obscène
injurieux
menaçant

Afficher un commentaire négatif lorsqu'un commentaire présente

Niveau de confiance

0% 50% 100%

Peu probable Incertain Très probable

Doit être ≥ %

de chances d'être perçu comme toxique avec un message indiquant,

a x % de chances d'être toxique.
N'oubliez pas de suivre le règlement de la communauté.
Ajouter un message personnalisé

Afficher un commentaire positif lorsqu'un commentaire présente

Niveau de confiance

0% 50% 100%

Peu probable Incertain Très probable

Doit être < %

de chances d'être perçu comme toxique avec un message indiquant

a x % de chances d'être toxique. Bon travail !
Merci pour votre contribution positive à notre communauté !
Ajouter un message personnalisé

Supprimer le commentaire positif Ajouter un commentaire positif Ajouter un commentaire neutre

Pour tout résultat compris entre et %, afficher un message de type,

Nous avons des doutes concernant ce commentaire.
Il ne suit peut-être pas le règlement de la communauté (x %)
Ajouter un message personnalisé

Personnaliser les paramètres d'affichage :

Thème d'icône

Formes
Emoji
Aucune icône

Thème de couleur

API Perspective
Couleurs primaires
Feu de circulation

Police Web

Google Sans
Roboto
Open Sans
Playfair Display
Marriweather

Voici votre extrait de code personnalisé :

Copier

Copié dans le presse-papiers

              <!-- Perspective API widget code -->
              <html>
               <head>
                <script src='https://storage.googleapis.com/checker_source/perspective_authorship_widget.js'></script>
               </head>
               <body>
                <textarea id='client_text_area'></textarea>
                <convai-checker
                   input-id='client_text_area'
                   demo-settings-json="{
                    &quot;gradientColors&quot;: [&quot;#25C1F9&quot;,&quot;#7C4DFF&quot;,&quot;#D400F9&quot;],
                    &quot;toxicScoreThreshold&quot;:&quot;0.7&quot;,
                    &quot;neutralScoreThreshold&quot;:&quot;0.3&quot;,
                    &quot;showFeedbackForNeutralScores&quot;: false,
                    &quot;showFeedbackForLowScores&quot;: false,
                    &quot;feedbackText&quot;: [&quot;x% likely to be toxic. Great job!&quot;,&quot;We're not sure about that.&quot;,&quot;x% likely to be toxic. Please edit.&quot;],
                    &quot;loadingIconStyle&quot;: &quot;circle_square_diamond&quot;,
                    &quot;usePluginEndpoint&quot;: true,
                    & &quot;modelName&quot;: &quot;TOXICITY&quot;,
                    &quot;communityId&quot;: &quot;plugin-user_1610529593886-239823&quot;,
                    &quot;fontFamily&quot;: &quot;Merriweather, serif&quot;
                    }">
                </convai-checker>
               </body>
              </html>
            

GitHub

* Veuillez ne pas utiliser cette version de démonstration si vous êtes âgé de moins de 13 ans. Merci de ne pas saisir d'informations permettant de vous identifier personnellement ou d'identifier une autre personne.

Que peut-on créer avec Perspective ?

Les éditeurs, les plates-formes et les internautes peuvent utiliser Perspective dans différents cas d'utilisation, tels que les sections de commentaires, les forums ou toute autre conversation textuelle. Les développeurs intègrent et personnalisent Perspective pour de nombreuses audiences différentes.

Pour les modérateurs

Perspective permet aux modérateurs de hiérarchiser et d'examiner rapidement les commentaires qui ont été signalés.

Pour les auteurs de commentaires

Perspective peut faire des remarques aux auteurs de commentaires toxiques.

Pour les lecteurs

Les développeurs créent des outils permettant aux lecteurs de définir les commentaires qu'ils souhaitent voir, par exemple en masquant certains commentaires.

Pourquoi utiliser Perspective ?

Il a été prouvé que Perspective augmentait l'engagement en aidant les plates-formes et les éditeurs à créer des environnements de discussion sécurisés, et en aidant les internautes à apporter des contributions plus saines en ligne.