Réduire la toxicité en ligne à l'aide du machine learning

L'API Perspective par Jigsaw peut aider à atténuer la toxicité et à favoriser des échanges sains en ligne.

La toxicité en ligne est un problème existentiel pour les plates-formes et les éditeurs. Les injures et le harcèlement en ligne réduisent au silence des voix importantes dans la discussion, et éloignent d'Internet des personnes déjà marginalisées.

Qu'est-ce que Perspective ?

Perspective est une API proposée sans frais qui identifie les "commentaires toxiquesNous définissons un propos toxique comme un commentaire grossier, irrespectueux ou déraisonnable risquant d'inciter une personne à abandonner une discussion." à l'aide du machine learning, et facilite l'hébergement de conversations de qualité en ligne.

Découvrez son fonctionnement par vous-même :

Saisissez une phrase dans la zone pour voir son score de toxicité. Perspective affiche un pourcentage correspondant à la probabilité qu'une personne trouve le texte toxique. Accédez à "Créer une démonstration personnalisée" pour personnaliser les seuils de toxicité, modifier les styles et obtenir un code simple prêt à l'emploi.

Essayer Créer une démonstration personnalisée

Ce commentaire est-il toxique ?

Oui Non

Merci pour vos commentaires !

pas d'accord ?

Options avancées

Envoyer un message aux utilisateurs en cas de commentaire

toxique
obscène
injurieux
menaçant

Afficher un commentaire négatif lorsqu'un commentaire présente

Niveau de confiance

0% 50% 100%

Peu probable Incertain Très probable

Doit être ≥ %

de chances d'être perçu comme toxique avec un message indiquant,

a x % de chances d'être toxique.
N'oubliez pas de suivre le règlement de la communauté.
Ajouter un message personnalisé

Afficher un commentaire positif lorsqu'un commentaire présente

Niveau de confiance

0% 50% 100%

Peu probable Incertain Très probable

Doit être < %

de chances d'être perçu comme toxique avec un message indiquant

a x % de chances d'être toxique. Bon travail !
Merci pour votre contribution positive à notre communauté !
Ajouter un message personnalisé

Supprimer le commentaire positif Ajouter un commentaire positif Ajouter un commentaire neutre

Pour tout résultat compris entre et %, afficher un message de type,

Nous avons des doutes concernant ce commentaire.
Il ne suit peut-être pas le règlement de la communauté (x %)
Ajouter un message personnalisé

Personnaliser les paramètres d'affichage :

Thème d'icône

Formes
Emoji
Aucune icône

Thème de couleur

API Perspective
Couleurs primaires
Feu de circulation

Police Web

Google Sans
Roboto
Open Sans
Playfair Display
Marriweather

Voici votre extrait de code personnalisé :

Copier

Copié dans le presse-papiers

              <!-- Perspective API widget code -->
              <html>
               <head>
                <script src='https://storage.googleapis.com/checker_source/perspective_authorship_widget.js'></script>
               </head>
               <body>
                <textarea id='client_text_area'></textarea>
                <convai-checker
                   input-id='client_text_area'
                   demo-settings-json="{
                    &quot;gradientColors&quot;: [&quot;#25C1F9&quot;,&quot;#7C4DFF&quot;,&quot;#D400F9&quot;],
                    &quot;toxicScoreThreshold&quot;:&quot;0.7&quot;,
                    &quot;neutralScoreThreshold&quot;:&quot;0.3&quot;,
                    &quot;showFeedbackForNeutralScores&quot;: false,
                    &quot;showFeedbackForLowScores&quot;: false,
                    &quot;feedbackText&quot;: [&quot;x% likely to be toxic. Great job!&quot;,&quot;We're not sure about that.&quot;,&quot;x% likely to be toxic. Please edit.&quot;],
                    &quot;loadingIconStyle&quot;: &quot;circle_square_diamond&quot;,
                    &quot;usePluginEndpoint&quot;: true,
                    & &quot;modelName&quot;: &quot;TOXICITY&quot;,
                    &quot;communityId&quot;: &quot;plugin-user_1610529593886-239823&quot;,
                    &quot;fontFamily&quot;: &quot;Merriweather, serif&quot;
                    }">
                </convai-checker>
               </body>
              </html>
            

GitHub

Que peuvent créer les développeurs avec Perspective ?

L'API Perspective aide les plates-formes et les éditeurs de toutes tailles à favoriser des conversations saines, engageantes et productives. Les développeurs intègrent et personnalisent l'API Perspective pour de nombreuses audiences différentes.

Pour les modérateurs

Perspective permet aux modérateurs de hiérarchiser et d'examiner rapidement les commentaires qui ont été signalés.

Pour les auteurs de commentaires

Perspective peut faire des remarques aux auteurs de commentaires toxiques.

Pour les lecteurs

Pour les lecteurs Les développeurs créent des outils permettant aux lecteurs de définir les commentaires qu'ils souhaitent voir, par exemple en masquant les commentaires potentiellement injurieux ou toxiques.

Pourquoi utiliser Perspective ?

Il a été prouvé que Perspective augmentait l'engagement en aidant les plates-formes et les éditeurs à créer des environnements de discussion sécurisés, et en aidant les internautes à apporter des contributions plus saines en ligne.