web-dev-qa-db-fra.com

Prévenir le contenu réservé aux adultes dans un forum

Je travaille sur un forum qui permet aux images attachées aux messages et de ne pas nécessiter d'inscription . En fait, j'aimerais proposer une option de navigation sécurisée dans laquelle les messages contenant des images pornographiques ne sont pas affichés.

Les idées que j'ai proposées sont les suivantes:

  • Définissez l'option de travail sécuritaire comme option par défaut et traitez tous les messages avec des images jointes pornographiques, et ne les rendez visibles que si l'utilisateur le "désactive".

  • Rendre toutes les publications avec des images jointes non sécuritaires au travail et
    changer leur statut en sécurité sur le travail uniquement après approbation du modérateur
    il. Ils ne seront alors visibles que si l'utilisateur a coché l'option "sécurité pour le travail".

Est-ce que quelqu'un d'autre a une idée? Aussi, comment les grands services Web traitent-ils cela? ( YouTube , CraigsList , même StackExchange ).

En passant, je ne pense pas que les bibliothèques de "détecteurs de nudité" soient exactes et donnent beaucoup de faux positifs et négatifs.

Merci!

4
federico-t

En réponse à vos propositions

Je ne vois pas vraiment comment votre première proposition empêchera un enfant d'être exposé à un contenu inapproprié posté par des spammeurs.

En ce qui concerne votre deuxième proposition - cela pourrait très bien fonctionner, mais vous devrez faire preuve de modération 24 heures sur 24, 7 jours sur 7 ou la plupart du contenu sera verrouillé, ce qui n’est pas très utile du point de vue des utilisateurs.

Je pense que vous pouvez aborder ce défi sous un mauvais angle (verrouillage du contenu plutôt que modération du contenu).

Le texte peut aussi être inapproprié

Vous devriez également très bien considérer que même si aucune image n'est jointe, le contenu textuel peut être hautement inapproprié pour les visiteurs mineurs. Et encore moins que le spam marketing est quelque chose qu'aucun visiteur ne voudrait rencontrer.

Une bombe en attente d'exploser

Si vous avez déjà utilisé phpbb ou wordpress site, ceux-ci sont bombardés de tentatives de spam, et j'ai même vu des sites qui ont dû être fermés pendant quelques jours simplement pour permettre la suppression de milliers de messages de spam. .

Un site qui ne nécessite aucune inscription et ne dispose d'aucune authentification défi-réponse pour la publication est essentiellement une bombe en attente d'explosion.

Stratégies de modération

La vraie question est de savoir qui modère le contenu (comment et à quelle fréquence), où vous avez deux options:

  • Modérateurs de site - si vous avez quelqu'un qui surveille constamment les messages.
  • Visiteurs - où les visiteurs signalent un contenu inapproprié qui est ensuite examiné par les modérateurs.

L'ancien système nécessite une présence fréquente du modérateur et peut prendre beaucoup de temps pour les modérateurs. Mais si le site ne compte pas beaucoup de visiteurs, cela pourrait être le seul choix pratique.

Si tel est le chemin à suivre, vous pouvez envisager de créer une adresse électronique conjointe de modérateur et de donner les détails d'accès à tous vos modérateurs. Ensuite, envoyez instantanément un e-mail à cette adresse, périodiquement ou périodiquement, avec un lien vers toutes les nouvelles images/publications. Cela permettra aux modérateurs d'examiner les images sur les appareils mobiles sans avoir à se connecter au système d'administration. Si tout va bien, l'email peut être supprimé pour que les autres modérateurs n'aient pas à s'en occuper.

Ce dernier système est plus approprié pour les sites qui comptent de nombreux visiteurs, soit plus de 50 à la fois.

Stack utilise ce système sous la forme d'une option "indicateur de spam", qui accorde une priorité très élevée à la file d'attente des modérateurs. Je pense qu’il est raisonnable de dire que tous les spams seront supprimés en moins de 40 secondes sur les sites empilés, mais de nombreux visiteurs et modérateurs sont en ligne à tout moment.

Youtube a la même option "signaler comme inapproprié", ce qui, je l’imagine, sera traitée immédiatement.

Google utilise la même stratégie pour la recherche d'images.

Résumé

Donc, je ne m'en tiendrai à aucune de vos propositions. Au lieu de cela, je me concentrerais sur:

  • Fournir une option de drapeau pour les visiteurs.
  • Fournir aux modérateurs un moyen simple, rapide et mobile de modérer le contenu.
3
Izhaki

Tout forum ayant une visibilité quelconque sera inondé de spam ou pire s'il n'y a pas de contrôle administratif actif. Exigez l'enregistrement et prévoyez de consacrer beaucoup d'efforts à la surveiller.

0
ddyer