Note:

On suppose que tu as accès au compte administrateur de l'instance Mobilizon de Picasoft. Les identifiants sont sur le VaultWarden, mais tu peux les demander à quelqu’un de l’équipe de modération.

Mobilizon est un service d’organisation d’événements initialement développé par Framasoft avec pour ambition de proposer une alternative aux événements Facebook. Mobilizon est original par plusieurs aspects :

  • Les membres n’ont pas de profil → on ne peut pas les suivre. L’individualité n’est pas mise au centre de l’outil.
  • C’est un service fédéré : plusieurs instances du logiciel forme un réseau → les événements des uns sont visibles depuis les instances des autres.

Ce dernier point est crucial : chaque instance est libre d’appliquer ces propres règles et de se fédérer avec qui elle veut, de sorte que les utilisateurices choisissent l’endroit qui leur convient le mieux.

En revanche, le problème de la modération est double :

  • Non seulement n’importe qui peut créer un compte localement et poster du spam, de la pub, etc ;
  • Mais les comptes de spam peuvent venir d’autres instances avec lesquelles nous sommes fédérées.

Ce qui rend la modération sur les services fédérés très complexes ; à tel point qu’une thèse conduite par une membre est en cours.

Les signalements sont des demandes de modération par rapport à des contenus locaux mais qui peuvent être faits par des personnes distantes (sur une instance avec laquelle nous sommes fédérés, par exemple).

La liste des signalement est accessible depuis le compte administrateur et ressemble à ça :

On constate que ces signalement sont bien effectués par des personnes extérieures. Chaque signalement est transmis sur picasoft@assos.utc.fr.

Attention:

Un bug semble empêcher les signalements d’arriver sur les adresses perso des membres qui ont souscrit à picasoft@assos.utc.fr. Dans tous les cas, il serait bon de passer de temps en temps pour nettoyer l’instance.

Deux cas se présentent.

Compte de spam

Un compte fait uniquement de la publicité et du spam, sur toutes les instances. Exemple typique via un signalement :

On clique sur l’identité : on constate que cette identité ne publie que du spam.

On décide de supprimer le compte, on y accède au compte en cliquant sur l’email.

Note:

Mobilizon permet de gérer plusieurs identités segmentées associées à un même compte, ce qui permet de segmenter ses différentes activités/profils/etc.

On clique sur « Suspendre ».

Note:

La suspension du compte rend inaccessible l’ensemble des événements créés, ce qui est plus pratique que de supprimer à la main.

Cas d'un contenu litigieux

Ce cas ne s’est jamais présenté mais il serait intéressant de le documenter le cas échéant : un contenu qui pose souci politiquement par exemple. L’association devra alors se positionner sur sa ligne de « laisser-faire ».

Dans ce cas, il sera peut-être pertinent de supprimer uniquement l’événement, mais pas le compte. La procédure est simple : il faut signaler l’événement, et appuyer sur supprimer dans l’interface de modération. Exemple :

Note:

Même pour un·e administrateurice, il n’est pas possible de supprimer un événement depuis sa page dédiée. L’idée est de « forcer » à utiliser les outils de modération, dont on peut garder trace.

En cas d’événements litigieux sur une instance fédérée, il y a plusieurs solutions :

Signaler le problème

En symétrique aux signalements qu’on reçoit : les personnes s’occupant de la modération en face pourront alors supprimer le compte.

Suspendre le compte localement

Par exemple, même après avoir suspendu le compte buyyoutubeviews en local, on constate qu’il règle un événement dans le flux :

En cliquant dessus, on réalise que c’est un compte distant :

On peut rechercher ce compte depuis l’interface de modération :

Et choisir de le suspendre, comme dans le cas local.

Attention:

Attention, il y a un bug : parfois, il faut recharger la page et cliquer plusieurs fois sur « Suspendre ».

Note:

Les événements disparaissent alors de la vue locale, même s’il existent toujours sur l’instance distante. Mais au moins, nos utilisateurices ne sont plus exposées au spam, tout en restant connectés aux autres événements distants.

Supprimer le lien de fédération

Si une instance distante avec laquelle nous somme fédérés n’a aucune politique de modération et laisse les spammeurs envahir son espace, alors nous en seront victimes en permanence.

Il faut probablement engager le dialogue, et en l’absence de réponse, voter une défédération, qui se fait facilement depuis l’interface d’administration.

Important:

Les techniques montrées ici demandent toujours l’arbitrage d’un être humain. Nous ne pratiquons pas la modération automatique et ces méthodes ne sont pas parfaites, il existe de faux-positifs et de faux-negatifs

Pour détecter les profils problématiques, nous pouvons nous connecter en base et lancer quelques requêtes, la requête ci-dessous indique les évènements dont la durée est supérieure à 80 jours, ces évènement ont de fortes chances d’être du spam :

snippet.sql
SELECT url FROM events WHERE LOCAL = TRUE AND draft = FALSE AND visibility = 'public' AND ends_on - begins_on > '80 days'::INTERVAL;

Cette requête recherche des mots clés dans les évènements, en effet nous avons remarqués certains mots clés qui reviennent dans beaucoup de spams :

snippet.sql
SELECT organizer_actor_id, COUNT(*) AS nb FROM events WHERE LOCAL = TRUE AND draft = FALSE AND visibility = 'public' AND title ILIKE '%motclé%' GROUP BY organizer_actor_id ORDER BY nb DESC;

Ces mots clés peuvent être utilisés (non exhaustif, à compléter) :

  • cash
  • bitcoin
  • escort
  • driver
  • download
  • exam
  • design (! beaucoup de faux positifs)
  • company

Cette requête indique les comptes ayant beaucoup d’évènement, faire bien attention, pour beaucoup de comptes c’est tout à fait légitime :

snippet.sql
SELECT organizer_actor_id, COUNT(*) AS nb FROM events WHERE LOCAL = TRUE AND draft = FALSE AND visibility = 'public' GROUP BY organizer_actor_id ORDER BY nb DESC;

Cette requête indiques les profils ayant créé des évènement qui démarrent très peu de temps après la création du compte, encore une fois c’est parfois légitime mais c’est un critère commun à beaucoup de spams :

snippet.sql
SELECT actors.id FROM actors INNER JOIN users ON actors.user_id = users.id INNER JOIN events ON events.organizer_actor_id = actors.id WHERE events.begins_on - users.inserted_at < '2 hours'::INTERVAL AND events.local = TRUE AND events.visibility = 'public' ORDER BY actors.id DESC;
  • asso/moderation/mobilizon.txt
  • de rdelaage