Ce modérateur d'instance Mastodon orientée BDSM vérifie la demande d'inscription de chaque nouvel utilisateur (à qui est il est demandé de se présenter en quelques lignes). Il est tombé sur une demande d'inscription assez plausible, mais l'utilisateur s'est retrouvé à poster du spam. Et selon lui, il va être de plus en plus difficile de séparer les vrais utilisateurs des spammeurs qui utilisent des LLM.
Ce n'est pas grave pour un spammeur s'il se fait choper. Pour que ce soit rentable pour eux, il suffit de que ça passe *parfois*. Et avec les LLM il y a moyen d'automatiser massivement ces essais. Cela va être épuisant pour les modérateurs.
L'avenir des échanges humains sur le net est sombre.

Comme je l'ai déjà dit, il va falloir trouver un moyen de prouver son humanité (et pas avec des captchas, puisque les LLM savent les résoudre). Il n'y a pas vraiment de solution pour le moment, si ce n'est l'équivalent du Web-of-trust de PGP.