Le problème n’est pas que vos membres utilisent l’IA. C’est qu’écrire est devenu gratuit alors que lire est resté coûteux. Une publication qui n’a rien coûté à produire coûte quand même à tous les autres leur attention, et une communauté est le premier endroit où ce déséquilibre se voit.
Presque toutes les politiques écrites à ce sujet échouent pour la même raison : elles cherchent à encadrer la façon dont un texte a été écrit plutôt que de savoir s’il méritait d’être lu.
Vous ne pouvez pas le savoir, et essayer fait des dégâts
Commencez par là, car tout le reste en dépend.
Les outils de détection ne fonctionnent pas de manière fiable, et leurs erreurs ne sont pas aléatoires. Ils signalent les personnes dont l’anglais n’est pas la langue maternelle, celles qui écrivent dans un registre formel, les membres autistes dont la prose est précise, et quiconque part d’un canevas tout fait. Une communauté qui agit sur la base d’un score de détection accusera des membres innocents de façon disproportionnée dans ces groupes, et chaque accusation injustifiée vous coûte une personne qui n’avait rien fait.
Votre propre intuition ne vaut pas mieux. Reconnaître à coup sûr un texte produit par une machine est une compétence que presque personne ne possède, y compris les gens certains de la posséder — d’où le fait que la suite de cet article porte sur des comportements que vous pouvez observer plutôt que sur une paternité que vous ne pouvez pas établir.
Ce qui ne va vraiment pas
Nommez le vrai reproche, car « on dirait de l’IA » sert de raccourci à trois problèmes différents qui appellent des remèdes différents.
Du volume sans implication. Quelqu’un publie six longues réponses en une heure sur des sujets où il n’a aucun historique. Le problème n’est pas la prose, c’est que personne n’est derrière.
De l’assurance dans l’erreur. Une réponse fluide, bien structurée, plausible, et fausse. C’est pire qu’une réponse manifestement mauvaise, car il faut un expert pour s’en apercevoir et un débutant pour y croire.
Du remplissage. Quatre paragraphes là où un seul suffirait, avec la question reformulée avant d’y répondre. Les membres le lisent comme un manque de respect, même sans savoir dire pourquoi.
Quatre approches possibles
Une seule d’entre elles survit au contact d’une vraie communauté.
| Approche | Ce qu’elle attrape | Ce qu’elle vous coûte |
|---|---|---|
| Interdire purement et simplement l’IA | Rien de fiable, c’est inapplicable | Les membres honnêtes qui s’en servaient pour traduire ou corriger |
| Exiger une déclaration | Seulement les consciencieux, qui n’étaient pas le problème | Peu de chose, mais cela n’accomplit pas grand-chose |
| Utiliser des outils de détection | Des faux positifs, concentrés sur les auteurs non natifs | La confiance, et les membres que vous accusez à tort |
| Juger l’effort et la responsabilité | Le comportement qui vous dérange réellement | Le discernement des modérateurs, et c’est le vrai coût |
La quatrième est la seule qui soit à la fois efficace et juste, et elle a la propriété utile de couvrir déjà les publications humaines bâclées, qui posaient problème bien avant tout cela.
Le test qui marche : peuvent-ils répondre à une relance ?
La responsabilité s’observe. La paternité d’un texte, non.
Si quelqu’un publie une réponse détaillée et ne sait pas répondre à « pourquoi faire ainsi plutôt qu’autrement », la publication n’était pas la sienne au sens qui compte, quel qu’en soit l’auteur. Quelqu’un qui s’est servi d’un modèle pour rédiger une réponse qu’il comprend vraiment gérera la relance sans peine, et cette personne n’est pas votre problème. Elle fait peut-être partie de vos meilleurs membres.
Ce test a aussi l’avantage de pouvoir être énoncé publiquement, ce que les autres n’ont pas. Vous pouvez inscrire « être capable d’assumer ce que vous publiez » dans une charte de communauté. Vous ne pouvez pas y inscrire « ne pas donner l’impression d’être une machine ».
Interdire l’IA, c’est exclure d’abord vos locuteurs non natifs
Cette conséquence est prévisible et systématiquement négligée.
Pour un membre qui écrit dans sa troisième langue, un modèle fait la différence entre contribuer et se taire. Il en va de même pour les personnes dyslexiques, et pour quiconque écrit en dehors de son registre professionnel. Une interdiction de l’IA supprime ces contributions avant de supprimer un seul auteur de mauvaise foi, parce que les auteurs de mauvaise foi ignorent les règles.
Si votre communauté s’étend sur plusieurs langues, considérez l’aide à la rédaction comme légitime et dites-le explicitement — sinon votre règle signifie en creux « publiez dans un anglais assuré ou pas du tout », ce qui est exactement le résultat évoqué dans l’animation d’une communauté multilingue.
Relevez légèrement le coût d’une publication
Le correctif structurel consiste à demander des choses qu’un modèle ne peut pas fournir tout seul.
Des consignes de publication qui exigent des précisions — ce que vous avez essayé, ce qui s’est passé, quelles sont vos contraintes — donnent des réponses que seule une personne ayant vécu la situation peut écrire. Les questions génériques appellent des réponses génériques, et l’ont toujours fait ; le déluge n’a fait que le rendre visible.
Valorisez la réponse plutôt que la publication. Une communauté qui célèbre le volume obtient du volume, et le volume est désormais gratuit. Celle qui met visiblement en avant la personne ayant bien répondu à une question difficile obtient moins de publications, mais de meilleure qualité : les mécanismes sont détaillés dans une stratégie d’engagement communautaire.
Quand ce n’est que du spam, traitez-le comme du spam
Une bonne partie de ce que les propriétaires appellent un problème d’IA est un vieux problème doté d’une nouvelle aisance.
Les publications promotionnelles, les fermes de liens et les comptes qui publient dans neuf espaces sans rapport entre eux relèvent du spam, qu’une personne ou un modèle les ait écrits. Ce sont les cas faciles : traitement par règles, aucun jugement requis, et aucun besoin de raisonner sur la paternité du texte. Voyez la modération assistée par IA pour savoir où l’automatisation aide vraiment.
Faire ce tri compte, car il vous laisse une pile bien plus réduite de publications réellement ambiguës, et cette pile est assez petite pour qu’un humain la lise.
Appliquez-vous la même règle
Les propriétaires aussi rédigent leurs annonces avec des modèles, et les membres le repèrent plus facilement là, parce qu’ils connaissent votre voix.
La norme est exactement celle que vous leur appliquez : vous devez assumer ce que vous publiez. Une annonce rédigée par une machine, que vous avez retravaillée et que vous pensez vraiment, ne pose aucun problème. Des excuses rédigées par une machine, si, pour les raisons exposées dans comment modérer une communauté en ligne : tout l’intérêt d’excuses tient à ce qu’une personne en a choisi les mots.
Ne laissez jamais un modèle répondre à la question directe d’un membre comme si vous l’aviez fait vous-même. Si la réponse se révèle fausse, vous en êtes responsable dans tous les cas, et vous aurez dépensé de la confiance pour un texte que vous n’avez pas lu.
Écrivez la règle en termes de comportement
Trois lignes couvrent presque tous les cas, et aucune ne mentionne l’IA.
Publiez ce que vous pouvez assumer et discuter. N’inondez pas : quelques publications réfléchies valent mieux qu’une multitude de messages rapides. Ne présentez pas comme votre expérience ce qui ne l’est pas. Formulée ainsi, la règle s’applique de la même manière à quelqu’un qui délaye une publication et à quelqu’un qui en colle une, ce qui est exactement juste, car la communauté vit les deux de la même façon.
Si vous voulez en plus une norme de transparence, faites-en un usage social plutôt qu’une obligation : que des gens mentionnent qu’un modèle les a aidés à rédiger est sain, surveiller s’ils l’ont mentionné ne l’est pas. Pour l’introduire de façon délibérée, voyez comment utiliser l’IA dans votre communauté.
En résumé
Cessez de chercher à identifier les textes produits par une machine, car vous ne le pouvez pas, et la tentative retombe le plus durement sur des membres qui n’ont rien fait de mal.
Jugez les publications à la capacité de quelqu’un à les assumer, traitez le spam évident comme du spam, posez des questions qui réclament de vrais détails, et appliquez la même règle à vos propres annonces. Les communautés qui traverseront bien cette période seront celles qui reposaient déjà sur la responsabilité plutôt que sur la production : les autres étaient vulnérables à un déluge de mots bon marché bien avant qu’une machine sache en générer.