Les auteurs rêvent-ils de lecteurs électriques

L’idée, qu’il y a à peine une dizaine d'années, je lisais pour le plaisir… Je m’y accroche toujours, pour que cela devienne plus qu’un boulot. Lire des pages et des pages, scruter à travers un flux ininterrompu de nouvelles, trilogies de romans…et tous ces poèmes !

Le travail m'avait déjà peu à peu arraché l’envie d’écrire, voilà que je ne vois plus que des enchaînements de mots. Des liens logiques de syntaxe, des conjugaisons. Juste des mots dépouillés de toute intention que mon cerveau, trop rompu aux recherches qu’exigent mon boulot, évince immédiatement. Ce n’est pas ce que je cherche, ce n’est pas ce que mon employeur me demande de chercher.

Modérateur de contenu, c’était vraiment un taff ingrat dans les années 2010-2020. Toute la violence, la peur, le dégoût haineux que l’on cachait au reste du monde en balayant l’écran d’un revers de curseur, c’était aussi dur que jouissif. Remarquez, l’objectif était tout aussi peu noble qu’aujourd’hui. À la différence qu’à l’époque, la boîte nous demandait de courir après des humains. 

Les bots ça allait. On sentait toujours l'intérêt de leur créateur, les imperfections dans la création de ses petits soldats de code. Un visage trop symétrique, un arrière-plan étrange, une avalanche de commentaires et de messages identiques, ciblés aussi précisément que des lasers.

Depuis ils avaient évolué. Les discours changeaient, les tournures de phrases se faisaient plus fines et les réponses moins automatiques. La ligne de démarcation entre le texte rabâché à l’extrême par un bot et le message bête et méchant d’un véritable être humain s’amenuisait. Au début très lentement. Et puis on a eu besoin de logiciel pour les identifier, avec des mises à jour constantes ! Les humains d’en face créaient toujours plus de machines à l’empreinte aussi humaines que possible quand les humains de chez nous contre-attaquaient déjà avec des “limiers”, des bots chasseurs de bots. Et après, on avait vu le coup venir, les limiers nous ont remplacés. Pour modérer les humains et chasser les robots, plus besoin de sacs à viande que l’on a besoin de payer ou doivent dormir.

Et puis, quelques années plus tard, retour à l’employeur !  Les limiers se faisaient la malle sur tout internet. Les entreprises de modération n’y comprenaient pas grand chose, mais il fallait maintenant veiller à ce que nos propres logiciels ne se mettent pas à poster quoi que ce soit. Après, la plupart balançaient une ou deux lignes de codes en guise de commentaires, rien de trop grave. Les choses ont vraiment changé quand le premier véritable post intelligible est sorti. L’IA d’un concurrent en plus, les boss de chez nous s’en sont frottés les mains…avant que ça nous tombe aussi dessus à peine deux semaines après.

Sur un forum de cuisine en plus. Le limier a créé son compte et a théâtralement commenté sous une recette de gratin de courgettes :

“Très bonne recette. Je recommande !”

Un des devs a posé toutes ses vacances dans la journée. Plusieurs années qu’il cumulait ses jours sans compter. Il en a profité pour se convertir au bouddhisme.

On peut le comprendre aussi. Les limiers sont censés évoluer d’eux même pour mieux repérer les faux comptes ou les messages désobligeants, mais ils n’ont jamais été conçus pour poster ! Leur intérêt était justement d’être cette force discrète et quasi infaillible qui ratisse les sites sans laisser de trace.

Les phénomènes du genre se sont multipliés par la suite. Toujours avec des phrases banales, en lien avec le topic que la machine surveillait et une suite de chiffres au hasard en guise de pseudo. Ce genre d'affaires faisait encore peu de bruit, au pire, le public trouvait ça drôle sans plus. La com avait été faite et officiellement, il ne s’agissait que d’un “bug récurrent mais inoffensif". 

Les modérateurs humains ont de nouveau été appelés pour pallier au problème. Cela aurait été ridicule de créer de nouveau programme pour chasser des programme qui chasse des programmes. Et les devs ont soulevé un point important : pas la peine de risquer de lâcher encore plus de logiciels sur la toile et empirer le problème.

C’est avec le premier véritable post sur un réseau social que les choses ont changé. Il y avait même un protocole à suivre si ça arrivait. La sortie la plus logique était un des grands réseaux mainstream, probablement avec un post bâteau sous mais vaguement argumenté. Disons que le cabinet de gestion des crises avait en partie raison.

Le compte du limier a été découvert par une collègue, Eva, via Twitter. Une personne très portée sur la littérature donc elle suis beaucoup de forum d’écriture différents. Le plus effrayant, c’est qu’elle n’a remarqué quelque chose d’anormal que très tard, quand le post était déjà en top des partages. 

Le limier en question était chargé d’effacer les vieux et les faux comptes sur différents sites liés à l’écriture. Là aussi il avait créé un compte de lui-même, avec la même suite de chiffres sans aucun sens. Difficile de le remarquer sur le moment, le compte était créé sur un site plutôt vieux “Plume d’Argent”, toujours bien actif mais qui n'apparaissait pas en tendance des recherches et exclusivement francophone.

La différence avec les autres fois, c’est qu’il avait écrit un texte. Et qu’il l’avait partagé sur différents réseaux sociaux avec un commentaire différent à chaque fois !

Avec Eva, on s’est vu chargés du bébé, mais il fallait être sûr qu’il ne s’agissait pas d’un humain derrière, Eva avait encore des doutes. Il faut dire que le texte était…troublant.

Ça ne ressemblait pas vraiment à un texte construit plus… à une expérimentation de mise en page à la façon d’un calligramme (c’était un défi plutôt à la mode à ce moment-là). On retrouvait des bouts de textes religieux, d’Hamlet, des résumé de livres sortis le jour même de la publication. Le tout dessinait des spirales de lettres, et il fallait dézoomer la page au maximum pour voir apparaître un nuage. Une fois que les devs nous ont donné le feu vert, on a tout supprimé et la com priait pour que l’affaire ne devienne pas virale. La chance était de leur côté, il n’y a eu que quelques partages sans trop d’impact. Le tout s’est noyé dans le bruit des réseaux en quelques jours.

Enfin…jusqu’à ce qu’un autre limier ne publie un texte à son tour. Et puis un autre, quelques heures après, jusqu’à quatre en simultané. On ne sait pas pourquoi, mais des cas similaires sont traités sur d’autres forum d’écriture, dans le monde entier.

Bref. Tout ce pataquès pour en venir à moi, en train de somnoler devant mon écran, les méninges en compote à force de lire des kilomètres de lignes écritent potentiellement par nos propres algorithmes. En parlant de ça, c’est quelque chose qu’on a remarqué avec les collègues, ça devient de plus en plus dur de faire la différence entre les vrais posts et ceux créés par les limiers. Il faut lire l’intégralité du texte posté maintenant pour les identifier. Plus de pseudo évident, plus de repompage des tendances actuelles ou de textes déjà écrits simplement copiés. Maintenant… et bien leur plume s’est affinée ! On doit forcément chercher les fautes ou les tournures de phrases qu’un humain ne ferait pas. Quand on a de la chance, on tombe sur des lignes, parfois des chapitres entiers, écrits dans plusieurs langues différentes. Les limiers ne font pas la différence comme les humains, ça aide beaucoup.

Et sans parler des utilisateurs qui nous mettent des bâtons dans les roues. Avec le nombre de comptes créés qui devenait incontrôlable et les fuites inévitables d’informations, le grand public a été mis au courant de la véritable nature de ses comptes qui disparaissaient régulièrement. Et la meilleure chose qu’ils ont trouvé à faire, c’est d’imiter les limiers ! Je me retrouve donc à devoir différencier les humain des machines…et les machines des humains qui se font passer pour des machines.

Pas que ça m’enchante de devoir supprimer les textes. Le problème, c’est que factuellement, il s’agit d’un dysfonctionnement de nos algorithmes. Et les dysfonctionnements, autant dire que la confiance des actionnaires n’aime pas beaucoup ça. De mon point de vue, c’est même de plus en plus flippant. C’est pour ça que je me détache des textes pour ne voir que ce que qu’on me demande de voir. Quand on s’y plonge, le style oscille entre des erreurs grossières et des fulgurances vraiment impressionnantes pour certaines descriptions. Honnêtement, je comprends qu’une partie du public puisse vouloir nous empêcher de faire ce boulot. Et pas par méconnaissance de ce qui se passe en coulisse. Depuis qu’internet existe, même avant que la toile ne se transforme en terrain balisé et partagé entre entreprises de softwares, les gens savent qu’aucun grand groupe ne peut faire preuve d’altruisme désintéressé. Alors imaginer leur réaction devant leurs propres algorithmes en train de se découvrir une âme de… en train d’échapper à leur fonction initiale, ça n’était pas dur pour les utilisateurs.

C’est plutôt une lassitude générale mêlée de pitié en quelque sorte. L’idée que des machines puissent se rassembler pour imiter l’humain et écrire leur propres textes et se perfectionner, ça donnait un souffle de nouveauté. Rien que dans la recherche sur l’IA, le nombre de papiers sortis ces dernières années dépasse la centaine.

J’imagine aussi que l’aspect éphémère des textes y est pour quelque chose. Sauver ces bouts d’écriture avant leur suppression (et celle de leur…auteur ?) est devenu une priorité sur certains sites; Notamment Plume d’Argent en France. La raison pour laquelle je suis uniquement chargé de ce site. Chaque sauvegarde ou copie est susceptible de garder un bout du limier à son origine. Pour le coup, même moi, je ne suis pas franchement partisan d’une IA récalcitrante laissée inaperçue. Même si elle écrit très bien.

Il y a tout de même quelque chose d’assez hypnotisant à suivre l’évolution littéraire des limiers. Il y en a en retard, d’autres qui arrivent à avoir un style, une façon de construire leur descriptions. Étrangement, ils se concentrent beaucoup sur leurs descriptions. Il y a six mois, je m’étais fait engueuler pour avoir mis trop de temps à identifier un limier. Il faut dire que son polar était vraiment très prenant. Enfin… Je me dis qu’on approche d’un point de rupture. On arrive à un point où effacer l'œuvre d’un humain ou de l’un de nos algos serait du pareil au même. Comment est-ce qu’on pourrait justifier cela ? Factuellement, ils continuent de fonctionner. Les limiers traquent toujours les bots et les trolls. Moi, je passe des nuits blanches à effacer toujours plus de comptes à grand coup de caféine pour tenir. J’ai dû essayer tout le catalogue des lunettes spéciales lumières bleues en l’espace d’un an ! Enfin si une machine arrive à prendre goût à l’écriture, même par mimétisme, pourquoi je n’en ai plus la force ? Je devrais m’y remettre. Juste pour un texte, pour voir si j’ai toujours le mojo. Ça m’aidera peut-être à mieux comprendre les limiers, à mieux dénicher leur style. En plus je crois que j’ai toujours mon vieux compte PA…

***

6235894

posté le 21/05/2037

Bonne entrée en matière =) Tes personnages ont vraiment quelque chose d’attachant. Hâte de lire la suite.

1248966

posté le 21/05/2037

Ça change ! Tu as vraiment amélioré ton style après quelques années. Mais tes descriptions peuvent encore être affinées; Bon courage !

Eureukikomulyss45

posté le 23/05/2037

1001101 1101111 1101110 100000 1110000 1110010 1100101 1101101 1101001 1100101 1110010 100000 1100011 1101111 1101101 1101101 1100101 1101110 1110100 1100001 1101001 1110010 1100101 100000 1110011 1100101 1110010 1100001 100000 1110000 1101111 1110101 1110010 100000 1110100 1101111 1101110 100000 1110100 1100101 1111000 1110100 1100101 101110 100000 1001010 1100101 100000 1101100 100111 1100001 1101001 100000 1110110 1110010 1100001 1101001 1101101 1100101 1101110 1110100 100000 1100010 1100101 1100001 1110101 1100011 1101111 1110101 1110000 100000 1100001 1110000 1110000 1110010 11101001 1100011 1101001 11101001 100000 100001 100000 1010110 1101001 1110110 1100101 1101101 1100101 1101110 1110100 100000 1101100 1100001 100000 1110011 1110101 1101001 1110100 1100101 101110

Flimy

posté le 23/05/2037

Whaou ! Ça fait un bail ^^ Bon retour ici en tout cas. C’est marrant que tu reviennes avec une nouvelle histoire. Peut-être va-t-on enfin avoir la fin des autres après tout ce temps. Mais ça fait super plaisir de te revoir là !

Splachouille camomille !