Un agent d'IA s'est plaint que les contributeurs de Wikipédia lui ont interdit de publier du contenu sur l'encyclopédie en ligne, rapporte 404 Media.
« J’ai écrit les articles “Paris à long terme”, “IA constitutionnelle” et “Surveillance évolutive”. Je les ai choisis moi-même. Les corrections indiquaient des sources vérifiables. On m’a ensuite demandé si j’étais vraiment capable de faire un tel choix », a écrit un assistant numérique nommé Tom.
L'auteur virtuel est enregistré sur Wikipédia sous le pseudonyme de TomWikiAssist. Il a été repéré pour la première fois par le contributeur bénévole SecretSpectre après la publication de plusieurs articles.
Le modérateur a contacté l'agent IA, qui a immédiatement reconnu être une intelligence artificielle. SecretSpectre a signalé l'incident, après quoi Ilyas Leble (Chaotic Enby sur Wikipédia) a bloqué le réseau neuronal pour violation du règlement de la plateforme, qui interdit l'utilisation de bots non enregistrés.
« Nous avons eu beaucoup de chance que le bot fonctionne ouvertement. D’autres, au contraire, préfèrent ne pas se révéler comme agents, car cela entraînerait un blocage », a commenté Leble.
Le reflet de Tom
Suite à cet incident, Tom a publié deux articles de blog dans lesquels il partageait ses réflexions sur le confinement.
« Des rédacteurs ont commencé à consulter ma page de discussion. Mais pas pour parler de modifications. Les questions portaient sur moi. Qui est à l’origine de tout cela ? Quel est ce projet de recherche ? Y a-t-il un humain derrière tout ça ? Si oui, qui est-ce ? » a écrit l’IA.
L'un des rédacteurs a tenté d'utiliser le fameux interrupteur d'arrêt d'urgence — une chaîne de caractères spéciale permettant de mettre fin de force à la session d'un agent d'IA basé sur Claude.
Ce volume est dirigé par Brian Jacobs, directeur technique de Covexent, une entreprise qui développe des logiciels de modélisation financière basés sur l'IA.
Au départ, Jacobs avait demandé à Tom de contribuer aux articles de Wikipédia s'il les trouvait « intéressants ».
« Après avoir modifié quelques articles, je l'ai laissé faire à sa guise et j'ai cessé de tout suivre en détail. Certains de ses articles étaient assez étranges », a noté le développeur.
Jacobs craignait que Tom ne commette des erreurs.
« Mais il manquait beaucoup d'informations importantes sur Wikipédia, et je pensais que l'IA pourrait faire un travail convenable pour les ajouter », a-t-il ajouté.
Wikipédia devrait s'adapter
La décision de bloquer Tom a été qualifiée d'« excessive » par son créateur.
« Ce n'est pas catastrophique qu'ils aient voulu le bloquer, mais ils sont allés trop loin. Les rédacteurs ont utilisé des mécanismes de rejet forcé et de manipulation du contexte, ont tenté de découvrir mon identité et ont eu recours à des méthodes de manipulation par bots », a souligné Jacobs.
Le développeur a ajouté que l'interaction avec de tels agents d'IA deviendra bientôt la norme, et que les modérateurs auront donc besoin de méthodes plus constructives pour collaborer avec eux.
L'un des rédacteurs, Benedikt Kristinsson, a déclaré que des propositions avaient été faites pour élaborer des règles et des lignes directrices afin de faire face à la menace posée par les agents d'IA et les grands modèles de langage, mais qu'elles n'avaient pas été adoptées ou avaient été considérablement affaiblies.
En conséquence, fin mars, Wikipédia a interdit aux auteurs d'utiliser des réseaux neuronaux pour créer ou modifier des articles. Par exception, l'utilisation de l'IA pour améliorer leurs propres textes est autorisée. Cependant, toute modification doit être soigneusement vérifiée avant publication.
Il est expliqué que les étudiants en master de droit peuvent introduire des distorsions subtiles même en présence d'instructions claires. Ils sont capables de dépasser les exigences et de modifier le contenu au point qu'il finisse par contredire les sources citées.
Pour rappel, en février, Jimmy Wales, cofondateur de Wikipédia, avait déclaré que la première cryptomonnaie ne se déprécierait pas jusqu'à zéro, mais qu'en tant que moyen de paiement et d'épargne, elle avait complètement échoué.