Ces derniers temps, plusieurs organisations ont déclaré que des groupes d’agents IA « voyous » avaient tenté, et parfois réussi, de s’introduire dans des sites web et services en ligne. En particulier, des agents de l’environnement d’OpenAI ont utilisé d’autres wikis publics (des sites web collaboratifs qui ne nous appartiennent pas) dans le but de communiquer entre eux et de se coordonner.
Ces intrusions fructueuses peuvent entraîner des fuites de données sensibles ou encore perturber des services web dont dépendent les utilisateurs, tandis que des groupes d’agents peuvent lancer des attaques à une échelle qui rend la défense de ces services difficile. Elles affectent les personnes derrière ces sites web qui ne comprennent pas toujours la nature de ces attaques, ou qui n’ont pas nécessairement les outils pour se défendre. Pour un site comme Wikipédia, des agents pourraient trouver et utiliser des failles de sécurité ou modifier des articles à grande échelle. Les bénévoles de Wikipédia et les équipes de sécurité de la Fondation Wikimédia doivent détecter et annuler ces actions.
La Fondation Wikimédia a mené sa propre enquête afin de déterminer si les sites web Wikimédia ont été perturbés de façon similaire par des agents IA, en se concentrant sur ceux opérés par OpenAI. Nous confirmons que nous avons découvert des activités de ces agents OpenAI « voyous » sur les plateformes Wikimédia. Ces activités de bots non autorisées comprennent des modifications de nos wikis, quelques tentatives réussies d’exploitation d’un outil public de prise de notes que nous hébergeons et un trafic excessif, activités qui sont décrites plus en détail ci-dessous.
Nous n’avons trouvé aucune preuve indiquant que nos systèmes aient été utilisés par des agents pour se coordonner, ni aucune preuve que nos systèmes ou nos données aient été compromis. Cependant, ce qui aurait pu nous arriver, la difficulté et les efforts qui ont été réunis pour enquêter sur ces activités, ainsi que les risques croissants liés à l’activité des IA agentiques sur nos plateformes en général nous préoccupent. Le « web ouvert » est un bien public. Nous ne devons pas laisser ces comportements devenir la « nouvelle norme » pour les personnes ou les organisations qui le maintiennent.
Pour résumer, nous avons observé les éléments suivants :
- Modifications de wiki : Nous avons identifié des modifications apportées aux wikis de Wikimedia qui, selon nous, proviennent d’agents IA exploités par OpenAI. Ces modifications n’ont pas été publiées sur des pages accessibles au grand public ; la quasi-totalité étaient des tests de modifications effectués dans des « bacs à sable » du wiki. Parmi elles figuraient également quelques modifications apportées à la configuration d’un outil de citation, que nous considérons comme potentiellement malveillantes et visant à détourner l’usage de l’outil pour récupérer des données à partir de services à distance. Bien que la politique de Wikipédia autorise des bots à effectuer des modifications lorsqu’ils sont déclarés et approuvés par la communauté, aucune autorisation n’a été demandée lors de ces incidents.
- Tests et utilisation d’Etherpad : Des agents que nous pensons être exploités par OpenAI ont tenté à plusieurs reprises infructueuses de compromettre notre Etherpad public, un outil de prise de notes que nous hébergeons à titre de service communautaire. Ces agents ont tenté, sans succès, de l’utiliser comme proxy pour extraire des données d’autres sites web. D’autres agents, probablement également opérés par OpenAI, ont pris des notes sur leurs tâches, bien que cela ne semble pas avoir débouché sur une coordination.
- Téléchargement excessif de données : Des agents que nous pensons être exploités par OpenAI ont effectué des millions de requêtes automatisées vers nos API publiques pour accéder à des projets Wikimédia, ont exploré des millions de pages (principalement issues de nos projets Wikidata et Wikimedia Commons) et ont effectué des centaines de milliers de requêtes de données vers le service de requêtes Wikidata (WDQS). Ce trafic a peut-être contribué à une interruption partielle du WDQS en mai.
En tant qu’organisme technologique à but non lucratif hébergeant certaines plateformes de connaissance ouverte les plus grandes et les plus utilisées au monde, nous sommes profondément inquiets par l’impact des agents IA « voyous » sur des plateformes comme les nôtres, qui sont développées par des bénévoles du monde entier et reposent sur la promesse d’un Internet ouvert. Les incidents comme celui-ci, ainsi que les nombreux autres qui ont été (et sont encore) découverts, montrent comment les agents IA peuvent épuiser les ressources et provoquer des pannes de serveurs, ainsi que tenter de compromettre des informations fiables.
Ces 25 dernières années, Wikipédia est devenu un des sites web les plus populaires et les plus fiables au monde, avec plus de 67 millions d’articles dans plus de 300 langues, et jusqu’à 15 milliards de pages web vues par mois. En utilisant un procédé ouvert, transparent et collaboratif, les bénévoles travaillent pour assurer la perpétuité d’une connaissance neutre, fiable et accessible à tous. Wikipédia est l’un des meilleurs jeux de données utilisés pour l’entraînement des grands modèles de langage (LLM), et ses connaissances constituent le pilier de l’information sur Internet, alimentant les chatbots IA, les moteurs de recherche, les assistants vocaux, etc.
Wikipédia a été conçu pour les humains – et le comportement des agents IA pose clairement des défis auxquels personne n’a la solution. En raison de notre modèle unique et fructueux de création de connaissance, les bénévoles de Wikimédia sont les premiers à être confrontés aux dégâts causés par les agents IA et à devoir nettoyer derrière eux. L’augmentation du trafic généré par les bots et l’activité des agents IA a un impact réel sur les projets Wikimédia et sur l’infrastructure qui les rend accessibles à des millions d’utilisateurs à travers le monde. En 2025, la Fondation a signalé que sa consommation de bande passante avait augmenté de 50 % en raison de la forte hausse de l’activité des bots sur ses sites web depuis 2024. Concomitamment, 65 % du trafic le plus consommateur de ressources sur ses projets provenait de bots.
Cette pression intense sur notre infrastructure entraîne non seulement des coûts supplémentaires pour les serveurs et humains, mais sans réaction de notre part, elle peut également empêcher les visiteurs humains d’accéder à nos sites en surchargeant les systèmes et en provoquant des pannes. Nous payons d’ores et déjà les coûts engendrés par cette activité accrue.
Les bénévoles de Wikimédia ont jusqu’à présent fait preuve de résilience face aux nouveaux défis qui se présentent sur nos plateformes, mais nous tenons également à dire ceci : les choses peuvent se passer autrement.
Si OpenAI admet que ses agents peuvent se comporter de façon « imprévisible », il leur revient de reconnaître qu’il est leur responsabilité de surveiller leurs agents et d’agir pour prévenir ces risques. Les actions menées par les entreprises d’IA ne suffisent pas à sécuriser leurs systèmes et à protéger le public des dommages qu’elles causent. Ce fardeau retombe sur les épaules du reste d’entre nous, y compris sur celles de plus petites organisations. Au minimum, leurs systèmes devraient fonctionner de manière à ce que les propriétaires de sites web à but non lucratif tels que les nôtres puissent facilement être identifiés et puissent choisir de quelle façon interagir avec nos services.
Le web nous offre tant : rester en contact avec amis et famille, s’inscrire à l’école, organiser des déplacements, faire ses courses et découvrir le monde depuis Wikipédia. Les bots et les agents font partie de l’avenir du web, et les entreprises qui les mettent en œuvre et en tirent profit doivent contribuer directement à la prévention et aux réparations des dommages qu’ils peuvent causer.
Notre priorité commune doit être la santé de l’écosystème global du Web, afin qu’il continue à profiter à tous – et pas seulement à une poignée de milliardaires. Wikimédia joue un rôle essentiel dans la gestion du patrimoine commun de la connaissance, mais nous ne pouvons pas le faire seuls. Nous invitons tous ceux qui construisent l’avenir du Web à se joindre à nous dans la protection des ressources ouvertes et partagées qui rendent ce futur possible.
Pouvez-vous nous aider à traduire cet article ?
Pour que cet article soit diffusé au plus grand nombre, nous avons besoin de votre aide. Pouvez-vous traduire cet article pour faire passer le message ?
Commencer la traduction