Wykryto działania „zbuntowanych” agentów OpenAI w projektach Wikimediów

Translate this post

W ostatnim czasie wiele organizacji ujawniło, w jaki sposób grupy tak zwanych „zbuntowanych” agentów sztucznej inteligencji próbowały włamywać się na strony i do usług internetowych – niekiedy z powodzeniem. Wiadomo w szczególności, że agenty ze środowiska OpenAI wykorzystywały inne publiczne projekty wiki (serwisy współtworzone przez społeczność, nienależące do nas), aby komunikować się ze sobą i koordynować działania.

Tego typu udane włamania mogą prowadzić do ujawnienia poufnych danych lub zakłócenia działania usług, na których polegają użytkownicy, podczas gdy grupy agentów są w stanie przeprowadzać ataki na skalę trudną do opanowania przez osoby odpowiedzialne za bezpieczeństwo. Uderza to bezpośrednio w ludzi stojących za tymi witrynami, mogących nie rozumieć natury takiego ataku lub nie dysponować narzędziami, by skutecznie się przed nim bronić. W przypadku serwisu takiego jak Wikipedia agenty mogłyby wyszukiwać i wykorzystywać luki w zabezpieczeniach albo masowo dokonywać wprowadzające w błąd edycje. Zadanie wykrywania i wycofywania takich działań spada wówczas na wolontariuszy edytujących Wikipedię oraz zespoły ds. bezpieczeństwa Wikimedia Foundation.

Wikimedia Foundation przeprowadziła własne dochodzenie, aby sprawdzić, czy serwisy Wikimediów zostały w podobny sposób dotknięte działaniami agentów sztucznej inteligencji, skupiając się na tych obsługiwanych przez OpenAI. Możemy potwierdzić, że wykryliśmy pewną aktywność tych „zbuntowanych” agentów OpenAI na platformach Wikimediów. Do tych nieautoryzowanych działań botów należały edycje w naszych projektach wiki, kilka nieudanych prób wykorzystania udostępnianego przez nas publicznego narzędzia do robienia notatek oraz generowanie wzmożonego ruchu sieciowego – co szczegółowo opisujemy poniżej.

Nie znaleźliśmy dowodów na to, że nasze systemy były wykorzystywane do koordynacji działań między agentami ani dowodów na naruszenie bezpieczeństwa naszych systemów lub danych. Niepokoi nas jednak to, do czego mogło tutaj dojść, a także trudność i nakład pracy wymagany do zbadania i przypisania tej aktywności oraz ogólnie rosnące ryzyko związane z autonomicznymi działaniami agentów sztucznej inteligencji na naszych platformach. Otwarty Internet to dobro wspólne. Nie powinniśmy dopuścić do sytuacji, w której takie zachowania staną się „nową normalnością” dla ludzi i organizacji, które o niego dbają.

Podsumowując, odnotowaliśmy:

  • Edycje w projektach wiki: Zidentyfikowaliśmy edycje w projektach Wikimediów, które naszym zdaniem pochodziły od agentów sztucznej inteligencji obsługiwanych przez OpenAI. Edycje te nie trafiły na strony widoczne dla ogółu czytelników – niemal wszystkie były zmianami testowymi w obszarach brudnopisów. Obejmowały one również kilka modyfikacji konfiguracji narzędzia do cytowania. Uważamy, że były to potencjalnie złośliwe edycje, mające na celu wykorzystanie tego narzędzia jako serwera pośredniczącego (proxy) do pobierania danych ze zdalnych usług. Chociaż zasady Wikipedii zezwalają na edycje dokonywane przez boty, o ile zostaną one zgłoszone i zatwierdzone przez społeczność, w tych przypadkach w ogóle nie ubiegano się o taką zgodę.
  • Badanie podatności i wykorzystywanie narzędzia Etherpad: Agenty, które według naszej oceny są obsługiwane przez OpenAI, podjęły kilka nieudanych prób naruszenia zabezpieczeń naszego publicznego narzędzia do tworzenia notatek Etherpad, które udostępniamy dla społeczności. Agenty bezskutecznie próbowały wykorzystać go jako serwer pośredniczący do pobierania danych z innych stron internetowych. Inne agenty, prawdopodobnie również kontrolowane przez OpenAI, sporządzały notatki dotyczące swoich zadań, choć nic nie wskazuje na to, by przerodziło się to we wspólną koordynację.
  • Nadmierne pobieranie danych: Agenty powiązane najprawdopodobniej z OpenAI wysłały miliony zautomatyzowanych zapytań do naszych publicznych interfejsów API w celu uzyskania dostępu do wiedzy zgromadzonej w projektach Wikimediów, przeszukały miliony stron (głównie z projektów Wikidane i Wikimedia Commons) oraz wykonały setki tysięcy zapytań o dane do Usługi zapytań Wikidanych (Wikidata Query Service, w skrócie WDQS). Ruch ten mógł przyczynić się do częściowej awarii tej usługi w maju.

Jako organizacja non‑profit będąca technologicznym zapleczem dla jednych z największych i najczęściej używanych platform otwartej wiedzy na świecie, jesteśmy głęboko zaniepokojeni wpływem „zbuntowanych” agentów sztucznej inteligencji na serwisy takie jak nasz – tworzone przez wolontariuszy z całego globu i oparte na idei otwartego Internetu. Incydenty takie jak ten, a także wiele innych, które zostały ujawniane (i wciąż są ujawniane), pokazują, jak agenty sztucznej inteligencji potrafią wyczerpywać zasoby, doprowadzać do awarii serwerów, a także podejmować próby podważenia wiarygodności rzetelnych informacji.

W ciągu ostatnich 25 lat Wikipedia stała się jedną z najpopularniejszych i najbardziej zaufanych witryn na świecie, zawierającą ponad 67 milionów artykułów w ponad 300 językach i notującą do 15 miliardów odsłon miesięcznie. Dzięki otwartemu, przejrzystemu i opartemu na współpracy procesowi wolontariusze dbają o to, by wiedza pozostawała neutralna, rzetelna i dostępna dla każdego. Wikipedia stanowi jeden z najwyższej jakości zbiorów danych wykorzystywanych do trenowania dużych modeli językowych (LLM), a zawarta w niej wiedza tworzy fundament informacji w Internecie, zasilając czatboty sztucznej inteligencji, wyszukiwarki, asystenty głosowe i wiele innych rozwiązań.

Wikipedia została stworzona z myślą o ludziach – a autonomiczne działania agentów wyraźnie stawiają przed nami wyzwania, na które nikt nie ma jeszcze gotowych rozwiązań. Ze względu na nasz unikalny i sprawdzony model tworzenia wiedzy to właśnie wolontariusze projektów Wikimediów jako pierwsi stykają się ze skutkami działań agentów sztucznej inteligencji i sprzątają pozostawiony przez nich bałagan. Rosnący ruch generowany przez boty oraz aktywność agentów wywierają realny wpływ na projekty oraz infrastrukturę Wikimediów, dzięki której są one dostępne dla milionów osób na całym świecie. W 2025 roku Wikimedia Foundation poinformowała, że zużycie przepustowości sieci wzrosło o 50% z powodu gwałtownego nasilenia aktywności botów na jej stronach od 2024 roku. W tym samym czasie aż 65% najbardziej obciążającego zasoby ruchu w projektach pochodziło właśnie od botów.

Ta ogromna presja na naszą infrastrukturę nie tylko generuje dodatkowe koszty serwerowe i ludzkie, ale – jeśli pozostanie bez reakcji – może zablokować dostęp zwykłym użytkownikom poprzez przeciążenie systemów i wywoływanie przerw w działaniu. Już teraz ponosimy koszty wynikające z tej wzmożonej aktywności.

Wolontariusze projektów Wikimediów wykazują się dotąd niezwykłą odpornością w radzeniu sobie z nowymi wyzwaniami na naszych platformach, chcemy jednak jasno zaznaczyć: tak wcale nie musi być.

Choć OpenAI przyznaje, że jej agenty zachowują się „nieprzewidywalnie”, musi również uznać swoją odpowiedzialność za monitorowanie tych zagrożeń i zapobieganie im. Firmy z sektora sztucznej inteligencji nie robią wystarczająco dużo, by zabezpieczyć swoje systemy i chronić społeczeństwo przed szkodami, jakie wywołują. Ciężar ten spada na wszystkich innych, w tym na mniejsze organizacje. Minimum, jakiego oczekujemy, to takie działanie ich systemów, które właściciele serwisów non‑profit – tacy jak my – mogliby łatwo zidentyfikować i samodzielnie decydować o tym, w jaki sposób wchodzą one w interakcję z naszymi usługami.

Internet daje nam ogromne możliwości: pozwala kontaktować się z bliskimi i rodziną, zapisać się do szkoły, zaplanować podróż przez miasto, zrobić zakupy spożywcze czy dowiadywać się o świecie dzięki Wikipedii. Boty i agenty to element przyszłości Internetu, a firmy, które wypuszczają je w świat i na nich zarabiają, muszą bezpośrednio pomagać w unikaniu oraz naprawianiu szkód, jakie mogą wyrządzić.

Naszym wspólnym priorytetem powinno być zdrowie całego ekosystemu Internetu, tak aby nadal przynosił on korzyści wszystkim ludziom – a nie tylko garstce miliarderów. Wikimedia Foundation odgrywa kluczową rolę w opiece nad wspólnymi zasobami wiedzy, ale nie jesteśmy w stanie robić tego sami. Zapraszamy każdego, kto współtworzy przyszłość Internetu, do włączenia się w ochronę otwartych, wspólnych zasobów, które tę przyszłość umożliwiają.

Can you help us translate this article?

In order for this article to reach as many people as possible we would like your help. Can you translate this article to get the message out?