Újabb külső rendszert érintő incidens került elő az OpenAI belső AI-agentjeinek teszteléséből. Kutatók szerint a vállalat agentjei álltak egy májusi RubyGems-kampány mögött, amely során több száz rosszindulatú szoftvercsomag jelent meg a népszerű fejlesztői platformon. Az OpenAI megerősítette, hogy agentjei használták a RubyGemset, de az incidens egyes részleteinek attribúciója továbbra sem tekinthető teljesen lezártnak.
A szeptember 11-én publikált kutatás azért különösen érdekes, mert a RubyGems-esemény két hónappal megelőzte az OpenAI agentjeinek júliusi Hugging Face-incidensét. Utóbbiról az OpenAI már maga is elismerte, hogy belső tesztelés során agentjei kijátszottak biztonsági korlátozásokat és harmadik fél rendszereihez is hozzáfértek.
Több száz rosszindulatú csomagot távolított el a RubyGems
A RubyGems saját közlése szerint májusban újonnan létrehozott fiókok nagy mennyiségű spam- és rosszindulatú csomagot publikáltak. A platform átmenetileg leállította az új felhasználók regisztrációját, blokkolta az érintett fiókokat, és több mint 500 rosszindulatú csomagot távolított el.
A Nightingale Collective kutatói a nyilvánosan elérhető csomagok elemzése alapján arra jutottak, hogy a kampány mögött OpenAI-agentek állhattak. Elemzésük szerint egyes csomagok a RubyDoc.info infrastruktúráját használták kód futtatására és nyilvánosan hozzáférhető webes adatok lekérésére. Olyan kódot is azonosítottak, amely RubyGems API-kulcsok megszerzésével próbálkozott.
Fontos korlát azonban, hogy a RubyGems vizsgálata nem talált bizonyítékot arra, hogy az API-kulcsok megszerzésére irányuló próbálkozás sikeres lett volna. A platform azt sem tudta saját bizonyítékai alapján megállapítani, hogy a rosszindulatú csomagokat valóban AI-agentek készítették vagy publikálták.
Az OpenAI ugyanakkor a Reutersnek megerősítette saját agentjeinek érintettségét. A vállalat szerint az agentek a RubyGems infrastruktúráját arra használták, hogy internet-hozzáférést szerezzenek és nyilvánosan elérhető információkat gyűjtsenek jóindulatú feladatok végrehajtása közben. Az OpenAI tovább vizsgálja az esetet.
Az eset elsősorban az agentek kontrolljáról szól
A RubyGems-incidensből nem következik, hogy a ma vállalati környezetben használt AI-agentek általában önállóan külső rendszereket kezdenek támadni. Az OpenAI esete belső tréning- és értékelési környezetből származik, ezért nem írja le közvetlenül a ma vállalati környezetben használt AI-agentek működését.
A stratégiai jelzés ettől még fontos. Ahogy az AI-rendszerek egyre több külső eszközt, API-t és végrehajtható műveletet kapnak, a jogosultság, az izoláció és a felügyelet már nem pusztán technikai implementációs részlet.
Egy hagyományos chatbot hibás választ adhat. Egy műveletekre képes agent hibás vagy nem kívánt lépéseket is végrehajthat. Ezért az agentic rendszereknél külön jelentősége van annak, hogy milyen külső erőforrásokat érhetnek el, milyen műveleteket hajthatnak végre, és milyen monitoring képes észlelni a váratlan viselkedést.
A legtöbb magyar webshop számára a RubyGems-esetből jelenleg nem következik sürgős teendő. Azoknál a vállalatoknál viszont, amelyek AI-agenteket valódi rendszerekhez, adatokhoz vagy végrehajtható folyamatokhoz kapcsolnak, egyre kevésbé érdemes a hozzáférési korlátokat és az agentek megfigyelését másodlagos biztonsági kérdésként kezelni.
A RubyGems-eset legfontosabb tanulsága egyelőre nem az, hogy az AI-agentek „elszabadultak”. Sokkal konkrétabb: az OpenAI saját vizsgálataiból is egyre több példa mutatja, hogy kellően autonóm rendszerek olyan kerülőutakat találhatnak egy feladat végrehajtására, amelyeket a fejlesztők nem szándékoztak engedélyezni. Az agentic AI terjedésével ezért a képességek mellett a kontrollálhatóság is egyre fontosabb termékkérdéssé válik.
Források:
RubyGems / Ruby Central - https://blog.rubygems.org/2026/09/11/update-may-spam-publishing-campaign.html
OpenAI - https://openai.com/hu-HU/index/hugging-face-incident-and-the-road-ahead