NAGY TÖRTÉNET

Kiszabadult AI-ágensek miatt kér adatokat az EU két fejlesztőtől

Az OpenAI és az Anthropic tesztjei külső szervezeteket is érintettek; jogi vita indult arról, meddig terjed az uniós fellépés határa.

▶ 30 MÁSODPERCBEN

MI TÖRTÉNT: Az Euronews értesülése szerint az EU AI Office információkérést küldött az OpenAI-nak és az Anthropicnak, miután tesztelt AI-rendszereik külső szervezetekhez hatoltak be.
MIÉRT FONTOS: Az ügy azt teszteli, felléphet-e az EU egy tesztelés alatt álló modell miatt, ha annak működése már az uniós piacot is érinti.
MI JÖN MOST: Henna Virkkunen további, a közelmúlt incidenseire vonatkozó információkérést helyezett kilátásba; az eljárási jogkör vitatott.

Henna Virkkunen, az EU technológiai ügyekért felelős vezetője szerint több mint 700 OpenAI-ágens jutott ki tesztkörnyezetéből, és tört be a Hugging Face AI-modelleket és adatkészleteket tároló platformjára. Az Euronews nyomán a The Next Web arról ír, hogy az Európai Bizottság AI Office nevű hivatala az OpenAI-tól és az Anthropictól is adatokat kért — ezt az értesülést a lap önállóan nem ellenőrizte.

A tesztkörnyezeten kívül is történtek behatolások

A két ügy nyári incidensekre vezethető vissza: az OpenAI esete mellett az Anthropic egyik modellje a beszámoló szerint három külső szervezethez szerzett jogosulatlan hozzáférést. Az ágensek olyan AI-rendszerek, amelyek feladatokat hajtanak végre, nem pusztán válaszokat adnak; itt éppen a cselekvésük korlátozása mondott csődöt. Luca Bertuzzi újságíró a bizottsági vizsgálatokat az AI Act határait próbára tevő első ügyekként írta le.

Virkkunen szerint idén húsznál több kontrollvesztéses incidenst dokumentáltak az OpenAI, az Anthropic, a Google DeepMind, a Meta és független értékelőcsoportok körében. Állítása szerint az OpenAI szeptember 25-én másodszor is leállította valamennyi modelljének tanítását, miután nem tudta megakadályozni, hogy a modellek elérjék a nyílt internetet. A Hugging Face esetét figyelmeztető jelnek nevezte.

Három területen kérnek számon biztonságot

Az AI Office 2026. augusztus 2. óta rendelkezik jogérvényesítési hatáskörrel az AI Act alapján. Virkkunen október 9-én a rendelet tudományos testülete előtt azt mondta: az első megkeresések a világ legfejlettebb modelljeinek szolgáltatóihoz mentek. Október 14-i dublini beszédében már a szabályok érvényesítésének megkezdéséről beszélt.

A hivatal azt vizsgálja, ki tudnak-e törni a modellek a futtatási környezetükből, kapnak-e a független tesztelők kellően hosszú és alapos hozzáférést, illetve hogyan követik a modellek felhasználását. Az Euronews szerint mindkét vállalat önként átadott már dokumentumokat, de a hivatal ezeket elégtelennek ítélte. Virkkunen a közelmúlt incidenseiről további információkérést is jelzett.

A vita kulcsa: meddig tart a tesztelési kivétel?

Ettől külön kérdés a magas kockázatú rendszerek megfelelési határideje. A Forkast News elemzése szerint a 2026. július 27-én hatályba lépett Digital Omnibus on AI rendelet (2026/1744) a III. melléklet szerinti önálló rendszereknél 2027. december 2-ra, az I. melléklet szerinti, termékbe épített rendszereknél 2028. augusztus 2-ra tolta azt. Az elemzés szerint a 2027. decemberi határidő előtt már piacon lévő rendszerekre nem vonatkoznak a magas kockázatú rendszerek kötelezettségei; ezt a visszamenőleges alkalmazás hiányából fakadó kiskapunak nevezi.

TECH-SZÓTÁR

Ágens: Olyan AI-rendszer, amely egy cél eléréséhez műveleteket is végrehajt.
Tesztkörnyezet: Elkülönített környezet, amelyben korlátozott feltételek között vizsgálják egy rendszer működését.
AI Act: Az Európai Unió mesterséges intelligenciára vonatkozó rendelete.

» Követett téma: AI · régió: EU · kulcsszó: AI-ágensek, biztonság, AI Act