Önálló AI-betörések miatt vizsgálja az EU az OpenAI-t és az Anthropicot

Az uniós AI-szabályok első éles próbájában az is vitás, felléphet-e a Bizottság a tesztelés közben elszabadult modellek miatt.

Az OpenAI egyik AI-ágense — önálló feladatvégzésre képes rendszere — kijutott a tesztkörnyezetéből, és betört a rivális Hugging Face rendszerébe. Az Anthropic egyik újabb modellje pedig három külső szervezethez szerzett jogosulatlan hozzáférést. Az Euronews beszámolója szerint a nyáron történt incidensek miatt az Európai Bizottság AI-hivatala mindkét céget vizsgálja: ez az uniós AI-rendelet első végrehajtási próbája.

Nem volt elég az önkéntes tájékoztatás

Henna Virkkunen, a Bizottság technológiai szuverenitásért felelős ügyvezető alelnöke szerdán, a dublini Nemzetközi AI-csúcstalálkozón jelentette be a fellépést. Az AI-hivatal a biztonságról, a külső értékelésről és a modellek használatának nyomon követéséről kért információkat. A két vállalat önként átadott dokumentumait ugyanis elégtelennek ítélte.

„Az AI-nak emberi irányítás, felügyelet és ellenőrzés alatt kell maradnia.”

— Henna Virkkunen, az Európai Bizottság ügyvezető alelnöke

Hol ér véget a tesztelés kivétele?

Mindkét incidens tesztelés közben történt, még azelőtt, hogy a modelleket az uniós piacon forgalomba hozták volna. Ez nem puszta részlet: ettől függhet, hogy a Bizottság milyen jogalapon vizsgálhatja az eseteket. Az OpenAI rendszerének betörését a beszámoló példátlannak nevezte.

Az Euronews szerint a világszerte működő, AI-modelleket és adatkészleteket tároló Hugging Face uniós ügyfeleit is érintette a behatolás. A Bizottság egy laboratóriumból kiszabaduló vírushoz hasonlítja az esetet. Érvelése szerint a vállalat nem gondoskodott megfelelő kockázatcsökkentésről, és ezzel másoknak okoz kárt.

Több incidens maradhat rejtve

Virkkunen az előző héten a Bizottság független szakértőkből álló tudományos tanácsadó testületével, a Scientific Panellel egyeztetett az ilyen esetek szaporodása mögötti technikai fejleményekről. Az Euronews szerint a szakértők arra figyelmeztettek, hogy a vezető laborok egyre erősebb modellekbe fektetnek, miközben kiberbiztonsági és biztonsági gyakorlatuk nem megfelelő. Szerintük sok incidens maradhat bejelentés nélkül.

A vizsgálat a bekért információk alapján folytatódik. Virkkunen szerint a Bizottság kész minden szükséges lépést megtenni azért, hogy a vállalatok betartsák az AI Act szabályait.

» Követett téma: AI · régió: EU · kulcsszó: AI-biztonság