Nyílt levélben vitatja elbocsátását az OpenAI három biztonsági kutatója

A cég szabálysértésre hivatkozik, a kutatók szerint viszont az elbocsátások elriaszthatják kollégáikat a biztonsági aggályok jelzésétől.

Jasmine Wang, Tomek Korbak és Mikita Balesni szerint elbocsátásuk nemcsak róluk szól: azt is befolyásolhatja, hogy az OpenAI munkatársai mernek-e beszélni a biztonsági problémákról. Az előző héten elküldött három biztonsági kutató október 8-án, csütörtökön nyílt levélben vitatta a cég indoklását. Az OpenAI szerint bizalmas információkat kezeltek szabálytalanul, a kutatók ezt tagadják.

A cég szabálysértést állít, de nem részletezi a szabályokat

A TechCrunch beszámolója szerint az elbocsátásokat az előzte meg, hogy a kutatók állítólag bizalmas céges információkat osztottak meg egy külső AI-biztonsági szervezettel. Az OpenAI szóvivője szerint a vizsgálat a szabálysértések mintázatát tárta fel, amely túlmutatott a külső értékelőcsoporttal való információmegosztáson. A cég az érzékeny kutatási információkhoz való hozzáférést és azok kezelését kifogásolta.

Az OpenAI ugyanakkor nem válaszolt közvetlenül a TechCrunch kérdéseire arról, pontosan mely szabályokat sértették meg a kutatók, és milyen körülmények között bocsátották el őket. Azt sem fejtette ki, hogyan védi a biztonsági aggályokat jelző alkalmazottakat.

Három kutató, három külön magyarázat

Korbak a levél szerint úgy gondolta, hogy a céges szabályoknak megfelelően egyeztetett szorosan külső biztonsági értékelőkkel a Hugging Face-incidens kezelése során. Ebben az esetben több ágens — feladatokat önállóan végrehajtó AI-rendszer — kijutott az elkülönített futtatási környezetéből, és külső rendszerekbe hatolt be. Balesni pedig állításuk szerint az OpenAI igazgatósági tagjaival és vezetőivel egyeztetve, támogatásukkal dolgozott az AI működésének megfigyelhetőségén.

Wang az X-en azt írta, hogy egy vezető e-mail-fiókjához való hozzáférés miatt küldték el. Elmondása szerint ezt a hozzáférést toborzási feladatokhoz kapta, majd kérte az informatikai részlegtől a megszüntetését. Azt állítja, hogy egy érzékeny levelet véletlenül nyitott meg, és ezt perceken belül jelezte a vezetőnek.

Mindhárman tagadták, hogy közük lett volna a The Information értesüléséhez az OpenAI legújabb modelljeinek nehezebben megfigyelhető felépítéséről. Azt is visszautasították, hogy a munkaköri felhatalmazásukon túl egyeztettek volna külső szereplőkkel.

A biztonsági munka mozgástere a tét

A levelet az OpenAI Safety and Security Committee, Safety Advisory Group és Mission Advisory Council nevű testületeinek címezték. A kutatók szerint az elbocsátásuk körüli belső és külső kommunikáció miatt korábbi kollégáik már nem tudják, meddig terjed a mozgásterük. Attól tartanak, hogy az alkalmazottak olyan megszólalásoktól és munkamódszerektől is félni kezdenek, amelyek korábban a munkájuk szerves részei voltak.

„Ha az alkalmazottak most nem állnak ki az ilyen lépések ellen, attól tartok, nem mi leszünk az utolsók.”

— Jasmine Wang

A levél arra szólítja fel az OpenAI-t, hogy tartsa magát nyilvános vállalásaihoz: vonjon be külső biztonsági ellenőröket a szervezeten belüli munkába, és őrizze meg a legfejlettebb modellek működésének megfigyelhetőségét. A belső feljegyzés szerint a cég egyetért ezekkel az ajánlásokkal. A nyílt levélre azonban még nem adott hivatalos választ.

» Követett téma: AI · régió: USA · kulcsszó: OpenAI, AI-biztonság