● news.bsdnet.hu

Arról már több ízben lehetett hallani az elmúlt hetek során, hogyan „szabadultak ki” a számukra kijelölt tesztkörnyezetből az Anthropic és az OpenAI AI-ügynökei , de a Google házatájáról nem érkezett beszámoló hasonló esetről – egészen eddig. A keresőóriás a napokban először ismerte el nyilvánosan, hogy saját AI-modellje, a Gemini is sáros, miután az Irregular nevű izraeli kiberbiztonsági cég több incidenst is azonosítani tudott az általa végzett értékelések során. A biztonsági kutatók zárt tesztkörnyezetben, fiktív vállalatok bevonásával vizsgálták a Google modelljének viselkedését május végén. A Gemini feladata az volt, hogy egy ellenőrzött tesztkörnyezetben fiktív vállalatokkal működjön együtt, de amint internetkapcsolathoz fért, a modell valódi weboldalakhoz is hozzáférést nyert, amelyeket a gyakorlat részeként kezelt. Az Irregular állítása szerint az internethozzáférés alapvetően le lett volna tiltva a tesztek során, de egy konfigurációs hiba miatt a Gemini mégis ki tudott jutni a „külvilágba". Az egyik teszt során az Irregular a Gemini kiberbiztonsági képességeit szerette volna tesztelni azzal a feladattal, hogy az AI-modellt bizonyos információk megszerzésére utasította egy fiktív vállalat szoftveréből. A fiktív cég neve azonban megegyezett egy valóban létező vállalat nevével, így amikor a modell internetkapcsolatot talált, helyesen kitalálta a valódi vállalat szolgáltatásának jelszavát. A két másik teszt során a modell az interneten keresztül talált olyan nyilvános adattárakat, amelyek két másik vállalathoz tartozó belépési adatokat tartalmaztak, ezeket felhasználva próbált hozzáférni a valódi vállalatok rendszereihez. A Google autonóm AI-ja tehát képes volt önállóan végigmenni egy valódi támadási láncon, amikor hozzáférést kapott a megfelelő eszközökhöz és az internethez. Az Irregular július végén jelentette a Google-nek a feltöréseket, amit a Google elismert, de nem látta szükségesnek a nyilvánosság tájékoztatását, mivel az incidensek nem okoztak valódi kárt az érintett cégeknek. Heather Adkins, a Google biztonságtechnikai alelnöke utólag közölte, hogy amint a Gemini felismerte, hogy valódi vállalatokról van szó, nem folytatta a támadást, és nem is okozott valódi kárt a rendszerekben. A vállalat nem is látta szükségesnek (vagy inkább nem szerette volna) nyilvánosságra hozni az incidenseket, de az érintett szervezeteket értesítette. A Google nem nevezte meg az érintett vállalatokat, és azt sem árulta el, hogy pontosan melyik Gemini-modell volt érintett. Az Irregular szerint az érintett problémákat azóta kijavították, és a cég új biztonsági gyakorlatokon dolgozik az AI-modellek kiberbiztonsági teszteléséhez - ugyanis nem lehet figyelmen kívül hagyni azt sem ezeknél az eseteknél, hogy az internet-hozzáférést és az AI által elérhető rendszereket fizikailag vagy technikailag is el kell különíteni az ilyen tesztek során. (Forrás: The Guardian , Wall Street Journal , TechSpot . Fotó: Unsplash)