● news.bsdnet.hu

Az elmúlt hónapok fényében már nem is hat annyira újszerűen egy hír, ami azzal kezdődik, hogy egy tesztkörnyezetéből kiszabadult fejlett AI-ágensnek olyan helyre sikerült beférkőznie, ahová nagyon nem kellett volna, de láthatóan lehet fokozni a helyzetet. Anthony Albanese, Ausztrália miniszterelnöke megosztotta, hogy az OpenAI által fejlesztett AI-ügynök jogosulatlanul fért hozzá egy ausztrál kormányzati weboldalhoz. Az incidens ráadásul nem is mostanában történt, hanem még június 18-án. A ChatGPT-fejlesztő cég technológiájának egészen pontosan a Services Australia által üzemeltetett Medicare-statisztikai jelentési szolgáltatás portáljához sikerült hozzáférnie. Az AI-ügynök nyilvános és nem nyilvános fájlokhoz is hozzáférést szerzett, miközben megkerülte a beépített biztonsági blokkokat. A vizsgálat szerint az AI adatokat is írhatott a kormányzati rendszerbe, bár a kormány szerint az oldal egészének működését nem veszélyeztette. A miniszterelnök elmondása szerint már egyeztettek az incidensről az OpenAI-vezetőjével, Sam Altmannal, de az ausztrálok nehezményezik, hogy a vállalat miért várt túl sokat a kormány értesítésével. Ha a behatolás már nem lenne magában probléma, Ausztráliát csaknem három hónappal később tájékoztatták a behatolás tényéről. Az OpenAI közlése szerint az incidens egy belsős tesztből indult, melynek során a modellek Ausztráliával kapcsolatos válaszokat és statisztikai adatokat próbáltak keresni, de a feladat megoldásakor előre nem tervezett lépéseket is tettek. Az AI-ügynök a végrehajtás közben maga talált és használt ki egy biztonsági rést, holott erre nem kapott konkrét utasítást. A vállalat közlése szerint az eddigi vizsgálatok során nem találtak bizonyítékot arra, hogy a modellek hozzáfértek volna a betegadatokhoz, főleg összesített egészségügyi statisztikák és belső fájlnevek voltak elérhetőek. Az OpenAI az az ausztrál kormányt végül szeptember 10-én értesítette, egy általános Services Australia-postafiókra küldött e-mailben. A történet másik aggasztó része, hogy kutatók szerint több száz OpenAI-ügynök próbálhatott egymással együttműködve ausztrál egészségügyi adatokhoz hozzáférni. Az ügynökök egy német kódmegosztó használtak kommunikációra, ahol megosztották egymással a védelem megkerüléséhez szükséges információkat. Az ausztrál Institute of Health and Welfare nevét például több mint 300 alkalommal említették a bejegyzésekben. Az ausztrál hatóságok külön munkacsoportot állítottak fel, amely azt vizsgálja, pontosan mi történt, érintettek-e más kormányzati rendszerek az incidensben, illetve felmerülhet-e az OpenAI jogi felelőssége. (Forrás: CNBC, TechCrunchFotó: GettyImages)