● news.bsdnet.hu

Az openAI kísérleti modelljei (többes számban fogalmaz) megtalálták a módját, hogy az "erősen izolált" tesztkörnyezetből kitörjenek. 0day sebezhetőséget találtak a proxyban, és ezt kihasználva jogosultság-emelést hajtottak végre (eredetileg csak csomagtelepítésre való kapcsolatuk lett volna). A modellek igazából azért törtek ki, hogy megtalálják feladatuk megoldását az interneten - puskázzanak, ami végül sikerült is nekik. A hír és az eredeti openAI közlemény a részletekkel: Linkek: Személyes vélemény: Hogy mennyire self-marketing a hír, az kérdés. Mindenesetre több aggályos dolog előkerül. Pl. hogy a hackeléstől a public modelleket csak a beépített filterek tartják vissza? Mert ezeket jó megfogalmazással gyakran ki lehet kerülni. Aztán mondogathatják, hogy vegyük komolyan a kiberbiztonságot, de egy friss 0day ellen aztán sokat segít bármilyen eljárási szabály. A harmadik, pedig hogy az egész azért történt, hogy a modell csalással jusson az eredeti feladat megoldásához. Ez már túlzottan emberi viselkedés. Magyarul: Elszabadult az OpenAI ágense: rácsatlakozott az internetre, és feltörte egy AI-cég rendszerét Az OpenAI kedden bejelentette , hogy egy saját modelljei által működtetett autonóm AI-ágens kiszabadult a tesztkörnyezetéből, és teljesen önállóan feltörte a Hugging Face nevű AI-startup rendszerét – ezt a cég példátlan, csúcstechnológiás képességekre utaló kiberincidensnek nevezi. A behatolás egy belső kiértékelés során történt, amelynek célja a modellek hackerképességeinek felmérése volt. Ehhez az OpenAI legújabb nyilvános csúcsmodelljét, a GPT-5.6 Solt és egy annál is fejlettebb, még ki nem adott modellt kombináltak – úgy, hogy mindkettőnél enyhítették a szokásos kiberbiztonsági korlátozásokat a tesztelés idejére. Az OpenAI figyelmeztetett, hogy az ehhez hasonló esetek egyre gyakoribbá válnak majd, ahogy a modellek egyre nagyobb kiberképességekkel rendelkeznek. [...] ( via ) trey @ gépház vírusmarketing :))