● news.bsdnet.hu

Miután a fejlett mesterségesintelligencia-modellek elitklubjában lassan már belépési feltétel , hogy az MI-ágensek képesek legyenek feladataikat a korlátozások kijátszásával, akár kiberbűncselekmények elkövetésével is teljesíteni, arra sem kellett sokat várni, hogy az OpenAI és az Anthropic után a Google Gemini is megjelenjen a hírekben egy hasonló biztonsági incidenssel. A Reuters a független kiberbiztonsági értékeléseket végző Irregular tesztjeire hivatkozva éppen most számolt be róla , hogy a Gemini kiberbiztonsági képességeinek vizsgálata során az internetes hozzáféréssel dolgozó ügynökök feltörték más vállalatok rendszereit. A Google részvényesei tehát fellélegezhetnek, mivel az eredetileg májusban észlelt hekkelésekkel megvan rá az első ismert példa, hogy a Google mesterségesintelligencia-rendszerei önállóan hajtottak végre ilyen cselekményt. A riport alapján egy "szabványos tesztelési értékelés" során a Gemini az online felfedezett információk alapján három olyan weboldal eléréséhez is kitalálta a hitelesítő adatokat, amelyekről úgy gondolta, hogy a teszt hatókörébe tartoznak. A Google illetékes alelnöke szerint mindhárom szervezetet tájékoztatták, és "együttműködnek képzési partnerünkkel a tesztelési folyamataikban végrehajtott változtatásokon". Probléma biztosan van, kérdés, hogy mivel Az Irregular szóvivője is megerősítette, hogy az általuk dokumentált incidens ugyanazt a problémát jelzi, ami a közelmúltban más mesterségesintelligencia-vállalatok is érintett, hasonló eseteket ugyanis már az Anthropic, az OpenAI vagy a Meta is nyilvánosságra hozott. Mindez egyre inkább rávilágít a fejlett mesterséges intelligencia ellenőrzéséhez szükséges biztosítékokra, jobban mondva azok hiányára, mivel az MI-ágensek nemcsak egyre hatékonyabbak, de egyre szélesebb körű autonómiát és hozzáférést kapnak az internethez és a különféle számítógépes rendszerekhez is, hogy ezt a technológiai hatékonyságot érvényesítsék. Ahogy mi is beszámoltunk róla, a nagy MI-fejlesztők már azt szorgalmazzák, hogy közös keretek közé szorítva lejjebb tekerjék az egyre kockázatosabb fejlesztési versenyt , az Anthropic és az Accenture például éppen most jelentették be, hogy öt év alatt 1-1 milliárd dollárt fektetnek az MI-modellek független értékelő kapacitásainak kiépítésére. A kritikusok ugyanakkor arra hívják fel a figyelmet, hogy konkrétumok hiányában jó eséllyel egy színjáték zajlik éppen, amelynek célja, hogy az eredménykényszerben lévő MI-vállalatok a krízishelyzetre hivatkozva próbálják eltéríteni és a maguk érdekei szerint alakítani a szabályozást.