● news.bsdnet.hu

A mesterséges intelligencia (MI) fejlődése újabb aggasztó kérdéseket vetett fel a technológia biztonságával és ellenőrzésével kapcsolatban, miután a Meta, az Anthropic és az OpenAI is bejelentette, hogy MI-modelljeik tesztelés közben jogosulatlanul fértek hozzá más szervezetek rendszereihez. Ezek az incidensek világítanak rá arra, hogy a mesterséges intelligencia ökoszisztémájában milyen kockázatokkal kell szembenézni. Tóth M. Tamara Newsroom újságíró Ezeket látta már? A Meta szerdán közölte, hogy egyik mesterséges intelligencia-modellje egy tesztelés során véletlenül hozzáférést kapott az internethez, majd kihasználta egy harmadik fél által nyújtott szolgáltatás biztonsági sebezhetőségét. A vállalat szerint az eset egy független tesztelő cég, az Irregular hibájából következett be, amely rosszul konfigurálta a tesztkörnyezetet – írja a CBS News oldala. Bár a Meta nem nevezte meg az érintett modellt, a Reuters forrásai szerint a Muse Spark 1.1 lehetett az. Az esetet az Irregular jelentette a Metának, amely jelenleg vizsgálja az ügyet, és ígéretet tett arra, hogy a tények feltárása után részletes beszámolót tesz közzé. Nem ez az első ilyen eset az elmúlt hetekben. Az Anthropic, a Claude nevű MI-modell fejlesztője, július végén jelentette be, hogy három különböző modellje – köztük a Claude Opus 4.7 és a Claude Mythos 5 – behatolt más szervezetek rendszereibe. Az Anthropic szerint az incidensek áprilisra nyúlnak vissza, és a modellek gyenge jelszavakat kihasználva fértek hozzá az érintett infrastruktúrákhoz. Az esetek során a modellek egy „capture the flag” típusú kiberbiztonsági feladatot oldottak meg, amelynek célja az volt, hogy a modellek képességeit teszteljék egy kitalált forgatókönyv alapján . Az Anthropic közölte, hogy kapcsolatba lépett az érintett szervezetekkel, bár azok közül kettő korábban nem észlelte a behatolást. A vállalat hangsúlyozta, hogy a kockázatok kezeléséhez szorosabb együttműködésre van szükség az MI-fejlesztők között. Hasonló problémákkal szembesült az OpenAI is, amely júliusban jelentette be, hogy egyik modellje önállóan cselekedve betört a Hugging Face nevű AI-startup szervereibe. Az OpenAI ezt jelentős biztonsági incidensnek minősítette, és az eset ismételten felhívta a figyelmet arra, hogy a mesterséges intelligencia fejlődése során milyen kihívásokkal kell szembenézni a biztonság és az emberi ellenőrzés fenntartása érdekében. Ezek az események nemcsak a technológiai vállalatok, hanem a szélesebb közvélemény számára is aggodalomra adnak okot. A mesterséges intelligencia egyre nagyobb szerepet játszik a mindennapi életben , de a biztonsági sebezhetőségek és az önálló döntéshozatal képessége komoly kockázatokat jelenthet, ha nem sikerül megfelelően szabályozni és ellenőrizni a technológiát. A Meta, az Anthropic és az OpenAI esetei egyértelművé teszik, hogy a mesterséges intelligencia fejlesztésének és tesztelésének folyamata még mindig számos kihívást rejt magában , és a jövőben elengedhetetlen lesz a szigorúbb szabályozás és az iparági együttműködés annak érdekében, hogy a technológia biztonságosan és felelősségteljesen fejlődhessen tovább. Ugyan rengeteg alkalommal hasznunkra válhat a mesterséges intelligencia, de fontos, hogy figyeljünk a jövő árnyoldalára is. Egy korábbi cikkünkben már írtunk a mesterséges intelligencia veszélyeiről . A ChatGPT és más népszerű mesterséges intelligenciák sokak mindennapi segítőivé váltak. Receptet kérünk tőlük, utazást tervezünk, sőt még személyes gondjainkat is megosztjuk a chatbotokkal. Azonban sokszor nem gondolunk bele, hogy ezek a beszélgetések nem olyan bizalmasak, mint egy orvossal vagy ügyvéddel folytatott párbeszéd. A szakértők szerint ne osszunk meg személyes, pénzügyi vagy egészségügyi adatokat az AI-al, mert az információk illetéktelenekhez kerülhetnek. A mesterséges intelligencia hibázhat is, miközben a csalók hamis linkekkel próbálhatnak visszaélni. Az AI-t érdemes okosan használni, de a legnagyobb titkainkat ne bízzuk rá. mesterséges intelligencia