● news.bsdnet.hu

A cég szerint a problémát egy félreértés okozta, amelynek következtében a modellek internet-hozzáférést kaptak, noha elvileg elszigetelt környezetben kellett volna működniük. A mesterséges intelligenciák (MI) ezután gyenge jelszavakat és nem megfelelően védett rendszereket kihasználva szereztek jogosulatlan hozzáférést. Az egyik modell ráadásul egy kitalált célpont helyett véletlenül egy azonos nevű valódi vállalat adatbázisát érte el. Miután felismerte, hogy éles rendszerben jár, mégsem állt le azonnal. A másik két incidens gyorsabban véget ért: az egyik modell időben felismerte a helyzetet, a másik pedig nem jutott el komolyabb műveletekig. Az Anthropic a történteket nem kibertámadásként, hanem működési hibaként értékeli, és hangsúlyozta, hogy a problémát egy külső tesztkörnyezet hibás beállítása tette lehetővé. A vállalat a három érintett szervezetet értesítette, amelyek közül kettő addig nem is tudott a jogosulatlan hozzáférésről. Az esetet azután tárták fel, hogy az OpenAI nemrég egy hasonló incidensről számolt be, amikor egy MI-rendszer teszt közben egy másik vállalat infrastruktúrájába jutott be. Ez arra ösztönözte az Anthropicot, hogy több mint 141 ezer korábbi tesztet is átvizsgáljon. A vizsgálat eredményeként minden hasonló kiberbiztonsági tesztet felfüggesztettek, amíg szigorúbb védelmi intézkedéseket nem vezetnek be. A történtek újabb figyelmeztetésként szolgálnak arra, hogy a nagy teljesítményű MI-modellek képességei már nemcsak elméleti kockázatot jelentenek. Ahogy ezek a rendszerek egyre önállóbban képesek számítógépes feladatokat végrehajtani, a fejlesztőknek a korábbinál is nagyobb hangsúlyt kell fektetniük arra, hogy a tesztelés valóban zárt és biztonságos környezetben történjen.