● news.bsdnet.hu

Az úttörő AI-modellek elképesztő tempóban váltak a kutatók egyre hasznosabb társaivá, ami óriási lehetőséget jelent az orvostudomány és a biotechnológia számára. Csakhogy ugyanaz a képesség, amely egy új gyógyszer fejlesztését támogathatja, adott esetben valaki másnak is hasznos lehet egy veszélyes biológiai kísérlet megtervezésében. Az Anthropic csütörtökön publikálta friss, egyben idei első fenyegetettségi jelentését, mely átfogóbb képet ad az AI-eszközökkel való visszaélési kísérletekről. Ezeket a jelentéseket már valamennyi AI-fejlesztőnek publikussá kell tennie, hogy átláthatóbbá váljon, milyen erőfeszítéseket tesznek az eszközeikkel való visszaélések megelőzése érdekében. Az Anthropic jelentésében többek közt arról is szót ejt, hogy olyan kutatók hozzáférését blokkolta, akik biológiai fegyverek fejlesztését támogató módon használták fel a Claude képességeit. Ez nem csak egyszer történt meg: a jelentés öt ilyen esettanulmányt is hoz, így a biológiai célú visszaélést az élvonalbeli AI-modellek egyik legsúlyosabb kockázataként tartja számon a fejlesztő. A vállalat hangsúlyozza, hogy nem minden esetben lehetett egyértelműen bizonyítani a rosszindulatú szándékot. A kérdést árnyalja, hogy a biológiai kutatások jelentős része úgynevezett kettős felhasználású technológia: ugyanazokat az ismereteket és módszereket lehet gyógyászati célokra, illetve adott esetben károkozásra is használni.Az egyik feltárt ügyben például egy madárinfluenza-vírusokkal kapcsolatos kutatás is felbukkant az Anthropic vizsgálatában. A jelentés hat olyan esetet említ, amikor a Claude-ot hagyományos fegyverek, köztük lőfegyverek, rakéták, fegyveres drónok, bombák és egyéb lőszerek, valamint az ezeket működtető célzó- és vezérlőrendszerek szoftverének fejlesztéséhez kapcsolódóan használták fel. Az elmúlt nyolc hónapban észlelt, aggodalomra okot adó esetek a hamis társkereső alkalmazásoktól és a szállodai wifi-csalásoktól kezdve a disszidensek azonosítására létrehozott megfigyelésekig terjednek. Már a felsorolás is borzasztóan néz ki, hogy az Anthropic technológiájával több esetben visszaéltek: A Claude-ot egy oroszországi székhelyű kiberkémkedési kampányhoz köthető szereplők, valamint egy iráni propagandaintézmény is használta. Tavaly december és 2026 augusztus között főként a Claude Haiku, Sonnet és Opus modellek képességeit próbálták kihasználni a rosszindulatú tevékenységekhez, de a visszaélések egyike sem érintette Claude Fable és a nagy teljesítményű Mythos osztályú modelleket. Kivéve egyetlen esetet, amely a desztillációhoz (ahhoz az eljáráshoz, amellyel kisebb AI-modelleket tanítanak be nagyobb, költségesebb modellek felhasználásával) kapcsolódott, ezzel kimondottan a kínai AI-fejlesztőket vádolta meg az Anthropic. A vállalat korábbi nyilatkozataiban többször említette, hogy szigorúbb korlátozásokkal próbálja kordában tartani a kockázatokat. A Claude Fable 5 esetében például eleinte szinte valamennyi biológiai kérdést blokkoltak, majd egy speciális biztonsági rendszerrel próbálták megkülönböztetni a legitim kutatási kérdéseket a potenciálisan veszélyes kérésektől. Amennyiben a rendszer problémásnak ítél egy kérést, a feladatot egy biológiai témákban kevésbé képzett modellhez irányítja át. Azonban nem mindig egyszerű megállapítani a szándékot, és hogy egy kutató valóban ártalmatlan tudományos kérdést tesz fel, vagy éppen egy veszélyes projekthez próbál segítséget szerezni. Az Anthropic ezért nemcsak a válaszokat figyeli, hanem különféle automatikus biztonsági rendszerekkel és fenyegetettségi elemzésekkel próbálja felismerni a gyanús használati mintákat. (Forrás: BBC , Anthropic . Fotó: Unsplash)