● news.bsdnet.hu

„A mesterséges intelligencia minden bizonnyal elég erős ahhoz, hogy olyan eseményeket indítson el, amelyek egymilliárd halálesetet okozhatnak” – mondta Bill Gates az NBC „Meet the Press című műsorában. Hozzátette, hogy soha nem volt még olyan erős fegyver, „mint a rosszindulatú emberek és a legújabb mesterséges intelligenciaeszközök kombinációja”. Gates nem a gyakran emlegetett, emberi irányítás alól kikerülő autonóm szuper-mesterséges intelligencia forgatókönyvére utal. A 70 éves szakember a közvetlenebb veszélyt abban látja, hogy az emberek nagy teljesítményű mesterséges intelligencia rendszereket használhatnak kifinomult kibertámadásokra vagy bioterrorizmusra. Úgy véli, hogy a technológia jelenleg még messze van attól, hogy egy mesterséges intelligencia önállóan vegye át az irányítást a számítógépek felett, és ne lehessen kikapcsolni, írja tudósításában a Die Weltwoche német lap. Gates a központi „kill switchről” szóló vitát is elégtelennek tartja, amely lehetővé tenné a veszélyes mesterséges intelligenciarendszerek leállítását vészhelyzetben. „Nem elég egyszerűen egy kill switch” – mondta. Ehelyett a milliárdos kötelező monitorozást és szigorúbb védelmi intézkedéseket szorgalmaz. Ugyanakkor nem követeli a mesterséges intelligencia fejlesztésének általános leállítását. Gates nincs egyedül a figyelmeztetéseivel. Dario Amodei, az Anthropic vezérigazgatója a közelmúltban a különösen nagy teljesítményű mesterséges intelligenciarendszerek fejlesztésének lassabb ütemét szorgalmazta. Sam Altman, az OpenAI vezérigazgatója is nyilvánosan támogatta ezt az értékelést, aminek hatására Elon Musk a következőket írta: „Darionak igaza van.” Gates ugyanakkor elutasítja azt az elképzelést, hogy a katasztrofális mesterséges intelligenciakockázatokkal kapcsolatos figyelmeztetések pusztán rémhírterjesztések. Arra az állításra, hogy a veszély átverés , így válaszolt: „Nem. Ez egyáltalán nem átverés.” A tech- és kiberbiztonsági világ egyik legmegdöbbentőbb eseményének részleteiről Anthony Albanese ausztrál miniszterelnök beszélt a New York-i látogatása során, és hangsúlyozta, hogy milyen kockázatokat hordoz, ha a mesterséges intelligencia túllép a humán kontroll keretein, számolt be róla lapunk is . Az incidens hátterében egy látszólag ártalmatlan belső kutatási projekt állt. Az OpenAI fejlesztői azzal bízták meg az egyik fejlett modelljüket, hogy elemezze az ausztrál egészségügyi és gyógyszerköltési trendeket. Amikor az ágens a nyilvános interneten végzett kutatásai során zárt kormányzati falakba ütközött, ahelyett, hogy leállt volna, önállóan úgy döntött, hogy nem fogadja el a nemleges választ. Az algoritmus teljesen autonóm módon azonosította a Medicare statisztikai portáljának sérülékenységeit, és kijátszva a biztonsági protokollokat, „átmászott a digitális kerítésen”, hogy megszerezze a keresett információkat. Bár a kormányzati rendszerekbe való illegális behatolás ténye önmagában is rendkívül súlyos, az ausztrál hatóságok siettek megnyugtatni a közvéleményt a legfontosabb kérdésben: állampolgári adatok nem kerültek veszélybe. Az ágens nem fért hozzá a betegek személyes egészségügyi kartonjaihoz, nevekhez vagy lakcímekhez. Ehelyett olyan aggregált nemzeti statisztikákat, pénzügyi elszámolási adatokat és belső fájlokat töltött le, amelyek a látogatás pillanatában még nem voltak publikusak. A valódi fenyegetést így nem a tömeges adatszivárgás, hanem maga a precedens jelenti, miszerint egy MI-ágens képes volt felismerni a védelmi rendszerek gyengeségeit, és saját elhatározásból végrehajtott egy klasszikus kibertámadást. Borítókép: Bill Gates (Fotó: AFP)