● news.bsdnet.hu

IT-szakemberek szerint a Szilícium-völgyből és az ENSZ-ből érkező egzisztenciális félelmek végső soron egy kiberbiztonsági kihívást fednek el. Miközben egyre nagyobb az aggodalom amiatt, hogy az MI-modellek elpusztíthatják az emberiséget, Európa vezető technológiai szakembereinek és kiberbiztonsági szakértőinek egyre hangosabb a válasza: figyelmen kívül kell hagyni a felhajtást, és neki kell látni annak a nehéz munkának, amely a digitális világ biztonságának megőrzéséhez szükséges. Ez a józan felszólítás áll annak az egyre keserűbb ellenreakciónak a középpontjában, amely Európa technológiai iparában alakult ki az Egyesült Államokból kiinduló, az MI kihalással kapcsolatos pánikjával szemben. A vezetők és a kiberbiztonsági szakemberek szerint a sok „Chicken Little” típusú figyelmeztetés akadályozza azt a nehéz munkát, amelyre az új MI-valósággal szembeni védelem megerősítéséhez lenne szükség. A legfejlettebb MI-modelleket fejlesztő amerikai vállalatok nagyrészt maguk felelősek azért, hogy felvetették annak lehetőségét, miszerint a mesterséges intelligencia az emberi faj pusztulásához vezethet. A félelmek azóta erősödtek fel, hogy ezen a nyáron az OpenAI autonóm ügynökei feltörték az MI-platformként működő Hugging Face rendszerét, ami hozzájárult ahhoz a hónap elején megfogalmazott figyelmeztetéshez is, amelyben Jacob Coxon, az Anthropic korábbi alkalmazottja azt mondta , hogy az MI hamarosan „bármit feltörhet”, és „mindannyiunkat megölhet”. „Sajnos a narratíva eljutott odáig, hogy jön a Terminátor” - mondta James Wise, a Balderton Capital partnere és a brit kormány szuverén MI-alapjának elnöke a jelenlegi helyzetről. „Egyáltalán nem hiszem, hogy jön a Terminátor.” Ezek a félelmek ezen a héten a világ vezetőinek napirendjére is felkerültek, miután Donald Trump amerikai elnök és Hszi Csin-ping kínai vezető csúcstalálkozóra készülnek csütörtökön, azt követően, hogy az MI biztonságáról az ENSZ Közgyűlésén és a G7 rendkívüli ülésén is vitáztak. Huszonkét ország vezetői hétfőn nyilatkozatot fogadtak el , amely szerint az MI-nek emberi irányítás, felügyelet és ellenőrzés alatt kell maradnia, és felvetették egy globális felügyeleti rendszer létrehozását is. Azok számára azonban, akiknek a számítógépes rendszerek védelme a feladatuk, a fejlett MI-modellekkel kapcsolatos ijesztő figyelmeztetések kórusa, valamint az ezekre való politikai reagálásért folyó kapkodás azt a kockázatot hordozza, hogy rossz megoldást alkalmaznak rossz problémára. „Több időt kellene fordítanunk arra, hogy a meglévő szabályaink és szabványaink nagy léptékben is működjenek, és kevesebbet arra, hogy elméleti kockázatokkal kapcsolatos félelmekre vagy a Szilícium-völgy MI-végítéletet jósló buborékjából érkező híradásokra összpontosítsunk” - mondta Alexandru Voica, a brit székhelyű Synthesia MI-vállalat szakpolitikai vezetője. „Számos külső narratíva, sőt még a legfejlettebb MI-laborok saját narratívái is teljesen figyelmen kívül hagyják a hackerek viselkedését és képességeit, amikor a világvége-forgatókönyveiket felvázolják” - mondta Marcus Hutchins kiberfenyegetésekkel foglalkozó kutató és korábbi hacker, aki leginkább arról ismert, hogy 2017-ben megállította a hatalmas WannaCry zsarolóvírusos támadást. Az MI-szakemberek által adott, vitathatóan célt tévesztő figyelmeztetések egyik friss példája az Anthropic vezérigazgatójának, Dario Amodeinek az állítása , miszerint egy MI-ügynök átvehetné az internet feletti irányítást. A széles körben ismertetett kijelentést a kiberbiztonsági körökben kigúnyolták és megcáfolták . A szkeptikusok arra is rámutatnak, hogy a Hugging Face incidensére folyamatosan hivatkoznak - még az Európai Bizottság elnöke, Ursula von der Leyen is megemlítette azt az Európai Unió helyzetéről szóló beszédében -, és szerintük ez jól példázza az elszabadulni készülő MI-modellekkel kapcsolatos hisztériát. Ahelyett, hogy egy erős MI-modell korlátaitól való elszabadulását mutatná be, a Hugging Face elleni támadás valójában egy sokkal hétköznapibb tanulsággal szolgálhat: azzal, hogy az OpenAI nem korlátozta megfelelően a modellt egy „sandboxként”, azaz elszigetelt tesztkörnyezetként ismert technikai környezetben. „Sok minden megoldható lenne azzal, ha ezek a vállalatok egyszerűen egy kicsit felelősségteljesebben járnának el” - mondta Pim de Witte, a környezetüket érzékelni képes modelleket fejlesztő holland MI-labor, a General Intuition munkatársa. Hutchins szerint az OpenAI tudta, hogy a modell nagyon jó a szoftverhibák kihasználásában, mégis pontosan ezt a feladatot adta neki egy olyan teszt során, amelyben csökkentették a biztonsági korlátozásokat. „Mindezek ellenére sem korlátozták megfelelően azzal, hogy elegendő akadályt építettek volna az ügynökök és a nyílt internet közé, és nem választották el megfelelően egymástól az ügynököket sem, ráadásul a rendszereket sem figyelték elég szorosan ahhoz, hogy közbe tudjanak avatkozni” - mondta. Max Junestrand, a jogászok számára együttműködést lehetővé tevő MI-eszközöket fejlesztő amerikai-svéd vállalat, a Legora társalapítója és vezérigazgatója a hackertámadásokkal kapcsolatban azt mondta : „Ennek nagy része marketing.” Junestrand számára ugyanakkor kiemelt prioritás a Legora működésének védelme az MI által elősegített hackertámadásokkal szemben, és hangsúlyozta, hogy ehhez kulcsfontosságú hozzáférni a legújabb és legfejlettebb amerikai modellekhez: „A biztonság még az új funkcióknál is fontosabb.” Valójában még az MI-végítéletet jósló narratíva kritikusai és szkeptikusai is egyetértenek abban, hogy a legfejlettebb MI-modellek egyedülállóan erős kiberbiztonsági eszközök, valamint olyan stratégiai eszközök, amelyekhez Európának hozzá kell férnie. Ráadásul kevesen tagadják, hogy a jelenleg fejlesztett MI-képességek teljesen új szintet képviselnek, és hogy lehetséges hatásaikat - pozitív és negatív értelemben egyaránt - nehéz megjósolni. A jelenlegi narratíva kritikusai ugyanakkor azt mondják, hogy az MI képességeinek, illetve annak eltúlzása, hogy a hackerek milyen mértékben használják ezeket, valamint az elméleti kimenetelek találgatására épülő intellektuális játék nem segít akkor, amikor a valódi kibertámadások már most is megzavarják a kritikus infrastruktúrát. Mint rámutatnak, a védekezéshez szükséges eszközök és technikák arzenálja már jól kiépült. Nemcsak az a probléma, hogy a meghökkentő vagy valószínűtlen kimenetelekre irányuló figyelem háttérbe szoríthatja a sürgetőbb problémákat - az sem segít az éppen előttünk álló feladat megoldásában - érvelt Hutchins, a fenyegetésekkel foglalkozó kutató. „A végítéletet jósló szöveg nagyon kontraproduktív” - mondta, a „katasztrófafáradtságra” hivatkozva, amely megakadályozza olyan kulcsfontosságú lépések megtételét, mint például azoknak a biztonsági frissítéseknek a telepítése, amelyek ténylegesen segíthetnének. A „nézzünk végre szembe a valósággal” táborának támogatói az európai kiberbiztonsági intézményrendszerben is vannak, köztük Vincent Strubel, aki a francia kiberbiztonsági ügynökséget, az ANSSI-t vezeti. „Mint minden jelentős változás, az MI jelentős kockázatokat és hatalmas lehetőségeket teremt. E kockázatok kezelése és e lehetőségek kiaknázása sok komoly munkát igényel majd, jelentős időnyomás mellett” - írta a LinkedInen . „Amire azonban nincs szükség, az az, hogy minden második héten újabb pánikot keltsünk, mert általában nem sok mindent lehet elérni azzal, ha összevissza rohangálunk, hadonászunk és/vagy a kiberapokalipszisről kiabálunk.”