● news.bsdnet.hu

A Google mesterséges intelligenciával foglalkozó részlegének vezetője, Demis Hassabis szerint az Egyesült Államoknak kellene kezdeményeznie egy olyan szabványügyi szervezet létrehozását, amely felügyelné az új mesterségesintelligencia-modelleket, valamint értékelné a nemzetbiztonsági kockázatokat, köztük a kiberbiztonsági és biológiai fenyegetéseket.   A Google DeepMind vezetője, a Nobel-díjas Demis Hassabis kedden, az X közösségi platformon közzétett írásában azt hangsúlyozta, hogy „sürgős intézkedésekre” van szükség a mesterséges általános intelligenciával (Artificial General Intelligence – AGI) kapcsolatos kockázatok kezelésére. Az AGI azt a fejlettségi szintet jelenti, amikor a mesterséges intelligencia eléri vagy meghaladja az emberi intelligencia képességeit. „Már most is látható, hogy a csúcskategóriás modellek milyen kihívásokat jelentenek a kiberbiztonság számára, és ahogy képességeik tovább fejlődnek, hamarosan más fenyegetések is megjelenhetnek, beleértve a nukleáris és biológiai kockázatokat” – írta Hassabis. A szakember szerint a problémák kezelésének egyik lehetséges módja egy, az Egyesült Államok által vezetett, szövetségi kormányzati felügyelet mellett működő állami–magán partnerség lenne. Egy új, FINRA mintájára működő MI-felügyeleti szervezetet javasol Hassabis nyilatkozata egy hónappal azután érkezett, hogy a CNBC forrásai szerint ő és az Anthropic vezérigazgatója, Dario Amodei egy G7-csúcstalálkozón – amelyen Donald Trump amerikai elnök, technológiai vállalatok vezetői és államfők is részt vettek – egy amerikai vezetésű koalíció létrehozását szorgalmazta az AI-ra vonatkozó szabályok és szabványok kialakítására. A hónap elején az OpenAI vezérigazgatója, Sam Altman is hasonló szervezet felállítását sürgette a Financial Times hasábjain. Bár egyre több iparági vezető támogatja egy mesterséges intelligenciát felügyelő szervezet létrehozását, a legfejlettebb AI-modellek szabályozása továbbra is jelentős vitákat generál az állami és a magánszektor között. Az elmúlt hetekben az Anthropic hosszas egyeztetéseket folytatott amerikai tisztviselőkkel, miután a Trump-kormányzat ideiglenesen exportkorlátozásokat vezetett be egyik fejlett modelljére. Az OpenAI is hasonló korlátozásokkal szembesült: az amerikai kormány kezdetben arra kérte a vállalatot, hogy korlátozza egy új modell bevezetését. Hassabis szerint az Egyesült Államok gazdasági és technológiai erejénél fogva kiváló helyzetben van ahhoz, hogy vezető szerepet vállaljon egy átfogó AI-szabályozási keretrendszer kialakításában. „Létrehozhatna egy új Szabványügyi Testületet, amely egy szövetségi felügyelet alatt álló állami–magán partnerség vagy önszabályozó szervezet mintájára működne, hasonlóan a Financial Industry Regulatory Authorityhez (FINRA). Az igazgatótanácsban független vezető műszaki szakértők és a nyílt forráskódú közösség képviselői is helyet kapnának” – írta. (A FINRA az Egyesült Államokban a brókercégeket és az értékpapírpiacokat felügyelő önszabályozó szervezet.) Önkéntes ellenőrzésből kötelező felülvizsgálat Hassabis szerint a javasolt szervezetnek jelentős pénzügyi forrásokra lenne szüksége ahhoz, hogy világszínvonalú szakembereket tudjon alkalmazni, valamint biztosítani tudja a nagyszabású modelltesztelésekhez szükséges számítási kapacitást. Véleménye szerint a finanszírozás várhatóan elsősorban az iparági szereplőktől érkezhetne. A javaslat alapján a vezető AI-fejlesztő vállalatok kezdetben önkéntesen bocsátanák új modelljeiket a szervezet rendelkezésére legfeljebb 30 nappal a nyilvános megjelenés előtt. Amennyiben a rendszer bizonyítottan hatékonyan működne, ez a felülvizsgálat később kötelező feltétellé válna az Egyesült Államok piacán történő bevezetés előtt. Hassabis szerint a speciális, úgynevezett agentikus AI-rendszerek vizsgálata során ellenőrizni kellene például, hogy a modellek megpróbálják-e megkerülni a biztonsági korlátokat, mutatnak-e megtévesztő viselkedésre utaló jeleket, illetve megfelelnek-e az olyan bevált gyakorlatoknak, mint az AI által készített képek digitális vízjelezése vagy az ember számára értelmezhető kimeneti tokenek előállítása, amelyek segítségével jobban megérthető a modellek következtetési folyamata. Egyre élesebb a verseny az Egyesült Államok és Kína között A szigorúbb szabályozásra irányuló felhívások egy olyan időszakban hangzanak el, amikor egyre intenzívebbé válik a verseny az Egyesült Államok és Kína között a mesterséges intelligencia fejlesztésében és piaci bevezetésében. A kínai vállalatok – köztük a DeepSeek és a Z.ai – legújabb modelljeit sok szakértő már a vezető amerikai rendszerek, például az Anthropic és az OpenAI csúcskategóriás modelljeinek komoly versenytársaként tartja számon. Ezek a megoldások egyre nagyobb teret nyernek az amerikai vállalatok körében is, különösen azért, mert a mesterséges intelligencia használatának költségei folyamatosan emelkednek. Ennek következtében az amerikai törvényhozók jelenleg azt vizsgálják, miként lehetne visszaszorítani a kínai AI-modellek terjedését az amerikai vállalatok körében. Az amerikai Külügyminisztérium a CNBC-nek úgy nyilatkozott, hogy ez a folyamat „komoly aggodalomra ad okot”. Forrás: https://www.cnbc.com