● news.bsdnet.hu

Az elmúlt időszakban egymás után jelennek meg a hírek a fejlett MI-ágensek által okozott biztonsági incidensekről, amelyek során a mesterséges intelligencia már nem valamilyen programhiba miatt okozott felfordulást, hanem magától kezdett váratlan és káros akciókba céljainak elérése érdekében. Az egyre meredekebb ügyek és a szakemberek egzisztenciális kockázatokról szóló figyelmeztetései nyomán már a nagy MI-fejlesztő cégek is a fejlesztések biztonsági okokból történő lassítását javasolják, ami azonban az elképesztő összegű befektetésekre és az MI skálázásának logikájára való tekintettel inkább csak a nekik kedvező piaci szabályozás felé mutatna. Ebben a helyzetben az Nvidia vezérigazgatója, Jensen Huang az a technológiai vezető, aki csillapítani próbálja a kedélyeket a mesterséges intelligencia szélsőséges kockázatai illetően. Szerinte a "világvége-narratíva" hamis, zéró esély van rá, hogy pont a nagy nyelvi modellek pusztítanák ki az emberiséget, és a jelenlegi keretek között sem igazán érthető, hogy mit próbálnak eladni a nagy MI-fejlesztők. Ahogy a New York Times-nak adott interjújában kifejtette, a megoldás "egyértelmű és a hatályos törvények által motivált": ha a fejlesztők úgy hiszik, hogy kicsúszott a dolog az irányításuk alól, akkor ne szállítsanak új termékeket, amíg vissza nem szerzik az irányítást. Mégiscsak az a kérdés, hogy ki profitál az egészből Huang úgy látja, hogy az MI-cégek óriási léptékű polgári jogi vagy akár büntetőjogi felelősséggel néznek szembe, ha az általuk kiadott technológia valóban olyan károkat okozhat az emberiségnek, mint ahogy arra hivatkoznak. És ha azt állítják, hogy nincs mód a kísérletek visszafogására, a mesterségesintelligencia-modellek pedig már a tesztek során kiszabadulnak és károkat okoznak, akkor egyszerűen be kell zárni az érintett kutatási szervezeteket. Szerinte azonban a szóban forgó cégek és cégvezetők egyáltalán nem tehetetlenek: ha úgy gondolják, hogy egy technológia nem biztonságos, akkor semmi sem kényszeríti őket arra, hogy piaci terméket csináljanak belőle. Innentől az is érdekes, hogy a nagy MI-fejlesztők miért a szabályozásban látják a megoldást a problémára, és némileg kilóg a lóláb, amikor az OpenAI vagy az Anthropic a trösztellenes szabályok alóli mentességért lobbizik, hogy a mesterséges intelligencia biztonságos fejlesztésének érdekében együttműködhessen a nagy versenytársakkal. Az Nvidia vezetője szerint nem logikus, hogy amikor valaki a különleges veszélyekre hivatkozva új szabályozást sürget, akkor valójában az aktuális szabályok enyhítését kéri. Ebben pedig akkor is van valami, ha az érvelést elég könnyű átfordítani a kormányzati beavatkozás elleni és piaci önszabályozás melletti kiállásra. Mivel már az OpenAI, a Google, a Anthropic vagy az Amazon is az Nvidiától való függetlenedésen dolgozik, és így a csipgyártó is egyre nagyobb lehetőséget lát a nyílt forrású MI-modellek virágzó ökoszisztémájában, nagy meglepetést talán Jensen Huang álláspontja sem okoz ebben a kérdésben. Azzal azonban nehéz vitatkozni, hogy az egyre hihetetlenebb befektetésekből működő mesterségesintelligencia-fejlesztők lényegében semmilyen formális felelősséget nem vállalnak a saját technológiájukért, ehelyett úgy hivatkoznak mindenféle apokaliptikus forgatókönyvekre, mintha azok kialakulása a fennálló keretek között teljesen kívül esne az ő befolyásukon.