● news.bsdnet.hu

Az emberiség mesterséges intelligencia által előidézett kihalásának elméletei kiszabadultak a technológiai elit zárt ajtajai mögül, és ma már közvetlenül a globális politikai döntéshozatalt formálják. Egyre több szakértő, kutató és politikus figyelmeztet arra, hogy a szuperintelligens rendszerek feletti ellenőrzés elvesztése a civilizáció összeomlásához vezethet. Ugyanakkor kritikusok sora hangsúlyozza, hogy a túlzó világvége-forgatókönyvek elterelik a figyelmet az AI által okozott jelenlegi valós és kézzelfogható társadalmi károkról. Meixner Zoltán Rovatvezető (Tech) Ezeket látta már? Az AI-hoz köthető apokaliptikus jövőképek nem tegnap születtek. Már 2015-ben egy Puerto Rico-i luxusüdülőhelyen tartott zárt körű konferencián összeült a technológiai világ elitje – köztük Elon Musk, a DeepMind társalapítói, illetve Nick Bostrom filozófus –, hogy feltérképezzék, mi történik, ha az emberi intelligenciát meghaladó gépek jönnek létre . Ami egy évtizede még a tudományos-fantasztikus irodalom határán mozgó, elvont elméleti felvetés volt, az mára a washingtoni jogalkotás és a nemzetközi biztonságpolitika egyik központi témájává vált – írja a The Wahington Post áttekintő cikke . A kihalási forgatókönyvek alapvető gondolati struktúrája arra az elképzelésre épül, hogy egy szuperintelligens AI-rendszer – nem feltétlenül rosszindulatból, hanem a neki adott feladatok vak, korlátlan és az emberi értékekkel nem harmonizáló végrehajtása során – elpusztíthatja a civilizációt. Nick Bostrom híres „gémkapocs” gondolatkísérlete pontosan ezt szemlélteti: ha egy korlátlan képességekkel felruházott gép azt a célt kapja, hogy minél több gémkapcsot gyártson, a bolygó teljes erőforrását, energiáját, sőt, az útjában álló emberiséget is feláldozhatja a feladat elérése érdekében. A fenyegetés szisztematikus vizsgálatára a védelmi és stratégiai elemzésekről ismert RAND Corporation végzett átfogó kutatást. Elemzésükben négy elengedhetetlen előfeltételt azonosítottak ahhoz, hogy az AI globális katasztrófát idézhessen elő: A RAND szakértői ugyanakkor rámutattak arra is, hogy az ilyen típusú teljes megsemmisülés valószínűsége alacsony, a pusztulás pedig leginkább fokozatosan menne végbe, ami lehetőséget adna az emberiségnek a korai figyelmeztető jelek észlelésére és a közbeavatkozásra. A mesterséges intelligencia kutatói nemrégiben aggasztó figyelmeztetést tettek közzé: szerintük nem zárható ki annak lehetősége, hogy az AI az elkövetkező évtizedekben az emberiség pusztulásához vezethet. Bár az ilyen világvége-forgatókönyvek már régóta jelen vannak a közbeszédben, a technológia gyors fejlődése és egyre szélesebb körű alkalmazása miatt ezek a félelmek most újra a figyelem középpontjába kerültek. Az elméleti lehetőségeken túl a döntéshozók ma már konkrét modellek alapján kísérlik meg felmérni a veszélyeket. Az AI Futures Project keretében elkészített „AI 2027” szimuláció például azt a hipotetikus jövőt modellezi, amelyben az Egyesült Államok és Kína közötti technológiai versenyfutás miatt a felek feladják a biztonsági fékeket . A geopolitikai nyomás hatására a mérnökök egyre gyorsabban engedik ki a kezükből az ellenőrzést, míg végül a gépi rendszerek önálló döntési pozícióba kerülnek. Miközben a sci-fi-forgatókönyvekre figyelünk, nem törődünk azokkal a jól azonosítható károkkal, amelyeket az AI a ma létező világunkban okozott / Illusztráció: Getty Images Daniel Kokotajlo, a projekt egyik alkotója szerint ezek a forgatókönyvi gyakorlatok ahhoz hasonlítanak, mint amikor a katonaság felkészül egy esetleges fegyveres konfliktusra. Nem az a céljuk, hogy pontosan megjósolják a jövőt, hanem az, hogy korán azonosítsák a rendszerszintű gyenge pontokat és a lehetséges védelmi stratégiákat. Bár az egzisztenciális kockázatokról szóló elméletek segítettek felrázni a közvéleményt, a megközelítésnek komoly kritikusai is akadnak. Számos független szakértő arra figyelmeztet, hogy az apokaliptikus távlatok hangoztatása veszélyes elterelő hadműveletként szolgálhat a technológiai óriáscégek számára, amelyek így elkerülhetik a jelenlegi rendszereik által okozott valós károk számonkérését. Aya Ibrahim, az AI Now Institute nemzetbiztonsági munkatársa rámutatott, hogy a politikusok körében kialakult egyfajta „tanult tehetetlenség” a technológiai szektorral szemben. Míg az energiaipar, a gyógyszerészet vagy az élelmiszer-biztonság területén a jogalkotók természetesnek veszik, hogy szigorú korlátokat szabnak a vállalatoknak – anélkül, hogy maguk is vegyészmérnökök vagy orvosok lennének –, addig a mesterséges intelligencia esetében azzal az indokkal tartózkodnak a szabályozástól, hogy nem értik a modellek kódját . Ibrahim hangsúlyozza, hogy a túlzó apokaliptikus sci-fi-forgatókönyvek helyett a politikai döntéshozóknak a már ma is létező problémákra kellene összpontosítaniuk: a munkaerőpiaci torzulásokra, az adatvédelmi visszaélésekre, az elfogult algoritmusok által okozott diszkriminációra és a tömeges félrevezetésre. A kérdés így végül nem az, hogy a mesterséges intelligencia egy csapásra elpusztítja-e az emberiséget, hanem az, hogy a világ képes-e időben átvenni az irányítást a technológia jelene és jövője felett . emberiség kihalása