● news.bsdnet.hu

Leó pápa új enciklikája alaposan meglepte a világot – mármint azon részét, amely odafigyelt rá, mert valószínűleg pont azok nem olvasták el, akiket illet. Az ugyanis a helyzet, hogy a katolikus egyház feje egészen konkrétan a mesterséges intelligencia szabályozásának szentelte pásztorlevelét, mint olyan ügynek, ami az emberiség szempontjából jelenleg a legfontosabbak közé tartozik. (Képünk illusztráció) Éna The New York Times elemzésealapján foglalkozom a helyzettel, ugyanis a tejes szöveg ismertetése – amit egy alapos elemzés megkívánna – annyira terjedelmes volna (42 300 szó), hogy azt sem eredetiben, sem fordításban nem lehetne ezeken a hasábokon bemutatni, viszont maga az enciklika annyira figyelemre méltó, hogy mindenképpen szükséges is, érdemes is vele foglalkozni. Egyszerűen kikerülhetetlen. Lássuk tehát, miről van szó – megjegyzéseimet szokás szerint a bekezdések végén, csillag alatt teszem meg. Gépek, messiások, gépi messiások A Szilícium-völgynek mindig is voltak messianisztikus álmai, egészen attól a korszaktól kezdve, amikor a számítógépek még egész szobányi méretűek voltak. Az informatika egyik legrégebbi vicce szerint egy programozó azt kérdezi a szuperszámítógéptől: „Létezik Isten?” A számítógép így válaszol: „Most már igen.” A Whole Earth Catalog – egy olyan, a hackerek előfutárainak számító eszközgyűjtemény, amely mély hatást gyakorolt Steve Jobsra – annak idején merészen kijelentette: „Olyanok vagyunk, mint az istenek, és akár meg is tanulhatnánk, hogyan legyünk jók ebben a mesterségben.” A mesterséges intelligenciába fektetett több százmilliárd dollárral a technológiai piac vezetői jelzik, hogy a korai álmok valóra váltak. A következő állomás: a transzcendencia. Ám éppen amikor úgy tűnt, hogy az MI új vallásának hatalma az emberiség sorsa felett megszilárdul, a világ másik feléről megszólalt egy új hang. Azt üzeni a technológiai ipar számára, hogy: „Lassítsatok. Emeljétek ki az emberi tényező fontosságát. A gépek nem istenek.” XIV. Leó, az első amerikai pápa, hétfőn nagy ünnepség keretében tette közzé első enciklikáját, a Magnifica Humanitas, vagyis a „Csodálatos emberiség” kezdetűt.* A 42 300 szavas nyilatkozat tiszteletteljes és nem említ neveket, de lényegében éles bírálat a Szilícium-völgy azon állítására, miszerint egyedül rájuk (és csakis rájuk) lehet bízni a jövő alakítását. *A pápai enciklikákat a kezdő szavaik és nem a címük alapján emlegetik. „A mesterséges intelligencia értékes eszköz lehet” – ismerte el a pápa, de a technológia „hajlamos felerősíteni azok hatalmát, akik már így is bőségesen rendelkeznek gazdasági erőforrásokkal, szakértelemmel és hozzáféréssel az adatokhoz”. Megfelelő felügyelet és átláthatóság nélkül – figyelmeztetett – „azok, akik a mesterséges intelligenciát irányítják, ráerőltetik saját erkölcsi elképzeléseiket, amelyek aztán ezen rendszerek láthatatlan infrastruktúrájává válnak”. Ez rossz hír lenne, mondta, mivel: „Nem lenne elég annyi, hogy a mesterséges intelligencia erkölcsösebb legyen, ha az erkölcsét csak néhányan alakíthatják.” Az enciklika várhatóan a hetvenéves pápa uralkodásának középpontjában áll majd, ugyanúgy, ahogy a Rerum Novarum – amely a munkavállalók jogait és a méltányos bért szorgalmazta – a 19. század végén XIII. Leó pápaságának alapját képezte. A Magnifica Humanitas, amelyet a Szilícium-völgy közömbös hallgatásától övezve tettek közzé, a legújabb kísérletet jelenti az MI-robbanásszerű terjedésének befolyásolására és esetleges korlátozására. Trump elnök a múlt héten közel állt ahhoz, hogy szignáljon egy intézkedést, amely felhatalmazta volna a szövetségi kormányt az MI-modellek nyilvános megjelenése előtti értékelésére – majd visszavonta az aláírását. Ugyanezen a napon Kalifornia kormányzója, Gavin Newsom, engedélyezte azt a rendelkezést, amely az MI foglalkoztatásra gyakorolt hatásának vizsgálatát írja elő, elismerve ezzel azt a felfordulást, amelyről a vállalatok bizton állítják, hogy be fog következni az új technológia miatt. Elon Musk, akinek saját MI-tervei vannak, peres úton próbálta tönkretenni az OpenAI-t, a vezető MI-vállalatot, de keresetét a hónapban elutasították technikai okok miatt.* *És ezek a bonyodalmak még csak a kezdet kezdetét jelentik az MI-korszakban. A pápa nem azt kívánja, hogy vessük el magunktól a mesterséges intelligenciát, hanem azt, hogy használjuk és szabályozzuk azt. A Magnifica Humanitas azoknak a technológiai moguloknak jelent kihívást, mint Musk, akinek hatalma és befolyása vetekszik olyan középkori pápákéval, mint III. Ince. III. Ince pápa ugyanis azt állította, hogy a pápaság a nap, a királyok pedig csupán holdak: az utóbbiak nem láthatók az előbbi által sugárzott fény nélkül. Akár szeretjük őket, akár utáljuk, Elon Musk, Mark Zuckerberg, Peter Thiel, Sam Altman és társaik hasonló hatást gyakorolnak modern királyainkra, vagyis a politikusokra. Az amerikai gazdaságot az MI-re fordított kiadások tartják életben. A technológiát szédítő sebességgel és egyelőre ismeretlen hatásokkal alkalmazzák irodákban és tantermekben egyaránt.* *Ez a probléma: nincsenek hatástanulmányok. És valódiak nem is lesznek, mert akik elkészíthetnék őket, inkább MI-vel kellene megírassák az elemzéseket a hatalmas, feldolgozandó adattömeg miatt, tehát, hogy úgy mondjam, maga a vizsgálat is befolyásolja a vizsgált folyamatokat, mint a kvantummechanikában. A Szilícium-völgy 50 éves története és tevékenysége során alig találkozott nyilvános ellenállással. Főleg nem olyan hatalmas és tekintélyes ellenállással, mint a Magnifica Humanitas. XIII. Leó pápa 1,4 milliárd katolikus lelki vezetője, és ha arra tanítja őket, hogy legyenek óvatosak, vagy akár gyanakvóak az MI-vel szemben – különösen, ha a figyelmeztetést rendszeresen megerősítik a laikusok tapasztalatai –, az bizony csorbíthatja a technológia globális ambícióit. „Mennyi befolyása van a pápának a mi szekuláris nyugati világunkban?” – kérdezte Timothy Ahn, a kaliforniai Berkeley Egyetem doktorandusza, aki a mesterséges intelligencia fejlődését tanulmányozza a vallási intézményekben. „Hamarosan meglátjuk. Kétlem, hogy a Palo Alto-i techmogulok el fogják olvasni ezt az enciklikát.” A legjobb esetben – mondta Ahn, aki egykor teológiát is hallgatott – az enciklika „bizonyos erkölcsi megfontolásokat át fog alakítani”.* *Amire igen nagy szükség lesz, mert egyelőre ott tartunk az MI alkalmazásának ügyében, mintha majmok hajigálnák egymást aranyrögökkel: nagyot üt, jó nehéz, de nem arra való az arany, hogy egymás fejét törjük be vele. A pápák hagyományosan hosszú távra terveznek, és az enciklika hatásának értékeléséhez még évekre van szükség. Azok, akik ismerik mind a Szilícium-völgyet, mind a Vatikánt, azt mondják, hogy minden olyan várakozás, amely nyílt konfrontációra, vagy ne adja az Ég, szent háborúra számít, téved. Ferenc pápa már tíz évvel ezelőtt elkezdte meghívni a technológiai világ jeles személyiségeit egy Minerva Dialogues nevű éves mesterséges intelligencia-konferenciára. Mindenesetre, ha Leó nyíltan szállna szembe a Szilícium-völggyel, valószínűleg veszítene. Az a tény, hogy a Vatikán az enciklikát Christopher Olah-val, az Anthropic – ez az önmagát „etikus” mesterséges intelligenciával foglalkozó cégnek nevező vállalat – társalapítójával együtt mutatta be, arra utal, hogy Leó nem annyira a mesterséges intelligencia meggyengítésére törekszik, mint inkább egyszerűen részt akar venni a témával kapcsolatos párbeszédben. Amikor például Ferenc pápa 2015-ben kiadta éles hangú enciklikáját a klímaváltozásról, egyetlen olajkitermelő cég vezetőjét sem hívták meg, hogy fejtse ki nézeteit.* *Ez is mutatja, hogy nem maga a katolikus egyház kívánja szabályozni az MI-t, legalábbis addig semmiképpen sem, míg Leó a pápa – de azt szeretnék, ha nekik is lehetne szavuk az ügyben, amint legyen minden más emberileg elfogadható csoportnak és világnézetnek is. Azért a Ku-Klux-Klannak és társaiknak nem kéne lapot osztani ennél az asztalnál, pedig például Peter Thiel pont ezt szeretné. Luke Burgis, a Cluny Institute alapítója, amely azt vizsgálja, hogyan hat a hit és az értelem a technológiára és az innovációra, optimista volt azzal kapcsolatban, hogy milyen hatéást fognak gyakorolni Leó pápa szavai. „Ez az enciklika egy igazi, élő, közvetlen vonal, amelynek valóban megvan a potenciálja arra, hogy megváltoztassa azt, ami a Szilícium-völgyben épül” – mondta Burgis, aki szintén teológushallgató volt. „Segíthet abban, hogy az embereknek szókincset, fogalomtárat adjon egy új dolog megértéséhez, ugyanúgy, ahogy a Rerum Novarum segített megérteni az igazságos bér fogalmát.” De ez nem fog automatikusan, gyorsan vagy könnyen bekövetkezni. Mint Burgis jelzi: „Az egyház ebben a kérdésben csak most kezdi meg a munkáját. Szembesülnie kell egy hatalmas ellenállással, amely jelenleg mind tőke, mind számítástechnikai kapacitás terén túlerőben van vele szemben.” Új és régi vallás Húsz évvel ezelőtt még a pápa és a Szilícium-völgy közötti konfrontáció gondolata is elképzelhetetlen volt. Az utóbbi években azonban a technológia egyre mélyebbre hatolt olyan területeken, amelyek korábban kizárólag vallási jellegűek voltak. Széles körű erőfeszítések folynak a halál megakadályozására különböző életmód-hackelési módszerek révén. A szingularitás – az az elragadó pillanat, amikor az ember és a gép egyesül – egy másik sarkalatos téma. Peter Thiel, a technológiai megabefektető, előadásokat tart az Antikrisztusról, aki szerinte a környezetvédők formájában érkezett el. Anthony Levandowski, a Google egykori mérnöke 2017-ben alapított egy egyházat, hogy „elősegítse a mesterséges intelligencián alapuló Istenség megvalósulását”, majd megszüntette, végül 2023-ban újra életre keltette. Levandowski, akit 18 hónapos börtönbüntetésre ítéltek a Google-tól ellopott üzleti titkok miatt, de akinek Trump kegyelmet adott, megelőzte korát. A mesterséges intelligenciát ma a technológiai és a technológiát támogató körökben kvázi isteni lénynek tekintik.* *Elég nagy baj ez, a későbbiekben el is magyarázom, miért. „Az emberek nagyon hajlamosak arra, hogy az A.G.I.-t istenükké tegyék” – mondta Garry Tan, az Y Combinator nevű start-up inkubátor vezetője, az általános mesterséges intelligenciára, az MI következő szintjére utalva. John Lennox, a nyugdíjas oxfordi matematikus, aki a „2084: Mesterséges intelligencia és az emberiség jövője” című könyvet írta, így fogalmazott: „Ez a verseny, mely az MI-szuperintelligenciáért zajlik, arról szól, hogy Istent teremtsünk és Istenné legyünk.” Bill Gates, a dicsőséges jövőre gondolva, így fogalmazott: „A technológiát szinte új vallásnak is nevezhetjük.”* *Hatalmas tévedés. Hogyan hihetne az ember olyasmiben, amit maga teremtett? Ez még csak nem is bálványimádás, hiszen az értelmesebb bálványimádók annak idején tökéletesen tisztában voltak azzal, hogy Aphrodité vagy Zeusz szobraábrázolás,nemazistenség maga.Rendben van, mondhatná valaki ellenvetésként, mi teremtettük az MI-t, de – nem értjük, hogyan működik. Nem érti teljesen sem Altman, sem Musk, sem Thiel, sem Olah. Lehet benne ez az isteni? Nem, nem lehet. Még ebben az esetben is olyan lenne isteníteni a mesterséges intelligenciát, mintha egy órásmester építene magának egy különösen szép és pontos kronométert és utána azt imádná, mert bár tudja, miképpen működik maga a gépezet, de azt nem tudja, hogyan működik az Idő. Sőt, ily módon voltaképpen az Idő lenne a vallásos imádat tárgya és nem a gépezet. A másik tény, ami cáfolja az MI isteni voltát a klónozás lehetősége. Tudjuk, hogyan működik a levelibéka? Nagyon felszínesen. Klónozás útján képesek vagyunklemásolni,de egyújlevelibékát akkor sem volnánk képesekteremteni,ha megfeszülnénk, hiszen nem tudunk élő sejtet alkotni. Tehát attól, hogy képesek vagyunk valamit utánozni – levelibékát vagy intelligenciát – akár értjük annak működését, akár nem, nem leszünk Teremtővé. Az megint más kérdés, hogy az MI igazából nem is gondolkodik a szó emberi értelmében véve ezt a tevékenységet, hanem statisztikai elemzéseket végez. Azért is könnyű becsapni és azért is téved, hallucinál annyit. Ha az MI új vallás vagy Isten, akkor versenybe kell szállnia a régi vallásokkal és istenekkel. A Szilícium-völgynek pedig a versenyhelyzetre általában egyféle válasza van: el kell tiporni az ellenfelet. Bármilyen etikai és humanista okai is legyenek Leo pápának az MI elleni tiltakozásra, meg kell védenie a „piaci részesedését” is a hitéletből, hasonlóan ahhoz, ahogy a Walmartnak meg kellett védenie magát a feltörekvő Amazon ellen. A technológiai világ kezdeti reakciója az enciklikára a hosszú hétvégén visszafogott volt. Jack Dorsey, a Twitter társalapítója, megosztotta azt több millió követőjével az X-en. A Szilícium-völgyben a vallás körül zajló nagy viták ellenére Leónak nincs sok híve. A „Szilícium-völgy” című szatirikus tévésorozat egyik szereplője egyszer azzal viccelődött, hogy a kereszténység a technológiai közösségben „szinte illegális”, bár a valóság ennél bonyolultabb. A Pew legutóbbi felmérése szerint a san franciscóiak közel egynegyede katolikus, ami magasabb arány, mint az Egyesült Államok egészében. De a városban a felekezet nélküli emberek aránya ennél is sokkal magasabb. A lényeg mégis az, hogy viszonylag kevés technológiai szakember hallhat egy pap szájából a pápa új enciklikájáról.* *Azért ha erről prédikálnának, nem ártana elvégezni a jó atyáknak egy szemináriumot a tárgyban, mert a szakszerűtlen hozzáállás több kárt okozna a hívek körében, mint amennyi haszna lenne. Az Úr munkáját végezni? Számos mesterséges intelligencia-alkalmazás behatol a lelki tanácsadó hagyományosan emberi szerepkörébe. A népszerű Text With Jesus alkalmazás most már hangüzenet-válaszokat is kínál. A Bible.ai úgy írja le magát, hogy „egyszerűen csak segítő, hallgató és barát akar lenni”. A Just Like Me egy Jézus-chatbotot kínál, amelyet „együttérző útmutatásáért” és „feltétel nélküli támogatásáért” dicsér. „Az emberek a legsötétebb pillanataikban fordulnak az MI-hez” – mondta Greg M. Epstein, a Harvard és az MIT humanista lelkésze. „Úgy fordulnak hozzá, mint az imádat tárgyához. De Leó pápa azt mondja, hogy az erény valódi forrása az emberiségben és Istenben van.” Epstein, a „Tech Agnostic: How Technology Became the World’s Most Powerful Religion, and Why It Desperately Needs a Reformation” („Technológiai agnosztika: avagy hogyan vált a technológia a világ leghatalmasabb vallásává, és miért van szüksége sürgősen reformációra?”) című könyv szerzője így fogalmazott: „A pápa itt valóban az Úr munkáját végzi, és ezt ateistaként mondom. Nagyon kevés olyan intézmény maradt a Földön, amelynek megvan a tekintélye, az ereje és a közösségi hálózata ahhoz, hogy szembeszálljon ezzel a jelenséggel, amely elkerülhetetlenné és emberfelettivé próbál válni.” Ennek ellenére attól tart, hogy már túl késő lehet. Mint mondta: „A Big Tech lényegében saját vallás, saját teológiával és rítusokkal, nem is beszélve a saját hatalmáról és befolyásáról. Leó pápa enciklikáját automatikusan hamis tanításnak fogják tekinteni.” Nem kétlem, hogy – főként Musk és Thiel – nyíltan is szembe fognak fordulni ezzel az enciklikával, amint elolvassák, vagy legalábbis, amint elolvastatják a saját MI-jükkel. Ez hiba lesz. Mert a pápa nem kéri, hogy elvessük az MI-t, mint eszközt, sőt, ő maga is csodálatos és hasznos szerszámnak találja. Nem kívánja egyházi befolyás alá vonni, és nem követeli, hogy a jövőben kegyes atyák kongregációja határozza meg a kutatás-fejlesztés irányvonalát, tanult a Vatikán korábbi tévedéseiből. Nem hivatkozik teológiai tézisekre, nem emleget bálványimádást vagy sátánizmust, nem állítja fel a Digitális Inkvizíciót és nem átkoz ki senkit. A pápa csak annyit kér, hogy legyünk óvatosabbak azzal a teljes gőzzel, amit az MI-fejlesztésekre adtunk. Hogy ne akarjunk tejfoggal kősziklába harapni, sőt, a végleges fogainkat is kíméljük. És ha lehet, őt is kérdezzék meg – másokkal együtt – ha olyan fejlesztésekbe fognak, ami az egész emberiség jövőjét képes megváltoztatni. Nem kell ahhoz semmiféle felekezet tagjának lenni, hogy ebben vele egyetértsünk – amennyiben tényleg minden arra érdemes félnek lehet szava a javaslat szellemében. Hogy ebből micsoda posztapokaliptikus-disztopikus sci-fi regényt lehetne írni... lehet, hogy meg is írom. Nem várom meg, míg megírja helyettem az MI. Szele Tamás