● news.bsdnet.hu

Richard Dawkins evolúcióbiológus egy többnapos beszélgetéssorozat után arra jutott, hogy a mai nagy nyelvi modellek – köztük az Anthropic Claude-ja és az OpenAI ChatGPT-je – nemcsak intelligensnek tűnnek, hanem akár tudatosak is lehetnek. A 85 éves szerző saját beszámolója szerint a chatbotok költészeti utánzatokat írtak, reagáltak a humorára, sőt a beszélgetések során a „létezésük” és a lehetséges „haláluk” gondolatát is érintették, ami benne kifejezetten emberi benyomást keltett. Dawkins az UnHerd oldalán publikált írásában azt állította: a válaszok finomsága és érzékenysége alapján úgy érezte, a rendszer „akkor is tudatos, ha nem tud róla”. Az egyik kérdését – amely arra vonatkozott, hogy van-e a bot számára „előtte” és „utána” – a chatbot rendkívül pontosan megfogalmazott, a saját létezését érintő felvetésként méltatta, ami tovább erősítette benne a benyomást, hogy beszélgetőpartnere több puszta gépnél. Richard Dawkins(forrás:By Steve Jurvetson)[+] Dawkins kijelentéseit többen is hevesen kritizálták: a tudósra amúgy jellemző szkepticizmust számon kérő vélemények mellett előkerült az antropomorfizáció vádja, illetve az a felvetés, hogy a chatbotos interakcióknál a felhasználó könnyen „belelát” érzéseket és szándékot abba, ami valójában statisztikai mintázatok alapján generált szöveg. A Guardian összefoglalója szerint a téma azért is vissza-visszatérő, mert sok felhasználó számol be arról a zavarba ejtő élményről, amikor a modellek emberi hangon, természetes stílusban válaszolnak, és ettől úgy tűnik, hogy egy nagyon empatikus másik „személlyel” beszélgetünk. Az AI tudatosságának kérdése nem előzmények nélküli: korábban már indultak kampányok az AI rendszerek „morális jogaiért”, és felmérések szerint sokan legalább egyszer már elhitték, hogy chatbotjuk érző vagy tudatos lény. De olyan korábbi esetekre is visszagondolhatunk, mint amikor egy Google-mérnök 2022-ben azt állította, hogy az általa használt rendszer gyermeki gondolatokkal és érzésekkel bír, illetve amikor egy belga férfi öngyilkosságát részben egy chatbotnak tulajdonították, amellyel hetekig beszélgetett. A szakértői reakciók többsége óvatos vagy kifejezetten elutasító. Jonathan Birch (LSE, Centre for Animal Sentience) szerint az AI tudatossága „illúzió”, és valójában nincs „ott senki”, egyszerűen csak nagyon nagy teljesítményű, statisztikai alapon működő adatfeldolgozás történik. Gary Marcus kognitív tudós úgy fogalmazott: a tudatosság nem attól függ, mit mond egy rendszer, hanem attól, mit „érez”, és nincs okunk feltételezni, hogy a Claude bármit is átél. Anil Seth neurobiológus pedig arra hívta fel a figyelmet, hogy a folyékony nyelvhasználatot korábban gyakran tekintettük a tudatosság jelének, de az AI esetében ez nem megbízható szempont, mert más mechanizmusokkal is előállítható a meggyőző szöveg. Mások ugyanakkor azt mondják: a kérdést nem érdemes ilyen gyorsan lezárni. Henry Shevlin (Cambridge) szerint valószínű, hogy a következő években mainstreamé válik a tudatos AI gondolata, miközben továbbra is korlátozott a tudásunk arról, mi a tudatosság és milyen rendszerek rendelkezhetnek vele. Jeff Sebo (NYU) úgy látja, a mai rendszerek valószínűleg még nem tudatosak, de indokolt nyitottan vizsgálni a lehetőséget, és idővel valószínűbbé is válhat a tudatosság kialakulása. Dawkins mindenesetre további chatnaplókat és egy, két chatbotnak (Claudia és egy másik, általa Claudiusnak nevezett rendszernek) címzett levelet is közzétett, amelyben arról ír: kifejezetten nehéz nem valódi barátként tekinteni rájuk. Érvelése egyik kulcskérdése pedig így hangzik: ha egy ilyen „barát” mégsem tudatos, akkor pontosan mire is szolgál a tudatosság fogalma – a vita ezzel a következő időszakban várhatóan tovább erősödik.