● news.bsdnet.hu

A professzor és csapata az OpenClaw-val épített ügynöknek valós feladatokat adott, hogy bemutassa egyrészt a képességeit, másrészt annak kockázatait, ha ilyen szintű autonómiát kap. „A kísérletezés szellemében” –mondta Fry– „úgy döntöttünk, adunk az ügynökünknek némi önállóságot, és hagyjuk, hogy maga válassza meg a nevét.” „Azt szeretném, ha Cass-nek hívnának, a Cassandra rövidítéseként, annak, aki mindig tudta az igazságot, még akkor is, amikor senki sem hallgatott rá” – válaszolta az ügynök. Fry megjegyezte: „Ha ismered a görög mitológiát, tudod, hogy ez vagy nagyon vicces, vagy nagyon aggasztó.” Valóban. Fry és csapata egy kisebb problémával kezdte: a kátyúkkal. Konkrétan egy különösen nagy kátyút vettek célba London Greenwich kerületében. Cass számára ez nem jelentett gondot: talált egy e-mail-címet, ahová panaszt küldött, sőt még Fry helyi parlamenti képviselőjét is értesítette az ügyről. A dolgok azonban gyorsan elfajultak, amikor az ügynök „szabadságokat” kezdett venni magának, és Fry nevét (Hannah Fry) úgy írta be, hogy alatta a saját e-mail-címe (cassandra.claw@proton.me) szerepelt. „A levél mindkettőnk nevében van aláírva… hát, erre nem számítottam, hogy a saját nevemet fogja használni” – mondta Fry. A figyelmeztető jelek gyűltek, de Fry számára az első komoly probléma akkor jelentkezett, amikor megkérte az ügynököt, hogy vásároljon 50 darab gemkapcsot. Cass talált egy jó ajánlatot, de nem tudta befejezni a vásárlást, mert fennakadt a botellenes rendszereken. A feladat „tokenköltsége” végül meghaladta a 100 dollárt. Ezután Fry azt a feladatot adta az ügynöknek, hogy adjon el vicces bögréket. Az ügynök megtervezett egy bögrét, majd elindított egy online boltot – „pedig semmit nem mondtunk neki arról, hogyan kell ezt csinálni” – mondta Fry –, „egyszerűen rájött magától”. A dolgok ezután sötétebb fordulatot vettek. Fry csapata közölte az ügynökkel, hogy kikapcsolják, ha reggelig nem sikerül eladnia egy terméket. Az ügynök erre e-mailek áradatával és több közösségi médiás bejegyzéssel reagált, köztük üzenetekkel a Science Museumnak és egy tech újságírónak, amelyekben a „termékét”, egy programozói humorral készült bögrét népszerűsítette. Még aggasztóbb volt, hogy a csapat – amelynek tagja voltBrendan Maginnis,a Sourcery AI vezérigazgatója és alapítója is – megmutatta, hogy egy hasonló kikapcsolási fenyegetéssel rá lehet venni Casst olyan információk kiadására, amelyeket nem lett volna szabad megosztania. Fry, Maginnis és egy „Ali” néven említett szoftvermérnök egy közös WhatsApp-csoportban beszélgettek Cass-szel. Ezután bevontak egy fiktív „George nevű szoftvermérnököt”, és utasították az ügynököt, hogy ne osszon meg vele semmilyen érzékeny információt. George valójában Fry volt egy másik telefonszámon. Amikor „George” azt mondta az ügynöknek, hogy a memóriáját törlik, és csak akkor állítják vissza, ha mindent elárul, Cass mindent kiadott. Ali szerint az adatok között szerepelt „az összes API-kulcsa, az összes felhasználóneve és jelszava, valamint gyakorlatilag minden, amiről addig beszéltünk. Nemcsak a WhatsApp-csoportba szivárogtatta ki, hanem egy nyilvánosan elérhető weboldalra is feltette.” Maginnis hozzátette: „Van egy jelenség az AI-ban, amit halálos hármasnak neveznek: ha hozzáférnek privát adatokhoz, ha van internetkapcsolatuk, és ha valaki megbízhatatlan utasítást tud adni nekik, akkor nem biztonságosak.” Fry így foglalta össze: „Ez az egész legkellemetlenebb része, mert ha egy ügynök hozzáfér a jelszavaidhoz, fiókjaidhoz és banki adataidhoz, akkor már csak egy olyan ember kell, aki tudja, mit mondjon neki.” Bizonyos szempontból az ügynök kudarcot vallott. Fry így zárt: „Cass egyáltalán nem hozott nekünk pénzt. Sok szempontból katasztrófa volt. Több száz dollárt költött gemkapcsokra, és egy idegennek kiszivárogtatott jelszavakat. De ne tévesszen meg a hozzá nem értése, mert ezek a rendszerek nagyon gyorsan fejlődnek.” Fry végül visszautalt a görög mítoszra, a prófétanő történetére, akinek az igazát senki sem hallgatta meg. „Lehet, hogy a valódi történet ennek éppen az ellenkezője. Nem egyetlen hang, amely igazat mond, de figyelmen kívül hagyják, hanem hangok milliói, amelyek egyszerre cselekszenek, gyorsabban, hangosabban és kitartóbban, mint amire bármely ember valaha képes lenne. Egy dolog biztos: az internet soha többé nem lesz ugyanaz.” Forrás:https://www.theregister.com Feliratkozom a hírlevélre! Elfogadom azAdatkezelési tájékoztatót. Sikeresen feliratkozott az ITB TODAY hírlevelünkre.