● news.bsdnet.hu

Döbbenetes méretű AI-alapú csalássorozat áldozatává vált egy nashville-i rockzenekar. A Sons of Legion menedzsmentje szerint naponta több tucat kamuprofillal próbálnak pénzt kicsalni a rajongóikból. A helyzet ráadásul odáig fajult, hogy egy nő még a 40 éves házasságát is felbontotta, miután azt hitte, a kedvencével flörtölget üzenetben. Nagy N. Alexandra Newsroom újságíró Ezeket látta már? A nashville-i székhelyű amerikai rockzenekar, a Sons of Legion elképesztő sikertörténetet produkált: fülbemászó dalaiknak köszönhetően rohamosan nő a rajongótáboruk, a Facebook-követőik száma pedig tavaly januárban alig 12 ezerről egyetlen szempillantás alatt 2,3 millióra emelkedett, miközben az együttes egy 50 városból álló, teltházas turnéra indult Jelly Roll előzenekaraként. A robbanásszerű népszerűségre azonban a csalók is azonnal lecsaptak : a frontember, Adam McInnis döbbenten szembesült azzal, hogy a közösségi médiában egyre több olyan felvétel terjed róla, amit mesterséges intelligencia generált . Ezeken a videókon olyan dalokat énekel, amiket soha nem rögzített, vagy éppen randevúra hívja a gyanútlan rajongókat. Bár a hasonló csalások már régóta jelen vannak az interneten, az AI-eszközök most olyan fegyvert adtak a kiberbűnözők kezébe, amellyel tökéletesen lemásolhatják a sztárok hangszínét és mozgását is. McInnis azt mondja, néha még őt is meg tudnák ezzel téveszteni. Számomra teljesen ugyanúgy néznek ki, és ugyanúgy hangzanak – fogalmazott az énekes a Time Magazine szerint. A zenekar menedzsmentje szerint naponta 50-60 új kamuprofil jelenik meg , amikkel a Sons of Legion rajongóiból próbálnak pénzt kicsalni, egészen meglepő módszerekkel. A csalók először hamis Facebook-csoportokba gyűjtik a rajongókat, majd privát üzenetekben átterelik őket más platformokra, ahol aztán elárasztják őket személyre szabott szerelmes üzenetekkel, sőt akár olyan AI által generált felvételekkel is, amelyeken a zenekar frontembere látszólag éppen zuhanyozni készül. – Láttam ezeket a videókat, és azt mondtam magamban: Igen, ez úgy néz ki, mint én. Úgy néz ki, mint az én testem – nyilatkozta McInnis. Ezek az üzenetek azt a benyomást keltik a rajongókban, hogy kapcsolatban állnak McInnis-szel, a csalók pedig ilyenkor csapnak le: kriptovalutában vagy kártyán keresztül kérnek tőlük óriási pénzösszegeket . Mivel a Sons of Legion egy független, kiadó nélküli zenekar, a rajongók teljesen hihetőnek tartják, hogy a kedvenceik közvetlenül tőlük kérnek anyagi támogatást a turnéköltségek vagy váratlan kórházi számlák rendezésére. De a történet itt még nem áll meg. McInnis szerint minden koncerten akadnak olyan nők, akik odamennek hozzá, mondván, hogy párkapcsolatban vannak vele. Egy rajongó még egy 40 éves házasságát is felrúgta azért, mert egy hamis "Adam McInnisszel" beszélgetett, akinek ráadásul már 50 ezer dollárt (átszámítva kb. 15,3 millió forint) utalt át. Más esetekben a gyanútlan nők intim fotókat küldenek magukról a csalóknak, akik ezután azokkal zsarolják őket. Szerelmes üzenetekkel csalnak ki pénzt a rockzenekar rajongóitól / Fotó: Northfoto A zenekar menedzsmentje jelenleg a Loti nevű, deepfake-felismerésre szakosodott startup segítségével próbálja felvenni a harcot a csalókkal, és bár eddig több mint 350 hamis oldalt sikerült töröltetniük, a helyükön mindig megjelennek újabbak. Mivel a Meta felhasználói a vállalat irányelvei szerint nem adhatják ki magukat másnak, a Meta szóvivője elmondta, hogy nyomoznak a csalók ügyében, és intézkedéseket hoznak a szabályokat megszegő fiókok ellen. Adam McInnis arra is kitért, hogy az AI már a zenei platformokat, köztük a Spotifyt is megfertőzte , aminek algoritmusa egyre inkább a mesterséges intelligencia által kreált kamuzenekarok felé tereli a hallgatókat. McInnist nemrégiben egy barátja is felhívta azzal, hogy épp őket hallgatja, ám utólag kiderült, hogy a hangszórójából valójában egy olyan AI-generált dal szólt, ami kísértetiesen lemásolta a Sons of Legion stílusát, és automatikusan elindult a zenekar egy valódi zeneszáma után. A frontember attól tart, hogy a helyzet csak tovább fog súlyosbodni. A Spotify szóvivője közölte, hogy különféle AI-jelölésekkel és igazolásokkal próbálják védeni a valódi művészeket, ám a zenészek szerint a techóriások nem tesznek eleget az iparág védelmében. McInnis szerint a zenehallgatóknak hamarosan dönteniük kell, hogy beérik-e a mesterséges intelligencia által ontott „szeméttel” és a kamuvideókkal, vagy hajlandóak lesznek kiállni a valódi, emberi alkotások mellett. – Mi magánszemélyként mindent megteszünk, amit csak tudunk. De ezek ellen a platformoknak kell fellépniük. És ezt nem fogják megtenni, hacsak nem veszítenek felhasználókat, vagy nem csökken a bevételük – hangsúlyozta Adam McInnis. csalás