● news.bsdnet.hu

A deepfake ma már nem távoli technológiai rémkép, hanem a mindennapi médiafogyasztás része. Hamisított videók, klónozott hangok, mesterségesen előállított arcok és manipulált reklámok bukkannak fel a közösségi médiában, sokszor celebek, politikusok vagy akár családtagok nevében. Hidvégi Zoltán, az Umbrella tulajdonosa szerint a legfontosabb kérdés ma az, hogyan tudjuk magunkat felvértezni azzal a tudással, amely segít elkerülni a megtévesztést. Adeepfake lényege, hogy valós személyhez kötődő képi vagy hangi anyagból mesterséges intelligencia segítségével olyan tartalom készül,amely a valóságban nem történt meg. Ez lehet egy híresség hamis nyilatkozata, egy politikus manipulált beszéde, egy családtag hangján indított telefonos csalás vagy akár beleegyezés nélkül készített pornográf tartalom – derült ki aMédiapiac podcastjából. Hidvégi szerint a kulcs az intenció: nem minden AI-videó deepfake a szó káros értelmében. Ha egy orvos a saját beleegyezésével, mesterséges intelligencia segítségével több nyelven válaszol betegek gyakori kérdéseire, az hasznos technológiai alkalmazás. Ha viszont valaki megtévesztés, zsarolás, pénzszerzés vagy lejáratás céljából használja ugyanazt az eszközt, az már súlyos visszaélés. A veszély különösen akkor nagy, amikor a hamis tartalom cselekvésre akar rávenni:utaljunk pénzt, adjuk meg banki adatainkat, fizessünk elő valamire, szavazzunk valaki ellen, vagy higgyünk el egy politikai állítást. Ilyenkor nem elég az első benyomás. Meg kell állni, visszanézni, ellenőrizni. Az Umbrella és az AI Labor ezért készített egy közérthető AI-kisokost, amely tíz szempont alapján segít felismerni a gyanús tartalmakat.Ilyen jel lehet, ha fel van tüntetve, hogy a tartalom AI-val készült; ha természetellenes részletek látszanak a képen; ha az arc, a hang és a gesztus túl tökéletesen illeszkedik; ha a karakter apró részletei jelenetről jelenetre változnak; vagy ha ugyanaz a személy feltűnően hibátlanul beszél több nyelven. Gyanús az is, ha ugyanaz a „karakterérzet” több platformon is visszatér, ha az arc túl sima, olajos, pórusok nélküli, ha a tartalom sok helyen kering, de hivatalos csatornán nem található, illetve ha egy híres ember látszólag olyasmit reklámoz, amihez korábban semmi köze nem volt. Hidvégi szerint különösen árulkodó, ha a videó pontosan azt mondja, amit hallani szeretnénk:ez nem bizonyíték a hamisításra, de erős figyelmeztető jel. Ha valaki egy családtag hangján telefonál, hogy bajban van, és azonnal pénzre van szüksége, a legtöbb ember ösztönösen segítene. Ilyenkor ellenőrző kérdéseket kell feltenni: olyat, amire egy csaló vagy egy AI nem tud könnyen válaszolni. Videóhívásnál akár egyszerű mozdulatot is kérhetünk, például hogy az illető húzza el a kezét az arca előtt. A mai rendszerek egy része ilyen helyzetekben még zavarba hozható. A probléma azonban túlmutat az egyéni óvatosságon. A közösségi médiában gyorsan, figyelmetlenül fogyasztjuk a tartalmakat, miközben a manipulációk éppen erre építenek. Sokszor érezzük, hogy valami nem stimmel, de nem állunk meg ellenőrizni. A hamis kép vagy hang mégis nyomot hagy bennünk, és tudat alatt erősítheti az üzenetet. Hidvégi szerint teljes védelem nincs, csak tudatosabb médiahasználat, oktatás és szigorúbb szabályozás. A gyerekek AI-oktatását már az iskolai digitális kultúra részévé kellene tenni, de az anyagot szinte félévente frissíteni kellene, mert a technológia elképesztő tempóban fejlődik. A jogi szabályozásnál szerinte a kötelező feltüntetés lenne az egyik alaplépés: ha egy tartalom AI-val készült, azt egyértelműen jelezni kell. A rosszhiszemű felhasználást pedig ugyanabba a súlyos online bűncselekményi körbe kellene sorolni, mint a pénzügyi csalásokat vagy piramisjátékokat. Adeepfake tehát nem önmagábanaz AI miatt veszélyes, hanem azért, mert a valóság látszatával manipulál. A legfontosabb védekezés ma nem technikai, hanem szemléleti: Ha egy videó pénzt, adatot, politikai meggyőződést vagy erős érzelmi reakciót kér tőlünk, ne azonnal reagáljunk. Előbb kérdezzünk, ellenőrizzünk, és csak utána döntsünk.