● news.bsdnet.hu

Bűnügyi nyomozás indult Nagy-Britanniában egy rendőr ellen, akit azzal gyanúsítanak, hogy mesterséges intelligenciát használt bizonyítékok előállítására több ügyben. Az eset azért különösen súlyos, mert nem egyszerű technológiai hibáról vagy rosszul működő arcfelismerő rendszerről lehet szó, hanem arról, hogy egy rendvédelmi dolgozó állítólag aktívan használta a generatív mesterséges intelligenciát bizonyító anyagok létrehozására. A BBC beszámolója szerint az ügy Derbyshire megyében robbant ki. A meg nem nevezett rendőrt egyelőre nem tartóztatták le, de a vizsgálat idejére felfüggesztették a szolgálatból. Az ügyben a derbyshire-i rendőrség és a brit Koronaügyészség is érintett, számolt be a Futurism. A Derbyshire-i Rendőrség szóvivője a Financial Timesnak azt mondta: bűnügyi nyomozás indult az igazságszolgáltatás menetének megzavarása gyanújával, miután egy rendőr állítólag mesterséges intelligenciarendszereket használt bizonyítékok előállítására számos esetben. Az ügy az első ilyen jellegű ismert eset lehet az Egyesült Királyságban. Különösen kényes időzítésről van szó, hiszen néhány nappal korábban az ország új nemzeti rendőrségi mesterségesintelligencia-központja figyelmeztetést adott ki a generatív AI használatáról. Az iránymutatás szerint a bűnüldöző hatóságoknak egyelőre nem szabad ilyen eszközökkel bírósági nyilatkozatokat készíteniük, mert a technológia hajlamos kitalált, valótlan állításokat – úgynevezett hallucinációkat – beépíteni a szövegekbe. Alex Murray, a PoliceAI központ vezetője a Financial Timesnak úgy fogalmazott: több szervnek is jelezték, hogy ezt jelenleg nem tehetik meg, mert a szükséges ellenőrzési és biztonsági mechanizmusok még nem állnak rendelkezésre. „Egy kicsit lassítanunk kell” — mondta. A mesterséges intelligencia rendőrségi alkalmazása világszerte egyre gyorsabban terjed. A technológia támogatói azt ígérik, hogy az AI gyorsabb nyomozásokat, hatékonyabb ügyfeldolgozást és jobb felderítési arányokat hozhat. Csakhogy az elmúlt években egyre több eset mutatta meg a rendszer kockázatait is. Az arcfelismerő algoritmusok több országban vezettek téves azonosításokhoz és jogtalan letartóztatásokhoz, ami már önmagában is komoly kérdéseket vet fel a technológia pontosságáról és ellenőrizhetőségéről. A derbyshire-i ügy azonban ennél is aggasztóbb lehet. Míg egy hibás arcfelismerő rendszer esetében a felelősség részben a technológiára vagy annak rossz alkalmazására hárítható, a mostani gyanú szerint a mesterséges intelligenciát nem tévedésből, hanem bizonyító anyagok előállítására használták. Ha ez beigazolódik, az alapjaiban rengetheti meg a digitális bizonyítékokba és az eljárások tisztaságába vetett bizalmat. A generatív mesterséges intelligencia egyik ismert problémája, hogy meggyőzően képes hamis szövegeket, képeket vagy dokumentumokat létrehozni. Rendőrségi környezetben ez különösen veszélyes: egy pontatlan jelentés, egy manipulált fotó vagy egy kitalált részlet akár egy büntetőeljárás irányát is befolyásolhatja. Korábban már volt példa arra, hogy AI-hibák abszurd módon kerültek be hatósági anyagokba. Az Egyesült Államokban például egy utahi rendőrségi jelentésben olyan mesterséges intelligencia által generált tévedés jelent meg, amely szerint egy rendőr békává változott. Ez inkább a gondatlan használat veszélyére mutatott rá. A derbyshire-i ügy viszont a gyanú szerint nem egyszerű figyelmetlenségről szól, hanem arról, hogy a technológiát bizonyítékgyártásra használhatták. Az eset emlékeztet egy tavalyi amerikai ügyre is, amikor Maine államban a hatóságok olyan fotókat tettek közzé egy állítólagos drogfogásról, amelyekről később kiderült, hogy egyértelműen generatív mesterséges intelligenciával manipulálhatták őket.