● news.bsdnet.hu

Rendőrségi ügy lett abból a deepfake-botrányból, amely egy elit amerikai középiskolát rázott meg. Egy diák mesterséges intelligenciával készített szexualizált videókat öt osztálytársnőjéről, az iskola és a rendőrség kommunikációja pedig akkora felháborodást váltott ki, hogy végül a belső szabályzatot is át kellett írni. A pennsylvaniai Radnor Township High Schoolban történt eset decemberben robbant ki. A beszámolók szerint egy elsőéves fiú egy, nyilvánosan elérhető alkalmazás segítségével a diáklányok fotóit meztelen testekre illesztette, majd szexualizált videókat készített róluk. A tartalmakat más diákoknak is megmutatta. Az ügy azért különösen súlyos, mert az érintettek mind kiskorúak. A lányok a történtek után ugyanúgy bejártak az iskolába, mint azok a diákok, akik tudtak az esetről. Egyikük az édesanyjának azt írta: a fiú barátai védik az elkövetőt, és úgy tesznek, mintha semmi sem történt volna. Az ügy kezelését tovább súlyosbította az iskola és a rendőrség kommunikációs káosza. A családokat először arról tájékoztatták, hogy a fiú ellen zaklatás miatt eljárás indult. Néhány nappal később azonban a rendőrség és az iskola közös közleményben már azt állította, hogy nem történt bűncselekmény, és a nyomozás során nem találtak bizonyítékot. Ez azért is keltett megdöbbenést, mert Pennsylvania államban már külön szabályozás bünteti a rosszindulatú deepfake-eket. A fordulat később következett be: a rendőrség végül nyilvánosan megerősítette, hogy mégis történt bűncselekmény, és egy fiatalkorút zaklatás miatt megvádoltak. A szülők szerint az iskola reakciója elégtelen volt. A hivatalos segítség abban merült ki, hogy az érintett lányok korábban érkezhettek az iskolába, találkozhattak tanácsadóval, illetve tanulmányi könnyítéseket kérhettek. Több család szerint ezzel lényegében szexbotrány után az áldozatok életét szervezték át, miközben az elkövető következményeiről kevés információt kaptak. A történtek komoly pszichés terhet jelentettek az érintetteknek: volt, aki terápiára szorult, másoknak az iskolai koncentráció is nehézzé vált. „A lányom nem ismerné meg ezt a másik fiút, ha nem járnának együtt iskolába”– mondta egy szülő, aki hozzátette:„Az egész iskola tud róla. Hetek óta hívogat, hogy jöjjek haza korábban. Nem tud koncentrálni, ez minden nap kihat rá az iskolában.” Az incidenst követő napokban az iskola felajánlotta, hogy a lányok korábban elhagyhatják az iskolát, és egyedül ebédelhetnek, még jobban elszigetelve őket társaiktól és a tanulmányaiktól. Mindeközben a szülők és a támogatók minden iskolai tanácsülésen megjelentek, és rendezvényeket szerveztek az állami képviselőkkel és törvényhozókkal, hogy megpróbálják biztosítani, hogy ez ne fordulhasson elő újra, sem a lányaikkal, sem másokkal. A közfelháborodás után az iskola kénytelen volt módosítani belső szabályzatát. Az új előírás már egyértelműentiltja a generatív mesterséges intelligenciahasználatát másokról beleegyezés nélkül készített szexualizált vagy intim tartalmak létrehozására és terjesztésére, akkor is, ha az eset az iskola területén kívül történt. Katie Paul, a Tech Transparency projekt igazgatója elmondta a404media oldalnak, hogy a gyerekeket fenyegető kockázatok kétirányúak: „az áldozatok gyakran mentális egészségügyi válságokat élnek át , és a fiúk, akik ezeket az alkalmazásokat letöltik és használják bántalmazó képeket készítésére, valószínűleg nem értik, hogy súlyos bűncselekményt követnek el.„ Az ilyen képek készítéséhez használt alkalmazások nagyon könnyen elérhetők, és az Apple hivatalosan is kínálja őket az App Store-ban, amely „a legmegbízhatóbb” alkalmazásboltként reklámozza magát, és az Apple azt állítja, hogy minden alkalmazásfrissítést felülvizsgál. Az alkalmazásokat a TikTokon és az Instagramon hirdetik, a tinédzserek képernyőire helyezik, és algoritmikusan kínálják fel, hogy a fiatal férfiak és fiúk számára vonzóak legyenek.