Stredná škola v New Jersey zápasí so škandálom nad obrázkami generovanými AI

Zábava

Vyšetrovanie zo strany polície a odpor rodičov vyvolali obscénne fotografie študentiek na strednej škole v New Jersey vytvorené AI. Spolužiaci vytvorili obrázky, ktoré sa potom podľa správy zdieľali.

Incident sa podľa Forbes sústreďuje na Westfield High School, ktorá sa nachádza v bohatej enkláve približne 25 míľ západne od Manhattanu.

Študenti pre The Wall Street Journal povedali, že jeden alebo viacerí ich priatelia vytvorili tieto pornografické fotografie pomocou internetovej aplikácie AI, ktorú následne zdieľali so svojou sieťou sociálnych médií.

Jedna znepokojená matka povedala, že 16. októbra jej dcéra spozorovala zvláštne správanie medzi chlapcami v druhom ročníku školy.

Skutočnú povahu týchto aktivít – vytváranie a šírenie pornografických obrázkov vytvorených úpravou internetových fotografií dievčat a zdieľaných cez skupinové chaty – odhalil až 20. októbra spolužiak.

Rodičia tiež uviedli, že správcovia v škole povedali niekoľkým deťom ženského pohlavia o ich spojení s týmito falošnými, grafickými fotografiami. Škola by však nepotvrdila, keby niekto z jej zamestnancov videl tieto fotografie z prvej ruky.

Dorota Mani, iná rodička, vyjadrila svoje obavy týkajúce sa svojej 14-ročnej dcéry Francescy, ktorej obrázok bol použitý na vytvorenie „deepfake“. Pokročilé falzifikáty, ktoré sa veľmi podobajú skutočným fotografiám, sa nazývajú deepfakes. Mani podala policajnú správu po tom, čo vyjadrila obavy z možných dopadov na osobný a pracovný život svojej dcéry.

Sensity, spoločnosť zaoberajúca sa vizuálnym spravodajstvom o hrozbách, tvrdí, že viac ako 90 % hlboko falošných obrázkov má explicitný charakter a často obsahuje podobu známych ľudí.

Rodičov zhruba 1900 študentov Westfield High School o udalosti informovala riaditeľka Mary Asfendis. Dala im slovo, že obrázky boli odstránené a už sa nepoužívajú.

Asfendis zdôraznil, aká vážna je situácia a aké dôležité je, aby študenti pochopili dôsledky svojho správania. Prisľúbila tiež, že bude žiakov naďalej poučovať o tom, ako zodpovedne využívať technológie.

Informácie o tom, aká veľká časť študentov sa podieľala na vytváraní týchto fiktívnych obscénnych fotografií a o akýchkoľvek disciplinárnych opatreniach, ktoré boli prijaté, nie sú zdieľané.

Prvá starostka Westfieldu Shelley Brindleová sa zaviazala bojovať za práva žien a dievčat a vyjadrila svoje hlboké znepokojenie.