FBI obvinila muže z USA z vytvoření více než 10 000 sexuálně explicitních a snímků zobrazujících zneužívání dětí, které údajně vytvořil pomocí populárního nástroje umělé inteligence. Úřady muže, 42letého Stevena Anderegga, obvinily také z toho, že prostřednictvím služby Instagram zaslal pornografické snímky vytvořené umělou inteligencí 15letému chlapci. Informoval o tom server The Guardian.

Anderegg vytvořil asi 13 000 "hyperrealistických snímků nahých a polonahých prepubertálních dětí", uvedli prokurátoři v obžalobě zveřejněné v pondělí, přičemž snímky často zobrazovaly děti, které se dotýkají svých genitálií nebo jsou sexuálně zneužívány dospělými muži. Důkazy z notebooku muže z Wisconsinu údajně ukázaly, že používal populární model Stable Diffusion AI, který mění textové popisy na obrázky.

Obvinění přišlo poté, co Národní centrum pro pohřešované a zneužívané děti (NCMEC) obdrželo v loňském roce dvě hlášení, která označila Andereggův účet na Instagramu, což přimělo orgány činné v trestním řízení sledovat jeho aktivitu na sociální síti, získat informace od Instagramu a nakonec získat příkaz k prohlídce. Podle obžaloby proti němu úřady zabavily jeho notebook a našly tisíce generativních obrázků s umělou inteligencí a také historii používání "extrémně specifických a explicitních podnětů" k vytváření zneužívajícího materiálu.

Anderegg čelí čtyřem obviněním z vytváření, distribuce a držení materiálů se sexuálním zneužíváním dětí a zasílání explicitních materiálů dítěti mladšímu 16 let. Pokud bude odsouzen, hrozí mu maximální trest kolem 70 let vězení. Web 404 Media uvádí, že se jedná o jeden z prvních případů, kdy FBI obvinila někoho z vytváření materiálů o sexuálním zneužívání dětí. Minulý měsíc byl na Floridě zatčen muž, který údajně vyfotil dítě své sousedky a pomocí umělé inteligence vytvořil sexuálně explicitní obrazový materiál s touto fotografií.

Obhájci bezpečnosti dětí a výzkumníci v oblasti umělé inteligence již dlouho varují, že zlomyslné používání generativní umělé inteligence by mohlo vést k prudkému nárůstu materiálů se sexuálním zneužíváním dětí. Počet hlášení o zneužívání dětí online do NCMEC vzrostl v roce 2023 oproti předchozímu roku přibližně o 12 %, částečně kvůli prudkému nárůstu materiálu vytvořeného umělou inteligencí, což hrozí zahlcením informační linky organizace pro označování potenciálního materiálu o sexuálním zneužívání dětí (CSAM).

Rozmach generativní umělé inteligence vedl k rozsáhlému vytváření nekonsensuální deepfake pornografie, která se zaměřuje na kohokoli, od celebrit až po průměrné soukromé osoby. Snímky a deepfakes nezletilých osob generované umělou inteligencí se rozšířily také mezi školami, což v jednom případě vedlo k zatčení dvou chlapců ze střední školy na Floridě, kteří vytvořili snímky nahých spolužáků. Několik států přijalo zákony proti nekonsensuálnímu generování explicitních snímků, zatímco ministerstvo spravedlnosti uvedlo, že generování sexuálních snímků dětí umělou inteligencí je nezákonné.