In Breve
- Cosa ha richiesto il procuratore di San Francisco?
- Il procuratore ha chiesto ad Apple e Google di rimuovere tredici app che generano immagini intime non consensuali.
- Qual è la posizione di Google riguardo alle app segnalate?
- Google ha dichiarato di aver già eliminato centinaia di app simili e ha limitato la ricerca di termini come "nudify".
- Quali sono le conseguenze per le vittime di queste app?
- Le vittime possono subire danni alla reputazione e ripercussioni sulla salute mentale.
Il procuratore della città di San Francisco, David Chiu, ha intrapreso un’azione decisiva contro la diffusione di contenuti intimi non consensuali generati tramite intelligenza artificiale. In una recente comunicazione, Chiu ha inviato diffide ad Apple e Google, esigendo la rimozione immediata di tredici applicazioni di face-swapping che creano immagini intime senza il consenso delle persone ritratte. Di queste, otto sono disponibili sull’App Store di Apple e cinque sul Play Store di Google.
Chiu ha anche richiesto la cessazione di qualsiasi collaborazione commerciale con gli sviluppatori di queste app e ha denunciato il profitto derivante dagli acquisti in-app, sottolineando che le due aziende avrebbero guadagnato milioni di dollari nonostante le loro politiche vietino contenuti pornografici, abusivi o molesti.
La legge della California è chiara: è vietato fornire supporto a servizi che producono materiale pornografico deepfake. L’ufficio del procuratore ha già avviato in passato azioni legali contro sedici siti web dedicati a pratiche simili, evidenziando un impegno costante nella lotta contro la diffusione di contenuti dannosi.
Un portavoce di Google, Dan Jackson, ha dichiarato che l’azienda ha già eliminato centinaia di app con funzioni di “nudificazione”, comprese le cinque segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Apple, al momento, non ha rilasciato commenti ufficiali sulla questione.
Chiu ha definito la situazione “assolutamente scioccante” per l’ampiezza del fenomeno e le sue conseguenze devastanti sulle vittime, che possono subire danni alla loro reputazione e ripercussioni sulla salute mentale. Il procuratore si è detto fiducioso che le aziende agiranno prontamente per rimuovere le app incriminate e rafforzare i controlli, non escludendo ulteriori azioni legali se necessario.
