San Francisco Richiede la Rimozione di App che Creano Nudi Falsi con l’IA

Il procuratore della città di San Francisco, David Chiu, ha preso una posizione decisa contro le applicazioni che utilizzano l’intelligenza artificiale per generare immagini intime non consensuali. In una recente azione, Chiu ha inviato diffide ad Apple e Google, richiedendo la rimozione immediata di tredici applicazioni di face-swapping, di cui otto disponibili sull’App Store e cinque sul Play Store.

Chiu ha sottolineato che queste app non solo violano le policy per sviluppatori delle due aziende, che vietano contenuti pornografici, abusivi o molesti, ma che le stesse aziende avrebbero incassato milioni di dollari attraverso acquisti in-app. Il procuratore ha chiesto anche la cessazione di qualsiasi collaborazione commerciale con gli sviluppatori di queste applicazioni.

La legge della California è chiara: è vietato fornire supporto a servizi che producono materiale pornografico deepfake. Questo non è il primo tentativo dell’ufficio del procuratore di affrontare il problema; in passato, sono state avviate azioni legali contro sedici siti web dedicati a pratiche simili.

Un portavoce di Google, Dan Jackson, ha dichiarato che l’azienda ha già rimosso centinaia di app con funzioni di “nudificazione”, comprese le cinque segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Tuttavia, Apple non ha rilasciato commenti ufficiali sulla questione.

Chiu ha descritto la situazione come “assolutamente scioccante”, evidenziando l’ampiezza del fenomeno e le sue gravi conseguenze per le vittime. Le ripercussioni possono variare dalla reputazione danneggiata a problemi di salute mentale. Il procuratore ha espresso fiducia che le aziende rimuovano spontaneamente le app incriminate e rafforzino i controlli, non escludendo ulteriori azioni legali se necessario.