Riassunto:
Apple ha recentemente annunciato di aver aggiornato le linee guida per la revisione dell'App Store e di adottare misure di gestione più rigorose contro le immagini private involontarie generate dall'intelligenza artificiale. In precedenza, le regole della piattaforma avevano vietato i contenuti sessualmente espliciti e le ultime normative richiedono inoltre agli sviluppatori di prevenire, monitorare e rimuovere in modo proattivo tali contenuti profondamente falsi generati dall’intelligenza artificiale. Se gli sviluppatori non riescono ad adottare misure efficaci, le applicazioni pertinenti potrebbero essere rimosse dall’App Store.
Nella clausola 1.2 aggiornata, Apple nomina chiaramente per la prima volta le categorie di applicazioni che coinvolgono la generazione di contenuti AI. Si ritiene che questa mossa sia correlata ad alcuni prodotti di intelligenza artificiale generativa, inclusi i servizi di chatbot che hanno causato polemiche per la generazione di nudità e contenuti deepfake sessualizzati. In precedenza, Apple aveva avvertito gli sviluppatori rilevanti che se le app rilevanti avessero continuato a consentire la generazione di immagini deepfake di nudo, avrebbero rischiato di essere rimosse dall’App Store. Successivamente l'azienda ha aggiunto adeguati meccanismi di protezione della sicurezza e ha ottenuto l'approvazione di Apple per il rilascio di una versione aggiornata.
Allo stesso tempo, Apple ha aggiunto una nuova linea guida di revisione numerata 2.5.19 per sottolineare che agli sviluppatori non è consentito aggiungere nuove funzionalità che non siano state divulgate durante la fase di revisione dopo che l'app ha superato la revisione. Apple ha menzionato specificamente le cosiddette "app di nudificazione", che sono app che utilizzano l'intelligenza artificiale per falsificare foto di persone reali trasformandole in immagini di nudo o pornografiche. Apple ritiene che alcuni sviluppatori potrebbero nascondere il vero scopo delle loro applicazioni durante il periodo di revisione e attendere che l'applicazione venga approvata per essere messa online prima di abilitare le funzioni correlate.
Secondo le nuove normative, qualsiasi applicazione contenente funzioni nascoste o non divulgate verrà bandita dagli scaffali, comprese le applicazioni che mascherano deliberatamente il loro scopo durante la fase di revisione e poi rivelano funzionalità dannose dopo l'approvazione. Apple ha sottolineato che questo tipo di pratica è un tipico comportamento "esca e cambia" e la funzione "spogliarsi" è un caso rappresentativo di questo tipo di violazione.
Oltre alle normative sui contenuti generati dall'intelligenza artificiale, Apple ha anche rivisto la Parte 5 delle linee guida di revisione per estendere il divieto dell'applicazione originale sulla tratta di esseri umani e sullo sfruttamento minorile a canali alternativi di distribuzione delle applicazioni. Ciò significa che le app sono soggette agli stessi requisiti di sicurezza dei contenuti indipendentemente dal fatto che siano rese disponibili tramite l'App Store ufficiale o altri metodi di distribuzione consentiti.
Nel suo annuncio agli sviluppatori, Apple ha sottolineato che la società non esiterà ad adottare misure punitive come la rimozione di app dagli scaffali e la revoca delle qualifiche di sviluppatore per app e sviluppatori che violano queste normative.
Questo aggiornamento delle regole mostra che, man mano che gli strumenti di intelligenza artificiale generativa diventano sempre più popolari, Apple sta rafforzando ulteriormente la sua supervisione sui deep fake, sulla generazione di immagini private non consensuali e sugli abusi correlati per ridurre il rischio che la tecnologia AI venga utilizzata per molestare, sfruttare o invadere la privacy.
Leggi il testo completo delle regole:
https://developer.apple.com/app-store/review/guidelines/
Commenti