Riassunto:
La città di Dallas, in Texas, sta installando telecamere di intelligenza artificiale sui veicoli di raccolta dei rifiuti per scattare foto delle case lungo il percorso e assegnare loro un cosiddetto "punteggio di degrado" basato sulle potenziali violazioni del codice cittadino identificate dal sistema. Il progetto ha scatenato una reazione da parte dei residenti locali sulla privacy, sugli errori giudiziari e sulle multe ingiuste.
I registri cittadini ottenuti dalla NBC 5 a Dallas mostrano che la città di Dallas ha iniziato a testare le telecamere di intelligenza artificiale sugli ingombranti camion per la raccolta dei rifiuti nell'aprile di quest'anno e ne ha gradualmente ampliato l'uso durante l'estate.
Le telecamere hanno identificato una o più possibili violazioni in almeno 21.000 proprietà, tra cui prati di altezza eccessiva, rifiuti, detriti, erbacce troppo cresciute e problemi strutturali.
Il sistema assegnerà quindi alla struttura un punteggio in base al grado di violazione, compreso tra 1 e 4, dove 1 rappresenta il problema meno grave e 4 rappresenta il problema più grave. Alcuni proprietari di case hanno ricevuto “avvisi di promemoria in buona fede” dal dipartimento di applicazione del codice della città dopo che le loro proprietà sono apparse nell’elenco. I proprietari di case possono incorrere in sanzioni se i problemi non vengono risolti.
La casa di un proprietario è stata segnalata da una telecamera e classificata come 2 per un problema di verniciatura del camino. Ritiene che questa valutazione sia troppo seria e dice addirittura che anche la valutazione 1 gli sembra un po' eccessiva.
Anche molti altri residenti locali non sono soddisfatti del sistema di telecamere. La preoccupazione più ovvia è che le telecamere scattino foto di case senza il consenso del proprietario; i residenti si chiedono anche chi stabilisce i criteri per quando una casa è considerata "degradata" o "sporca".
Il sistema è composto da un totale di 100 telecamere, installate in coppia su 50 veicoli utilizzati per la raccolta di sterpaglie, oggetti di grandi dimensioni e altri rifiuti ingombranti, una su ciascun lato del veicolo. La risoluzione della fotocamera è 1920×1080, dotata di obiettivo a fuoco fisso e non dispone di funzioni di zoom ottico o zoom digitale.
La città di Dallas ha affermato che le telecamere operano a livello della strada e non possono vedere al di sopra della recinzione. La città prevede che i camion della spazzatura saranno in grado di effettuare scansioni visive della città di Dallas ogni 30 giorni circa.
City Detect, la società che gestisce le telecamere, ha affermato di non avere l'autorità per determinare come la città di Dallas utilizza i dati raccolti per le forze dell'ordine. Il CEO Gavin Baum-Blake ha affermato che il sistema offuscerà volti e targhe.
City Detect configurerà il sistema di intelligenza artificiale secondo i requisiti stabiliti dalla città di Dallas. L’amministrazione cittadina ha affermato che i campioni di addestramento per i modelli rilevanti coprono diverse stagioni, stili architettonici, quartieri, condizioni di illuminazione, condizioni meteorologiche e aree geografiche, con l’obiettivo di ridurre le incongruenze nei risultati del rilevamento e potenziali errori.
Le immagini pertinenti e altri dati vengono archiviati su server cloud situati negli Stati Uniti e gestiti da City Detect durante il periodo contrattuale.
I sistemi di intelligenza artificiale possono commettere errori o addirittura "allucinare" identificare problemi che non esistono, il che è anche motivo di preoccupazione per il mondo esterno. Un incidente simile si è verificato l'anno scorso quando uno studente di scuola superiore di 16 anni è stato circondato dalla polizia e ammanettato dopo che un sistema di telecamere di intelligenza artificiale aveva scambiato una borsa di Doritos che trasportava per una pistola.
La più grande preoccupazione riguardo al progetto della telecamera per il camion della spazzatura di Dallas è che potrebbe gravare di più multe sui residenti che stanno già affrontando difficoltà finanziarie, soprattutto nelle aree economicamente svantaggiate. L'amministrazione cittadina di Dallas ha dichiarato di aver emesso finora 1.800 avvisi di sollecito di buona volontà e che l'obiettivo futuro è di emettere circa 5.200 avvisi all'anno.
Tuttavia, per i residenti locali, il progetto della fotocamera potrebbe non durare a lungo. Chad West, membro del consiglio comunale di Dallas, ha proposto un emendamento al bilancio per interrompere il finanziamento del contratto triennale da 2,5 milioni di dollari per le telecamere.
West ha dichiarato di aver accettato di rinviare la richiesta di tagliare i finanziamenti per il programma della telecamera dopo che l'amministratore della città ha accettato di tenere un'udienza sulla questione a dicembre. Crede che le telecamere abbiano alcuni usi, come individuare discariche illegali, ma la città deve ancora indagare ulteriormente sull’impatto del progetto sulle famiglie e su chi esattamente ha accesso alle immagini.
Commenti