Riassunto:
Un alto detective della polizia britannica è sotto indagine indipendente per aver presumibilmente utilizzato in modo improprio l'assistente di intelligenza artificiale Copilot di Microsoft durante un'indagine penale. L’incidente ha sollevato ancora una volta preoccupazioni sui limiti dell’applicazione dell’intelligenza artificiale nelle forze dell’ordine e sulla sicurezza dei dati sensibili.
Secondo l'Ufficio indipendente per la condotta della polizia (IOPC), l'alto ufficiale di polizia del Derbyshire sta affrontando un'indagine per presunta cattiva condotta grave. L'indagine è stata avviata nell'agosto di quest'anno dopo che la polizia del Derbyshire ha presentato volontariamente un rapporto sulla situazione all'autorità di regolamentazione il 23 giugno dopo aver completato una revisione interna.
L'indagine va oltre le semplici attività d'ufficio, come l'utilizzo dell'intelligenza artificiale per il controllo dell'ortografia e della grammatica. Le accuse correlate affermavano che l'ufficiale di polizia era sospettato di utilizzare Microsoft Copilot per partecipare alle decisioni politiche, valutare e gestire i rischi e di utilizzare l'intelligenza artificiale per fornire ragioni e basi per il processo decisionale durante le indagini su casi penali. Inoltre, è accusato di aver inserito nel sistema informazioni operative sensibili e dati personali coinvolti nel caso.
In effetti, il dipartimento di polizia del Derbyshire ha autorizzato gli agenti di polizia a utilizzare Microsoft Copilot già a partire da maggio 2025 per migliorare l'efficienza lavorativa. L'ambito dell'autorizzazione comprende principalmente questioni amministrative come la stesura di rapporti, l'organizzazione di documenti e il riepilogo delle informazioni. Tuttavia, la polizia stabilisce anche chiaramente che non è consentito inserire dati mobili, informazioni sensibili e dati personali negli strumenti di intelligenza artificiale.
Emily Barry, direttrice dell'incarico presso l'Ufficio indipendente per la condotta della polizia, ha dichiarato: "Queste accuse sono di natura seria e devono essere oggetto di un'indagine completa e indipendente. Gli investigatori si concentreranno sull'esame dell'uso di Copilot da parte dell'ufficiale da maggio 2025 a giugno 2026 e determineranno se il suo comportamento ha violato gli standard professionali della polizia.
Al momento, l'ufficiale di polizia ha ricevuto un avviso di accertamento per sospetta negligenza grave, ma il caso non è stato concluso e le indagini sono ancora in corso.
L'incidente riflette anche il fatto che l'intelligenza artificiale sta gradualmente entrando nei processi lavorativi quotidiani delle forze dell'ordine. In precedenza, alcuni dipartimenti di polizia degli Stati Uniti hanno iniziato ad adottare il sistema Draft One lanciato da Axon, che può generare automaticamente bozze di rapporti di polizia basati sulle registrazioni delle telecamere indossate sul corpo. Sebbene il contenuto finale debba ancora essere rivisto e approvato dagli agenti di polizia, permangono preoccupazioni circa la disinformazione che l’intelligenza artificiale potrebbe portare e l’eccessivo affidamento a strumenti automatizzati.
Anche quest'anno questioni simili hanno attirato l'attenzione. Un rapporto della polizia generato dall'intelligenza artificiale nello Utah, negli Stati Uniti, è andato storto. Il sistema ha identificato erroneamente il contenuto audio di sottofondo e in realtà ha affermato nel rapporto che un agente di polizia "si è trasformato in una rana". Fortunatamente, l'errore è stato scoperto e corretto manualmente prima che la segnalazione fosse presentata ufficialmente.
Allo stesso tempo, si tratta dell'immissione di dati sensibili nel sistema AI, il che ricorda anche l'incidente accaduto a Samsung nel 2023. All'epoca, alcuni dipendenti inviarono a ChatGPT codici di programma riservati e contenuti delle riunioni per l'elaborazione, il che suscitò preoccupazioni diffuse tra le aziende sui rischi per la sicurezza dei dati dell'intelligenza artificiale generativa.
Poiché sempre più agenzie pubbliche iniziano a impiegare assistenti di intelligenza artificiale, questa indagine potrebbe diventare un caso importante per il sistema di applicazione della legge britannico per valutare le norme sull'uso dell'intelligenza artificiale. Potrebbe anche influenzare le future politiche normative e i limiti di applicazione dell’intelligenza artificiale nel lavoro di polizia.
Commenti