Riassunto:
OpenAI ha recentemente annunciato che nelle prossime settimane rafforzerà le restrizioni di ChatGPT sui contenuti legati alla violenza, aggiungendo la protezione per le armi e le informazioni sui sistemi di sicurezza per gli utenti minorenni. Secondo le nuove misure, ChatGPT può terminare la conversazione da sola quando la conversazione mostra che l'utente continua a concentrarsi sulla violenza o sull'idea di danneggiare gravemente gli altri. Se la conversazione viene interrotta più volte a causa di tali problemi, l'account potrebbe persino essere bannato.
La politica originale di ChatGPT vieta di fornire indicazioni per aiutare gli utenti a pianificare o compiere atti violenti. Questo adeguamento limiterà i dettagli forniti dal modello quando si risponde a domande su "attacchi e autori passati su larga scala", ovvero il modello ridurrà il contenuto o addirittura rifiuterà di rispondere dal punto di vista della sicurezza.
L'ambito delle restrizioni include la ricostruzione delle armi, dell'equipaggiamento e dei metodi di acquisizione coinvolti nell'attacco, nonché la limitazione delle richieste degli utenti per confronti dettagliati dell'entità del danno che potrebbero aumentare la visibilità dell'aggressore. Le restrizioni di cui sopra si applicano a tutti gli utenti, indipendentemente dalla fascia di età o dallo scopo per cui fanno domande, quindi anche gli utenti adulti dovranno affrontare le stesse restrizioni.
Per gli utenti identificati come minori di 18 anni, OpenAI limiterà anche le informazioni utili su armi e sistemi di sicurezza che potrebbero essere utilizzati per commettere violenza. Questa protezione si applicherà anche ai problemi che in superficie non sembrano indicare intenti violenti. OpenAI afferma che gli adolescenti possono ancora utilizzare ChatGPT per ottenere aiuto, imparare come prevenire o ridurre la violenza e connettersi con adulti fidati.
Il meccanismo migliorato di previsione dell'età combinerà vari segnali, come il comportamento dell'utente, per valutare continuamente se l'account potrebbe appartenere a un minore. Se appropriato, il sistema applicherà automaticamente le misure di protezione pertinenti per gli utenti di età inferiore ai 18 anni. Se un utente viene erroneamente identificato come minorenne, può anche inviare attivamente le proprie informazioni di identità per la verifica.
Commenti