Riassunto:
Secondo i rapporti rilasciati da 404 Media, esiste un progetto chiamato Project Lily in funzione all'interno di OpenAI: OpenAI assume centinaia di revisori di parole tempestive in outsourcing per leggere manualmente le conversazioni tra utenti reali e ChatGPT per migliorare la qualità delle risposte.
Esiste un filtro per la privacy ma non è sufficientemente approfondito:
In circostanze normali, il revisore della parola richiesta non può vedere il nome utente e la conversazione verrà prima filtrata attraverso il filtro della privacy per eliminare le informazioni personali. Tuttavia, OpenAI ammette anche che il meccanismo di filtraggio potrebbe perdere informazioni personali e che le conversazioni brevi sono particolarmente soggette a problemi.
L'interfaccia di revisione solitamente include anche un riepilogo della memoria utente. Il riepilogo della memoria riassumerà le domande, gli interessi e le situazioni passate dell'utente, ecc. A volte può anche dedurre la posizione dell'utente attraverso la memoria. Gli auditor spesso vedono la conversazione completa con il contesto.
Il revisore assegna un punteggio principalmente alle risposte:
Il lavoro veniva descritto come meccanico e ripetitivo e la paga oraria era superiore a 50 dollari. Il compito principale del revisore è valutare le risposte piuttosto che verificare i fatti. Ad esempio, il revisore deve giudicare se la risposta data dal modello è rilevante, se ha un evidente sapore di intelligenza artificiale, se c'è un comportamento di predica, se c'è un abuso di espressioni, se c'è un comportamento di adulazione e se il modello scriverà il modello come una persona con esperienza di vita.
Per quanto riguarda la questione se le risposte fornite dal modello contengano errori fattuali, questo non è compito del revisore. Dopotutto, gli auditor non sono enciclopedie e non possono conoscere la verità completa di tutti gli eventi, quindi è normale che gli utenti vedano le risposte fornite dal modello che contengono errori fattuali.
Il modello migliorato abilitato per impostazione predefinita è la chiave per la condivisione dei dati:
Le versioni gratuite di ChatGPT, Plus e Pro consentono tutte l'uso della chat per migliorare i prodotti per impostazione predefinita. Quando questa funzione è abilitata, il contenuto della chat dell'utente sarà autorizzato a OpenAI per il miglioramento del prodotto. I revisori esterni del Piano Lily per verificare il contenuto della conversazione sono solo uno degli utilizzi dei dati. I dati verranno naturalmente utilizzati per altri scopi, come ad esempio continuare ad addestrare il modello.
Molti utenti utilizzano ChatGPT come confidente temporaneo, parlando di famiglia, salute e anche di questioni più private. Alcuni revisori hanno affermato che molti utenti potrebbero non sapere che le loro conversazioni potrebbero essere lette da persone reali, quindi pensa se questa è una cosa spaventosa.
Commenti