Riassunto:
Secondo Reuters, OpenAI ha aggiornato le specifiche del modello giovedì. Si tratta di una tabella di marcia pubblica che illustra come l'azienda vuole che i suoi modelli di intelligenza artificiale funzionino. Poiché le capacità dei sistemi di intelligenza artificiale continuano ad aumentare, OpenAI ha ricostruito questo insieme di specifiche attorno a cinque valori fondamentali. I cinque valori sono fedeltà all’intento umano, minimizzazione del danno, onestà e trasparenza, rispetto per l’autonomia umana e cura.
OpenAI
OpenAI ha affermato che la lealtà alle intenzioni umane è la base di questo quadro, richiedendo che il modello comprenda le intenzioni e gli orientamenti di valore degli utenti, degli sviluppatori e di OpenAI, piuttosto che limitarsi a eseguire le istruzioni letteralmente.
OpenAI ha affermato che l'aggiornamento fa parte dei suoi sforzi di allineamento dell'intelligenza artificiale per aiutare i modelli ad applicare i valori umani in situazioni non familiari, accettando sempre la supervisione umana. Il quadro rivisto afferma che i modelli dovrebbero ridurre al minimo i danni, essere trasparenti su ciò che sanno e non sanno e aiutare gli utenti a prendere le proprie decisioni e a perseguire i propri obiettivi.
L'azienda ha dichiarato che il modello attuale non riflette ancora pienamente i requisiti della "Specifica del modello" aggiornata e sta esplorando nuovi metodi di formazione per aiutare il modello a interiorizzare questi principi nel proprio comportamento.
La mossa riecheggia l'approccio di "intelligenza artificiale costituzionale" del rivale Anthropic. L’approccio guida il comportamento di un modello attraverso una “costituzione” scritta di principi e rende più trasparenti i valori che modellano i sistemi di intelligenza artificiale.
Commenti