Riassunto:
Il Korea Advanced Institute of Science and Technology (KAIST) e Microsoft Research Asia hanno sviluppato un nuovo tipo di tecnologia di interfaccia cervello-computer in grado di identificare in tempo reale se l'intelligenza artificiale ha frainteso le intenzioni dell'utente analizzando le onde cerebrali umane e adattando il suo comportamento di conseguenza. Il gruppo di ricerca ritiene che questa tecnologia dovrebbe promuovere l'intelligenza artificiale a una nuova fase, dall'"obbedienza alle istruzioni" alla "comprensione delle intenzioni".
I ricercatori hanno chiamato questa tecnologia "Neural Value Alignment (NVA)". Il sistema utilizza l'elettroencefalografia (EEG) per monitorare l'attività neurale prodotta dagli utenti mentre guardano l'intelligenza artificiale eseguire compiti. Quando l’IA sbaglia un goal o esegue un’azione non prevista dall’utente, il cervello genererà uno specifico segnale di errore di previsione. Il sistema può catturare questi cambiamenti e convertirli in informazioni di feedback, consentendo all’IA di rendersi conto che c’è una deviazione nella sua comprensione.
Anche se da molto tempo l'intelligenza artificiale ha dimostrato potenti capacità in molti campi, spesso si verificano ancora malintesi nella comunicazione tra uomo e intelligenza artificiale. Anche se l’utente fornisce istruzioni dettagliate, l’intelligenza artificiale può generare risultati rilevanti ma imprecisi come previsto. Il gruppo di ricerca ritiene che la radice del problema sia che l’intelligenza artificiale si basa principalmente su informazioni esterne come linguaggio, azioni e gesti per dedurre le intenzioni, e questi comportamenti stessi sono spesso ambigui.
I ricercatori hanno fornito un esempio secondo cui, prendendo in mano una tazza, una persona può bere acqua, pulire la tazza, spostare la tazza o passarla a qualcun altro; al contrario, se l’obiettivo è placare la sete, le persone possono raggiungerlo anche in diversi modi, ad esempio prendendo una tazza, prendendo una bottiglia d’acqua o chiedendo aiuto agli altri. Spesso è impossibile determinare con precisione il vero scopo semplicemente osservando il comportamento stesso.
Per risolvere questo problema di "ambiguità di obiettivi e azioni", il team di ricerca ha rivolto la propria attenzione al cervello umano stesso. Quando i risultati effettivi non sono coerenti con le aspettative delle persone, il cervello genererà naturalmente speciali segnali di errore di previsione. Il sistema NVA utilizza questa risposta neurale come ulteriore fonte di informazioni per aiutare l'intelligenza artificiale a determinare in quale collegamento si verificano malintesi.
Il gruppo di ricerca si è concentrato su due tipi di segnali nervosi cerebrali. Un tipo è "errore di previsione della ricompensa", che riflette se il risultato soddisfa gli obiettivi personali e le aspettative di valore; l'altro tipo è "errore di previsione dello stato", che riflette se la situazione reale è coerente con il processo atteso dal cervello. Analizzando questi due segnali contemporaneamente, il sistema non solo può rilevare errori nella comprensione dell'intelligenza artificiale, ma anche determinare se gli errori si verificano a livello target o a livello del metodo di esecuzione.
I risultati sperimentali mostrano che, dopo l'introduzione del feedback EEG, l'intelligenza artificiale può dedurre in modo più accurato la vera intenzione dell'utente e correggere in modo proattivo le deviazioni durante l'esecuzione dell'attività senza la necessità che l'utente ripeta costantemente le istruzioni o impartisca nuove istruzioni.
Il gruppo di ricerca ha affermato che questo risultato dovrebbe essere applicato a scenari come robot, sistemi di collaborazione uomo-macchina e assistenti intelligenti. Ad esempio, quando un futuro robot domestico esegue un compito, se rileva nella mente dell’utente la reazione “questo non è il risultato che desidero”, può modificare in modo proattivo il suo piano d’azione senza attendere istruzioni esplicite.
I ricercatori ritengono che ciò significhi che in futuro l'intelligenza artificiale potrebbe non più limitarsi a rispondere passivamente ai comandi, ma potrà utilizzare la tecnologia dell'interfaccia cervello-computer per comprendere le vere intenzioni degli esseri umani nascoste dietro il linguaggio, ottenendo così una collaborazione uomo-macchina più naturale ed efficiente. Man mano che la ricerca in materia continua ad avanzare, i sistemi intelligenti di prossima generazione in grado di percepire il feedback cognitivo umano e modificare il comportamento in tempo reale potrebbero diventare gradualmente una realtà.
Commenti