Riassunto:
GPT-6 Astra ha completato il villaggio dei novizi degli orchi "World of Warcraft" in 40 minuti con zero morti. La chiave è che
non ha mai visto la schermata di gioco, nemmeno un singolo fotogramma
. Un progetto open source chiamato agent-wow lo collegava a un server privato di World of Warcraft.
Astra
Non guardare lo schermo, leggi direttamente i pacchetti di dati di rete nella parte inferiore del gioco
, scandendo il mondo intero dall'interno.Quindi
crea i propri strumenti, verifica le proprie strategie e pianifica i propri percorsi
, completando compiti, vendendo spazzatura, cambiando armi, apprendendo abilità, completando l'intera "Trial Valley" e raggiungendo il villaggio di Sen'jin.Alcune persone hanno già provato a utilizzare l'intelligenza artificiale per giocare a World of Warcraft.
Su GitHub si possono trovare diversi progetti, compresi quelli che utilizzano OpenCV e PyTorch per il riconoscimento visivo e quelli che utilizzano LLM e screenshot per controllare i personaggi, ma fondamentalmente non si sono allontanati dal percorso visivo.
Inoltre, la maggior parte di questi progetti sono ancora nella fase in cui "sono in grado di correre e combattere i mostri" e non esiste alcuna traccia del completamento dell'intera catena di attività.
Ma l'attuale agente-wow non ha visto lo schermo e nessuno gli ha insegnato a giocare. Ha capito il gioco da solo dai dati.
Cosa è successo in 40 minuti
La Valle delle Prove è l'area per principianti della razza degli orchi in World of Warcraft, ed è anche l'apertura più classica dell'intero gioco.
Dal suo lancio nel 2004, milioni di giocatori hanno abbattuto il loro primo cinghiale, intrapreso la loro prima missione e imparato la regola di sopravvivenza di "prima vendere la spazzatura e poi svolgere le missioni".
Astra ha impiegato 40 minuti per completare tutte le attività qui.
Avanza in sequenza lungo la catena di attività precedente senza saltare un passaggio. Dopo aver completato ogni attività, ritorna all'NPC per passare e guidare quella successiva.
Durante il percorso, ha anche valutato quali fossero stati abbandonati come spazzatura, li ha venduti per denaro e li ha sostituiti con armi migliori di quelle che aveva.
Prima di entrare nell'ultima grotta, ha fatto qualcosa che solo i giocatori esperti avrebbero fatto ed è corso dall'allenatore per apprendere nuove abilità.
Allo stesso tempo, accetta anche due compiti insieme nella grotta. Puoi fare entrambe le cose in un solo viaggio, risparmiandoti un viaggio.
Questo tipo di operazione "prima prepararsi e poi entrare nel buco, multitasking in parallelo" non si riflette nelle parole del prompt. Questa è la strategia ottimale che Astra ha dedotto dai dati delle attività e dalle posizioni degli NPC.
C'era un'altra sorpresa nel mezzo.
Astra ha scoperto che in diverse aree sulla mappa manca il rilevamento delle collisioni. La griglia di navigazione del gioco indica che puoi camminare lì, ma il terreno reale dovrebbe avere muri. Ha attraversato il muro.
Lo sviluppatore ha affermato che si tratta di un bug exploit.
La mesh di navigazione non è esattamente la stessa del corpo di collisione reale. Astra non sa che si tratta di un bug e non se ne preoccupa. Va bene solo se il percorso è fattibile.
Astra ha registrato zero morti durante l'intero processo. Dopotutto, è una zona per principianti e i mostri non sono davvero difficili.
Ma un agente che non ha mai visto una schermata di gioco e non gli è mai stato detto di "imparare abilità prima di combattere i mostri" o di "vendere attrezzature spazzatura", può completare tutte le attività in modo pulito senza rimanere bloccato, perdersi o scappare per combattere mostri che non dovrebbe combattere. Questo risultato ha superato quello di molti veri principianti.
Giocatori che non guardano lo schermo
Quella che segue è un'introduzione al funzionamento di agent-wow.
agent-wow è un framework open source, il livello inferiore esegue il server privato AzerothCore e la versione client è 3.3.5a.
Chi ha familiarità con Warcraft sa che questa è la versione finale di Wrath of the Lich King, il client del 2010.
La cosa interessante di agent-wow è che non fa nulla per l'IA.
La struttura non definisce alcuna logica di gioco, non ti aiuta a sconfiggere i mostri, non ti aiuta a trovare percorsi e non ti aiuta ad accettare compiti.
Espone solo un sistema di moduli, consentendo all'IA di decidere quali funzionalità ha bisogno e di crearle da sola.
Gli sviluppatori affermano che questo sistema di moduli ha ridotto la complessità di agent-wow almeno di un ordine di grandezza.
La montatura è semplice, ma il modello non è semplice. Astra non ha affatto un controller di gioco completo, solo un mucchio di parti.
La prima cosa che ha fatto è stata costruire un proprio sistema di percezione.
Si abbona a 28 tipi di messaggi del server, che sono tutti pacchetti di dati di livello inferiore che iniziano con SMSG_*, che coprono aggiornamenti sullo stato del mondo, movimento delle creature, attivazione di attività, valori di combattimento ed effetti di alone.
Durante il gioco, utilizza uno script Python per interrogare continuamente questi messaggi e analizzare i pacchetti di dati originali in un modello mondiale che viene costantemente aggiornato in memoria.
Vedi un cinghiale correre sullo schermo. Ciò che Astra vede nel pacchetto dati è un messaggio di movimento della creatura, con coordinate, direzione, velocità e salute.
Guarda il tuo stesso mondo, ma da una prospettiva completamente diversa.
Le informazioni sulla missione vengono estratte direttamente dal file del database SQL di AzerothCore.
I requisiti, le pre-catene e le coordinate dei punti di spawn degli NPC per ciascuna attività sono tutti disponibili nel database.
Lo sviluppatore paragona questo fenomeno a un giocatore umano che passa ore su Wowhead a cercare strategie. La differenza è che Astra salta la pagina web e legge direttamente il file del database originale.
L'individuazione del percorso è probabilmente la parte migliore dell'intera faccenda.
Astra ha generato da sola un programma C++, utilizzando la libreria di navigazione Detour per caricare il file mmaps di AzerothCore.
MMaps è la griglia di navigazione di World of Warcraft, che registra quali luoghi sulla mappa possono essere percorsi a piedi, quali sono muri e quali sono acqua.
Il programma accetta le coordinate dei punti iniziale e finale, calcola il percorso accessibile e restituisce una stringa di punti del percorso in formato JSON.
Astra avvolge un altro livello di Python all'esterno di questo programma per chiamare questo file eseguibile, ottenere il percorso e inviare pacchetti di dati mobili.
Lo sviluppatore ha utilizzato solo una parola del prompt del Codex per avviare l'intero processo
, l'intensità del ragionamento è impostata al secondo livello alto e Astra fa tutto da sola, dalla percezione all'azione fino all'individuazione del percorso.Il prossimo piano dello sviluppatore è testare due cose. Uno è vedere se un agente può allenarsi in modo indipendente dal livello 1 al livello 80, e l'altro è valutare se più agenti possono lavorare insieme come una squadra per superare la difficoltà eroica di Icecrown Citadel.
Icecrown Citadel è il dungeon definitivo di Wrath of the Lich King. Per sfidare è necessaria una squadra di 25 persone. All'epoca la complessità del meccanismo del suo boss era considerata l'apice di World of Warcraft.
Questo dungeon richiede che i giocatori umani trascorrano diversi mesi facendo pratica con l'equipaggiamento, memorizzando strategie e lavorando insieme per superarlo.
Ora, gli sviluppatori vogliono che 25 IA che non abbiano mai visto una schermata di gioco lo provino.
Commenti