Le accuse di scrittura basata sull'intelligenza artificiale travolgono l'industria editoriale, gli scrittori sono costretti a dimostrare di non essere intelligenza artificiale

Riassunto:

Secondo WIRED, con la proliferazione di contenuti generati dall'intelligenza artificiale, nel settore editoriale si sta diffondendo una controversia sul "se i romanzi siano scritti da esseri umani". Dopo che si è scoperto che circa il 78% dei contenuti di un romanzo horror era probabilmente generato dall'intelligenza artificiale e che l'editore ha successivamente ritirato il suo piano di pubblicazione, sempre più scrittori hanno iniziato a preoccuparsi: anche se l'opera è interamente creata da loro stessi, potrebbero essere sospettati di utilizzare l'intelligenza artificiale a causa del loro stile di scrittura e potrebbero persino affrontare boicottaggi e perdite di reputazione.

Nel marzo di quest'anno, il romanzo horror "Shy Girl" è diventato il fulcro di questa controversia. C’è stato molto scetticismo sui social media sul fatto che il libro sia stato generato principalmente dall’intelligenza artificiale. Successivamente, l'editore Hachette Book Group ha annullato il piano di pubblicazione del romanzo negli Stati Uniti e ne ha interrotto la distribuzione nel mercato britannico.

La società di rilevamento dell'intelligenza artificiale Pangram afferma che circa

il 78% del testo nel libro è stato generato dall'intelligenza artificiale

. Tuttavia, l’autrice di romanzi Mia Ballard nega di utilizzare l’intelligenza artificiale per scrivere. Ha detto che un editore ha apportato modifiche assistite dall’intelligenza artificiale a una versione autopubblicata del libro e ha detto che stava cercando un’azione legale.

"Wired" ha sottolineato che dopo questo incidente accuse simili hanno cominciato ad apparire nel settore editoriale. Un autore viene interrogato dopo aver vinto un premio per un racconto, mentre un altro è coinvolto in una controversia sulla scrittura dell'intelligenza artificiale dopo che il suo romanzo poliziesco ha ricevuto un'offerta multimilionaria da un editore. Entrambi gli uomini negano le accuse.

Ciò che preoccupa ancora di più chi scrive è che attualmente non esiste un metodo generalmente accettato per dimostrare che un'opera sia stata interamente creata dall'uomo.

L'autrice di best seller Andrea Bartz ha dichiarato a "Wired" che dopo l'incidente della "Ragazza Timida", si è resa conto quasi immediatamente che avrebbe potuto innescare una "caccia alle streghe" contro gli scrittori.

"Chiunque può accusare qualcun altro di usare l'intelligenza artificiale."

Una volta che le accuse emergono, anche senza prove concrete, il danno potrebbe essere stato fatto, ha detto.

Lo stesso Baltz è anche uno dei principali querelanti nella causa sul copyright contro Anthropic. La causa accusava Anthropic di aver scaricato un gran numero di libri protetti da copyright da siti Web piratati per addestrare modelli di intelligenza artificiale. Anthropic ha accettato di pagare

1,5 miliardi di dollari

l'anno scorso Raggiungere un accordo.

Di fronte ai dubbi sempre più comuni sulla scrittura dell'intelligenza artificiale, un gruppo di aziende tecnologiche ha iniziato a lanciare software appositamente progettati per dimostrare il processo di creazione delle opere.

Strumenti come Workings, Blindproof, Wintertext, Human Ink e ObraVera affermano di essere in grado di registrare il processo di digitazione dell'autore, documentare la cronologia delle modifiche e persino utilizzare tecnologie come hashing crittografato e timestamp per generare "impronte digitali" digitali per i lavori scritti per aiutare gli autori a fornire record creativi quando interrogati.

Tuttavia, questi strumenti non possono dimostrare realmente che il lavoro non utilizzi l'intelligenza artificiale.

Il co-fondatore e CEO di Pangram, Max Spero, ha sottolineato che anche se il software può registrare completamente il processo di digitazione, gli utenti possono comunque inserire parola per parola il contenuto generato dall'intelligenza artificiale o falsificare il processo di scrittura con l'aiuto di programmi di digitazione automatica.

Inoltre, gli scrittori spesso creano in modi complessi. Possono passare da un documento all'altro, rivedere bozze ripetutamente o registrare note vocali tramite i loro telefoni cellulari. Questi processi sono difficili da registrare completamente da un singolo software.

Gli sviluppatori di ObraVera hanno anche ammesso che la sua tecnologia può dimostrare quando un determinato testo è stato registrato e chi lo ha inviato, ma non può confermare in modo indipendente se il testo è stato generato dall'intelligenza artificiale.

Anche gli stessi strumenti di rilevamento dell'intelligenza artificiale sono controversi.

Pangram afferma che il tasso di falsi positivi del suo strumento nel campo della scrittura creativa è solo dello

0,01%

. Ma Mary Rasenberger, amministratore delegato della Authors Guild, ha affermato che l’associazione ha sentito di numerosi casi in cui le persone hanno inviato i propri lavori scritti a mano per essere testati, solo per essere giudicati generati dall’intelligenza artificiale.

Raxenberg ritiene che richiedere agli scrittori di fornire ulteriori prove del fatto che sono autori umani sia di per sé un onere irragionevole. Ha sottolineato che l’associazione non è favorevole a costringere gli scrittori a utilizzare tali strumenti e ha ricordato agli autori di non accusare facilmente i loro colleghi di utilizzare l’intelligenza artificiale.

L'esperta del settore editoriale Jane Friedman sottolinea che è improbabile che gli editori e gli agenti letterari accettino universalmente sistemi di autenticazione della paternità che richiedono costi aggiuntivi o richiedono molto tempo. Anche se vengono stabiliti standard unificati, è ancora difficile evitare che i materiali di certificazione vengano contraffatti o manipolati.

Questa sfiducia ha influito sulla valutazione del mercato dell'opera.

Baltz ha rivelato di aver sentito parlare di scrittori che hanno ricevuto molte recensioni negative sul sito di recensioni di libri Goodreads semplicemente perché i loro lavori "si leggono come se fossero stati scritti dall'intelligenza artificiale". Alcuni lettori hanno addirittura affermato di non essere disposti a leggere i lavori pubblicati dopo il 2022 perché temono che vengano mescolati con contenuti generati dall’intelligenza artificiale.

Ironia della sorte, il nuovo romanzo di Baltz "Elimina il tuo account", la cui pubblicazione è prevista per il 2027, sembra essere basato sull'intelligenza artificiale generativa. Nel suo libro, ha deliberatamente imitato le espressioni di grandi modelli linguistici per creare record di chat fittizi basati sull'intelligenza artificiale e testi di marketing.

Ora comincia a temere che queste parole che imitano deliberatamente l'intelligenza artificiale possano renderla sospettosa.

"Cosa devo fare se uno qualsiasi dei contenuti viene giudicato essere scritto dall'intelligenza artificiale?"

Baltz ha detto.

"Wired" ha sottolineato che con il continuo sviluppo di strumenti di scrittura basati sull'intelligenza artificiale e di tecnologie di rilevamento, l'industria editoriale si trova ad affrontare un problema difficile da risolvere:

Quando le macchine stanno migliorando sempre di più nell'imitare la scrittura umana e le parole umane possono essere giudicate erroneamente dalle macchine, come possono gli scrittori dimostrare che le loro opere provengono dalle loro stesse mani?