Riassunto:
Il 15 settembre, secondo la rubrica "Xiaoxin Storytelling" del Jiaxing News Media Center nella provincia di Zhejiang: Il 17 aprile di quest'anno, la madre del signor Shi è morta. La sua famiglia stava discutendo su quando seppellirla. Pensò al software di intelligenza artificiale "Doubao" e il software gli consigliò il 19 aprile.
Quando tutto fu sistemato, il signor Shi chiese nuovamente a "Doubao" di confermare che il 19 non era un giorno adatto, ma sarebbe stato molto problematico cambiarlo. Per questo motivo, il signor Shi si arrabbiò moltissimo e fece causa alla società di software che aveva realizzato il "Doubao".
Secondo i rapporti, la città natale del signor Shi è Shuyang, nella provincia di Jiangsu, e attualmente vive a Jiashan. Il 17 aprile di quest'anno, la madre del signor Shi è morta a causa di una malattia improvvisa. La famiglia del signor Shi ha cinque fratelli e sorelle. I membri della famiglia hanno discusso insieme del funerale di sua madre. La priorità assoluta era determinare una data di sepoltura.
Il signor Shi ha detto ai giornalisti: "Mi fido di più di Doubao. Mi affido sempre a lui e penso che sappia tutto. Poi ho chiesto a Doubao quando sarebbe stato sepolto. Doubao ha detto il 19 aprile. Penso che abbia senso, quindi ci credo."
Il registro delle domande e risposte del software mostra che dopo che il signor Shi ha posto la domanda in quel momento, "Doubao" ha risposto che la raccomandazione più affidabile è il 19 aprile.
Dopo un po', il signor Shi ha chiesto di nuovo: "A che ora è adatto per la sepoltura?" "Doubao" ha risposto dalle 7 alle 9, ma questa volta la risposta è stata un po' diversa dall'ultima volta. "Doubao" ha affermato nella sua risposta che il 19 aprile non era un giorno adatto.
Il signor Shi rimase confuso per un momento. Lo ha chiesto più volte e la risposta data da "Doubao" è stata che il 19 era inappropriato. A quel punto parenti e amici avevano già informato che era troppo tardi per cambiare la data. Alla fine, il signor Shi ha dovuto assistere al funerale di sua madre.
Non molto tempo dopo la conclusione del funerale, un parente a casa fu coinvolto in un incidente stradale e rimase gravemente ferito. Si sono lamentati degli accordi del signor Shi.
Il signor Shi si è lamentato con la società del software "Doubao" ma non ha ricevuto risposta, quindi ha deciso di citare in giudizio la controparte. "Doubao" ha anche aiutato il signor Shi a scrivere una denuncia, indicando che avrebbe potuto fare causa e ha dato le misure per procedere.
Le condizioni d'uso del software "Doubao" mostrano che il contenuto generato dal software e dai servizi "Doubao" è solo di riferimento e non è inteso come consulenza professionale. Per le situazioni che comportano un impatto significativo, si consiglia di consultare i professionisti pertinenti e non dovrebbero essere utilizzate come base per l'azione o l'inazione. Le conseguenze e le responsabilità di qualsiasi giudizio espresso in base al contenuto in uscita o alle successive operazioni correlate basate su questo saranno a carico dell'utente.
Il giornalista ha appreso che il tribunale popolare della contea di Jiashan ha aperto un'udienza su questo caso.
L'avvocato ritiene che sarà difficile per il signor Shi difendere i suoi diritti attraverso un procedimento giudiziario. Se il signor Shi vuole intentare un’azione legale per la tutela dei diritti, deve dimostrare che il fornitore di servizi che ha fornito il software di intelligenza artificiale ha commesso un atto illecito. Innanzitutto la colpa deve essere della controparte. Inoltre, deve esserci una relazione causale tra la colpa della controparte e il danno effettivo subito dal signor Shi. Questo è molto difficile da dimostrare. Se l’IA fornisce semplicemente una risposta sbagliata, questo ovviamente non è sufficiente.
Le notizie riguardanti "l'intelligenza artificiale che inganna le persone" sono comuni. Il 18 giugno, Zhang, 52 anni, di Changsha, ha avuto improvvisamente delle vertigini a casa. Accendeva abitualmente il cellulare e utilizzava l’intelligenza artificiale per cercare sintomi correlati e metodi di trattamento. Tre giorni dopo, la condizione non è migliorata, ma è peggiorata. I familiari mandarono rapidamente il paziente a consultare un medico e la situazione cambiò. I medici avvertono che la consultazione dell’IA si basa principalmente sull’analisi delle informazioni immesse dai pazienti. È difficile giudicare la gravità della condizione basandosi solo sulle descrizioni testuali e non può sostituire una consultazione faccia a faccia con un medico professionista.
Non è una coincidenza. Il 5 giugno, un cittadino di Nanchino ha utilizzato dei sacchi di fagioli per scattare foto per identificare i funghi raccolti dalla comunità, cosa che ha quasi causato un'intossicazione alimentare. Inoltre, il 57enne Maestro Yang di Ningbo è stato "guidato" dall'intelligenza artificiale nelle montagne profonde e si è perso ed è rimasto intrappolato durante l'arrampicata nel fine settimana. Era esausto ed è stato salvato dai vigili del fuoco dopo aver cercato i soccorsi. Gli studenti degli esami di ammissione all'università hanno utilizzato l'intelligenza artificiale per compilare i propri volontari, ma sono stati influenzati da codici professionali inventati e dalle classifiche dei punteggi degli anni precedenti. Gli agricoltori hanno chiesto all’IA quali pesticidi utilizzare e centinaia di acri di campi di sesamo sono morti da un giorno all’altro... Questi casi sono pieni di sciocchezze in superficie, ma dietro c’è il serio problema di come dovremmo vedere e utilizzare correttamente l’IA.
In precedenza, la persona competente responsabile del Gruppo Douyin ha risposto che l'intelligenza artificiale è ancora in fase di sviluppo e che Doubao migliora costantemente anche la precisione del riconoscimento, coinvolgendo questioni importanti come la sicurezza personale. Si consiglia di utilizzare le risposte dell’intelligenza artificiale come riferimento e cercare argomentazioni condivise per evitare di causare danni.
Il documento una volta commentava: Il potere dell'intelligenza artificiale risiede nella sua capacità di cercare enormi quantità di informazioni di rete frammentate in un periodo di tempo molto breve e di metterle insieme in una risposta che dica "qualcosa del genere". Ma la risposta che dà è "il testo che più si avvicina alla verità" piuttosto che "la verità assoluta, corretta e attendibile". Non è in grado di immaginare i percorsi complessi nelle profondità di una montagna, non può fare una diagnosi basata su descrizioni semplici e non conosce le precauzioni per la medicazione delle colture, per non parlare del fatto che può fingere di comprendere e inventare false informazioni.
Più potente è la tecnologia, più persone devono restare sveglie. L’intelligenza artificiale può essere utilizzata come strumento di aiuto per cercare informazioni, organizzare idee e creare elenchi, ma non è mai una panacea, e tanto meno una “chiave principale” che può sostituire il pensiero e il processo decisionale delle persone.
Soprattutto quando si tratta di questioni importanti come la sicurezza dei viaggi, la salute fisica e le aspirazioni agli esami di ammissione all'università, dove un errore può portare a un ribaltamento, la fiducia nell'intelligenza artificiale non può essere trasformata in una dipendenza illimitata e incondizionata e dovremmo abbandonare il buon senso nella vita e canali autorevoli per risolvere i problemi. Gli antichi dicevano: “È meglio non avere libri che credere nei libri”. Oggi probabilmente dovremmo dire: è meglio non avere l’intelligenza artificiale che credere nell’intelligenza artificiale.
Commenti