Riassunto:
Negli ultimi due giorni ho visto una notizia particolarmente interessante. Esiste un'azienda in Australia chiamata Apate.ai, dal nome della dea dell'inganno nella mitologia greca. Ciò che ha fatto questa azienda è particolarmente scandaloso. Hanno costruito 350.000 IA. E il compito principale di queste 350.000 IA ogni giorno è mentire alle persone.
È solo che il bersaglio che ingannano è un po' speciale.
Sono specializzati in truffatori.
Sì, è il tipo di bugiardo che pensi che sia.
Ogni IA fingerà di essere una persona comune, vecchia o giovane, maschio o femmina. Hanno anche accenti diversi, parlano diverse lingue e hanno persino una propria personalità.
Chiamate fraudolente, siti Web di phishing, truffe sugli investimenti, ecc. Finché trovano un truffatore, troveranno un modo per inviare lì un'intelligenza artificiale, fingere di essere una vittima e chattare con il truffatore.
La cosa più importante è che queste IA hanno una caratteristica comune molto divertente, ovvero sono molto facili da ingannare.
Il truffatore ha chiesto di trasferire il denaro e ha detto che non ci sarebbero stati problemi.
Il truffatore mi ha chiesto di aprire il sito web e ha detto che andava bene.
Il truffatore mi ha chiesto di inserire il numero della mia carta bancaria, ma ha risposto sì, nessun problema.
Quindi, quando si arriva alla fase di esecuzione, inizierai improvvisamente a comportarti in modo stupido.
Spiacenti, dove ho messo la mia carta di credito?
Spiacenti, che password è questa?
Oh, sono vecchio e la mia vista non funziona bene. Fratellino, puoi dirlo di nuovo?
Parla con il truffatore in modo così brusco che alcune telefonate possono durare anche più di due ore...
Il bugiardo è quasi crollato.
Ma la vecchia signora dall'altra parte del telefono è stata molto gentile.
"Scusa, giovanotto, per favore insegnami di nuovo."
Secondo gli stessi Apate, la loro intelligenza artificiale ha chattato con truffatori 2,5 milioni di volte e continua a chattare con decine di migliaia di truffatori ogni giorno alla stessa ora.
In totale, il truffatore ha impiegato circa 17 anni.
Beh, 17 anni...
L'operatore di telecomunicazioni australiano TPG ha trasferito direttamente quasi 590.000 chiamate sospette all'intelligenza artificiale di Apate per rispondervi. Di conseguenza, la Commonwealth Bank of Australia ha ridotto direttamente del 76% le perdite per frode denunciate pubblicamente.
La cosa più divertente è che di tanto in tanto i truffatori vengono trascinati giù da queste IA fino al punto di crollare e imprecare al telefono.
Non solo Apate non si è arrabbiato, ma ha anche incluso queste parolacce nei materiali del suo roadshow di finanziamento. Il loro co-fondatore ha affermato che Apate è probabilmente l'unica azienda al mondo che festeggia quando gli utenti criticano i suoi prodotti.
L'origine di tutto questo è stato un picnic in famiglia qualche anno fa.
Il fondatore di Apate è Dali Kaafar. Quel giorno portò la sua famiglia fuori a fare un picnic e poi ricevette una strana telefonata. Questa telefonata era troppo cruda e sembrava un truffatore.
Ma lui non si è arreso, perché per rendere felici i bambini, ha iniziato a dedicarsi all'astrazione, fingendo di essere posseduto da una sciocca fata, ed è stato molto collaborativo, semplicemente chiacchierando con il bugiardo frase per frase.
Questa chiacchierata è durata 44 minuti, poi tutta la famiglia è scoppiata a ridere.
Dopo aver riso, Kaafar improvvisamente si rese conto di qualcosa.
Durante questi 44 minuti, il truffatore ha continuato a chattare con lui in linea e non ha avuto il tempo di chiamare gli altri. In origine, un anziano che vive da solo potrebbe ricevere questa chiamata e potrebbe essere defraudato degli ultimi soldi della pensione che potrebbero sostenere la sua sopravvivenza.
Naturalmente il prezzo da pagare è che sia entrato anche lui per 44 minuti.
Così, in quel momento, gli venne una nuova idea e si chiese se la questione potesse essere lasciata all'intelligenza artificiale.
Poiché Kaafar stava inizialmente svolgendo ricerche sulla sicurezza di rete presso la Macquarie University di Sydney, lui e i suoi colleghi hanno iniziato a specializzarsi nello studio delle chiamate fraudolente e hanno utilizzato l'intelligenza artificiale per smontare le parole dei truffatori poco a poco. Nel 2024 l’idea diventa Apate.
44 minuti di picnic si sono trasformati in una tutela durata complessivamente 17 anni.
Se c'è una cosa a questo mondo che odio profondamente, è sicuramente la frode.
Credo che molte persone la pensino come me.
Ma ora l'intelligenza artificiale sembra stia cambiando qualcosa che era particolarmente ingiusto in passato, ovvero il prezzo da pagare tra fare il male e prevenirlo.
Recentemente stavo guardando un documentario sulle frodi nel settore delle telecomunicazioni nel nord del Myanmar. Sentivo davvero che tutti stavano lavorando duramente per evitare che la gente comune venisse ingannata.
Ma un aspetto davvero disgustoso della frode è che la sua struttura dei costi è naturalmente vantaggiosa per i truffatori.
Ad esempio, un bugiardo può chiamare centinaia di persone al giorno. Non importa anche se tutte le prime centinaia di persone riattaccano, perché questa è una scommessa, ma finché una persona alla fine viene ingannata, può guadagnare un sacco di soldi.
Ma per la gente comune, potresti non essere stato ingannato mille volte prima.
Solo per la millesima volta mi è capitato di incontrare un bugiardo particolarmente bravo a recitare, quel giorno mi è capitato di essere di cattivo umore e mi è capitato di incontrare la mia stessa debolezza.
Ciò potrebbe significare che i risparmi di una vita scompariranno.
I bugiardi possono fallire innumerevoli volte, ma le persone comuni come te e me, purtroppo, a volte non hanno nemmeno la possibilità di fallire una volta.
Quindi il nostro Paese, la nostra intera società, ha fatto innumerevoli cose e ha cercato di trovare modi per aumentare la vigilanza della gente comune.
Ora che è arrivata l'intelligenza artificiale, i truffatori possono utilizzare la tecnologia per ridurre i costi delle azioni malvagie.
Allora perché non possiamo utilizzare la stessa tecnologia per ridurre i costi di protezione degli altri?
Nell'agosto di quest'anno, Apate ha ricevuto 8,15 milioni di dollari in finanziamenti seed. Anche se sembrano essere piccoli nell'intera ondata di intelligenza artificiale, rimarrò comunque in soggezione nei loro confronti. Inoltre, hanno davvero cominciato ad avere clienti come le banche e gli operatori di telecomunicazioni che sono davvero disposti a pagare.
Una volta che la buona volontà potrà continuare a funzionare, essere copiata e ampliata, penso che il potere che genera potrebbe superare di gran lunga la capacità di una persona.
Che coincidenza.
Proprio quando l'incidente di Apate divenne popolare, una cosa molto simile stava accadendo in Cina.
È l'IA Xiaohai che ha causato molto rumore di recente.
Credo che molte persone lo sappiano, quindi ti fornirò un breve riepilogo.
Probabilmente esiste un gruppo di persone che utilizza l'intelligenza artificiale per generare in batch alcuni ragazzi di bell'aspetto e gridare "zia" alla telecamera ogni giorno.
L'andirivieni significa che oggi mio padre è malato, domani sarò vittima di bullismo e dopodomani sarò a corto di soldi. Comunque continuerò a soffrire miseramente.
Alla fine, alcune donne di mezza età e anziane si sono dispiaciute per lui e hanno acquistato i prodotti ad alta commissione nella sua vetrina. Alcune commissioni arrivavano addirittura al 55%. Probabilmente questo era uno schema del genere.
La cosa più scandalosa è che c'è una signora di 79 anni che al telefono crede davvero in Xiao Hai. Ha comprato un biglietto del treno da sola ed è corsa nello Shanxi per trovarlo.
Perché Xiaohai le ha detto che potevano andare a vedere i fiori di albicocca e raccogliere insieme le spugnole.
Ma la vecchia signora non sapeva nemmeno dove andare una volta arrivata nello Shanxi.
Sapeva solo che Xiaohai era lì.
Più tardi, la polizia ha scoperto che qualcosa non andava e gli ha chiesto spiegazioni. Alla fine, ha contattato la sua famiglia e lo ha ripreso.
Poi, subito dopo la scoperta dell'incidente, un gruppo di giovani cinesi, con la loro magia e saggezza, ha deciso di iniziare a utilizzare l'intelligenza artificiale per reagire.
Uno di loro era uno studente universitario di 19 anni di nome Xiaozhou.
Ha scoperto che un vecchio a casa del suo amico aveva comprato diversi articoli nella sua vetrina perché era dispiaciuto per Xiao Hai.
Così Xiaozhou pensò a un modo particolarmente interessante, dal momento che il vecchio credeva in Xiaohai.
Lascia che Xiaohai stesso dica al vecchio che è un bugiardo, quindi ha anche usato l'intelligenza artificiale per generare un video di 30 secondi.
È sempre lo stesso volto di Xiao Hai, ma questa volta Xiao Hai si è trasformato in una ricca seconda generazione che vive in una villa e indossa un abito.
Questo è uno screenshot dell'intervista di Beijing News con Xiaozhou.
In questo video, il padre dai capelli bianchi di Xiaohai è corso da lui e gli ha consigliato di non mentire più a quelle zie e madri.
Di conseguenza, Xiaohai gli ha voltato le spalle e ha detto che non gli importava affatto di quelle zie. Finché gridava, venivano e davano soldi.
Alla fine cacciò suo padre.
Dopo la pubblicazione, il video ha ricevuto solo poche decine di Mi piace, ma l'amico di Xiaozhou ha mostrato il video agli anziani a casa.
Il vecchio che comprava cose per Xiaohai disse dopo aver letto:
"Oh, perché è così?"
"Non comprerò mai più niente da lui."
Proprio così, un video di 30 secondi ha davvero fatto cambiare decisione a un anziano.
Successivamente, sempre più giovani furono contagiati e ispirati e iniziarono ad aderire.
Alcune persone hanno chiesto a Xiao Hai di andare in prigione, alcuni gli hanno chiesto di fumare e bere, e altri gli hanno chiesto di indossare una catena d'oro e contare i soldi in una villa.
Alcune persone hanno addirittura chiesto a Xiaohai di indossare l'uniforme carceraria, di aggrapparsi alle sbarre di ferro della prigione e di ammettere davanti alla telecamera di essere un bugiardo.
È così che è iniziato un meraviglioso confronto tra IA.
Mi piace soprattutto ciò che ha detto Xiaozhou in un'intervista al Beijing News.
"Le persone gentili non dovrebbero essere ingannate."
Penso che una frase così semplice sia più potente di qualsiasi grande cosiddetto manifesto dell'IA.
Dopo aver letto queste due storie, la storia di Apate e Xiaozhou, sono rimasto davvero commosso dall'emozione. Inoltre, ciò dimostra perfettamente un cambiamento molto particolare nell’era dell’IA.
In passato, se una persona comune volesse compiere una buona azione, potrebbe non essere in grado di farla.
Ora ha finalmente l'opportunità di utilizzare l'intelligenza artificiale e la tecnologia per amplificare la sua buona volontà.
Molto tempo fa, ho scritto un articolo su uno studente di scuola superiore di 17 anni che fingeva di essere un'intelligenza artificiale e curava l'intera stazione B con le sue risposte. Sono tutte persone comuni ma fantastiche.
Ogni giorno discutiamo di quanto sia intelligente il modello, quali parametri di riferimento ha superato e quante attività può completare che in passato potevano essere svolte solo dagli esseri umani.
Naturalmente questi sono importanti.
Ma penso che dietro queste IA sempre più potenti, la pura gentilezza verso le persone sia spesso ancora più preziosa.
Il futuro dell'intelligenza artificiale che più desidero vedere è probabilmente questo.
La tecnologia in sé in realtà non ha alcuna posizione.
Ciò che l'intelligenza artificiale amplifica non sono mai solo le capacità umane.
Sta anche amplificando le scelte delle persone.
Spero che un giorno, in futuro, potremo utilizzare la tecnologia più avanzata per proteggere la gentilezza più antica e semplice dell'umanità.
Spero anche per coloro che sono gentili.
Non devi mai farlo per la tua gentilezza.
E farti male di nuovo.
Commenti