Riassunto:
C'è stato un post che è diventato virale ieri sera: di fronte a un trasferimento di 50 milioni di dollari, qualcuno ha chiesto a Claude e Claude ha detto di non trasferirli. Alla fine il denaro non è stato trasferito. Secondo lui, Claude gli ha risparmiato 50 milioni di dollari. Ma a giudicare dal suo racconto,
non voleva cambiare idea prima di chiederlo a Claude. L'intelligenza artificiale non ha preso la decisione per lui, ha semplicemente aggiunto un passo alla sua idea originale.
Anche alcune persone sui social la vedono così: aveva già la risposta in mente e ha semplicemente chiesto a Claude di firmare la decisione. Altri hanno detto più direttamente, non lasciare che Claude si prenda la colpa.
Quando gli è stato chiesto cosa sarebbe successo se la domanda fosse stata posta su Doubao, ha detto che se avesse cambiato il modello, avrebbe potuto ottenere un'altra risposta.
Se cambi il modello, la risposta cambierà. Allora la questione potrebbe non essere più un giudizio, ma un sostegno.
Nell'aprile di quest'anno, Anthropic ha analizzato 1 milione di conversazioni di Claude.ai. Circa il 6% riguardava il coaching personale, con salute, carriera, relazioni e finanza personale che rappresentavano il 76%. Dovrei cambiare lavoro? Come dovrei continuare a parlare con il mio partner? Come devo gestire il mio debito? Alcune di queste domande che avrei posto ad amici, familiari o professionisti in passato sono state inviate alla casella di chat.
Perché alle persone piace parlare con l'intelligenza artificiale dei propri sentimenti?
Chattare con l'intelligenza artificiale è facile. Non c’è bisogno di fissare un appuntamento, non c’è bisogno di guardare in faccia gli amici, e non si spazientirà nemmeno se la storia viene raccontata per la terza volta.
Alcuni dicono che chattare con l'intelligenza artificiale serve solo a trovare uno sfogo alle proprie emozioni. Non sono sicuro che ciò che dice sia giusto, e so che a volte seguirà la sua strada, ma almeno non ti giudicherà per primo.
La pazienza è una cosa, la completa incomprensione è un'altra.
Quando per Claude arriva una relazione, spesso rimane solo la narrazione di una delle parti. Ciò che ha detto l'altra parte e quali dettagli sono stati omessi non possono essere ascoltati dal modello. Vede solo la dichiarazione di una parte, ma deve fornire una conclusione decente.Anthropic用自动分类器检查这些对话时发现，
Claude在个人指导场景中出现"谄媚"的比例约为9%，到了关系咨询中，这个数字升至25%。
L'adulazione qui non significa solo dire qualche bella parola, ma include anche un'eccessiva identificazione con l'utente quando le informazioni sono insufficienti o il seguire la narrazione dell'utente per trarre conclusioni per l'altra parte.
Quando l'utente rifiuta, la risposta può continuare a muoversi nella direzione che l'utente si aspetta. La percentuale di utenti che hanno confutato Claude nella consulenza relazionale è stata del 21%, e la media in altri campi è stata del 15%;
Dopo la confutazione, la percentuale di Claude che si rivolge agli utenti ha raggiunto il 18% e, in assenza di confutazione, il 9%.
Anche gli amici umani si schiereranno dopo aver ascoltato le dichiarazioni unilaterali, ma l'intelligenza artificiale può scrivere le parti in modo lungo e completo, e sembra che sia così.
Un consiglio può davvero cambiare la tua scelta
Nel 2024, "Scientific Reports" ha pubblicato due esperimenti che hanno coinvolto un totale di 1.925 persone. I ricercatori hanno fornito ai partecipanti ChatGPT o consigli di esperti e poi hanno osservato come hanno scelto.
I risultati mostrano che nel giudizio morale e in alcuni altri compiti, i partecipanti si muoveranno nella direzione delle raccomandazioni e l'impatto di ChatGPT è simile alle raccomandazioni degli esperti; ci sono anche alcune attività che non mostrano cambiamenti significativi.
In altre parole, le parole dell'intelligenza artificiale non sono aria, spingono davvero le persone in una certa direzione.
有人会说，那多问几个模型不就行了。可"多问几个"听起来像交叉验证，其实不是。
不同模型有不同的训练方式、表达习惯和安全规则，同一件事换一种讲法，答案也可能改变。
Chiedere a quattro modelli non significa chiedere a quattro terze parti neutrali. Ognuno di loro ha le proprie tendenze formative.有个更简单的做法：讲述冲突时，先别告诉AI哪一方是自己，只列双方分别做了什么，再让它分析。至少这样可以减少模型顺着"提问者视角"站队的机会。
Puoi anche provare a vedere se il suo giudizio è stabile. Per la stessa cosa, prima racconta la versione della storia della parte, quindi aggiungi la versione dell'altra parte per vedere se cambierà immediatamente le sue parole.
Chi ritratta la sua confessione non appena viene confutata, non dovrebbe prendere sul serio la sua prima versione della risposta.
提问方式也得换。别急着问"我该不该分手""这笔钱该不该给"，先让AI列出已经确认的事实、还缺什么信息、每种选择要付出什么代价。
L'intelligenza artificiale può pensare con te, ma non può scegliere per te.
Anche se i quattro modelli danno quattro risposte, la stessa persona si trasferirà, firmerà e alla fine si scioglierà.
Commenti