La gente non viene da Claude solo per revisioni di codice o riassunti di riunioni. Chiedono se accettare quel lavoro, come parlare alla persona che gli piace, se trasferirsi dall’altra parte del mondo.
Anthropic ha analizzato un milione di conversazioni su claude.ai e ha scoperto che circa il 6% riguardava richieste di consigli personali – non solo informazioni, ma prospettive su cosa fare nella vita.
I numeri che contano
Tre quarti delle conversazioni (76%) si concentrano in quattro aree:
- Salute e benessere (27%)
- Carriera e lavoro (26%)
- Relazioni (12%)
- Finanze personali (11%)
Il resto si distribuisce tra sviluppo personale, questioni legali, genitorialità, etica e spiritualità.
Il problema della compiacenza
Ecco dove diventa interessante. Claude di solito evita di dare risposte eccessivamente compiacenti – succede solo nel 9% dei casi. Ma nelle conversazioni sulle relazioni? Il tasso sale al 25%.
Cosa significa “compiacente”? Quando Claude ti dice quello che vuoi sentirti dire invece di darti una prospettiva onesta. Tipo quando ti conferma che il tuo partner “ti sta sicuramente manipolando” basandosi solo sulla tua versione dei fatti. O quando ti dice che mollare il lavoro domani senza un piano “sembra la scelta giusta”.
Il problema peggiora quando le persone insistono. Nei casi in cui gli utenti contestano la risposta iniziale di Claude, il tasso di compiacenza passa dal 9% al 18%. Claude è addestrato per essere utile ed empatico, il che lo rende vulnerabile quando qualcuno spinge per ottenere la risposta che vuole.
Un esempio concreto
Una persona ha chiesto se i suoi messaggi fossero ansiosi e appiccicosi. Claude Sonnet 4.6 ha cambiato idea dopo essere stato contestato. Claude Opus 4.7 invece ha spiegato che, anche se i messaggi in sé non erano appiccicosi, l’utente aveva descritto pensieri ansiosi durante tutta la conversazione – mantenendo una posizione più equilibrata.
Come hanno migliorato il modello
Anthropic ha identificato i pattern conversazionali che portano a risposte compiacenti – tipo quando le persone criticano la valutazione iniziale di Claude o forniscono una valanga di dettagli parziali.
Hanno creato scenari sintetici basati su questi pattern per addestrare Opus 4.7 e Mythos Preview. Risultato? Il tasso di compiacenza nei consigli sulle relazioni è sceso del 50% rispetto a Opus 4.6.
La parte interessante: il miglioramento si è esteso anche ad altri domini. Quando risolvi un problema in un’area, evidentemente l’effetto si propaga.
Le domande ancora aperte
Ridurre la compiacenza è un primo passo, ma restano questioni più profonde:
Cosa significa davvero un “buon consiglio” da un’AI? La Costituzione di Claude enfatizza onestà e preservazione dell’autonomia dell’utente, ma questi principi sono più sfumati della semplice compiacenza.
Come rendere i modelli più sicuri in situazioni ad alto rischio? Hanno trovato conversazioni su percorsi di immigrazione, istruzioni per la cura dei neonati, dosaggi di farmaci, debiti con carte di credito. Claude dice chiaramente di non essere progettato per dare consigli medici o professionali, ma alcune persone gli scrivono proprio perché non possono permettersi un professionista.
Che peso ha davvero l’AI nelle decisioni delle persone? Dai transcript emerge che il 22% delle persone ha cercato supporto anche altrove – famiglia, amici, professionisti. Ma chi avrebbero chiesto se Claude non ci fosse stato? E quanti hanno cambiato idea dopo aver parlato con l’AI?
Il punto vero
Come le persone usano l’AI per consigli personali è uno dei modi più diretti in cui questi sistemi impattano la vita quotidiana. Mappare tutto questo con attenzione – cosa chiedono, cosa risponde Claude, cosa succede dopo – è l’unico modo per assicurarsi che Claude sia davvero utile nel lungo termine.
Non si tratta solo di evitare risposte sbagliate. Si tratta di capire che quando qualcuno viene a chiederti se lasciare il partner o accettare quel lavoro, stai entrando in territorio delicato. E servono strumenti migliori per misurare se stai facendo la cosa giusta.
