Due meta-analisi sul growth-mindset si contraddicono. Perché

Due bussole su una carta consumata, le loro lancette indicano direzioni leggermente diverse

Nel 2023 Psychological Bulletin ha pubblicato due meta-analisi di interventi growth-mindset con giudizi diversi. Una ha concluso per studi deboli e bias. L’altra ha trovato vantaggi modesti per i gruppi target. Il divario è venuto da che cosa ciascuna ha contato e come. Per i leader è una lezione su come leggere l’evidenza.

La review scettica è la meta-analisi di Brooke Macnamara e Alexander Burgoyne (fonte in lingua inglese). L’altra è Jeni Burnette e colleghe (fonte in lingua inglese), approfondita in interventi growth-mindset: per chi funzionano, e perché.

Che cosa hanno trovato le due review

Macnamara e Burgoyne hanno trovato un effetto complessivo piccolo, scomparso dopo la correzione del bias. Hanno concluso: «apparent effects of growth mindset interventions on academic achievement are likely attributable to inadequate study design, reporting flaws, and bias.» Tutti i 63 studi, 97672 allieve e allievi: d = 0.05. Studi che mostravano un atteggiamento cambiato: d = 0.04. Qualità più alta: d = 0.02. Autrici e autori con un incentivo finanziario pubblicavano effetti più grandi; nel preprint il 56% di risultati positivi significativi contro il 21%.

Burnette e colleghe hanno trovato effetti piccoli e fortemente sparsi, più grandi con una buona erogazione ai gruppi attesi: d = 0.14 per il rendimento scolastico, d = 0.32 per la salute mentale, 53 campioni indipendenti, intervallo di predizione per il rendimento −0.08 a 0.35. L’obiettivo era «clarifying for whom these interventions work best.» I numeri in testa non sono lontani. Entrambi sono piccoli. La differenza sta nel significato.

Conteggio, qualità e rianalisi

Macnamara e Burgoyne hanno guardato solo allieve e allievi e rendimento scolastico. Burnette ha chiesto randomizzazione e più esiti. Nella loro replica Macnamara e Burgoyne contano in Burnette 32 studi sul rendimento, circa la metà dei propri 63 (fonte in lingua inglese).

Il cuore tecnico: gli uni hanno condensato i risultati di ogni studio in un effetto. Gli altri hanno tenuto risultati distinti. Elizabeth Tipton e colleghe hanno argomentato (fonte in lingua inglese) che questa scelta guida il divario. Il loro esempio: uno studio della World Bank in Perù con effetti da 0.23 to 0.35 in scuole ad alta povertà e circa zero in scuole a bassa povertà. Mediato, lo studio sembra non aver fatto nulla. David Yeager e colleghe hanno riportato nel 2019 su Nature che un breve intervento online migliorava i voti tra allieve e allievi con rendimento più basso (fonte in lingua inglese), disegnato proprio su quella metà.

Nessuno studio soddisfaceva tutti i criteri di qualità di Macnamara. Il 70% dei campioni ne raggiungeva la metà o meno. Tipton e colleghe hanno ricalcolato: 122 grandezze dell’effetto, effetto medio 0.09, 0.15 nei gruppi a rischio. Macnamara e Burgoyne hanno replicato che la rianalisi ha cambiato, in 22 su 63 studi, più del solo separare i risultati. Entrambe le parti riportano effetti medi piccoli. Macnamara cita Burnette: «null and even negative (in the case of academic achievement) effects are to be expected in growth mindset interventions.»

Il mio sguardo

Questo scambio è una lezione migliore di giudizio che di mindset. Due team accurati hanno guardato evidenza sovrapposta e sono arrivati a conclusioni diverse, difendibili. I leader hanno questo problema ogni settimana con i propri dati.

Nei consigli italiani che vedo, spesso atterra sul tavolo un solo numero medio, e nessuno chiede quali persone si sono mosse. Esattamente questo è il disaccordo al centro. Prima di comprare un programma che vende l’atteggiamento come leva, decida in anticipo quale risultato le cambierebbe opinione.

Questo sta nel cluster «Conoscere prima se stessi». Il pezzo successivo è consapevolezza di sé e del team: la consapevolezza è un’abitudine di misura. Nel percorso in 7 passi il passo due, insight e consapevolezza, esiste per sostituire le supposizioni con l’evidenza. Vincere è un lavoro interiore aggiunge la disciplina della preparazione. Per i team torno a l’atteggiamento: che differenza fa?: chi vende un workshop di mindset come leva di prestazione per un team senior è avanti rispetto ai dati.

Quattro domande a analisi che si contraddicono: Che cosa è stato contato? Più risultati sono stati mediati o tenuti distinti? Come è stata giudicata la qualità, ed era deciso prima dei dati? Chi ha un interesse nella rispettiva risposta? Le stesse domande funzionano su una valutazione interna. Se il Suo team dirigenziale ha bisogno di un modo più tagliente per discutere l’evidenza, fa parte del mio lavoro nel coaching per team dirigenziali, accanto alla sicurezza psicologica al tavolo dirigenziale.

Domande che mi fanno

Che cosa hanno concluso Macnamara e Burgoyne sugli interventi growth-mindset?

Che gli effetti apparenti sul rendimento scolastico dipendono probabilmente da un disegno di studio debole, da difetti di reporting e da bias. Su 63 studi e 97672 allieve e allievi l'effetto complessivo era piccolo, d = 0.05, e dopo la correzione di un possibile bias di pubblicazione non era significativo.

Perché le due meta-analisi 2023 sono arrivate a conclusioni diverse?

Soprattutto perché hanno contato studi diversi e analizzato in modo diverso. Macnamara e Burgoyne hanno condensato i risultati di ogni studio in un effetto e li hanno misurati su criteri di qualità rigorosi; Burnette e colleghe hanno tenuto risultati distinti all'interno degli studi e hanno chiesto quali gruppi beneficiassero.

La rianalisi di Tipton e colleghe ha deciso il dibattito?

No. Tipton e colleghe hanno riportato che, applicando i metodi di Burnette ai dati di Macnamara e Burgoyne, emerge un effetto significativo per i gruppi a rischio. Macnamara e Burgoyne hanno replicato che la rianalisi ha anche cambiato grandezze degli effetti, codifiche di rischio e raggruppamenti di studi in 22 su 63 studi, spesso senza spiegazione.

Su che cosa le due parti sono d'accordo?

Che gli effetti medi sono piccoli e che i risultati variano fortemente da studio a studio. Entrambe le review hanno codificato la qualità degli studi, invece di prendere la letteratura al valore nominale. Discutono se gli effetti più grandi nei gruppi target siano reali.

Che cosa dovrebbe trarre un consiglio da un tale disaccordo di ricerca?

Chiedere che cosa è stato contato, come sono stati combinati più risultati, come è stata giudicata la qualità e chi ha un interesse nell'esito. Le stesse quattro domande valgono per ogni valutazione interna di un programma di sviluppo.

Fonti

Fonte in lingua inglese

  1. Do growth mindset interventions impact students' academic achievement? A systematic review and meta-analysis with recommendations for best practices — Psychological Bulletin (PubMed), 3 novembre 2022
  2. A systematic review and meta-analysis of growth mindset interventions: For whom, how, and why might such interventions work? — Psychological Bulletin (PubMed), 13 ottobre 2022
  3. Why meta-analyses of growth mindset and other interventions should follow best practices for examining heterogeneity: Commentary on Macnamara and Burgoyne (2023) and Burnette et al. (2023) — Psychological Bulletin (PubMed Central), marzo 2023
  4. A spotlight on bias in the growth mindset intervention literature: A reply to commentaries that contextualize the discussion (Oyserman, 2023; Yan & Schuetze, 2023) and illustrate the conclusion (Tipton et al., 2023) — PsyArXiv (accepted manuscript for Psychological Bulletin), 23 luglio 2023
  5. To What Extent and Under Which Circumstances Are Growth Mind-Sets Important to Academic Achievement? Two Meta-Analyses — Psychological Science (PubMed), 5 marzo 2018
  6. A national experiment reveals where a growth mindset improves achievement — Nature (PubMed), 7 agosto 2019
Ritratto di Linus Murphy

Executive coach di alto livello