De ce copiii care își fac tema cu AI simt că au înțeles, dar nu rețin nimic

Pe o scară de la 1 la 10, cât de bine înțelegi cum funcționează o bicicletă?

Probabil ai zis 8 sau 9. Ai mers pe bicicletă toată copilăria, ai pus lanțul la loc când a sărit, știi ce face fiecare piesă.

Acum ia o foaie și desenează-mi-o. Unde intră exact lanțul, cum se leagă pedalele de roata din spate, ce face schimbătorul când îl muți, de ce nu cade bicicleta când mergi cu ea.

În 20 de secunde, 9 devine 3.

Eroarea asta are un nume, iluzia profunzimii explicației, și e una dintre cele mai bine documentate din toată psihologia. Iar partea interesantă e că necunoașterea nu te împiedică deloc să mergi pe bicicletă. Te împiedică doar să îți dai seama că nu înțelegi.

Quick Read

• Avem senzația că înțelegem lucrurile mult mai bine decât le înțelegem în realitate, iar senzația asta e un indicator foarte slab al înțelegerii reale
• AI-ul nu a inventat problema, dar o amplifică, pentru că răspunde repede, fluent și sigur pe el, adică exact semnalele după care mintea decide că ceva e credibil
• Învățarea se produce în intervalul dintre greșeală și corectarea ei, iar un instrument care sare peste acel interval scoate din priză chiar motorul
• Să externalizezi efortul nu e o problemă, o facem de când există cărți și calculatoare. Pericolul începe când externalizezi și evaluarea, adică atunci când nu mai poți spune singur dacă răspunsul primit e bun
• Copiii sunt mai expuși pentru că școala îi antrenează să vâneze răspunsul corect, iar un copil motivat exclusiv de răspunsul corect va deveni compulsiv în a-l obține repede
• Singurul test care funcționează e să scoți tot sprijinul și să ceri explicația cu voce tare

Ce se întâmplă în mintea copilului care termină tema în 10 minute

Copiii sunt imitatori extraordinari. E cea mai eficientă strategie de învățare pe care o are specia noastră, pentru că le permite să acumuleze cantități uriașe de informație fără să descopere singuri mecanismul din spatele fiecărei activități.

Învățăm să reproducem o acțiune cu mult înainte de a-i înțelege mecanismul. Copilul care rezolvă corect ecuația nu a înțeles neapărat de ce funcționează metoda. A reprodus pașii. Iar dacă a reprodus pașii și a ieșit rezultatul bun, primește confirmarea, nota, lauda și senzația de competență.

Până aici lucrurile merg. Problema e că mintea noastră nu are un instrument bun cu care să verifice dacă în spatele reproducerii corecte există și înțelegere.

După ce alegem în ce să avem încredere, ne uităm la lucruri precum familiaritatea, fluența, siguranța cu care e spus ceva, statutul celui care vorbește. Ne uităm la semnalele de suprafață pentru că ele sunt disponibile imediat, iar la ce ar trebui să ne uităm nu avem cum, nu avem instrumentul.

Și aici intră AI-ul.

De ce instrumentul ăsta apasă exact pe butonul greșit

Un model de limbaj răspunde în 3 secunde, într-o română impecabilă, fără ezitare, fără să spună vreodată că nu e sigur pe el decât dacă îl forțezi.

Familiaritate, fluență, viteză, siguranță. Toate cele 4 semnale după care mintea ta decide că a înțeles ceva, livrate simultan, la cerere, de câte ori vrei.

Instrumentul ăsta se prezintă ca fiind foarte sigur pe el și foarte fluent, iar răspunsurile vin instant. Toate semnalele după care mintea ta măsoară credibilitatea îți întăresc iluzia de competență fix în momentul în care ar trebui să te facă suspicios.

Aici e vorba despre un copil care citește răspunsul, îl înțelege în momentul în care îl citește, simte că l-a înțeles, și pleacă de la masă cu certitudinea sinceră că știe materia. Copilul care copiază și știe că a copiat e un alt subiect, mult mai simplu de rezolvat.

A doua zi, la tablă, nu mai e nimic acolo.

Unde se produce de fapt învățarea

Uite unde se rupe de fapt lucrurile.

Învățarea nu se produce în momentul în care primești informația corectă. Se produce în intervalul dintre momentul în care ai încercat singur, ai greșit, ți-ai dat seama că ai greșit, și ai ajustat.

Ai nevoie de libertatea de a greși, de momentul în care observi că ai greșit, și de posibilitatea de a-ți ajusta răspunsul. Ăsta e motorul învățării și nu există altul.

Un instrument care îți livrează răspunsul corect din prima nu îți face un serviciu. Îți sare peste tot intervalul în care s-ar fi produs învățarea. Copilul primește destinația fără drum, iar drumul era singurul lucru care conta.

Am scris acum câteva luni, într-un articol despre plasticitate cerebrală, că sunt optimist în privința AI-ului la copii, pentru că le dă informația exact în momentul în care sunt curioși, iar informația accesată în momentul curiozității se lipește de creier. Continui să cred asta. Dar am înțeles între timp ce lipsea din ecuație, și anume că informația primită în momentul curiozității se lipește doar dacă a existat un efort înainte de ea. Curiozitatea fără efort produce consum, nu învățare.

Unde e de fapt pericolul

Și aici e distincția care desparte panica de problema reală.

Nu orice externalizare cognitivă e o problemă și nici nu e ceva nou. AI-ul e cea mai recentă dintr-un șir lung de tehnologii pe care le-am construit exact ca să externalizăm o parte din activitate. Pericolul apare abia atunci când externalizezi și procesul, și capacitatea de a evalua informația primită.

Externalizăm de mii de ani. Scrisul e externalizarea memoriei, iar Socrate se plângea de el exact cum ne plângem noi acum. Calculatorul de buzunar e externalizarea aritmeticii. Notițele, hărțile, agendele, toate sunt proteze cognitive și niciuna nu ne-a prostit.

Diferența e că toate astea externalizau execuția și lăsau evaluarea la tine. Calculatorul îți dă rezultatul înmulțirii, dar dacă îți iese că 2 ori 2 fac 40, îți dai seama singur că ai tastat greșit. Ai păstrat capacitatea de a judeca răspunsul.

Un model de limbaj îți dă un răspuns plauzibil, bine scris și uneori complet greșit, iar dacă nu știi subiectul, nu ai cum să îți dai seama. În momentul în care copilul nu mai poate evalua ce primește, a externalizat și ultimul lucru care îl ținea în joc.

Și mai e ceva, care ține de motivație

Asta e partea de care nu se vorbește aproape deloc.

Un copil motivat exclusiv de obținerea răspunsului corect, pentru că asta se notează și asta contează în ochii tuturor, va deveni compulsiv în a găsi răspunsul corect cât mai repede. Iar acum are în buzunar cel mai eficient instrument din istorie pentru asta.

E exact comportamentul pe care sistemul îl răsplătește, iar caracterul și lenea nu au nicio legătură cu el. Dacă miza e nota, iar nota se dă pe răspuns, atunci orice drum mai scurt spre răspuns e o decizie rațională.

Iar sistemul formal de educație încurajează el însuși obiceiul ăsta. Hai să obținem pur și simplu răspunsul, că despre asta e vorba. Toată partea de învățare ajunge percepută ca ceva care te împiedică să termini eficient sarcina.

Cât timp răsplătim rezultatul și ignorăm procesul, orice discuție despre AI în școală e o discuție despre simptom.

Partea care nu e despre copii

Înainte să mergi mai departe cu grija pentru cel mic, întoarce oglinda.

Ultima dată când ai pus AI-ul să îți facă o analiză de piață, un rezumat al unui contract sau o strategie de comunicare, ai citit rezultatul, ai dat din cap, ai avut senzația limpede că acum înțelegi situația.

Întreabă-te acum, fără să te uiți înapoi în conversație, care erau cele 3 argumente și pe ce se sprijineau.

Mecanismul e identic. Fluență, viteză, siguranță, senzație de competență. Diferența e că nimeni nu te scoate pe tine la tablă a doua zi, așa că iluzia ține mai mult și costă mai mult.

Ce poți face concret

Pentru copil, 4 lucruri care se pot face de mâine:

1. Cere explicația fără sprijin. După ce a terminat tema, închide laptopul și pune-l să îți explice ție ce a făcut, cu cuvintele lui. Vrei motivul pentru care metoda funcționează, nu textul de pe ecran. E singurul test care măsoară înțelegerea reală, pentru că înțelegerea se vede abia atunci când rămâne fără proptele și trebuie spusă cu voce tare, cu cuvintele tale.
2. Cere predicția înainte de răspuns. Înainte să întrebe AI-ul, pune-l să spună ce crede el că iese. Nu contează dacă nimerește. Contează că și-a angajat mintea înainte, pentru că atunci citește răspunsul comparând, nu absorbind.
3. Pune-l să găsească greșeala. Ia un răspuns de la AI care are o eroare în el, sau cere-i modelului să facă una intenționat, și dă-i copilului sarcina să o găsească. E cel mai bun exercițiu de păstrare a capacității de evaluare, adică fix lucrul care nu trebuie externalizat.
4. Schimbă modul în care e folosit instrumentul. Se poate cere explicit modelului să pună întrebări în loc să dea răspunsul, să ceară predicții și să ofere doar cât sprijin e necesar. Eu m-am gândit la un protocol care să se activeze automat atunci când AI-ul detectează, sau i se spune, că vorbește cu un copil. Până când producătorii îl vor construi, poate fi cerut manual, în 2 rânduri, la începutul conversației.

Modelul la care merită să ne raportăm e cel de ucenicie, în care un adult cu mai multă experiență oferă exact atât sprijin cât să poată copilul avansa, fără să îi dea toate răspunsurile și fără să elimine dificultatea, punând întrebări la momentul potrivit.

Pentru școală, lucrul e mai greu și nu ține de noi ca părinți. Acolo partea uriașă a răspunsului stă în schimbarea evaluării, adică în revenirea la forme în care elevul își formulează și își susține singur ideile, prin exprimare verbală și prin eseu, fără protezele tehnologice. Iar demonstrația asta e utilă în primul rând pentru tine, abia în al doilea rând pentru cei care te ascultă.

Un singur lucru de reținut

Un AI bine proiectat te ajută să observi când nu ești sigur, să verifici dacă ai înțeles cu adevărat și să îți formulezi singur explicația, în loc să îți preia gândirea. Diferența dintre cele 2 variante nu e în instrument, e în felul în care îl folosim și în ce anume răsplătim.

Copilul tău va folosi AI-ul, asta e deja decis și nu mai are rost să ne certăm pe subiectul ăsta.

Întrebarea rămasă e dacă mai știe, la finalul temei, care e diferența dintre a avea răspunsul și a înțelege.

Tu mai știi?