I ragazzi usano l’IA, è inutile nascondersi dietro proibizioni, meglio educare. Quando lavoro con loro sull’uso dell’IA, oltre alle questioni etiche, mi capita di parlare di quello che trovate qui.
Ho chiesto a un’intelligenza artificiale di scrivermi un testo sull’IA stessa. Ecco cosa mi ha risposto:
“Immaginate di avere un superpotere che vi assiste nello studio e nella comprensione delle vostre passioni! Grazie all’IA, si possono elaborare percorsi di apprendimento personalizzati che rispondono ai vostri interessi e alle vostre necessità.”
Suona bene, vero? Quasi troppo bene. Ed è proprio questo il punto: l’IA sa essere molto convincente, ma convincente non vuol dire sempre giusta, e soprattutto non vuol dire che, usandola, tu stia imparando qualcosa.
Non sto dicendo che l’intelligenza artificiale sia da evitare, sarebbe assurdo: è uno strumento potente, e usarlo fa parte del mondo in cui viviamo. Uno dei problemi non è usarla, è delegarle il pensiero. C’è una bella differenza tra chiedere all’IA di aiutarti a capire un argomento e farti scrivere tutto da lei senza nemmeno leggerlo bene.
Lo stesso identico strumento può funzionare in due modi opposti. Se usi l’IA per semplificare un testo difficile, per farti spiegare una parola che non conosci, per organizzare le idee prima di scrivere, la stai usando come un aiuto: il lavoro finale resta tuo, tu impari. Se invece le chiedi di scrivere tutto al posto tuo e ti limiti a copiare senza nemmeno leggere, l’IA non ti sta più aiutando, ti sta sostituendo: il compito è finito, ma tu non hai imparato niente. Stesso strumento, due modi completamente diversi di usarlo. La differenza non sta nell’IA, sta in quello che decidi di fare tu.
Lexo e la ricerca che non era sua
Questa è una storia che racconto ai ragazzi per spiegare le allucinazioni: Lexo (nome inventato, ma la situazione è realistica) doveva preparare una ricerca di storia e ha chiesto all’IA di scrivergli il testo. Il risultato era scorrevole, sembrava perfetto. Peccato che una data fosse sbagliata e un fatto fosse attribuito alla persona sbagliata. Lexo non se n’era accorto, perché non aveva davvero letto quello che avrebbe dovuto studiare. L’aveva solo copiato. E in classe, quando gli hanno fatto una domanda su quell’argomento, non sapeva rispondere. Non perché fosse “negato”, ma perché quel testo non l’aveva mai davvero imparato: gliel’aveva scritto l’IA.
Quello che è successo a Lexo non è un caso isolato: uno studio recente condotto su quasi mille studenti delle superiori ha misurato esattamente questo fenomeno. Chi aveva usato un’intelligenza artificiale che dava le risposte pronte è arrivato a un’interrogazione senza aiuti circa il 17% peggio rispetto a chi non aveva usato l’IA per niente. La stessa intelligenza artificiale, riprogettata per dare solo indizi e non le risposte dirette, non solo ha eliminato il danno, ma ha aiutato gli studenti a imparare ancora meglio di prima. Il problema, quindi, non è l’IA in sé: è come viene usata, e in quale momento dello studio la lasci entrare.
Ecco un modo semplice per capire se stai davvero imparando o solo copiando: prendi una risposta data ad una domanda, prova a spiegare a voce quello che hai scritto, senza guardare il testo. Se ti blocchi, se non ti vengono le parole, è un segnale chiaro. Vuol dire che quella conoscenza non è ancora tua.
Un’altra cosa importante: l’IA a volte inventa, e lo fa con la stessa sicurezza con cui scrive le cose vere. Non è un’ipotesi: è già successo, ed è stato raccontato anche da testate che si occupano di scienza e tecnologia. In un caso diventato famoso, alcuni sistemi di intelligenza artificiale hanno affermato come fatto certo che Hillary Clinton sarebbe stata la prima presidente donna della storia degli Stati Uniti. Peccato che non sia vero: una donna presidente degli Stati Uniti, a oggi, non c’è mai stata.
Prova a pensarci: se non conosci già questo pezzo di storia recente, come fai ad accorgerti che è sbagliato? La frase è scritta con la stessa sicurezza con cui l’IA scrive le cose vere. Questo è esattamente il rischio: l’IA non avvisa quando sta inventando, perché lei stessa non “sa” di farlo.
Per questo, prima di consegnare qualcosa scritto con l’aiuto dell’IA, vale sempre la pena controllare: quella data è giusta? Quel fatto è vero? Riesco a spiegarlo con parole mie?
Anch’io uso l’intelligenza artificiale nel mio lavoro, per velocizzare alcune cose, ma i contenuti li ripenso sempre io, con la mia testa. Per esempio questo articolo è stato rielaborato dall’IA. Ed è questo il punto centrale: l’IA può dare una mano, ma il pensiero critico, il controllo, la capacità di spiegare quello che sappiamo con parole nostre restano compiti che nessuno strumento può fare al posto nostro, nemmeno il più intelligente.
Se volete saperne di più
Se questo argomento vi incuriosisce, ecco qualche link dove potete leggere altre storie vere su questo tema:
- Se volete leggere come uso l’IA, potete guardare qui Come uso l’IA nel mio lavoro
- L’esempio di Hillary Clinton, che alcune IA hanno descritto per errore come “prima presidente donna” degli Stati Uniti, viene raccontato in questo articolo, insieme ad altri casi curiosi di risposte sbagliate date con grande sicurezza. Aula di Scienze – Zanichelli
- Un professore universitario americano ha nascosto in un compito una parola invisibile (“Madagascar”), leggibile solo da un’intelligenza artificiale: chi ha copiato il testo da un chatbot si è ritrovato quella parola infilata a caso nel proprio elaborato, senza accorgersene. Risultato: 32 studenti su 35 scoperti. Il Fatto Quotidiano
- Uno studio su questo tema è di due ricercatori dell’Università di Zagabria, che hanno passato in rassegna le prove scientifiche su IA e apprendimento e hanno proposto un modello pratico per gli insegnanti su quando l’IA aiuta e quando invece danneggia lo studio. Brcic & Frljic, “The Effortless Trap: Productive Struggle, AI, and the Illusion of Learning” – arXiv
- Se volete andare oltre l’uso quotidiano e capire più a fondo come funziona davvero l’intelligenza artificiale (di cosa parlano quando dicono “allucinazioni”, “modelli linguistici”, “reti neurali”), l’Università Federico II ha un corso gratuito online, Vocabolario Artificiale dalla A alla I, con attestato di partecipazione a chi lo completa. È un livello più tecnico rispetto agli altri link qui sopra, pensato in origine per insegnanti e formatori, ma resta accessibile anche a chi parte da zero e vuole solo capirci di più.