Che cosa succede quando anche pensare diventa un’attività da ottimizzare? L’intelligenza artificiale sta entrando sempre più profondamente nella ricerca scientifica, e se da una parte si devono trovare processi e pratiche virtuose per includerla con successo, dall’altra è necessario vigilare per capire che cosa rischiamo di delegarle insieme al lavoro.
Ne ho parlato con il professor Damiano Mazza, un matematico e ricercatore al CNRS, direttore del Laboratorio di Informatica di Parigi Nord, commentando assieme un recente articolo sulla formalizzazione del teorema di Fermat da parte di Claude.
La chiave è… esplicitare
«Chi lavora alla formalizzazione» mi racconta il professor Mazza «cerca di rendere una dimostrazione formale leggibile, comprensibile e, soprattutto, riutilizzabile. Il vero interesse della formalizzazione di un risultato matematico importante non è essere sicuri che il teorema sia vero, ma rendere espliciti i dettagli della dimostrazione, estrarne la struttura e presentarla nel modo più modulare possibile, così che altre dimostrazioni possano appoggiarsi su quel lavoro. Le autoformalizzazioni prodotte attraverso sistemi di IA vengono spesso criticate perché non rispondono quasi per niente a queste aspettative».
«Il problema è che le grandi aziende di IA hanno incentivi diversi da quelli dei matematici. La loro logica è quella del primato: “piantare una bandiera” prima dei concorrenti. Diventa allora secondario che la formalizzazione sia composta da centinaia di migliaia di righe difficili da leggere e da riutilizzare, dalle quali la comunità matematica apprende relativamente poco».
Il problema della logica produttiva
«La filosofia dominante sembra essere che l’IA sia soprattutto un acceleratore. Qualunque cosa tu debba fare, l’IA dovrebbe permetterti di farla più rapidamente. Ma in matematica, e probabilmente in qualunque attività creativa, bisogna anche riflettere. E che cosa significa “riflettere più rapidamente”? Il rischio è che si ragioni solo in termini produttivi e non umanistici».
«Della matematica, allora, non importa più il procedimento: importa l’output. L’output sono i teoremi. Se l’IA permette di dimostrare teoremi più rapidamente e con meno fatica, nella logica puramente produttiva il problema sembra risolto. Ma è davvero così?»
«Lo stesso ragionamento si potrebbe applicare alla musica. Se tutto ciò che conta è l’output, allora l’output sono le canzoni. Ma così si trascura una parte essenziale dell’esperienza musicale: scrivere, provare insieme, improvvisare, suonare e condividere emozioni».
L’onere del pensiero
«In generale la tecnologia tende a sollevarci da ciò che consideriamo oneroso. Il rischio è che si insinui progressivamente l’idea che anche pensare sia un’attività onerosa, una delle tante fatiche della condizione umana dalle quali la tecnologia può liberarci. Personalmente trovo questa prospettiva terrificante».
«Credo che molti matematici siano preoccupati dall’IA, ma non necessariamente perché temano di perdere il proprio lavoro. Il problema più profondo è un altro: stiamo iniziando a subappaltare alcune delle nostre capacità cognitive più elevate. Come faranno i futuri ricercatori a imparare come si fa ricerca se una parte crescente del processo viene delegata a macchine che “pensano” al loro posto?».
«Il mantra delle aziende di IA è che i loro prodotti non “pensano” al nostro posto ma ci liberano dai compiti intellettuali minori, permettendoci di concentrarci sulle cose davvero importanti. Ma chi ci dice che non sia proprio grazie alla miriade di sforzi intellettuali banali, fatti costantemente tutti i giorni, che riusciamo a essere creativi, brillanti, intelligenti quando abbiamo bisogno di esserlo? È un po’ come se un centometrista, interessato solo a vincere medaglie, smettesse di correre agli allenamenti perché non è durante gli allenamenti che si vincono medaglie…».
«Se l’IA fosse sviluppata avendo esplicitamente il bene dell’umanità tra i propri obiettivi fondamentali, domande di questo genere dovrebbero essere affrontate prima di lanciarsi nella direzione verso cui stiamo andando. Forse, allora, ciò che deve preoccuparci non è tanto l’IA in sé, quanto il contesto economico e sociale nel quale la stiamo sviluppando».
Pensare meglio
Qui finisce il messaggio del professor Mazza. La sua riflessione va ben oltre la matematica. Nella ricerca scientifica misuriamo sempre più spesso l’IA attraverso ciò che produce: problemi risolti, benchmark superati, codice, teoremi. Sono metriche utili, ma rischiano di misurare soprattutto ciò che è facile contare.
La conoscenza, però, non è soltanto il risultato finale, deve poter essere compresa, criticata, modificata e trasmessa. Ed è qui che la questione tecnica diventa antropologica: forse la domanda non è quanto velocemente possa pensare una macchina, ma che tipo di esseri umani vogliamo diventare quando possiamo delegarle una parte crescente del pensiero.
Forse la fatica di capire non è un difetto da eliminare, ma una parte essenziale della conoscenza. E la vera sfida dell’IA potrebbe essere proprio questa: aiutarci a pensare meglio, senza privarci del bisogno – e del piacere – di farlo.
Immagine di copertina: Pexels – Google DeepMind