In alcuni compiti i computer ci hanno quasi raggiunto e in altri ormai superato. Ma ha senso paragonare la cosiddetta intelligenza artificiale a quella umana? Alcuni spunti di riflessione ci aiutano a farci un’idea di un’intelligenza molto diversa dalla nostra.
Non passa giorno ormai senza che una qualche notizia sull’Intelligenza Artificiale (IA) compaia sui media. I social traboccano di storie, notizie quasi sempre allarmanti o, qualche volta, esageratamente ottimistiche.
Ma cosa sta succedendo davvero? Cos’è questa tecnologia che con un’accelerazione senza precedenti sta non solo ridefinendo i confini del mondo che le è proprio, ma anche ridisegnando la società nel suo insieme? L’IA ci sta obbligando a rimettere tutto in discussione, economia e finanza, arti e mestieri, medicina, diritto e molto, molto altro. In altre parole, sta rivoluzionando il tessuto dell’umanità, dalle maglie fini a quelle di scala globale, perché il confine tra quel che è umano e quel che non lo è, tracciato storicamente e ritenuto immutabile, sta diventando sempre più sottile e sembra quasi scomparire.
Due tecnologie parallele
L’IA anzitutto non è una tecnologia, ma in realtà due tecnologie gemelle e profondamente diverse. Nate entrambe negli anni ’50 del secolo scorso, hanno avuto sviluppi a velocità diversissime tra loro. Esse corrispondono a due diversi modi di porsi di fronte all’intelligenza umana.
Il primo modo è quello che prende atto del prodotto ritenuto più elevato, cioè la ragione, la logica, quel mondo fatto di deduzioni ineccepibili a partire da assunti liberamente scelti. Un esempio calzante di attività di questo genere è quello che ci è stato insegnato a scuola con l’aritmetica. La nostra intelligenza riesce a sommare, moltiplicare numeri interi e fare operazioni più complesse. Verso queste attività nutriamo da sempre un grande rispetto e al tempo stesso un certo timore. Per eseguirle, infatti, siamo costretti a concentrarci e di solito, quando la complessità del computo da fare è alta, il tempo necessario aumenta a dismisura.
L’arte di calcolare in modo efficiente si acquisisce col tempo e la pratica, ed è una parte importante del lavoro dei matematici di professione. La logica è in qualche modo l’astrazione del calcolo ed è ritenuta alla base della nostra capacità di ragionare, cioè fare progressi intellettuali con metodi oggettivi che soddisfino l’assenza di contraddizioni e le altre proprietà enucleate da Aristotele.
Le macchine calcolatrici, a partire dalla più antica, quella di Anticitera (datata nel II secolo a.C.), puramente meccanica, per arrivare a quelle elettroniche moderne, si erano mostrate così capaci di fare calcoli che hanno in qualche modo suggerito la possibilità di poter automatizzare i processi di pensiero. Il primo approccio all’intelligenza artificiale, basato sulla programmazione logica, che in sostanza si traduce in tecniche di codifica con linguaggi elevati, lontani dal numerico e più vicini ai concetti, è quello che è stato sviluppato con maggior vigore fino a tutto il secolo scorso. Esso ha prodotto risultati modesti, almeno rispetto all’ambizione di ottenere macchine intelligenti con una discreta versatilità. Giusto per fare un esempio, la capacità di classificare e riconoscere immagini o quella di tradurre testi in lingue diverse sono rimaste dei miraggi lontani.
La ricostruzione del quadrante della macchina di Anticitera.
Il secondo approccio, altrettanto ambizioso, è metodologicamente speculare. Intende avvalersi delle conoscenze dei processi neuronali legati all’apprendimento e alla memorizzazione, in particolare della cosiddetta plasticità dei legami sinaptici tra i neuroni, che era ben conosciuta almeno a un livello schematico. Questa suggerisce due cose: la memoria è un effetto collettivo dei neuroni e non localizzato, e come tale è quasi sempre associativa. Quando ricordiamo qualcosa, ci torna sempre in mente insieme a un grappolo di ricordi legati ad altri specifici eventi. Non esiste quindi lo specifico neurone che ricorda la nonna o il nostro gatto domestico, esistono invece famiglie di neuroni correlati che in un processo dinamico accendono il ricordo di un insieme di eventi.
L’apprendimento, in modo simile, corrisponde a un processo adattativo dei legami sinaptici agli stimoli esterni. Nel loro insieme neuroni e sinapsi (reti neurali) riescono a concettualizzare e formare astrazioni tanto quanto a memorizzarle. La crescita di questa IA, che è quella chiamata di apprendimento automatico, ha preso velocità soprattutto grazie alla corrispondente crescita di potenza di calcolo e alle grandi quantità di dati tipiche dell’èra Internet. La potenza di calcolo era stata creata occasionalmente per rendere avvincenti i videogiochi, rendendoli adatti alla velocità della mente umana. I database prodotti dall’èra Internet sono stati la materia prima su cui far lavorare queste macchine di neuroni artificiali. Da tali basi di informazioni umane la moderna intelligenza artificiale, con apprendimento automatico di tipo profondo, estrae la conoscenza che le risulta utile per automatizzare alcuni compiti svolti in precedenza solo dal cervello animale.
Una tecnologia prescientifica
Questa rivoluzionaria tecnologia di cui stiamo parlando è di tipo prescientifico, intendendo con questo termine (usato con accezione fortemente positiva) una di quelle che cambiano la scienza, perché spingono la ricerca verso quegli orizzonti necessari per rispondere ai nuovi perché.
Per comprendere appieno il senso di questa prospettiva, pensiamo ai primi motori a vapore agli albori della Rivoluzione industriale. Funzionavano, ma nessuno sapeva spiegare veramente perché, ad esempio, alcuni erano più efficienti di altri: non conoscevamo la scienza alla base del loro funzionamento. Lo sforzo fatto per rispondere a tutte le relative domande ci ha portato una nuova teoria scientifica, la termodinamica.
Allo stesso modo, i computer che realizzano i prodigi dell’intelligenza artificiale non hanno solo programmi in codice scritti a mano dagli umani, ma contengono anche una parte attiva, che invece di trasformare energia in lavoro come facevano le macchine dell’Ottocento, trasforma informazione cruda, quella contenuta nei dati, in piccole ma preziose conoscenze. Capire perché queste macchine funzionano, indentificare i princìpi e con essi i limiti del loro rendimento, per poi ottimizzarle, è un compito fondamentale per tutti i cultori di scienze dure, fisici, informatici e matematici.
Nella moderna IA il codice non è scritto dall’uomo.
Cerchiamo di spiegarlo meglio, pur senza dettagli tecnici. Abbiamo detto che la prima forma di intelligenza artificiale era esplicitamente codificata, scritta in linguaggio opportuno, dal programmatore. Il computer non faceva altro che eseguire i nostri comandi a velocità ed efficienza altissima, con probabilità di errore trascurabili, e in ogni caso di tanti ordini di grandezza minori di quelle umane. L’intelligenza immessa nel programma era però tutta nostra, la macchina calcolatrice aggiungeva solo una smisurata forza di calcolo.
L’IA basata su reti neurali è profondamente, radicalmente diversa. Il programmatore adesso non scrive affatto il programma “riga per riga”. Al suo posto scrive solo un algoritmo che concettualmente lo fa adattare, fino a una precisione ritenuta soddisfacente, a un enorme database da cui esso estrae la conoscenza di nostro interesse. Da un database di fotografie di gatti e cani il computer impara a riconoscerli, da un testo in italiano il computer ci dà la traduzione in inglese, ecc., ma nessun programmatore sa scrivere esplicitamente un codice che faccia queste operazioni. In altre parole, “l’intelligenza” che il programma finale mostra dopo l’addestramento coi dati non è più solo quella che abbiamo insegnato nel nostro codice scritto a mano, la macchina è andata altre. Ha usato forza bruta di calcolo? Sì, certamente, ma non solo quella! Ha aggiunto infatti un qualcosa che prima non c’era, desumendolo dal database.
Da anni, da quando cioè il riconoscimento delle immagini in automatico è diventato super-umano, uso il termine “rivoluzione” per questa tecnologia. Quel che ho in mente è proprio la rivoluzione del motore della prima Rivoluzione industriale. Le macchine calcolatrici come quella di Anticitera erano sostanzialmente un insieme di leve che, azionate da un braccio umano, riuscivano a fare calcoli molto complessi. Ma quando alla fine del Settecento è arrivato il motore, non si poteva più dire che esso fosse solo una macchina che funzionava con le sue leve, perché il motore è molto di più. Per comprendere il suo funzionamento – dove qui per comprensione intendiamo quello che i fisici e i matematici intendono con questo termine – non sono bastate le leggi di Newton e neppure la loro elegante formulazione fatta da Lagrange. È stata invece necessaria una scienza nuova, che partisse da nuovi princìpi sconosciuti alla meccanica e che hanno costituito gli assiomi della termodinamica.
Ci troviamo in una situazione per certi versi analoga: nonostante l’apprendimento automatico sia composto da tanti piccoli passaggi algoritmici, ognuno dei quali può essere ispezionato nei dettagli, nel loro insieme l’apprendimento procede in modi che ancora non sappiamo pienamente comprendere. Le frontiere della tecnologia richiedono quindi uno sforzo di ricerca, che obbliga la scienza a cambiare e a muovere passi in territori del tutto inesplorati.
Un’altra prova di forza?
Il pubblico di oggi sente parlare di intelligenza artificiale da un miscuglio di pareri, opinioni, paure, ansie, allarmi e solo molto raramente di descrizioni de facto. Naturalmente queste non sono le condizioni migliori per capire cosa sta succedendo.
Il problema ha due origini distinte: la prima è sicuramente il fatto che i computer sono ormai oggetti che non possiamo più smontare e decomporre in parti comprensibili. Persino tra gli addetti ai lavori non c’è più nessuno che conosca i dettagli del loro funzionamento globale o addirittura di una loro singola componente come il chip. Quasi tutti gli utilizzatori si limitano a interagire con questo strumento come se si trattasse di una macchina da scrivere. Abbiamo quindi decenni di storia in cui il pubblico ha rinunciato alla comprensione del funzionamento delle tecnologie digitali.
La seconda è che alcune delle capacità di queste macchine destano molto stupore, come quella che di recente ChatGPT ha mostrato nel dialogo con l’interlocutore. Il punto è che idee e parole si stringono così forte nei nostri pensieri che non sappiamo, né vogliamo separarle. Dalle prime tenere conversazioni che intratteniamo coi familiari, poi con gli amici o i maestri, noi ci siamo costruiti sul linguaggio e ci riconosciamo attraverso di esso. La comunicazione verbale è un tessuto portante dell’umano e vedere che in esso si è innestata una maglia non umana ci sorprende, nel bene e nel male.
ChatGPT si esprime in modo accurato e plausibile.
Ovvio poi che le reazioni che abbiamo, di fronte a queste meraviglie tecnologiche, risentono anche di tutta la cinematografia fantascientifica, che ha mirato, dagli albori fino a oggi, soprattutto alle nostre emozioni e solo raramente alla nostra formazione. Hanno quindi preso il sopravvento le distopie che evocano scenari apocalittici di robot sterminatori.
Allo stato attuale questi strumenti che dialogano con noi sono dotati di una fluidità a cui non siamo abituati nelle macchine, e la sensazione che ne deriviamo è quella di essere di fronte a qualcosa di veramente vicino all’umano. Ovviamente questa è l’impressione. Ma come stanno in realtà le cose? Abbiamo raggiunto l’intelligenza umana? L’abbiamo superata? Quel test che porta il nome di uno dei padri fondatori dell’informatica, Alan Turing, è stato finalmente oltrepassato dai computer moderni?
A questa domanda i lettori non troveranno risposta definitiva in queste poche righe, ma alcune considerazioni utili possono comunque essere fatte.
In alcune capacità i computer sono molto più forti dell’essere umano. Questo non ci turba più di tanto già dai tempi in cui le piccole macchine calcolatrici degli anni ’70 svolgevano calcoli con numeri molto grandi a velocità super-umane. Ai tempi però l’orgoglio umano, nello specifico la centralità che l’essere umano percepisce nell’Universo, non era veramente minacciata. Sappiamo infatti, e oggi più che mai, che il calcolo è una parte rilevante sì, ma molto piccola dell’attività intellettuale della nostra specie.
L’IA batte l’uomo non solo a scacchi, ma anche nel fare traduzioni, riconoscere immagini e tante altre attività.
Noi inventiamo, noi siamo creativi, noi dipingiamo, scriviamo poesie… ci è bastato spostare un po’ più in alto l’asticella dell’intelligenza umana e andare avanti facendo finta di nulla. Si diceva che le macchine ci avevano già da tempo superato in prove di forza, per esempio quella muscolare, attraverso l’uso del motore, e questa del calcolo non era che una nuova prova di forza in cui ci superavano. Il punto è che negli ultimi anni siamo stati costretti a spostare questa asticella molto spesso, troppo spesso. Adesso il computer non ci batte solo al gioco degli scacchi, ma anche nel fare traduzioni in lingue diverse, nella diagnostica per immagini e in altre mille attività che solo pochi mesi prima erano del tutto al di fuori del calcolo automatico. I più onesti tra noi non riescono a scrollarsi le spalle e dire con leggerezza “è solo un’altra prova di forza”, perché di fatto non lo è.
Un’intelligenza diversa
Ma torniamo al cuore della nostra riflessione. La macchina che opera ChatGPT cos’è? Personalmente ritengo che sia dotata di un’intelligenza che prima non esisteva; basta parlarci per qualche giorno per rimanerne affascinati. Possiamo chiedergli come si tagliano i capelli a un bambino, come si ricicla il cemento, come ci si comporta dopo una brutta lite con un amico. Dalle sue risposte, l’impressione che il programma ci capisca è ineludibile. Possiamo chiedergli di aiutarci a fare la scelta del percorso di studi universitario o di scrivere un messaggio d’amore. Quel che dice risulta, quasi sempre, non solo ragionevole e plausibile ma anche gradevole, competente e persino sinceramente appassionato.
E se non siamo convinti possiamo obiettare, controbattere, insistere. La macchina mostra una conoscenza molto ampia. Se ci accontentiamo, senza andare a fondo, l’ampiezza di quel che conosce supera quella del più colto degli uomini. E se indaghiamo a fondo? Sappiamo che è facile trovare delle défaillances e che queste emergono in diversi modi. Per esempio, le risposte che fornisce sono verosimili, ma decisamente non accurate nel livello di veridicità. Poi la logica che mostra di possedere è debolissima. La sua forza infatti proviene dall’elaborazione statistica e non dalle regole aristoteliche che vivono in mondi distanti rispetto a quello del linguaggio.
L’intelligenza artificiale che osserviamo è vera intelligenza secondo molti di noi, in alcuni aspetti superiore alla nostra, in altri di molto inferiore, ma la natura di questa nuova intelligenza è di essere sostanzialmente diversa dalla nostra. Non può essere dismessa come forza bruta e sottovalutata, sarebbe un errore fatale liquidarla in modo sbrigativo. E sarebbe un errore altrettanto grossolano continuare a considerare l’intelligenza umana come metro di tutta la possibile intelligenza.
L’IA, questa IA che abbiamo prodotto, è sghemba rispetto a quella umana: studiamola come abbiamo studiato i nuovi motori, cerchiamo di capirla con gli strumenti delle scienze dure. Dovremmo tuttavia dedicarle molta più attenzione di quella che abbiamo dedicato alla scienza in passato: è una tecnologia rivoluzionaria sotto molti aspetti e ragioni, che ho discusso di recente in un breve saggio [1].
La somiglianza, solo apparente, che questa tecnologia ha con i prodotti della mente umana nasconde infatti un pericolo molto insidioso. Le chat automatiche che generano discorsi quasi umani possono generare disinformazione a velocità ed efficienza devastanti. Il fatto che una macchina simile, già addestrata su un database malizioso o persino criminale, avrà presto un costo accessibile anche a piccoli gruppi di malintenzionati pone un problema urgente.
Invece di rincorrere affannosamente queste disfunzioni, dovremmo prevenirle. Per farlo serve creare sedi di studio e realizzazione che non siano solo quelle delle grandi aziende del digitale, dove si concentra una parte troppo grande delle attività, in particolare quella di raccolta dei dati. Quelle aziende stanno sviluppando in pieno diritto un’IA intorno al loro core-business, che è il mercato. I dati che spremono dai loro ignari utenti sono generati da algoritmi fatti per farci cliccare senza tregua, con le distorsioni di disinformazione e polarizzazione che ben conosciamo. Il nostro compito ora non è tanto di difendere l’orgoglio umano di fronte a macchine che ci battono, quanto quello di capire che il core-business degli esseri umani deve essere guidato da noi, dal nostro benessere e in ultima istanza dalla nostra crescita culturale. Questo core-business esiste già e si chiama ricerca scientifica, ma ha bisogno di strutture nuove, grandi finanziamenti e sostegno del pubblico.
L’IA è ancora una giovane tecnologia piena di opportunità e rischi. Dobbiamo prenderla per mano, noi tutti, e accompagnarla fino a che diventi scienza matura. Ha le potenzialità di aiutarci come nessuna tecnologia ha fatto in passato. Affiancata alla scienza dell’energia, la scienza dell’informazione è il nostro orizzonte culturale.
L’IA ha una forma di autoconsapevolezza?
In tanti si stanno chiedendo da oltre un anno se queste macchine pensanti sono dotate di una loro coscienza, o di una qualche forma di auto-consapevolezza. Questa terminologia, comune a studi di religione, filosofia ed etica, sta in qualche modo facendo capolino al centro di questa rivoluzione tecnologica che stiamo vivendo. Pensare alla coscienza di una macchina paragonandola a quella di un essere umano è il tipico errore metodologico di un linguaggio ancora rozzo: fa pensare alle raffigurazioni delle antiche popolazioni di nativi americani alla vista delle prime navi degli esploratori europei, che erano dipinte come grandi uccelli posati nell’acqua della baia. Non abbiamo ancora il linguaggio adeguato a descrivere in modo compiuto questi nuovi concetti, dobbiamo svilupparlo in parallelo alla comprensione della scienza che sta alla loro base e che ancora non è pronta.
Serve procedere con grande cautela in questa ricerca, perché la diffusione di queste macchine presenta rischi non indifferenti legati, come sempre, non tanto alla tecnologia in sé quanto al come essa sia percepita dall’essere umano. Lo sforzo di procedere con cautela va fatto, unito a quell’ottimismo che deve accompagnare le azioni inevitabili: l’IA produce enormi ricchezze e non saranno le nostre eventuali paure a fermarla. Abbiamo tutti il dovere di informarci e di vegliare su coloro che prendono le decisioni. Il nostro comune obiettivo è guidare questa crescita e farne una grande opportunità per noi, per tutti.
In questa categoria
Open Access
