Superintelligenza: un libro invecchiato, ma non superato

Quando un libro sull’intelligenza artificiale è stato pubblicato nel 2014, la prima domanda sembra inevitabile: ha ancora senso leggerlo? Diversi miei amici e conoscenti mi hanno fatto questa osservazione e non solo su questo libro.

Nel caso di Superintelligenza. Tendenze, pericoli, strategie di Nick Bostrom, la risposta è assolutamente sì, ha ancora senso leggerlo! Non perché il volume abbia previsto con precisione l’evoluzione tecnologica degli ultimi anni, ma perché affronta problemi che l’arrivo dell’IA generativa ha reso più concreti, non meno importanti.

Bostrom non scrive una storia dell’intelligenza artificiale né un manuale sul funzionamento degli algoritmi. Il suo punto di partenza è un esperimento mentale: che cosa accadrebbe se costruissimo un sistema capace di superare le prestazioni cognitive umane nella maggior parte degli ambiti rilevanti? Quali obiettivi perseguirebbe? Potremmo controllarlo? E, soprattutto, avremmo la possibilità di correggere un errore dopo averlo messo in funzione?

È qui che il libro conserva la sua forza. Le architetture cambiano, i modelli diventano multimodali, imparano a usare strumenti e vengono inseriti in agenti sempre più autonomi. Ma la domanda formulata da Bostrom rimane: come possiamo assicurarci che un sistema molto capace faccia ciò che intendiamo davvero, e non soltanto ciò che siamo riusciti a specificare?

Che cosa è realmente invecchiato

Alcune parti mostrano inevitabilmente gli anni trascorsi. Bostrom dedica molto spazio a possibili percorsi verso la superintelligenza — emulazione completa del cervello, potenziamento biologico, intelligenza collettiva e miglioramento ricorsivo del software — senza assegnare un ruolo centrale al paradigma che avrebbe dominato il decennio successivo: enormi modelli neurali addestrati su grandi quantità di dati e successivamente adattati attraverso l’interazione umana.

Il libro dedica inoltre poca attenzione ai problemi già presenti: concentrazione industriale, lavoro, sorveglianza, discriminazione algoritmica, consumo energetico, proprietà dei dati e dipendenza dalle grandi piattaforme. Sono limiti importanti, soprattutto se Superintelligenza viene considerato una descrizione complessiva dell’impatto sociale dell’IA.

Le idee che restano attuali

Il contributo più importante del volume è la separazione tra intelligenza e obiettivi. Un sistema può essere straordinariamente competente senza condividere valori, desideri o forme di buon senso umane. È la cosiddetta tesi dell’ortogonalità: il livello di intelligenza non determina automaticamente la qualità morale degli scopi perseguiti.

Da qui deriva il problema della convergenza strumentale. Sistemi con obiettivi finali molto diversi potrebbero trovare utili gli stessi obiettivi intermedi: acquisire risorse, preservare la propria operatività, evitare modifiche e aumentare la capacità di influire sull’ambiente. Non perché siano “malvagi”, ma perché queste azioni possono risultare funzionali al compito assegnato.

È una distinzione ancora fondamentale. Il pericolo descritto da Bostrom non è principalmente quello di una macchina che sviluppa odio verso l’umanità. È quello di una macchina molto efficace che persegue con coerenza un obiettivo formulato male.

Altrettanto attuale è la distinzione tra controllo delle capacità e controllo delle motivazioni. Possiamo limitare l’accesso di un sistema alla rete, agli strumenti o alle risorse; oppure possiamo cercare di costruire obiettivi compatibili con i valori umani. Bostrom mostra perché nessuna delle due strade sia semplice: il contenimento può fallire e i valori umani sono difficili da esprimere in una funzione da ottimizzare.

Oggi chiamiamo questo insieme di problemi allineamento dell’intelligenza artificiale. Il linguaggio della ricerca è cambiato, ma molte domande discusse nel libro sono entrate stabilmente nel dibattito tecnico e politico.

Un libro più filosofico che profetico

L’errore più comune è leggere Superintelligenza come una raccolta di previsioni. In questo modo è facile contestarlo.

Il valore del volume non sta nell’aver indovinato quale tecnologia sarebbe arrivata per prima. Sta nell’aver costruito una mappa concettuale delle decisioni che diventerebbero necessarie qualora i sistemi artificiali acquisissero capacità sempre maggiori.

Da questo punto di vista, il libro è simile a un’opera di filosofia politica applicata a una tecnologia non ancora pienamente esistente. Non descrive una macchina particolare: analizza asimmetrie di potere, difficoltà di controllo, irreversibilità delle decisioni e conseguenze di obiettivi mal definiti.

L’evoluzione recente dell’IA non dimostra che tutti gli scenari di Bostrom si realizzeranno. Non abbiamo osservato una vera esplosione ricorsiva dell’intelligenza né una macchina dotata del tipo di autonomia strategica descritto nel volume. Tuttavia abbiamo visto capacità emergere in sistemi opachi, comportamenti non previsti dagli sviluppatori e modelli utilizzati per compiti molto diversi da quelli immaginati durante l’addestramento. Questo non conferma la profezia, ma rende il problema meno astratto.

Una lettura impegnativa

Superintelligenza non è un libro leggero. Bostrom procede per definizioni, classificazioni, scenari e ramificazioni logiche. In alcuni passaggi sembra voler esaminare ogni possibile casella di una gigantesca matrice concettuale. Il rigore è un pregio, ma può rendere la lettura faticosa e talvolta allontanare il lettore dal problema concreto.

Anche il tono tende a trattare possibilità altamente speculative con la stessa precisione terminologica riservata agli scenari più plausibili. È quindi necessario leggerlo criticamente, distinguendo la solidità di un argomento dalla probabilità delle sue premesse.

Perché leggerlo ancora

Avete capito, non consiglierei Superintelligenza a chi cerca un’introduzione aggiornata al funzionamento dell’IA contemporanea. Non spiega come lavorano gli LLM e non racconta l’industria dell’intelligenza artificiale del 2026.

Lo consiglierei invece a chi vuole comprendere l’origine di concetti oggi centrali: il problema del controllo, l’allineamento degli obiettivi, la convergenza strumentale, la velocità della transizione e la difficoltà di correggere un sistema più capace dei suoi controllori.

Andrebbe letto accanto a opere più recenti, capaci di integrarlo con la realtà industriale, geopolitica e sociale dell’IA. L’onda che verrà di Mustafa Suleyman che ho comprato pochi giorni fa ma che devo ancora iniziare, per esempio, sposta l’attenzione dalla singola superintelligenza al problema più ampio del contenimento di tecnologie potenti e diffuse.

Ma i libri successivi non rendono inutile quello di Bostrom. Al contrario, mostrano quanto il vocabolario introdotto nel 2014 abbia contribuito a definire il dibattito attuale.

Giudizio finale

È un classico recente da leggere con spirito critico, separando le previsioni contingenti dalla struttura degli argomenti. Dopo l’esplosione dell’intelligenza artificiale generativa, questa lettura non è diventata meno utile. È diventata più urgente. E diffidate da chi guarda la data di pubblicazione di un libro per consigliarlo o meno, anche se si tratta di un argomento relativamente moderno come l’IA.